Пост канала
- фото
В России разработают критерии проверки отечественных ИИ на соответствие закону и духовным ценностям Российские IT-компании смогут проверять свои модели на соответствие законодательству и традиционным духовно-нравственным ценностям, пишут «Ведомости». Для этого планируется создать независимые испытательные лаборатории. Порядок подтверждения соответствия ИИ-моделей нужным критериям определит Правительство, а в подготовке документов примут участие Минцифры, ФСБ и Федеральная служба по техническому и экспортному контролю (ФСТЭК). Проверять модели планируют с помощью специальных тестов. Положительное заключение станет одним из этапов для получения моделью статуса национальной, что в дальнейшем позволит претендовать на меры господдержки, сообщает источник издания. Тестирование поможет выявлять перекосы в ответах ИИ и донастраивать модель так, чтобы она могла показывать разные точки зрения, заявил в разговоре Readovka директор Исследовательского центра ИИ ИОН РАНХиГС Сергей Боловцов. Эксперт отмечает, что сформировать критерии оценки вполне реально на основе Большой российской энциклопедии или новых учебников по истории Мединского и обществознанию Медведева. Современные инструменты позволяют создавать на основе таких источников специальные тесты и проверять, насколько ответы модели смещены в ту или иную сторону. При этом даже успешное прохождение тестов не гарантирует, что в реальном использовании ИИ всегда будет отвечать так же. На поведение модели могут повлиять персонализация, история запросов или промпт-инъекции. По словам Боловцова, решить проблему помогут системы активного мониторинга: если они зафиксируют отклонение от базовых настроек, модель можно будет оперативно вернуть к исходному состоянию. Регулирование не должно тормозить развитие технологий или превращаться в поиск виноватых, подчеркнул эксперт. По его мнению, при выявлении проблем разработчиков достаточно уведомлять о слабых местах модели и давать им возможность оперативно их исправить.
Открыть в MAX- Просмотры
- 62 493
- ER
- 1,1%
- Реакции
- 672