ИИ будут проверять на соответствие «духовным и нравственным ценностям»

В то время как весь мир пытается регулировать развитие искусственного интеллекта через жесткие требования к прозрачности и рискам, Россия выбирает собственный путь.

Согласно информации, опубликованной в «Ведомостях», Минцифры, ФСБ и ФСТЭК готовят уникальную для мировой практики процедуру. Вскоре большие языковые модели будут проходить проверку на соответствие традиционным духовно-нравственным ценностям.

Технологии под надзором государства
Российские IT-компании смогут направлять свои разработки в независимые испытательные лаборатории для прохождения этой процедуры.

Речь идет о подтверждении статуса модели, который необходим для получения доступа к госзакупкам и поддержке.

В процедуре участвуют три ведомства: Минцифры, ФСБ и ФСТЭК. Первое ведомство отвечает за общую координацию и финальное решение, а два других — за информационную и технологическую безопасность, особенно если модель планируется использовать в государственных системах. Разработчик должен будет предоставить лаборатории всю «начинку»: архитектуру, данные о механизмах фильтрации, а затем модель подвергнут стресс-тесту на устойчивость к так называемым промпт-инъекциям — попыткам взлома через хитрые запросы.

Однако, как подчеркивают в ведомствах, речь не идет о тотальном контроле. Обязательная проверка не коснется всех продуктов на рынке. Она станет обязательным этапом только для тех, кто претендует на получение статусов «суверенной» или «национальной» модели, что в будущем откроет двери к госконтрактам.

Духовные ценности как инженерная задача
Главная интрига заключается в том, как абстрактные понятия — такие как гражданственность, справедливость и историческая память, перечисленные в указе президента, — превратятся в техническое задание. В России решили не плодить новые бумажные документы, а пойти по пути создания специальных бенчмарков. По сути, это набор тестов и провокационных вопросов, с помощью которых будут измерять реакцию нейросети.

Реакцию делового сообщества, да и большинства россиян на столь необычную идею достаточно сложно спрогнозировать.

С одной стороны, у крупных игроков уже есть встроенные фильтры для блокировки запрещенного контента. С другой — эксперты предупреждают, что перевести такие категории, как «историческая правда», в алгоритмы математически крайне сложно.

В связи с этим существует риск, что вместо содержательной экспертизы рынок получит лишь формальную процедуру: единый шаблон отчета и фиксированный список вопросов, на которые ИИ должен дать «правильные» ответы.


Мировой опыт
Стоит отметить, что глобальный тренд на регулирование ИИ набирает обороты. В Китае уже действуют строгие нормы для алгоритмов рекомендаций, в ЕС принят масштабный AI Act, классифицирующий системы по уровню риска. Однако в западной практике акцент делается на защиту персональных данных, борьбу с дискриминацией и безопасность, а не на «духовные скрепы». Европейский регулятор, например, требует от разработчиков раскрывать данные для обучения, чтобы избежать предвзятости.

Российский подход на их фоне выглядит самобытно — он интегрирует этические нормы прямо в технический стандарт допуска к рынку.

Технологический суверенитет на практике
Российский ИИ поддержат льготами
Создание независимых лабораторий, которые пройдут проверку государства, и использование уже отработанных механизмов сертификации из смежных сфер (например, защиты персональных данных) должны упростить эту задачу. Однако финальное одобрение и присвоение статуса останется прерогативой Минцифры.

В настоящее время пакет подзаконных актов находится на стадии доработки, и бизнес надеется, что критерии будут максимально понятными, чтобы регулирование не превратилось в непреодолимый барьер для инноваций.
https://www.it-world.ru/it-news/dvzmpeu7ce8...icfaba494974377


Размещено через приложение ЯПлакалъ