Нравственный кодекс ИИ: в России проверят нейросети на соответствие закону и традиционным ценностям

IT-компании получат возможность проверять свои модели искусственного интеллекта на соблюдение законодательства и традиционных духовно-нравственных ценностей. Об этом пишут «Ведомости».

По данным СМИ, для тестирования планируется сформировать систему независимых испытательных лабораторий, а правила проверки утвердит Правительство РФ совместно с Минцифры, ФСБ и ФСТЭК. Получение положительного заключения станет одним из ключевых критериев для присвоения нейросети статуса национальной модели, что позволит разработчикам претендовать на господдержку.

Директор Исследовательского центра ИИ ИОН РАНХиГС Сергей Боловцов в беседе с Readovka отметил, что тестирование поможет вовремя находить перекосы в логике нейросетей. По его словам, формирование объективных критериев оценки вполне достижимо на базе авторитетных источников, таких как Большая российская энциклопедия или актуальные учебники по истории и обществознанию. Современные инструментарии, как подчеркнул эксперт, позволяют создавать тестовые сценарии, определяющие степень смещенности ответов модели в ту или иную сторону.

Вместе с тем собеседник издания предостерег, что успешное прохождение лабораторных тестов не является стопроцентной гарантией корректного поведения ИИ в реальных пользовательских сценариях. На конечный вывод модели могут существенно повлиять персонализированные настройки, история диалогов или даже умышленные промпт-инъекции. В качестве решения этой проблемы Боловцов предложил внедрение систем активного мониторинга, которые при фиксации отклонений от базовых настроек позволят оперативно возвращать алгоритмы в исходное состояние.

Отдельно спикер акцентировал внимание на том, что вводимое регулирование ни в коем случае не должно превращаться в тормоз для технологического прогресса или механизм поиска виновных. По мнению руководителя центра, в случае выявления недостатков разработчиков следует лишь уведомлять о слабых местах их моделей, предоставляя возможность для оперативной корректировки, а не применять карательные меры.

Ранее Боловцов рассказывал, как страна происхождения нейросети влияет на ее ответы.