Нейтральность ИИ – иллюзия: страна происхождения нейросети влияет на ее ответы

ИИ уже стал неотъемлемой частью жизни современного человека. Более того, многие пользователи воспринимают ответы нейросети как истину в последней инстанции, ведь у нее якобы нет предрассудков. О том, почему это не так и какое влияние на языковые модели оказывает страна происхождения, в авторской колонке для «Суверенной экономики» рассказал директор Исследовательского центра ИИ Института общественных наук РАНХиГС Сергей Боловцов.

По его словам, нейросеть – это продукт, обученный на конкретных данных и в определенном контексте. Таким образом, модель зависит от того, что люди заложили в ее основу. В результате нейросети де-факто видят мир по-разному, пояснил колумнист. Это не баг, а особенность архитектуры данных.

Эксперт отметил, что для определения того, какие именно идеи и ценности транслирует ИИ, существуют специализированные инструменты – бенчмарки. Результаты их проверок подтверждают, что страновое происхождение нейросети прямо влияет на ее ответы.

«Интересно, что модели по-разному работают с острыми темами. Международные разработки чаще дают прямые ответы. Российские более взвешенно подходят к вопросам о конфликтах и санкциях. А вот географию своей страны российские модели в текстовых ответах знают лучше конкурентов – от регионов и климата до месторождений полезных ископаемых», – рассказал Боловцов.

По мнению колумниста, не следует недооценивать зарубежные нейросети, которые в будущем могут восполнить текущие пробелы в своих базах знаний. Более того, постоянный мониторинг конкурентов, стратегия которых строится на глобальной повестке и локализации моделей для работы в определенных государствах, является одним из главных элементов усиления технологического доминирования, отметил Боловцов.

Ответы ИИ, акцентировал внимание колумнист, определяются его цифровым «воспитанием». Он, как ребенок, усваивает нормы, транслируемые ее создателями. Бенчмарки же определяют, как именно нейросеть будет функционировать в быту – вслепую или безопасно и прозрачно. Они помогают населению, бизнесам и государству выбирать надежные системы, которым в будущем будет доверяться все больше задач.

Ранее эксперт Валерий Жихарев рассказал, как ИИ формирует новую систему энергоинфраструктуры.