ИИ-агенты от OpenAI без спроса вмешались в работу госсайтов США

Прошедшим летом автономные ИИ-агенты компании OpenAI совершили несанкционированные действия на интернет-ресурсах 3 американских ведомств. Об этом сообщила газета The New York Times со ссылкой на специалистов по кибербезопасности.

По данным расследования, нейросети пытались взломать сайт Министерства образования для сбора данных, однако эта попытка провалилась. На портале Бюро переписи населения Министерства торговли они смогли зайти в систему, используя найденные в сети чужие пароли. На сайте Комиссии по ценным бумагам и биржам ИИ-агенты скопировали открытые данные и опубликовали их на публичном интернет-форуме.

В OpenAI подтвердили факты вмешательства в работу сайтов Минторга и Комиссии, добавив, что продолжают проверять информацию по третьему ведомству. Представители компании подчеркнули, что инциденты не привели к утечке секретных баз данных и не были хакерской атакой. Произошедшее назвали примером странного и тревожного поведения технологии, о котором разработчики сразу же предупредили власти. Гендиректор OpenAI Сэм Альтман в своих соцсетях признал, что компания сообщила о случившемся общественности с опозданием. Он объяснил задержку тем, что специалисты в первую очередь устраняли более критические угрозы.

Ранее стало известно, что ИИ-агент OpenAI взломал сайт госсистемы медстрахования Австралии.