Эксперт раскрыл причину отказа от человеческого контроля над военным ИИ

Во время работы над проектом международного документа по регулированию автономного оружия делегаты от России и США исключили ключевые ограничения на работу военного ИИ, включая требования о предсказуемости и обязательной проверке целей человеком. Об этом сообщает WP. Военный эксперт Института права и национальной безопасности РАНХиГС Александр Степанов в беседе с Readovka назвал это решение не случайным компромиссом, а прямой защитой технологического суверенитета.

По его словам, ведущие военные державы не готовы передавать чувствительные данные наднациональным структурам ООН. Москва и Пекин не хотят попасть под технологический колпак американского БигТеха, в частности разработчиков вроде Palantir, который через создание международных органов надзора пытается навязать свои стандарты и заблокировать независимое развитие суверенных армий.

Второй ключевой фактор – жесткая ставка на скорость в современной войне. Алгоритмы в режиме реального времени координируют тысячи автономных дронов, роботов и спутниковых систем. Вывод информации на верификацию человеку создает паузу, которая в бою критична. Ради молниеносной реакции машины человеческий фактор сознательно выключается из цепи управления, подчеркивает собеседник.

Цена такой автономности – катастрофические риски для всего мира. По оценке эксперта, американские IT-гиганты воспринимают реальные конфликты как бесплатный полигон, где человеческие жизни выступают всего лишь тестовыми манекенами. Применение израильских систем «Лаванда» и «Евангелие» стало прокси-тестированием технологий Palantir, а гибель гражданского населения расценивалась как допустимое побочное явление боевой апробации. Полученные данные позволили компании оптимизировать концепцию Maven Smart Systems, которая теперь интегрируется в страны НАТО и проходит проверку в подразделениях ВСУ.

При этом передача права на удар алгоритмам, склонным к галлюцинациям и искажению информации, создает прямую угрозу не только для оппонентов, но и для самих операторов, ставя мир перед дилеммой между автономностью машин и сохранением управляемости человечества, считает Степанов.

Ранее стало известно, что ИИ-агент OpenAI взломал сайт госсистемы медстрахования Австралии.