ИИ не панацея: человек должен присутствовать в цепочке принятия решений

Сергей Петров
Экономика
ИИ не панацея: человек должен присутствовать в цепочке принятия решений

Нейросети основаны на данных прошлого

Делегирование полномочий по прогнозированию и выработке рабочих алгоритмов искусственному интеллекту, несмотря на все его положительные свойства, способно привести к глобальному коллапсу управления. Такое мнение в авторской колонке для «Суверенной экономики» выразил профессор кафедры управления персоналом и психологии Финансового университета при Правительстве РФ Александр Сафонов.

Он напомнил, что искусственный интеллект учится на массивах данных прошлых лет, в то время как действительность представляет собой квантовую суперпозицию возможностей. В случае если превалировать станут пусть и идеальные, но вчерашние инструкции человеческое общество рискует получить техногенную «итальянскую забастовку». Она произошла на рубеже XIX-XX веков в Италии, когда работники ж/д сферы стали действовать исключительно по регламенту, что в итоге привело к транспортному коллапсу, пояснил колумнист.

В аналогичном бюрократическом ступоре могут оказаться и современные компании. По мнению эксперта, данные, выдаваемые нейросетями, становятся полезным знанием только после верификации со стороны человека, обладающего личным опытом, практикой и сомнениями. Сафонов снова приводит исторический пример. Так, в 1970-х годах американский автопром стал уступать японскому из-за того, что сотрудники корпораций из США слепо следовали предписаниям, даже если они видели угрозу выпуска брака. Их коллеги из Страны восходящего солнца, наоборот, в экстренных ситуациях опирались на мнение живого специалиста.

Это справедливо и для ИИ, пояснил колумнист. Безусловная вера в ответы нейросети может лишить человечество умения принимать решения в условиях неопределенности. По этой причине система подготовки кадров должна измениться в сторону верификации «чистого» знания, ведь с быстрым поиском информации прекрасно справляется искусственный интеллект. Сафонов рассказал, что новая система образования должна готовить специалистов, которые могут выявлять ошибки нейросетей, обладают развитым критическим мышлением и умеют брать на себя риск, корректируя решения ИИ на основе собственного опыта.

«Осознание сложности использования ИИ уже привело к конкретным действиям в сфере создания анти-ИИ инструкций. Европейский закон об ИИ (EU AI Act) и стандарты американского Института NIST (AI RMF) – это первые в мире официальные правила, которые запрещают отдавать власть «мертвым алгоритмам». Поэтому законы теперь требуют внедрения подхода Human-in-the-Loop (HITL) – обязательного присутствия обученного человека в цепочке принятия решений», – резюмировал Сафонов.

Ранее эксперт Сергей Боловцов рассказал, как страна происхождения нейросети влияет на ее ответы.

merch
Источники

Использованы материалы следующих авторов:

Поделиться: