Дипфейки и иллюзии VS оптимизация и продажи

В рамках форума FINOPOLIS председатель ЦБ РФ Эльвира Набиуллина заявила, что искусственный интеллект может решить ряд проблем, связанных с рынком труда. На прошлой неделе Банк России также опубликовал доклад о применении ИИ на финансовом рынке. Readovka обсудила с экспертами перспективы развития искусственного интеллекта в российском финсекторе. В докладе Центробанка говорится, что к 2030 году мировой рынок ИИ решений вырастет до 1,8 трлн долларов. А эффект от внедрения подобных технологий в различных отраслях достигнет 25,5 трлн долларов.

Среди направлений применения ИИ в финансовом секторе ЦБ распространены «умные» инструменты маркетинга, чат-боты, управление рисками, обработка документов и операций, разработка ПО, алгоритмический трейдинг, а также инвестиционное консультирование. В Банке России уточнили, что на данный момент в нашей стране нет необходимости в отдельном регулировании искусственного интеллекта, а специальные требования к технологии могут быть рассмотрены после пилотирования инновационных продуктов в рамках экспериментально-правовых режимов.

Применение ИИ может повысить эффективность финансовых организаций, оптимизировать ресурсы и увеличить продажи. В то же время эти технологии могут привести к нежелательной трансформации бизнес-моделей и стать источником уязвимостей. Дело в том, что из-за искусственного интеллекта возможны сбои и искажения бизнес-процессов, особенно в периоды стрессов, считают в ЦБ. Регулятор отмечает, что развитие ИИ приведет к увеличению мошеннических схем с применением дипфейков.

Интеллект искусственный, риски настоящие

О возможных рисках внедрения ИИ Readovka рассказал генеральный директор компании «Нейросети Ашманова» Станислав Ашманов. Эксперт заявил, что не видит необходимости регулирования ИИ в области алгоритмической торговли. С Ашмановым согласен экономист Вячеслав Зайченко.

«Пока у нас есть технологии типа ChatGPT и «Яндекс Алиса», это просто технология быстрой работы с текстом, архивными данными, таблицами и шаблонными какими-то статистическими результатами. Речь об интеллекте не идет совсем. Их регулировать не имеет смысла. До необходимости в регуляции пройдет не один десяток лет», – отметил Зайченко.

При этом Ашманов подчеркивает опасность передачи инвестиционного портфеля в управление ИИ.

«Там у человека может возникать иллюзия, он свои средства передал в управление искусственного интеллекта, который работает 24 часа в сутки, все знает, все видит и принимает оптимальные решения. Хотя на самом деле мы не знаем, что там внутри, как оно работает и дает ли гарантии сохранности средств и доходности», – заявил эксперт.

Он добавил, что представление о том, что высокая технология может более эффективно управлять деньгами – один из рисков. Эксперт отметил, что ИИ решения часто непрозрачны в вопросе скоринга.

«Финорганизации практически никогда не объясняют, почему алгоритм отказал в выдаче кредита. Ссылаются на то, что алгоритм так решил. Это тоже риск», – заявил Станислав Ашманов.

Предупрежден – значит вооружен

В разговоре с Readovka гендиректор компании «Нейросети Ашманова» подчеркнул необходимость обязать фирмы предупреждать о решениях, принятых искусственным интеллектом, если они связаны с вопросами управления активами, чтобы выводы ИИ были интерпретируемы и открыты.

«ИИ – это черная коробка, то есть неизвестно, что внутри. Сложно разобраться, что делает ИИ, на что опирается, когда дает рекомендацию», – добавил эксперт.

В свою очередь Зайченко отметил, что нейросеть запоминает сотни паттернов, анализируя огромное количество источников. В итоге система принимает решение точнее и лучше.

«Поэтому предупреждать клиента стоит, он должен понимать это. Он должен понимать, что риски есть. Но эта система лучше человека, у нее нет эмоций», – заключил экономист.