Бег с ножницами и клей для сыра: кто виноват в галлюцинациях ИИ

В экосистеме искусственного интеллекта широко распространены практики сговора между крупными технологическими компаниями. Каждая спешит выпустить на рынок новые продукты, не успевшие пройти проверку, чтобы укрепить своё влияние и убедить инвесторов, что она не отстает в мировой ИИ-гонке. Политики и регуляторы должны научиться более изобретательно и решительно реагировать на такие действия, пишет в колонке для Project Syndicate директор по вопросам европейских и трансатлантических партнёрств Института открытых рынков Макс фон Тун.

«Галлюцинации» как неотъемлемая характеристика ИИ

В мае Google выпустила долгожданное обновление, добавив в свою поисковую систему инструмент искусственного интеллекта. Теперь пользователям, ищущим информацию в США, иногда показывается сгенерированный ИИ обзор, резюмирующий результаты, после которого следует обычный список веб-сайтов, ранжированных по релевантности.

В течение нескольких дней люди сообщали о причудливых, неточных и откровенно опасных ответах от новой функции AI Overviews. Модель предложила использовать клей, чтобы сыр лучше держался на пицце, рассуждала о том, что для сердца полезно бегать с ножницами и утверждала, что бывший президент США Барак Обама – мусульманин. Google поспешила исправить ошибки, но многие эксперты утверждают, что подобные баги неизбежны для самой технологии. Генеральный директор Google Сундар Пичаи такие «галлюцинации» назвал «нерешенной проблемой» и «неотъемлемой характеристикой» генеративного ИИ. Фактически признав неудачу, Google, по-видимому, сократила долю пользователей, которым показываются обзоры.

«Дерьмофикация» как практика технокомпаний

Google справедливо и широко критиковали за выпуск технологии, явно не пригодной для использования и способной нанести вред пользователям. Но немногие задумались над тем, почему вообще технологический гигант мог действовать так опрометчиво. Ответ прост: он, по словам председателя Федеральной торговой комиссии Лины Хан, «слишком велик, чтобы о чем-то беспокоится». Google контролирует около 90% мирового рынка веб-поиска и сталкивается с незначительным конкурентным давлением. У компании есть возможность выпустить ненадежный или небезопасный продукт без страха потерять клиентов.

Рыночная сила Google лишает компанию стимулов к поддержанию качества. В последние несколько лет её поисковая система стремительно ухудшается, а обычные результаты все чаще вытесняются рекламой и спамом. Кори Доктороу придумал термин «дерьмофикация» (enshittification) для описания практики технологических компаний предоставлять потребителям полезные и доступные (а порой вовсе бесплатные) услуги лишь затем, чтобы повысить цены и снизить качество, как только рынок будет монополизирован. Примеров предостаточно: Amazon последовательно увеличивает комиссионные для продавцов, а покупателям предлагает проспонсированные результаты поиска товаров. Принадлежащие Meta Instagram и Facebook активно продвигают рекламу, видео и прочие кликбейт-материалы, замещая ими достоверные новости и обновления от друзей и семьи.

Та же логика применима и к «обновлениям», таким как AI Overviews от Google. Эти сознательные и порой радикальные изменения продукта подаются под прогрессивно звучащим лозунгом «инноваций», но по факту зачастую ухудшают пользовательский опыт. Развивая мысль Доктороу, это можно назвать «дерьмоновациями» (shitovation).

Google далеко не единственный монополист, выпустивший недоработанный продукт на базе ИИ. Meta навязала своих новых ИИ-агентов миллионам пользователей Instagram и Facebook, хотя они выдумывают факты и притворяются людьми. В феврале чат-бот ChatGPT от OpenAI начал нести полный бред , иногда на смеси разных языков. А инженеры Microsoft сами критиковали компанию за выпуск генератора изображений на базе технологий OpenAI, который создает жестокий, сексуализированный и политически предвзятый контент. Каждая компания занялась точечными исправлениями, но становится очевидно, что такого реакционного подхода может быть недостаточно для работы с в корне не надёжной технологией.

Конкуренция «за рынок» и конкуренция «на рынке»

Несмотря на то, что поспешный выпуск продукции с генеративным ИИ частично обусловлен монополистической самоуверенностью, он усиливает рыночную власть крупных технологических компаний, которая обеспечивает их огромными

массивами данных, вычислительной мощностью, экспертными знаниями и капиталами. Все это и позволило этим компаниям разработать большие языковые модели. Google и Meta используют генеративный ИИ для укрепления своей дуополии в области цифровой рекламы, а вызванный ИИ спрос на вычислительные мощности утверждает господство Microsoft и Amazon в области облачных вычислений. ИИ-инструменты подпитывают также созданные этими компаниями машины слежки и

манипулирования людьми. Вопрос, насколько эта технология полезна пользователям,

оказывается второстепенным.

Соперничество технологических компаний, особенно схватка за генеративный ИИ, иногда приводится в качестве доказательства наличия конкурентных сил в отрасли. Но этот аргумент не различает конкуренцию «за рынок» и конкуренцию «на рынке». Технологические гиганты могут казаться конкурирующими друг с другом, но это почти всегда мираж. На самом деле каждая компания пытается углубить ров вокруг своей сферы влияния, что приводит к напряженному, но в целом статичному сосуществованию. А в редких случаях реальной конкуренции, например, между Microsoft и Google в сфере веб-поиска, доля рынков остается в значительной степени неизменной.

Ещё более тревожно, что в сегодняшней экосистеме ИИ широко распространены практики сговора: технологические гиганты все чаще формируют партнёрства, сродни прибыльным соглашениям, которые Google заключала для сохранения своего господства в сфере веб-поиска. Примеры такого сотрудничества включают в себя сделку по облачным вычислениям Microsoft с Meta, недавно объявленное партнёрство между Apple и OpenAI и планы Google по внедрению своих технологий ИИ в телефоны Samsung. Несколько из них уже находятся под пристальным вниманием антимонопольных органов.

Технологические гиганты конкурируют в одной области: каждый хочет завоевать одобрение инвесторов и избежать впечатления, что он отстает в гонке ИИ. Но токсичное сочетание безрассудной борьбы за рост и подавления конкуренции провоцирует опасное и убыточное внедрение непроверенных технологий.

Что с этим делать

Поощрения конкуренции между технологическими монополистами в надежде, что они будут вынуждены больше сосредоточиться на безопасности и надежности своих продуктов, будет недостаточно. Обязательное регулирование, подобное регламенту Европейского союза об искусственном интеллекте, должно положить начало повышению ответственности со стороны компаний. Власти должны проявить больше изобретательности в использовании доступных инструментов влияния, чтобы способствовать появлению альтернатив техногигантам и гарантировать, что пользователи больше не будут выступать в качестве подопытных кроликов. Это могут быть меры антимонопольной политики или инвестиции в компании, которые могли бы бросить вызов сегодняшним монополиям в области облачных вычислений и производства микросхем.

Не менее важно прекратить рассматривать инновации как самоцель, не зависящую от того, какие задачи они выполняют или чьи интересы продвигают. Вместо этого мы должны научиться лучше понимать, как именно инвесторы, доминирующие компании и прочие влиятельные игроки формируют представления об инновациях и как управляют ими. Только после этого мы сможем вести осмысленную беседу о роли ИИ в нашем обществе.

Copyright: Project Syndicate, 2024.

www.project-syndicate.org