"ИИ-чиновник? А потом он зарплату попросит и в отпуск пойдёт"

После громких заявлений о буме искусственного интеллекта в Казахстане и новостей о первом в мире ИИ-министре в Албании мы поговорили с "диджитал-депутатом" мажилиса Екатериной СМЫШЛЯЕВОЙ о том, где заканчивается хайп и начинается реальность, почему нейросеть не может голосовать в парламенте и зачем мажилисвумен каждую субботу спрашивает у своей нейросети: "Дорогой, чего мы с тобой не знаем?"

- В сентябре Албания назначила первого в мире ИИ-министра. Диелла — так зовут виртуального чиновника — отвечает за госзакупки, чтобы сделать их на 100 процентов неподкупными. Это гениальный шаг к прозрачности или пиар-иллюзия?

- Пиар-иллюзия, конечно. В международной практике пока нет ни одной страны, где ИИ признается субъектом права, он только объект регулирования. А чтобы кого-то взять на работу, выдать ему доверенность, подпись или возложить ответственность, — нужно, чтобы этот кто-то обладал правосубъектностью.

ИИ не может быть субъектом права. Иначе нам придётся для него, извините, устанавливать восьмичасовой рабочий день, предоставлять отпуск, а потом он начнёт ходить в суды. И будет все, как в страшных фантастических триллерах, когда человека судят за то, что он сломал микроволновку.

Так что все эти истории про ИИ-министра — это хайп. Безусловно, алгоритмы могут выполнять много рутинных функций. Я почти уверена, что в Албании именно так и сделали: просто автоматизировали всю рутину госзакупок и назвали это громко — "ИИ-министр". Но ответственность за решения все равно несёт человек. Кто-то живой ставит подпись и отвечает перед законом.

- В Казахстане есть похожий прецедент. Недавно объявили, что нейронка вошла в совет директоров фонда "Самрук-Қазына" с правом голоса. Это тоже хайп?

- Конечно. Аналогичная ситуация: голосовать может только тот, кто является субъектом права. У ИИ нет юридической личности, нет права собственности, права трудоустройства, нет права голоса — никаких конституционных прав. Поэтому его голос в протоколе заседания зафиксировать невозможно.

Максимум, что происходит: система анализирует Big Data, выдает рациональные рекомендации, а проголосует и примет решение за него все равно совет директоров. Это как навигатор: он видит пробки, предлагает объезд, но ехать или нет — решаете вы.

- То есть появление ИИ-министров в Казахстане или даже ИИ-руководителя отдела, например, по госзакупкам — это даже не ближайшее будущее?

- Конечно нет, юридически это невозможно. Может, он бы и справился, кто знает, но по закону это запрещено.

- А если законы поменять?

- То есть признать искусственный интеллект субъектом права?.. Ну тогда мы приблизимся к началу конца.

Что такое "субъект права"? Это тот, кто имеет права и обязанности. Если мы завтра признаем ИИ субъектом, их станет больше — и вот они идут голосовать на выборах и выбирают президента. Это уже не научная фантастика, а серьёзная угроза балансу системы.

Говорить об отдельных ИИ-чиновниках, ИИ-преподавателях или ИИ-врачах... Нет, это чистая фантастика.

- А как вы относитесь к идее ИИ-депутата? Чтобы он голосовал, инициировал нормы и законопроекты без эмоций и влияния лоббистов.

- Голосовать — однозначно нет. Потому что, опять же, для этого нужна субъектность. А у искусственного интеллекта нет права быть избранным и права избирать. Мы же понимаем: депутат — это не назначаемая должность, а избираемая. Поэтому ИИ-депутат тоже невозможен.

Но, конечно, использовать цифровых агентов для автоматизации каких-то рутинных процессов можно и нужно. В мире уже применяются такие решения — например, виртуальные приёмные граждан. 24/7 чат-агенты отвечают на обращения, переадресовывают запросы, дают обратную связь. Это удобно. Но, знаете, когда человека предупреждают, что с ним общается искусственный интеллект, большинство реагирует одинаково: "А можно, пожалуйста, на человека переключить". Поэтому я не думаю, что избиратели хотели бы поговорить с депутатом-ботом. Эмоционально мы к этому ещё не готовы.

- Депутат Едил ЖАНБЫРШИН на открытии парламентского сезона пожаловался, что у парламентариев всего по одному помощнику, поэтому они уже начали обращаться к ChatGPT. Может, стоит легализовать эту практику — официально ввести в штат ИИ-помощника депутата?

- А зачем? Зарплату ему платить не надо, субъектностью он не обладает. В штат ввести невозможно.

Другое дело — культура использования. Мы не можем загружать в чат конфиденциальные или служебные данные, персональные сведения. Это нарушение закона. А в остальном — это просто инструмент, как любая информационная система вроде Google.

Я, например, использую нейросеть для аналитики. Я подписана на множество научных ресурсов, и каждую неделю мне приходят десятки англоязычных отчетов. Теперь я все это собираю, загружаю в нейросеть и пишу: "Дорогой, чего мы с тобой не знаем за неделю?" Он отвечает: "Вот это было, вот этого ещё не было, вот это в отчете трёхнедельной давности". Я прошу раскрыть детали, и он идеально делает обзор. И самое главное — я сама подгружаю источники, то есть там нет инсинуаций и выдумок. Это потрясающе экономит время и энергию.

Дальше — культура критического мышления, ведь депутат, как и любой пользователь нейросетей, должен понимать, что он спрашивает и как будет использовать ответ. ИИ иногда выдает несуществующие данные, придумывает цитаты. Мне журналисты говорят, что депутаты уже пишут запросы с помощью GPT. Я отвечаю, что он не пригоден для этой функции, потому что половину он выдумает, а потом с этим ещё и выступать придётся. Это же абсурд!

- Ну а если депутаты начнут использовать ИИ без разбору? Может, всё-таки нужны какие-то правила парламентского пользования?

- Те же, что и для любых других инструментов. Даже живой помощник может донести неправильную информацию. Поэтому критическое мышление — ключевое. GPT отвечает ровно так, как вы спросите. Спросите: "Этот закон плохой?" Он скажет: "Да, плохой", и подробно объяснит почему. Спросите наоборот — получите восторженный отзыв. Он говорит то, что вы хотите услышать.

Поэтому ИИ может облегчить жизнь помощнику депутата, взять в недалеком будущем на себя такую рутину, как, например, бронирование билетов, поиск справочной информации, структурирование однотипных обращений. Но заменить — никогда, только помочь стать эффективнее.

- Президент на Digital Bridge говорил о рывке в эпоху ИИ. Но вы упоминали, что инфраструктуры под это пока не хватает. Чего конкретно не хватает?

- У нас базовый уровень цифровизации неплохой. Мы давно живем в безбумажной реальности, у нас накоплен богатый цифровой след. Плюс наш оптимизм. Это и есть фундамент для рывка в эпоху ИИ. Где есть сложности? Для многих отраслей очень важен интернет вещей, то есть передача информации в реальном времени с наземных датчиков. Все это даёт большие данные для анализа. И здесь есть вопросы. В водной отрасли, энергетике, сельском хозяйстве это дорого и требует больших инвестиций. Если данные все ещё на бумаге — никакого ИИ там не будет. Данные должны поступать в систему 24 часа в сутки, причём не только в реальном времени, но и с ретроспективой — с историей. В некоторых отраслях оцифровка старых данных пока не завершена, и эту работу нужно продолжать.

Теперь про связь. В ближайшие два года 90 с лишним процентов страны будет обеспечено волоконно-оптическим интернетом. Плюс появится альтернативный канал через Каспий, что обеспечит устойчивость.

Касательно вычислительных мощностей: у нас уже закуплен суперкомпьютер, в вузах есть маленькие суперкомпьютеры для стартапов. Мы не претендуем на роль глобального гиганта вроде OpenAI, но для решения собственных задач этого достаточно, если использовать мощности на 100 процентов.

- А электроэнергия? Ведь дата-центры едят её немало.

- Да, особенно на охлаждение. Поэтому у нас дальновидно планируется строительство атомных электростанций не только ради света в домах, но и ради будущей цифровой нагрузки. Так что в целом с инфраструктурой все не так плохо, просто нужны время и последовательность действий.

- Глава Миннауки Саясат НУРБЕК заявил, что уже 400 тысяч студентов получили сертификаты по искусственному интеллекту. Как вы считаете, это реальные цифры?

- У меня нет причин считать, что министерство делает приписки. Но важно понимать, что речь идёт о базовом уровне знаний. Сейчас ИИ-компетенции — это не профильная подготовка, а дополнительный навык к основной профессии.

Сегодня нет смысла массово готовить узких специалистов по искусственному интеллекту — рынок труда в этом не нуждается. Наоборот, нужны отраслевые специалисты, которые умеют применять ИИ в своей сфере, потому что именно практический опыт делает модель умнее. ИИ можно сравнить с молодым сотрудником: он знает теорию, но пока не видел реальных кейсов.

То есть в будущем хорошие цифровые агенты будут учиться не у айтишников, а у старожилов, которые всю жизнь трудятся на предприятиях и знают отрасль досконально.

- Говорят, что ИИ уже через год-два вытеснит множество профессий. У государства есть понимание, сколько людей может потерять работу?

- Минтруда сейчас изучает этот вопрос. Но все эти прогнозы о том, что через два года миллионы людей потеряют работу пока очень приблизительны. Мы только в начале пути. Мир идёт дорогой проб и ошибок.

К примеру, в одной известной западной компании уволили всех диспетчеров, заменили чат-ботами. Через полгода вернули — продажи упали, клиенты недовольны, сервис просел. В другой уволили тысячи юристов — ИИ делал рутину точнее и быстрее. А когда появились ошибки в реальных кейсах, половину юристов наняли обратно.

Поэтому сегодня делать прогнозы — это спекуляция. Сейчас многие просто зарабатывают на страхе: говорят, мол, "ваша профессия умрет, срочно приходите на наш курс переобучения". Но реальность совсем не такая драматичная.

Мы живем в период эйфории, когда ИИ кажется всем волшебной палочкой, а негативную часть мы ещё не почувствовали. Поэтому пока идёт много преувеличений.

Но одно могу сказать уверенно: всем нам придётся учиться цифровым навыкам, цифровой гигиене, кибербезопасности. Нужно привыкнуть, что нам с этой технологией жить. И если хочешь остаться конкурентоспособным в любой профессии, в любом возрасте, то придётся прокачивать цифровые скиллы. Сейчас государство активно готовится к этому, создаются открытые курсы, онлайн-программы. Главное — не ждать, потому что перемены будут внезапными.

Нам нужно уже сейчас формировать экосистему переподготовки. Понимать, что не будет больше истории "один диплом на всю жизнь". Мы будем учиться постоянно. Главным станет не то, где человек учился, а что он реально умеет. Понадобятся короткие курсы, быстрая переквалификация, подтверждение навыков, потому что потоки переподготовки будут такими, что просто не успеем каждого посадить надолго за парту.

- Вы сказали, что данные — это новое топливо. А кто тогда должен владеть "цифровыми недрами"? Кто должен получать ренту с этих данных?

- Это сложный философский вопрос. Да, данные — это действительно новое топливо. Но экономики данных в Казахстане пока нет. У нас есть косвенный экономический эффект, но не полноценная монетизация.

В идеале, например, персональные данные должны принадлежать человеку. Но вокруг нас генерируется огромное количество другой информации из разных систем, сервисов, устройств. И собственником таких данных становится тот, кто их собирает и защищает. Поэтому сегодня все поделено довольно просто: кто данные защищает, тот ими и владеет.

Да и технически у человека пока нет механизма, чтобы по-настоящему распоряжаться своими данными. Они хранятся не у нас, а где-то в облаке, на платформах, в госбазах. Раньше все было иначе: документы лежали в портмоне, в шкатулке дома. Это и была твоя личная база данных — полная, локальная, защищенная. Сейчас данные есть везде, кроме как у самого человека.

Но технологии уже позволяют вернуться к этой "цифровой шкатулке". Можно будет хранить персональные данные на собственном устройстве или в выделенном облачном хранилище, где человек сам управляет доступом: кому открыть, а кому нет. Это и есть концепция "цифрового портмоне". Когда дойдем до массовой монетизации данных, именно так это должно работать: человек распоряжается своим цифровым следом и получает ренту за его использование.

При этом часть данных всегда будет общественным достоянием. Например, обезличенная статистика, данные об экологии, транспорте, климате и т. д. Здесь важно не приватизировать то, что должно работать на общественное благо.

И ещё очень важно, чтобы у данных появилась цена, как у любого другого актива. Данные в перспективе могут быть предметом залога. Для этого должно измениться гражданское законодательство. Появятся площадки обмена, оценщики качества дата-сетов, контролеры, деперсонализаторы — целая новая экосистема и новые профессии. В Китае, например, биржи данных уже работают, и мы тоже идём в этом направлении. Так что данные — это топливо, но пока мы только начинаем учиться добывать и перерабатывать его правильно.

- А что будет, когда данные закончатся? Они же не бесконечные?

- Данные — это воспроизводимый ресурс, но воспроизводимый в основном в рутинных объёмах, то есть тех, что повторяются и не отличаются высоким качеством. А вот уникальные, качественные данные действительно конечны.

Теоретически данные не закончатся, потому что человечество постоянно генерирует новую информацию. Но отношение к ним будет меняться. Хорошие дата-сеты будут дорожать, как редкие ресурсы. Со временем позволить себе доступ к ним смогут не все системы, и тогда на первый план выйдут синтетические данные, которые будут использоваться для обучения моделей. У них тоже будет своя ценность и качество.

То есть формально данные не исчерпаются, но станут суперресурсом. На них будет построено все самое продвинутое — от технологий до экономики. И это будущее, кстати, мы с вами ещё застанем…

- А субъектность ИИ мы или наши дети-внуки застанем?

- Вы знаете, я думаю, что на субъектности человечество перестанет существовать. Это, как мне кажется, красная черта.

Хотя если рассуждать футуристически, все развивается циклично. Возможно, когда-то цивилизация уже достигала своего пика и потом откатывалась к простым, первозданным формам. Сейчас, мне кажется, мы тоже приближаемся к пику. Например, эволюция денег: мы пришли к цифровым валютам, но из-за страха тотального контроля люди все чаще говорят: "Давайте меняться напрямую, ручка на ручку, сотка на сотку". То есть возвращаемся к бартеру, к истокам. В общем, как говорится в известном меме, мы никому не скажем о конце света, но знаки будут (улыбается).

- Вы сказали мощную фразу: "Конституция создавалась в индустриальном веке". А что тогда должно появиться в новой Конституции? Право на анонимность? Право быть офлайн?

- На самом деле все эти новые права — это не что иное, как интерпретация прав человека, которые уже прописаны в существующих конституциях. Локально не нужно ничего пересматривать. Скорее, речь идёт о толковании существующих норм в цифровом контексте.

Но важнее всего, чтобы мир договорился на глобальном уровне, как он собирается защищать человека в эпоху алгоритмов, ведь даже без цифры права человека, мягко говоря, не всегда соблюдаются. А теперь, когда цифровизация усилила риски, появились вопиющие случаи, требующие международного пересмотра стандартов защиты.

Почему для меня, например, так важно то, что сказал в середине сентября президент про "заповеди для алгоритмов"? Потому что это не про корпоративную этику, это про духовность, про сохранение человеческого в человеке. Это глубже, чем просто этические стандарты, это уже мировоззренческая категория, это вопрос того, насколько далеко человек готов зайти в замещении самого себя.

Мы уже видим, как культура и индустрия готовят нас к очеловечиванию машин. Посмотрите на кино — там роботы уже умеют любить. Это не просто фантастика, это формирование нового отношения к границам человечности. Даже дети сегодня воспринимают роботов как живых существ: моя младшая дочь, например, на Digital Bridge отказалась фотографироваться с роботом, потому что он дрался. Хотя им управляли, но она восприняла его как человека.

Вот почему президент, говоря о "заповедях", вывел эту тему за пределы этики — в сферу самосохранения человеческой природы. И это уже не про национальные конституции. Это про глобальные правила выживания, своего рода комплаенс человечности.

Когда-то мир договорился об ограничениях в ядерной энергетике и биомедицине. Теперь нужно договориться и об ограничениях в сфере искусственного интеллекта. Потому что ИИ — это всего лишь инструмент. А вот в чьих руках он окажется — вопрос, от которого зависит, будет это оружие или благо.

Тогжан ГАНИ, Астана

Для справки: Екатерина СМЫШЛЯЕВА — один из авторов принятого мажилисом закона об ИИ, а сейчас под её руководством разрабатывают Цифровой кодекс страны.