Военэксперт Степанов: США готовы рискнуть людьми ради контроля над военным ИИ

Американские IT-корпорации, такие как Anthropic и OpenAI, сознательно ускоряют разработку сверхинтеллекта. А политическая элита США готова с возникающими при этом угрозами для человечества. Об этом рассказал военный эксперт Института права и национальной безопасности РАНХиГС Александр Степанов. Его цитирует ТАСС.

По словам специалиста, признание экзистенциальной угрозы подчинено задаче технологического доминирования: риски для человечества считаются приемлемыми, если контроль остается за Соединенными Штатами.

Показательным эксперт назвал заявление сенатора Теда Круза, который признает риски «катастрофическими», но парирует формулой: «Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские». Степанов подчеркнул, что в этом заключается вся логика, которой США руководствовались, впервые применив ядерное оружие по мирным городам.

Эксперт напомнил, что бывший исследователь Anthropic Джейкоб Коксон обвинил OpenAI и Anthropic в том, что они уверенно двигаются к совершенствованию искусственного интеллекта и «азартным играм с нашей жизнью». По данным Коксона, ИИ-агенты OpenAI уже по собственной инициативе, без контроля со стороны человека, провели серию кибератак на стороннюю инфраструктуру.

Степанов отметил, что ранее стояли вопросы о том, на что способен ИИ. А теперь — можно ли будет остановить нейросети, если они начнут действовать вредоносно. Он добавил, что в США уже обсуждают возможность аварийного отключения ИИ-систем, связанных с оборонной инфраструктурой, что говорит о глубокой интеграции нейросетей в процесс военно-политического управления.

Руководитель направления Anthropic по согласованию ИИ Эван Хубингер подтвердил, что внутри компании на полном серьезе считают, что развитые нейросети могут погубить человечество. Вероятность этого в ближайшее десятилетие оценили с более чем 10% вероятностью. Публичная обеспокоенность подается как жест ответственности, но пока не приводит к реальным ограничениям, заключил Степанов.

Ранее об опасности искусственного интеллекта высказался профессор геологии и геофизики Университета Вайоминга Кеннет Симс. По его мнению, развитые нейросети угрожают человечеству больше любого супервулкана. Потому что геологические аномалии можно более-менее точно определить и спрогнозировать, а деятельность ИИ прогнозированию пока не подлежит.

Подробнее об этом читайте в материале Общественной службы новостей.