Человечество рискует потерять контроль над искусственным интеллектом уже в ближайшие пять лет. Такой сценарий допускают эксперты британского Института Алана Тьюринга. Речь при этом не о появлении у машин сознания или намерении противостоять человеку, а о более реалистичной перспективе — постепенной передаче ИИ решений, которые люди уже не смогут эффективно проверять и корректировать.

Исследователи считают, что в течение пяти лет существует реальная вероятность появления систем, превосходящих человека почти во всех важных интеллектуальных задачах. По мере роста их возможностей организациям и государствам будет проще передавать ИИ всё больше решений, чем сохранять человеческий контроль на каждом этапе. Эксперты отрасли относят этот фактор к числу приоритетных рисков неконтролируемого развития ИИ.

При этом Институт Тьюринга не утверждает, что такой сценарий неизбежен. Оценки специалистов относительно сроков появления подобных систем существенно различаются. Поэтому газетные заголовки с конкретным дедлайном в 2030–2031 годах скорее упрощают выводы исследования. «Пять лет» корректнее воспринимать как временной горизонт, в пределах которого такой сценарий уже нельзя исключать. Иными словами, «кожаные мешки» пока могут выдохнуть.

На этом фоне показательно выступление главы OpenAI Сэма Альтмана в Совете Безопасности ООН. Он предупреждал, что развитие ИИ может идти настолько быстро, что люди перестанут понимать происходящее или не смогут вмешаться в ситуацию при необходимости. Ранее Альтман также выступал за более осторожный подход к разработке наиболее мощных систем. Аналогичные заявления делали и другие руководители американских IT-компаний. Глава Anthropic Дарио Амодеи призывал замедлить создание передовых моделей, а представители отрасли выступали за усиление международного контроля.

Однако здесь возникает противоречие: компании, призывающие к замедлению отрасли, сами не готовы первыми остановить развитие своих систем. Причина очевидна: отказ от гонки означает риск уступить конкурентам, прежде всего другим американским компаниям и китайским разработчикам.

Поэтому такие призывы можно рассматривать не только как заботу о безопасности, но и в контексте борьбы за будущие правила рынка. Чем выше требования к контролю, тем больше ресурсов потребуется для создания новых систем. Для бигтехов такие условия потенциально менее обременительны, чем для небольших компаний.

Публично предупреждая о рисках, разработчики одновременно фиксируют свою позицию: они признают возможные угрозы и призывают государства установить правила и ограничения. В случае серьезного инцидента это позволит ссылаться на то, что компании заранее предупреждали о потенциальных последствиях, а ответственность за дальнейшее развитие технологии должна распределяться между бизнесом и государством. Это не доказывает, что именно такой целью руководствуется Альтман, однако подобная конструкция объективно может снижать репутационные и регуляторные риски для разработчиков.

При этом государственная политика США пока не демонстрирует готовности существенно ограничивать разработку нейросетевых технологий. 22 сентября президент Дональд Трамп заявил, что в американских документах следует использовать термин «сверхинтеллект» вместо привычного ИИ, одновременно выступив против сдерживания прогресса в этой сфере.

Сам термин «сверхинтеллект» не новый. Им давно называют системы, которые потенциально способны превосходить человека по широкому кругу интеллектуальных задач. Однако его появление в политической риторике США символично: дискуссия всё чаще идет уже не просто о развитии ИИ, а о создании систем, способных превзойти человека.

Одновременно Вашингтон рассматривает развитие ИИ как часть технологической конкуренции с Китаем. В середине сентября Трамп объявил о создании новой госструктуры — «Сил искусственного интеллекта» (AI Force), которая должна координировать господдержку отрасли и связанные с ней риски. Параллельно продолжается масштабирование проекта Stargate. Первый кампус дата-центров Oracle AI в Абилине, штат Техас, уже работает в тестовом режиме, а его полное завершение запланировано на конец года.

При этом у технологической гонки есть вполне материальные ограничения. Мощным системам требуются чипы, память, электричество и огромные дата-центры. Все эти ресурсы дорожают и становятся дефицитными, что способно ограничить темпы развития ИИ не хуже государственных запретов. Дорожают и токены, необходимые для вычислительных процессов: в некоторых компаниях, по данным участников рынка, для выполнения базовых задач предпочитают привлекать интернов и младших специалистов, поскольку их труд обходится дешевле, чем использование токенов для рутинных операций.

Поэтому пять лет не стоит воспринимать как обратный отсчет до «восстания машин». Гораздо реалистичнее другой риск: технологическое развитие может опередить способность государств и компаний выработать правила его использования. Пока также нет единой системы обязательных принципов, которая заранее определяла бы допустимые рамки для будущих сверхмощных систем.

Миру, возможно, нужны свои «три закона робототехники» — не буквальные правила из произведений Айзека Азимова, а понятные и обязательные принципы, которые позволят развивать ИИ, не передавая ему право самостоятельно определять границы допустимого. Человечеству не обязательно ждать появления самосознающего ИИ из научной фантастики, чтобы столкнуться с потерей контроля. Она может произойти постепенно — по мере того, как машинам будут передавать всё больше решений, которые человек из-за их скорости и сложности уже не сможет полноценно проверить. Поэтому главный вопрос остается прежним: сможем ли мы сохранить возможность вмешиваться в решения ИИ, когда он начнет действовать быстрее и эффективнее человека.

Автор — обозреватель «Известий», эксперт РОЦИТ, кандидат наук

Позиция редакции может не совпадать с мнением автора