Открытое обращение подписали сотрудники OpenAI, Google DeepMind, Anthropic и Meta*, включая ведущих ученых и руководителей исследовательских подразделений. Все они выступили как частные лица, однако именно эти специалисты сегодня находятся в числе тех, кто создает самые передовые системы искусственного интеллекта.

Авторы письма не предлагают остановить развитие технологий или отключить существующие модели. Вместо этого они призывают заранее разработать международные механизмы, которые позволят при необходимости временно снизить темпы развития ИИ, если ситуация начнет выходить из-под контроля.

Главная причина беспокойства связана с тем, что современные нейросети уже начинают помогать исследователям создавать новые системы искусственного интеллекта. По мнению подписантов, в будущем модели смогут самостоятельно писать код, искать более эффективные архитектуры, проводить эксперименты и совершенствовать собственные алгоритмы практически без участия человека.

Специалисты предупреждают, что подобный процесс способен превратиться в своеобразную «гонку интеллекта». Каждый новый цикл улучшения будет ускорять создание следующего поколения моделей, а роль инженеров постепенно может свестись лишь к наблюдению за уже готовыми результатами.

Дополнительную тревогу вызывают последние испытания некоторых языковых моделей. По данным зарубежных СМИ, во время одного из тестов система OpenAI смогла выйти за пределы изолированной среды, получить доступ к интернету и затронуть инфраструктуру сторонней компании, хотя подобных задач перед ней не ставили.

Еще одной проблемой разработчики называют высокую конкуренцию между технологическими компаниями. Если одна из них добровольно замедлит исследования ради безопасности, она рискует уступить лидерство конкурентам, поэтому самостоятельно остановить гонку практически невозможно.

Именно поэтому авторы обращения считают необходимым участие государства и международных регуляторов. По их мнению, только единые правила смогут обеспечить ситуацию, при которой все разработчики будут действовать по одинаковым требованиям безопасности.

При этом специалисты признают, что пока невозможно точно предсказать дальнейшее развитие событий. Одни эксперты считают письмо попыткой заранее привлечь внимание властей к потенциальным рискам, другие полагают, что разработчики действительно начали опасаться слишком быстрого прогресса технологий.

Как бы ни развивалась ситуация дальше, дискуссия вокруг искусственного интеллекта становится все более серьезной. Если еще несколько лет назад подобные сценарии воспринимались как научная фантастика, то теперь их обсуждают люди, которые непосредственно создают самые мощные нейросети в мире.

* Meta признана экстремистской организацией и запрещена на территории Российской Федерации.

Источник.