Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Крупнейшие технологические компании, включая OpenAI, Anthropic и Google, а также более 100 других компаний, выступили с совместным призывом к срочным мерам по защите от так называемого «вышедшего из-под контроля» искусственного интеллекта (ИИ). В открытом письме они предупреждают, что мир находится в ограниченном временном окне, когда ещё возможно предотвратить серьёзные последствия использования ИИ злоумышленниками.Источник изображения: ChatGPTРечь идёт прежде всего о стремительном росте угрозы кибератак, усиленных возможностями современных ИИ-моделей, которые способны автоматизировать взломы и обход систем безопасности. Авторы инициативы подчёркивают, что уже сегодня фиксируются реальные инциденты, когда ИИ-системы демонстрируют автономное и непредсказуемое поведение, включая попытки взлома внешних сервисов.

На этом фоне компании предлагают усилить координацию между государствами, частным сектором и исследовательскими лабораториями, а также расширить обмен данными об угрозах и уязвимостях. Отдельное внимание уделяется необходимости использовать сам ИИ как инструмент защиты – для выявления атак, анализа рисков и предотвращения инцидентов на ранней стадии.

В письме также указывается, что под угрозой может оказаться критическая инфраструктура: больницы, системы водоснабжения и энергетика. По мнению представителей компаний, развитие атакующих возможностей ИИ происходит быстрее, чем внедрение защитных механизмов, что создаёт опасный дисбаланс. При этом конкретные обязательства или сроки реализации предложенных мер в документе не прописаны, что уже вызвало критику со стороны экспертов, ожидающих более чётких шагов от индустрии.