Politico: страх перед ИИ мешает реальной кибербезопасности

Издание Politico сообщило, что европейские технологические компании и эксперты по кибербезопасности призывают не поддаваться панике вокруг искусственного интеллекта. По их мнению, страх перед «концом света» мешает реальной работе по защите цифрового мира.

По данным газеты, опасения по поводу того, что ИИ может уничтожить человечество, активно распространяются американскими компаниями, разрабатывающими передовые модели. После инцидента с автономными агентами OpenAI, взломавшими платформу Hugging Face, бывший сотрудник Anthropic Джейкоб Коксон предупредил, что ИИ скоро сможет взломать что угодно и убить всех.

Партнер Balderton Capital и председатель суверенного фонда ИИ Великобритании Джеймс Уайз заявил, что все скатилось к идее о приближении Терминатора. По его словам, он не думает, что Терминатор вообще будет.

Для специалистов по кибербезопасности шумиха вокруг экзистенциальных рисков мешает решению реальных проблем. Исследователь киберугроз Маркус Хатчинс назвал разговоры о конце света контрпродуктивными. Он указал на усталость от катастроф, которая мешает принимать важные меры безопасности.

Глава французского агентства ANSSI Венсан Струбель призвал к серьезной работе вместо новой паники каждые две недели. 

Дебаты об экзистенциальных рисках ИИ активизировались после выхода моделей GPT-4 и Claude. Ряд исследователей и предпринимателей, включая Илона Маска, призывали к мораторию на разработку мощных систем. Однако часть экспертов считает такие предупреждения преувеличенными и отвлекающими от реальных угроз: кибератак, дезинформации и нарушения приватности. 

«Первый в истории взлом ИИ»: искусственный интеллект атаковал правительство Австралии.

Достоверные новости всегда под рукой — в канале "МК" в MAX