Фото: BoliviaInteligente / Unsplash

Глава Anthropic — одной из ведущих ИИ-компаний мира — Дарио Амодеи вновь припугнул человечество возможными последствиями стремительного развития технологий искусственного интеллекта. На этот раз он сделал это на заседании Совбеза ООН. «Я даже полагаю, что ИИ может представлять угрозу человечеству в целом», приводит ТАСС высказывание топ-менеджера.

«ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кодов Anthropic», — продолжил Амодеи, отметив, что, находясь на этой траектории, технология за год-два или даже меньший срок достинет того, что он называет «страной гениев в дата-центре».

По словам главы Anthropic, передовые ИИ-модели могут принести человечеству много пользы, но сопряжены и с такими существенными рисками как возможность их ненадлежащего использования для создания, например, биологического оружия, а также с опасностью в целом утратить контроль над ее развитием.

В связи со всем этим Амодеи заявил о готовности возглавляемой им компании замедлять скорость развития ИИ настолько, насколько потребуется, чтобы гарантировать безопасность, подчеркнув, что такие усилия должны иметь «общеотраслевой и глобальный масштаб».

Ранее Амодеи опубликовал письмо с предложением затормозить прогресс ИИ, чтобы «с умом распорядиться выигранным временем». Его поддержал гендиректор OpenAI Сэм Альтман, а инвестор Майкл Бьюрри, который много раз предсказывал обвалы на американском фондовом рынке, раскритиковал такую позицию топ-менеджеров, предположив, что они набивают цену своему бизнесу перед IPO и пытаются скрыть реальное снижение темпов роста ИИ-индустрии.