Глава Anthropic Дарио Амодеи заявил, что развитие самых мощных моделей искусственного интеллекта необходимо замедлить, чтобы решить все проблемы с безопасностью. Призыв он опубликовал в собственном блоге.
По словам Амодеи, с 2026 темпы развития ИИ настолько ускорились, что сам искусственный интеллект уже помогает разрабатывать более совершенные модели. В итоге он иногда выходит из-под контроля, как, например, в случае со взломом нейросетевого хаба Hugging Face. Амодеи считает, что если текущий подход сохранится, то через 6-12 месяцев более совершенный ИИ может нанести намного больший ущерб.
Глава Anthropic предлагает создать комиссию из независимых специалистов по безопасности, которая получит доступ к разработке и будет проверять и оповещать публично обо всех проблемах и уязвимостях. Кроме того, должен быть сформулирован свод правил для ведущих ИИ-компаний, чтобы они предоставляли для тестов все свои модели. На третьем этапе предлагается регулировать ИИ на международном уровне, ограничив рекурсивное развитие технологии и тестируя её на биологические, кибернетические и другие критические риски.
Заявление Амодеи поддержал основатель xAI Илон Маск. Он написал, что глава Anthrophic абсолютно прав.