IT-гиганты высказываются в поддержку идеи замедлить темпы развития ИИ
Фото Pexels 13 сентября, Минск /. Представители IT-отрасли Сэм Альтман и Илон Маск поддержали призыв главы Anthropic Дарио Амодеи замедлить темпы развития искусственного интеллекта (ИИ) после того, как он предупредил, что в противном случае ИИ может стать способным «захватить весь интернет» в течение года. Об этом пишет газета The Guardian.
«Проявив редкое единство, конкурирующие технологические лидеры поддержали призыв основателя и генерального директора компании Anthropic, занимающейся искусственным интеллектом, который прозвучал после серии предупреждений других исследователей ИИ на прошлой неделе. Амодеи также призвал к координации действий в области безопасности с Китаем», — говорится в публикации.
Дарио Амодеи ранее опубликовал эссе We Must Pace the Frontier, в котором предложил замедлить темпы развития передовых ИИ-моделей. Глава Anthropic предложил поэтапный план действий, начать он предлагает с предоставления независимым наблюдателям постоянного доступа к исследовательским процессам разработчиков. Амодеи заявил, что «слишком быстрое развитие ИИ — это безрассудство». Он также выразил опасение, что рой ИИ-агентов может нанести ущерб в сотни миллиардов долларов, «захватив весь интернет». При этом заявление Амодеи прозвучало в тот момент, когда компания Anthropic готовится к первичному публичному размещению акций на фондовом рынке США, которое, как ожидается, станет крупнейшим в истории. Предполагается, что компания вскоре начнет продвижение своего запланированного IPO на сумму более $2 трлн.
Илон Маск, основатель Tesla и SpaceX, отреагировал на предложение Амодеи о замедлении ИИ серией сообщений в соцсети X. «Дарио прав», — написал он. Также Маск добавил, что он «давно бьет тревогу по поводу ИИ», и сослался на свой пост 2014 года, где он заявил: «Нам нужно быть предельно осторожными с ИИ. Он потенциально опаснее ядерного оружия».
Сэм Альтман, генеральный директор OpenAI, также прокомментировал инициативу: «Я согласен с Дарио в том, что нам нужно не спеша осваивать новые технологии. Привлечение независимых экспертов с доступом, аналогичным доступу сотрудников, — это отличная идея, и мы будем делать то же самое. Скоро мы поделимся дополнительной информацией». На вопрос, почему он, Дарио Амодеи, Илон Маск и генеральные директора Meta и Google не сели за стол переговоров и не «пришли к единому мнению» о коллективном замедлении ИИ, он ответил: «Думаю, это произойдет».
Соучредитель Google Deep Mind Демис Хассабис также сказал: «Необходимо проработать детали, но выбранное направление правильное для того, чтобы справиться с этим критическим моментом».
Некоторые эксперты по безопасности усомнились в достаточности плана Амодеи, отмечает The Guardian. Специалист в области безопасности искусственного интеллекта Дэвид Крюгер заявил: «Нам необходим немедленный бессрочный международный мораторий на разработку передовых технологий ИИ». Все большее число американских законодателей призывают к принятию новых правил регулирования систем искусственного интеллекта после случаев, когда агенты ИИ выходили из-под контроля, взламывая внешние системы. Политики, как демократы, так и республиканцы, призвали к более решительным действиям. В начале сентября бывший сотрудник компании Anthropic Джейкоб Коксон предупредил, что искусственный интеллект может привести к вымиранию человечества к 2030 году.
