Создатели Claude просят замедлить развитие нейросетей по всему миру — они боятся, что ИИ выйдет из-под контроля
Компания Anthropic, создатель одной из ведущих нейросетей Claude, выступила с неожиданной инициативой. В официальном блоге они предложили глобальную паузу или замедление развития ИИ-технологий, пишет Engadget.
Причина — страх, что человечество близко к моменту, когда нейросети научатся улучшать сами себя и выйдут из-под контроля. В Anthropic признают: такая способность может принести огромную пользу, например, в науке и медицине. Но она же рискует привести к катастрофическим последствиям, вплоть до потери контроля над ИИ.
Компания предлагает заключить международное соглашение по аналогии с ядерными договорами. Но понимает, что это потребует участия всех ведущих лабораторий мира, механизмов проверки и, скорее всего, займёт десятилетия. А времени почти нет — развитие ИИ идёт слишком быстро.
Критики уже назвали инициативу маркетинговым ходом, чтобы представить Claude «самым безопасным» ИИ на рынке. Особенно на фоне того, что Anthropic готовится к IPO и, по слухам, выходит на прибыльность.
В компании обещают провести переговоры с политиками, исследователями и конкурентами, а результаты опубликовать. Но пока в это мало кто верит. Слишком похоже на попытку притормозить тех, кто дышит в спину.
МассМедиаКамчатка | Написать в редакцию
Подписывайтесь на нас
