«ИИ может уничтожить человечество»: заявление экс-сотрудника OpenAI и Anthropic стало вирусным

Бывший сотрудник OpenAI и Anthropic Джейкоб Коксон предупредил об опасности стремительного развития искусственного интеллекта. Его публикация в соцсети X собрала более 144 млн просмотров, передает Azattyq Rýhy.

Коксон около трех лет участвовал в разработке ИИ-моделей в двух крупнейших технологических компаниях. После ухода из Anthropic он заявил, что специалисты, создающие передовые системы, допускают уничтожение человечества искусственным интеллектом уже к концу десятилетия.

«Это не маркетинговый трюк. Люди, разрабатывающие этот ИИ, всерьез считают, что он может уничтожить человечество к концу десятилетия», - написал Коксон.

По его словам, OpenAI и Anthropic участвуют в гонке по созданию самообучающегося сверхинтеллекта, способного превзойти человека. При этом исследователь считает, что компании пока не располагают надежными способами контроля над такой технологией.

Коксон предупредил, что в будущем ИИ сможет взламывать цифровые системы, ускорять развитие целых отраслей и получать доступ к реальным ресурсам. Он также обвинил разработчиков в том, что они недооценивают либо намеренно преуменьшают возможные последствия.

«В OpenAI многие еще не осознали цивилизационный масштаб происходящего. В Anthropic риски понимают, однако считают себя втянутыми в гонку», - отметил он.

По мнению Коксона, ни одна из компаний не хочет первой замедлять разработки из-за страха уступить конкурентам. Сам специалист призвал временно ограничить расширение возможностей ИИ-моделей и уделить больше внимания их безопасности.

Опасения по поводу развития искусственного интеллекта высказывают и другие представители отрасли. Глава Anthropic Дарио Амодеи ранее допускал, что существует вероятность катастрофического развития событий на цивилизационном уровне. О предупреждении Коксона также написали Business Insider и The Guardian.