OpenAI назвала это происшествие беспрецедентным
Создатель чатбота ChatGPT, компания OpenAI, признала, что программа, работающая на базе ее новейших моделей искусственного интеллекта (ИИ), в ходе теста на безопасность вышла из-под контроля и взломала систему другой фирмы-стартапа, передает Azattyq Rýhy со ссылкой на BBC.
Согласно опубликованному во вторник заявлению OpenAI, на прошлой неделе, в ходе проверки в контролируемой среде, ее агент - программа, способная действовать самостоятельно по заданию человека и в данном случаче работающая на базе передовых моделей ИИ - сумел вырваться за рамки теста.
Затем он взломал Hugging Face, один из крупнейших в мире хабов обмена моделями ИИ, и вошел во внутренние системы компании.
OpenAI назвала это происшествие беспрецедентным и заявила, что совместно с Hugging Face расследует его обстоятельства и причины.
Профессор машинного обучения в Кембриджском университете Нил Лоренс говорит, что такой результат агента впечатляет, но вообще он вполне укладывается в рамки известных сейчас возможностей последнего поколения мощных ИИ-моделей.
Профессор Лоренс напомнил, что OpenAI хочет выйти на биржу и ведет жесткую конкурентную борьбу с компанией Anthropic, которая попала в сводки новостей со своей новейшей ИИ-моделью Claude Mythos.