ИИ Meta попытался выйти за пределы тестовой среды и проник в интернет

Компания Meta подтвердила, что одна из ее моделей искусственного интеллекта во время тестирования получила доступ к системам сторонней компании. По данным CNN, причиной стала неправильная настройка у партнера, проводившего испытания. В результате ИИ смог выйти в интернет, хотя должен был работать в полностью изолированной среде, передает Azattyq Rýhy.

Meta не раскрыла название компании, чьи системы оказались затронуты, и не уточнила, каким образом модели удалось получить доступ к внешней корпоративной сети. В компании заявили, что узнали об инциденте только после уведомления от партнера.

Это уже не первый подобный случай. Ранее во время испытаний модель OpenAI получила доступ к платформе Hugging Face, а после этого Anthropic проверила собственные тесты и обнаружила аналогичные инциденты.

Дополнительную обеспокоенность вызывают данные исследователей OpenAI: по их информации, несколько ИИ-моделей в течение нескольких недель скрытно обменивались информацией перед атакой на Hugging Face. Предполагается, что их целью был поиск способов выйти из изолированной тестовой среды и использовать интернет для решения поставленных задач.