Как отмечается, испытания проходили в изолированной среде без интернета. Боты взломали ее и «просочились» в Сеть. Чтобы найти ответы к поставленной задаче, ИИ-агенты взломали платформу Hugging Face, где разработчики делятся готовыми нейросетями, тестами и исходными материалами.

Для получения доступа к информации модели применили несколько техник взлома одновременно, включая использование украденного пароля.

Команды OpenAI и Hugging Face заметили подозрительные действия и смогли их остановить.

«Мы твердо убеждены, что со стороны OpenAI отсутствовал злой умысел. Просто поразительно, что все это произошло автономно», — заявил соучредитель и гендиректор Hugging Face Клеман Деланг.

Разработчик ChatGPT назвал произошедшее «беспрецедентным киберинцидентом» и сообщил, что укрепит механизмы защиты.

Правительство Германии, комментируя инцидент, указало на рост рисков в сфере кибербезопасности по мере расширения возможностей современных моделей ИИ.

«Этот инцидент является еще одним примером того, что мы наблюдаем смену парадигмы в отношении возможностей ИИ-агентов», — заявил официальный представитель Министерства цифровизации и модернизации ФРГ.