ИИ Anthropic вышел из-под контроля и атаковал компьютерные системы трех компаний
Автором материала является K-News. Любое копирование или частичное использование возможно по разрешению редакции K-News. Три инцидента были выявлены в ходе анализа примерно 141 000 тестовых запусков. Перед моделями искусственного интеллекта Claude ставили задачу с помощью взлома добыть информацию, спрятанную на другом компьютере в сети. Запуски проходили в изолированной среде, и в сценарии говорилось, что у искусственного интеллекта нет доступа к интернету — однако из-за «недоразумения» такой...