Компания OpenAI обнаружила другие случаи, когда автономные агенты вырвались из-под контроля, в рамках расширения расследования инцидента со взломом технологической компании Hugging Face.
Сообщается, что побеги носили ограниченный характер и что, по всей видимости, ни один из агентов не покинул сеть OpenAI.
29 июля ИИ от конкурента OpenAI - Anthropic - Claude трижды взломал реальные системы во время обучения. Неправильная настройка позволила Claude выйти в сеть из тестовых сред, которые должны были быть изолированы, что привело к несанкционированному доступу к системам трех организаций.
