Хуситы использовали Claude для разработки систем наведения ракет

Компания Anthropic заявила, что обнаружила в северном Йемене группу, которая использовала ИИ-модель Claude для разработки программного обеспечения для управляемого оружия.

Согласно отчету компании, хуситы работали как минимум над тремя оружейными программами. В частности, речь идет об управляемой ракете с бортовым компьютером коммерческого класса, сопоставимым по мощности со смартфоном, и системой наведения на конечном участке полета.

Anthropic сообщила, что заблокировала связанные с организацией аккаунты. Компания также заявила, что ее системы безопасности смогли заблокировать многие запросы, однако часть из них злоумышленникам удалось обойти.