Так, мова все ще про той самий Anthropic. Річ у тім, що користувачі з Ємену писали за допомогою ШІ код для керованої ракети на базі звичайного смартфона, і для балістичної.
Захисні механізми Anthropic заблокували багато запитів, але не всі. Замовники приховували справжні цілі, не згадували, що пишуть код для зброї, і розбивали завдання на дрібні фрагменти, щоб в одному діалозі не світити весь задум.
Ракету випробували — вона впала. Одразу після падіння розробники повернулися до Claude, щоб з'ясувати причину невдачі, але виявили, що їхні акаунти заблоковано.
