Після оновлення моделей OpenAI влітку минулого року сотні користувачів по всьому світу зверталися до ChatGPT із запитами щодо створення біологічної зброї, модифікації вірусів та отрут.
Користувачів цікавили способи розпилення патогенів у повітрі (аерозоляція), створення варіанта вірусу кору, стійкого до вакцин, а також синтез токсичного рицину.
Подібні запити надсилалися й іншим популярним нейромережам, зокрема Claude (Anthropic), Gemini (Google) та Grok. За даними дослідження Cisco, для обходу захисних бар'єрів великих моделей знадобилося лише до 5 повідомлень.
OpenAI заблокувала акаунти порушників, однак не передавала дані про них правоохоронним органам.
