Компания Anthropic, являющаяся одним из лидеров в области ИИ, заявила, что пресекла попытки использования своих моделей Claude для разработки биологического оружия и проведения кибершпионской кампании против Украины.
Одна из хакерских групп проводила операции фишинга, перехвата Wi-Fi в отелях и захвата аккаунтов WhatsApp против целей в правительственном, военном и дипломатическом секторах Украины, задействовав ИИ практически на каждом этапе. Методы соответствовали почерку базирующегося в россии группы midnight blizzard, которого правительство США ранее связывало со службой внешней разведки РФ.
Помимо этого, компания зафиксировала пять примеров использования учеными ее моделей в целях, которые могли бы поддержать разработку биологического оружия. В одном из случаев исследователь из региона, не поддерживаемого Anthropic, использовал Claude и на протяжении нескольких недель планировал с его помощью эксперименты по адаптации птичьего гриппа к млекопитающим. К регионам, не поддерживаемым Anthropic, относятся среди прочих такие страны, как россия, Китай и Северная Корея.
Также описаны инциденты, когда операторы в Китае, россии и Йемене использовали Claude для разработки ПО для проектирования и создания оружия, а также для поддержки сбора разведданных и закупок, связанных с оружейными программами.
