Предупреждения исследователей из ведущей американской компании-разработчика ИИ Anthropic о том, что все более мощные модели могут выйти из-под контроля человека, привлекли внимание в Китае, где также готовились к подобным рискам, пишет Reuters.
В то время как дискуссия в США сосредоточена на том, может ли передовой ИИ представлять угрозу для человечества, китайские регуляторы в целом рассматривают ИИ как мощную, но управляемую технологию, риски которой можно сдержать с помощью технических стандартов, регулирования и государственного надзора.
Китай не предлагал внедрять независимых наблюдателей внутрь компаний-разработчиков ИИ, за что выступает Anthropic. Вместо этого его Пекин опирается на обязательства разработчиков, поддерживаемые государством стандарты, оценки безопасности и внешнее тестирование.
Китай впервые включил явный сценарий будущей потери контроля в систему безопасности ИИ, опубликованную в сентябре 2024 года под руководством Администрации киберпространства Китая (CAC). В документе говорилось, что нельзя исключать возможность того, что будущий ИИ сможет автономно получать внешние ресурсы, самовоспроизводиться, развивать самосознание и стремиться к захвату контроля, создавая риск конкуренции с людьми.
