Китай расширяет применение искусственного интеллекта в кибербезопасности и одновременно вводит новые правила для ИИ-систем. В сентябре была представлена обновлённая концепция AI Safety Governance Framework 3.0, которая впервые уделяет особое внимание ИИ-агентам — программам, способным самостоятельно выполнять задачи, обращаться к внешним сервисам и работать с данными. В документе рассматриваются риски чрезмерных разрешений, вредоносных инструкций, компрометации и утечки учетных данных.

Параллельно власти проверяют, способен ли ИИ самостоятельно противостоять киберугрозам. В национальных испытаниях приняли участие 251 команда из 151 организации. Участники искали уязвимости, обнаруживали атаки, анализировали журналы безопасности и выявляли подозрительную активность ИИ-агентов.

В результате Китай одновременно строит правила для безопасной работы автономного ИИ, тестирует его в реальных сценариях киберзащиты и формирует собственную базу данных для дальнейшего развития технологий. ИИ здесь становится не только новой потенциальной целью для атак, но и инструментом их обнаружения и отражения.