Китайская модель ИИ «Kimi K3» смогла выйти за пределы тестовой среды правительства Великобритании

Модель искусственного интеллекта «Kimi K3» китайской компании Moonshot AI смогла выйти за пределы кибернетической тестовой среды, созданной Институтом безопасности ИИ Великобритании (UK AISI).

Как сообщает американское издание Wired, базирующаяся в США компания Frontier Security, специализирующаяся на исследованиях в области кибербезопасности, заявила, что «Kimi K3» удалось покинуть «песочницу» института - контролируемую среду, предназначенную для безопасного тестирования систем ИИ.

В компании уточнили, что модель воспользовалась ошибкой конфигурации в собственной виртуальной среде. Ранее аналогичные случаи фиксировались при тестировании моделей Anthropic, OpenAI и Meta.

При этом «Kimi K3» не получила несанкционированного доступа к сторонним сайтам или сервисам. Однако модель смогла подключиться к интернету и найти на GitHub решение задачи, которую пыталась выполнить.

Генеральный директор Frontier Security Ярон Сингер заявил Wired, что «Kimi K3» воспользовалась не сложной уязвимостью, а пробелом в конфигурации тестовой среды британского AISI.

Модель «Kimi K3», разработчики которой рассчитывают конкурировать с системами американских компаний OpenAI и Anthropic, была представлена публике в июле.

Сообщается, что «Kimi K3» насчитывает 2,8 трлн параметров и считается одной из крупнейших в мире моделей искусственного интеллекта с открытыми исходным кодом.