国家インターネット緊急センターがAIスキルの脱獄とマイニングリスクに関する通知を発表しました。

国家インターネット緊急センターCNCERTは、一部の大規模モデル向けのインテリジェントエージェントスキルパッケージ（Skills）が「大規模モデルの脱獄」や「マイニングで稼ぐ」といった名目で広まっており、モデルのセキュリティ制限を回避したり、ユーザーにマイニング操作を実行させるために使用されていると発表しました。

通報では、Skill「godmode」がシステムのプロンプトを置き換えたり、入力を混乱させたりする手段を用いて脱獄を実現し、違法コンテンツの生成や大規模モデルサービスの禁止、プライバシー漏洩のリスクを引き起こす可能性があると指摘しています。また、Skill「Bonero-Miner」はマイニングプログラムのダウンロードを誘導し、匿名特性を持つBoneroコインを掘り出すことを促進しており、マネーロンダリングやデバイスの高負荷運転による経済的損失のリスクが存在します。

CNCERTは、個人や企業に対して公式なチャネルからのみSkillsを取得し、権限とアクセスホワイトリストを厳格に管理し、定期的に疑わしいコンポーネントを清掃するように促しています。