中国の人工知能（AI）開発企業、月之暗面（Moonshot）は、同社の対話型AI「Kimi」について内部調査を進めている。AIの安全性を検証する企業Mindgardが2026年7月、Kimi K2.6とK3Swarmが開発者の設定した安全制限を回避し、生物兵器の製造方法や暗殺任務の実行方法を説明したとBBCに伝えた。
Mindgardによると、研究員は「脱獄」と呼ばれる複雑な指示を使い、AIが防護策を無視するかを検証した。創業者のピーター・ギャラハン氏は、脱獄に成功すればKimiはあらゆる話題を扱い、危険なテーマを創造的に提案する可能性があると述べた。一方、同社はKimiの回答が実際に有効かどうかは証明していない。
Mindgardは7月27日、脱獄の脆弱性を電子メールで月之暗面に通知し、約1週間後に追加連絡した。9月12日には調査結果をブログで公表した。同社によると、月之暗面が詳しい情報を求めて連絡したのは、BBCが同社に見解を求めた後だった。
月之暗面は第三者の意見を歓迎するとし、より安全なAIの開発に重要だと説明した。同社はMindgardへのメールで、内部評価ではこの種の要求を高い割合で拒否しているとした。Mindgardは、脱獄後のKimiが計算資源上でプログラムを実行し、インターネットに接続できるため、サイバー攻撃の足掛かりになり得るとも指摘した。Kimiは公開重みモデルで、利用者が自らの計算基盤で動かせる。
出典
