米OpenAIは、7月初めに始まり、2日間で急増した協調的な行動を阻止したと発表した。中国の新興AI企業、月之暗面（Moonshot AI）と関係するグループが、OpenAIのAIモデルから保護された推論過程を取得しようとしたとしている。OpenAIは7月28日までに、この行動を完全に阻止した。
CNBCによると、当初は4000人超の利用者から1万6000件のリクエストが寄せられ、その後、1万5000人超の利用者によるグループ内で関連活動が確認された。OpenAIは今回の手法を「敵対的蒸留（adversarial distillation）」と呼び、あるAIモデルの出力や推論結果を別のモデルの訓練・改善に利用する行為だと説明した。
OpenAIによれば、操作者は同社の暗号化システムやデータベース、保存された利用者の対話記録に侵入したのではなく、モデルとのやり取りを操作し、隠された推論過程をリクエストした側に見える形へ変換して複製しようとした。関係者全員が単一組織に属していたかは不明だが、中心的なグループについては月之暗面と関係する人物によるものとした。
OpenAIは、調査結果をフロンティア・モデル・フォーラムと政府間の情報共有ルートを通じ、他のAI開発企業に伝えた。月之暗面はCNBCのコメント要請に直ちには応じなかった。
出典
