中国中央インターネット情報弁公室は、AIを利用した虚偽情報や暴力・低俗コンテンツ、他人へのなりすまし、未成年者の権益侵害などを対象に、「AIアプリの混乱を整備する清朗特別行動」の第2段階を中国各地で実施している。これまでに違法・違反情報561万件余り、アカウント4.9万件余り、違反したウェブサイトやアプリ2400件余りを処置した。
当局は微博、抖音、快手などのプラットフォームに加え、AIサービスやアプリストアに対し、違法・不良情報の検知と審査を強化するよう求めている。生成された内容であることの表示や、開発者に対する審査の強化も要求しており、AIを使って作成された情報が適切に管理されているかを確認する体制の整備を進めている。
今回の特別行動では、典型的な違反アカウントやAIアプリの事例も公表した。中国でAI生成情報、AIサービス、アプリのコンテンツ審査と違反処分が強化されていることを示すものであり、中国のAI関連サービスやプラットフォームを利用・運営する日本企業、在住者、利用者にとって、コンプライアンス上の重要な動向となる。