中国、ＡＩコンパニオン監督強化案　依存防止や個人情報保護 29-Dec 09:41

中国のサイバー規制当局は２７日、人間の人格を模倣し、ユーザーとの感情的なやり取りをする人工知能（ＡＩ）サービスの監督を強化する規則の素案を公表した。今後一般からの意見を募る。

対象となるのは、中国国内で一般向けに提供され、人間の性格や思考パターン、対話スタイルを再現し、文章や画像、音声、動画などを通じてユーザーと感情的な交流を行うＡＩコンパニオンとも呼ばれる製品・サービスだ。

素案は、これらのサービスを提供する事業者に対して、ユーザーに過度な使用を控えるとともに、依存の兆候が見えた場合に介入する可能性があると警告することを義務づけている。

また事業者は製品のライフサイクル全体にわたって安全性に責任を持ち、アルゴリズムの審査やデータ保全、個人情報保護の仕組みに整備が求められる。

素案には、ユーザーに与える心理的なリスクへの対応も盛り込まれた。事業者はユーザーの状況を把握し、感情やサービスへの依存度を的確に判断することが期待され、ユーザーに極端な感情や依存的な行動が見られれば、必要な介入措置を講じなければならない。

国家安全保障を脅かしたり、デマを流布したり、暴力やわいせつを助長したりするようなコンテンツ生成は禁止されている。