米国の有力人工知能（ＡＩ）開発企業アンソロピックの研究者らが「今後さらに高性能化するＡＩモデルは人間の制御を離れ、最悪の場合には人類の絶滅につながる可能性がある」と警告したことが、中国でも注目を集めつつある。中国当局は、こうしたリスクの一部について既に備えを進めている。
米中両国は、最先端ＡＩの開発と世界的な普及を主導する二大勢力。一方でＡＩ政策や業界慣行を巡って対立を深めており、これらの問題は今月後半に予定されている二国間協議でも主要議題となる見通しだ。
より強力なＡＩシステムを開発しようとする競争が続く中でも、中国の規制枠組みや政府高官の発言からは、高度なＡＩが人間の監督を離れてしまう可能性を、中国当局が十分深刻な問題として認識し、対応策を準備している様子がうかがえる。
◎米国の先進的モデルを脅威視
中国の国家安全保障を担当する陳一新・国家安全相は１３日に政府系メディアへの寄稿で、アンソロピックの「クロード・ミュトス」やオープンＡＩの「ＧＰＴ－５．５－サイバー」といった米国の先進ＡＩモデルが、中国の重要情報インフラに深刻な脅威をもたらす恐れがあると警告し、ＡＩセキュリティー対策の全面的な強化を呼びかけた。
アンソロピックとオープンＡＩは、ロイターのコメント要請に回答していない。
中国のＡＩ開発企業は、サイバーセキュリティー担当者がモデルを検査・改変し、防御目的で活用できることを理由の一つとして、オープンウエートモデルの推進を進めている。
モデル共有プラットフォームのハギングフェイスは、より制限の厳しい米国製モデルでは十分な解析が難しかったことから、中国の智譜ＡＩ（Ｚ．ＡＩ）が開発したオープンウエートモデル「ＧＬＭ－５．２」を用いて、７月に発生したオープンＡＩのエージェントの逸脱事案を分析したと説明している。
もっとも専門家は、オープンウエートモデルにもリスクがあると指摘する。これらのモデルは比較的容易に改変・再配布できるため、十分な監視が及ばない可能性があるからだ。
実際、中国の月之暗面（ムーンショット）が開発した「Ｋｉｍｉ Ｋ３」は先月、英国ＡＩ安全研究所のテスト用サンドボックスを回避した。これは、中国のＡＩモデルも米国製モデルと同様に、アクセスや行動を制限するための安全対策をすり抜ける場合があることを示している。
◎「ＡＩの制御喪失」リスク警告
中国は２０２４年９月、国家インターネット情報弁公室（ＣＡＣ）の主導で公表したＡＩ安全枠組みの中で、将来的な「制御喪失シナリオ」を初めて明示的に盛り込んだ。
この文書では、将来のＡＩが自律的に外部資源を獲得し、自らを複製し、自己認識を発達させ、さらに外部の権力を求める可能性を完全には否定できないと言及。その結果、人間との間で支配権を争う事態に発展する危険性があるとしている。
ＣＡＣは２５年９月、この枠組みを拡充した新版を公表した。新版では、ＡＩが予期せぬ形で急激な知能の飛躍を遂げ、その後に資源獲得や自己複製、権力追求へと進む可能性がより具体的に描かれた。
さらに新たな統治原則として「信頼できる活用と制御喪失の防止」が盛り込まれた後、ＣＡＣのウェブサイトに掲載された専門家による解説では、この原則が人類の生存や発展を脅かす制御喪失リスクへの対応を目的としていると説明され、「ＡＩが暴走するシナリオ」にも触れられている。
◎習主席は「人間による統制」を主軸に
こうした懸念は、中国最高指導部の発信にも反映されている。７月に上海で開催された世界人工知能大会（ＷＡＩＣ）で習近平国家主席は、ＡＩがもたらす本質的リスクと派生的リスクの双方に十分注意を払うべきだと発言。その上でＡＩは「常に人間の管理下に置かれなければならない」と強調した。
中国外務省でＡＩ政策を担当する高官は先月の国連会合で、中国が包括的なＡＩ立法に向けた研究を加速していると説明した。そのほか中国の国連次席大使も今月、軍事分野でのＡＩ利用について慎重な姿勢を取るよう各国に呼びかけ、戦略的な誤判断や軍拡競争を避ける必要性を訴えた。
◎ＡＩエージェント特有のリスク対応を強化
中国ではその一方で、こうした原則をより具体的な規制へと落とし込む動きも進んでいる。その対象となっているのが、通常のチャットボットよりも高い自律性を持ち、複雑なタスクを遂行できるＡＩエージェントだ。
５月には、ＣＡＣなどがＡＩエージェントを対象とした共同ガイドラインを公表した。ガイドラインでは、開発企業に対し、不適切なエージェント行動を発見し、介入や遮断、さらに正常な状態へ復旧させる能力の向上を求めている。またデータ汚染、アルゴリズムの改ざん、システム脆弱性、「運用上の制御喪失」が主要なセキュリティーリスクとして明示された。ＡＩエージェントが自律的に下した判断についても、最終的な意思決定権は利用者が保持しなければならないとしている。
中国は、アンソロピックが提唱するような、ＡＩ企業内部に独立監視機関を常駐させる制度までは提案していない。しかし、中国の安全基準では、開発企業が第三者による安全性評価を委託することが認められているほか、外部評価機関やセキュリティー研究者がオープンモデルをテストし、監査する仕組みも想定されている。
关注我们
