主要ＡＩ企業の安全管理体制、国際基準はるかに下回る＝専門家調査 04-Dec 07:56

アンソロピックやオープンＡＩ、ｘＡＩ、メタといった主要人工知能（ＡＩ）企業の安全管理体制は、現在形成されつつある国際基準をはるかに下回っている――。非営利団体「生命の未来研究所」は３日、ＡＩの安全性指数最新版を公表し、こうした見解を示した。

同指数は外部専門家の委員会が実施した安全性評価調査に基づくもので、各企業とも人類の英知を超えるＡＳＩ（人工超知能）開発競争に忙しいが、そうした先進的なシステムを制御するための確固とした戦略を持ち合わせていないという。

マサチューセッツ工科大学（ＭＩＴ）教授で研究所代表を務めるマックス・テグマーク氏は「ＡＩによるハッキングや、ＡＩが人々を精神錯乱や自傷行為に追い込むことを巡る最近の騒動にもかかわらず、米国のＡＩ企業に対する規制は飲食店より緩く、業界は拘束力のある安全基準への反対活動を続けている」と批判した。

今年１０月に研究者グループは、人々が要求し、科学的に安全な推進が可能となるまで、ＡＳＩの開発を禁止するよう提言している。

グーグル・ディープマインドの広報担当者は、ＡＩモデルの高度化が進むのに伴って「能力に沿って安全性とガバナンスの革新を継続する」とコメント。ｘＡＩは「既存メディアはうそをつく」と自動生成されたような回答をした。

オープンＡＩの広報担当者は「われわれは安全性の枠組み、評価、研究を共有し、業界標準の向上に貢献している。また将来の能力（増大）に備えるための保護措置を継続的に強化している」と説明した。

またオープンＡＩは、最先端の安全性研究に多額の投資をしているという。

アンソロピック、メタ、Ｚ．ａｉ、ディープシーク、アリババ・クラウドは今回の調査に関するコメント要請に回答していない。