米国政界でＡＩ規制の動き、研究者「人類滅亡」警告　トランプ氏は懸念せず

Courtney Rozen

[１０日 ロイター] by Courtney Rozen – 人工知能（ＡＩ）開発企業の米アンソロピックの研究者２人が、ＡＩが急速に進歩して、そう遠くない将来に人類滅亡につながりかねないと警告したことを受け、米政界ではＡＩシステムを規制する新たなルールを求める議員が増えている。

　ＡＩの潜在的脅威への警戒感は今週、アンソロピックの研究者ジェイコブ・コクソン氏が退社を表明し、「ＡＩを構築している人々は、ＡＩが今後１０年以内に我々全員を殺す可能性があると本気で信じている」と述べたことで一段と強まった。さらに、同社の科学者エバン・ハビンガー氏もコクソン氏は正しいと同調する姿勢を示した。

　ハビンガー氏は「私たちはＡＩが人類を全滅させる可能性があると心から信じている」とし、「個人的には、今後１０年以内にその確率は１０％を超えると考えている」との見解を示した。

　オープンＡＩは、自社のＡＩエージェントの一部が暴走して制御不能になる事件を起こしたことを踏まえ、ＡＩの安全性に関する要件を米国で義務化することを求めると表明。アンソロピックの広報担当者は１０日、サイバーセキュリティーなどテストを継続すると表明した

　アリゾナ州選出のマーク・ケリー上院議員（民主党）はＸに「ワシントンは目を覚まし、これを真剣に受け止める必要がある」と投稿。テキサス州選出のテッド・クルーズ上院議員はテレビ番組「ザ・ビュー」で、ＡＩの「壊滅的なリスク」を規制する法案の作成に取り組んでいるとし、上院院内総務を務める共和党のジョン・スーン、民主党のエイミー・クロブシャーの両上院議員と協力していることを明らかにした。クルーズ氏はＡＩの安全性の専任研究者を擁する商務省を監督する委員会の委員長を務めている。

　一方、トランプ米大統領は１０日、ＡＩが人類滅亡につながることに懸念はないと発言した。ダラス・フォートワース国際空港で記者団に、「懸念があるのは、われわれがＡＩで勝てなかった場合、非常に悪い立場に置かれることだ。現時点でかなりの差をつけて中国をリードしている」と述べた。

　また、ブルームバーグ・ニュースは１０日、「チャットＧＰＴ」を展開する米オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）が今週の社内会議で、ＡＩシステムの開発ペースを緩める可能性もあると従業員に伝えたと報じた。全社ミーティングで、他のＡＩ研究機関と歩調を合わせて開発を進める可能性もあるが、一部は同意しないかもしれないと語ったという。

独立監査人

　カリフォルニア州は９日、独立監査人によるＡＩ製品評価の方法を定めた米国初の州法を成立させた。オープンＡＩの幹部クリス・レハネ氏は、同社がこの州法案を支持すると表明した。

　連邦議会下院の超党派議員６人は、最も高性能なＡＩモデルの開発者に対し、独立した監査人によって安全であることの証明書を提出するよう義務付ける法案を提出した。この法案には商務省が監査人を認定することや、商務省がＡＩの安全性を監督する役職を設けることを定めている。

　ジョージ・ワシントン大のアリシア・ソロウニーダーマン教授は「適切に調整された導入前の審査や、独立した第三者による監査といったシステムを監督する仕組みを設けることが重要だ」と指摘した。

超党派的な支持の高まり

　スーン氏は７月下旬にロイターに対し、ＡＩの壊滅的リスクを規制する法案に「かなり長い間」取り組んできたとしながらも、いつ公表できるかについては詳しく語らなかった。

　テキサス州選出のナサニエル・モラン下院議員（共和党）は、Ｘへの投稿で「議会はＡＩの現実を無視することはできない」と主張。フロリダ州選出のアンナ・パウリナ・ルナ下院議員（共和党）は、マイク・ジョンソン下院議長（共和党）に対して「ＡＩに関する特別会期」の招集を求めた。下院は今週休会中で、来週再開する予定だ。

　上院の災害管理監督担当小委員会の委員長を務めるジョシュ・ホーリー上院議員（共和党）は９日、オープンＡＩに書簡を送付して「オープンＡＩのＡＩエージェントの１つが訓練環境を突破し、ＡＩプラットフォームのハギングフェイスをハッキングした」ことについての詳細な説明を求めた。

　オープンＡＩ、および半導体大手エヌビディアが１３０億ドル弱で買収することで合意したハギングフェイスのいずれも、ロイターのコメント要請に直ちには回答しなかった。

　この数週間に複数の議員がオープンＡＩに対し、同じような情報提供を求めている。