Leo Marchandon
[13日 ロイター] by Leo Marchandon – 人工知能(AI)の先駆者であるジェフリー・ヒントン氏やヨシュア・ベンジオ氏ら世界の約400人の科学者が、高度なサイバー能力を持つAIシステムを規制する基準を策定して、重大な問題が起きた際の報告を監督する国際機関の設置を求める公開書簡を出した。
実現すればこの機関は、AI業界の規制基準を策定し、セキュリティー上の重大な問題についての報告を管理することになる。科学者らは報告内容が最終的には公開されるべきだと訴えた。
書簡に署名した科学者は34カ国に及ぶ。この書簡は最先端AIモデルについては当初、外部のネットワークから物理的に隔離し、独立した監督の対象とすべきだと主張。業界による自主的な取り組みだけでは不十分だとの見解を示した。
またサイバー能力を持つAIモデルの開発または実験を手掛ける組織は、政府がより正式な監督体制の構築に取り組んでいる間に、信頼性が高い規制基準を即時適用すべきだと提唱している。
ヒントン氏とベンジオ氏は、同じくAI研究の第一人者である米メタ・プラットフォームズ のヤン・ルカン氏とともに、コンピューター科学の栄えある賞「チューリング賞」を2018年に受けた。ルカン氏はこの公開書簡に署名しておらず、最近起きているセキュリティー上の問題は、AIがもたらす重大なリスクというよりも、技術的な失敗が主因だと主張している。
米アンソロピックとオープンAI、グーグル、メタ、xAI、エヌビディア のAI関連企業6社は9月、AI開発で自主的な安全対策を実施することで米政府と合意していた。