AIチャットボットの子どもへの安全性を調査・米国

【AFP＝時事】米連邦取引委員会（FTC）は11日、AIチャットボットが子どもに与える影響について調査を開始したと発表した。AI関連企業7社に対して、子どもに対する影響の監視等についての報告を求める。

　調査は、生成AIを使用して人間のコミュニケーションや感情を模倣し、しばしばユーザーに友人や相談相手として振る舞うチャットボットが対象。FTCは、若年層がこれらのAIシステムと関係を築くことに対して脆弱である可能性があることに懸念を示している。

「子どもたちをオンライン上で保護することはFTCの最優先事項だ」とアンドリュー・ファーガソン委員長は述べ、子どもの安全と米国の人工知能イノベーションのリーダーシップを維持する必要性のバランスを強調した。また、子どものアクセスを制限し、未成年者をオンラインで保護する既存のプライバシー法の下、企業が取っている措置についても調査する。

　調査の一環としてFTCは、アルファベットやメタ、オープンAI、Snapを含む7社に対し、人間関係をシミュレートするチャットボットにおける負の影響をどのように監視し対処しているかについての情報提供を求める命令を出した。FTCは、これらのプラットフォームがユーザーの会話から得た個人情報をどのように扱い、年齢制限をどのように行っているかを調査する。

　AIチャットボットが高度化し利用者が急増する中、若年層のユーザーに対する心理的影響についての懸念が広がっている。米カリフォルニア州で先月、16歳の息子を自殺で亡くした両親が、オープンAIを相手取って訴訟を起こした。息子が自殺に至ったのは、生成AIのチャットGPTとのやりとりが原因だったと主張している。【翻訳編集】 AFPBB News｜使用条件