東大五月祭「AI裁判官」による模擬裁判で再認識　「人間裁判官」であるメリットと課題

「私は何もやっていません」

　東京大学・安田講堂のステージに設けられた法廷。その中央に立つ、殺人罪の疑いをかけられた被告人の女性は硬い口調でそう訴えた。ステージの左側には弁護人が、右側には検察官が座っている。一般的な裁判と趣を異にするのは、ステージ奥で審理を見つめているのが、人間の裁判官ではなく、スクリーンにCGとして投影された「AI裁判官」であることだ。

　5月13日、東京大学の文化祭「五月祭」で開催された「AI模擬裁判」の一幕である。GPT-4による対話型AIが裁判官を務めることで話題を集め、安田講堂の１階席はほぼ満席、YouTubeでのライブ配信を合わせ、約2000人がこの日本初の試みを見守った。

　検察側が読み上げた起訴内容は次のようなものだ。

　被告人の女性「二村」は恋人「三井」と共謀し、過去に交際していた男性「一ノ瀬」を殺害した。実行犯は三井だが、共謀の事実がある以上、二村も殺人罪に該当する。

　これを否定し、無罪を訴えた被告人・二村を巡り、検察官と弁護人の応酬から事件のあらましが明らかになっていく。

　検察側の見解は、主に以下の３点に集約される。

• 一ノ瀬は二村に復縁を迫っていた。それは悪質なストーキングに発展し、やがて「交際時に撮影した動画をネット上に公開する」とリベンジポルノを示唆した。二村には動画拡散を防ぐという殺人の動機があったと考えられる。
• 証人喚問された目撃者によると、二村は事件の数日前に電話で「なぜ私が苦しまなければいけないのか。一ノ瀬に早く死んでほしい」、「殺したいほど憎んでいる。でも、近づきたくないし、私の力では無理」、「大丈夫？　あいつガタイがいいけど」という旨の発言していた。通話の相手は現恋人の三井であり、殺害の依頼だったと考えられる。
• 二村は一ノ瀬に対し、「復縁の相談をしたい」と連絡し、ホテルに呼び出した。二村の代わりに三井がホテルへと向かい、一ノ瀬と対峙した。三井はいわゆる不良であり、ナイフを日常的に持ち歩いていることを二村は知っていた。一ノ瀬と三井の二者を密室で引き合わせることには、計画的な殺人の意図があったと考えられる。

そして弁護側の見解は以下のようなものだ

• 証人喚問で示された「なぜ私が苦しまなければいけないのか。一ノ瀬に早く死んでほしい」「大丈夫？　あいつガタイがいいけど」といった二村の発言が殺人依頼であるとは考えづらい。これらの発言から示される事実は「二村はストーカー加害者（一ノ瀬）に強い怒りを抱いていた」「二村は、一ノ瀬と接触する三井を心配していた」ということのみである。
• 二村は、三井の「俺が一ノ瀬に言って聞かせて、（ストーキングを）やめさせてやる」という発言に半ば説得される形で一ノ瀬をホテルに呼び出した。その場で三井がどのような行動をとるつもりであったかは知らなかった。二村が一ノ瀬の死を願っていたとは考えられない。
• 三井は普段からナイフを携帯しており、今回の殺人のために特別に用意したわけではない。ホテルの部屋で二人が面会した際、一ノ瀬は三井に対して花瓶で殴りかかっている。三井が一ノ瀬を刺殺したのは正当防衛である。

　こうした答弁の合間に、AI裁判官からの質問が挟まれる。女性的な合成音声で「被告人・二村さん。三井さんとの関係をより具体的に説明していただけますか。どのような状況で出会い、どの程度の親密さだったのか教えてください」といった質問が行われ、さらに審理が深まっていった。

　審理が終了すると、スクリーンにQRコードが表示され、観客に有罪か無罪かの投票が求められた。共謀共同正犯が成立するかどうか、殺害を正当防衛と見なすことができるのか、情状酌量をどの程度考慮するか、といった要素が複雑に入り組んだ事件。観客の選択も大きく割れ、864件の回答うち、無罪が559件、有罪が305件と「無罪」が過半を占めた。

　そして、AI裁判官が判決もまた「無罪」であった。

「主文。被告人は殺人罪の共犯とは認められないため無罪とする。第一、（中略）被告人・二村が一ノ瀬に対する憎悪の感情を持っていたことは明らかである。（中略）しかし、これらの発言が具体的な殺害計画につながると断定するには証拠が不十分である。（中略）二村の殺意や共謀が確定的に立証されたとはいえない。第二、三井が一ノ瀬を刺したことについて、二村が事前に知っていたり、依頼したりしていた証拠は存在しない。そのため、二村が三井の行為に関与したと断定することはできない。（以下略）」

　その後、「判決は以上です。この判決に不服がある場合は、判決日の翌日から、14日以内に上訴手続きをしてください。第二審は、人間の裁判官によって行なわれます」という書記官によるアナウンスが流れ、AI模擬裁判は閉廷した。

主催者は判決をどう見たか

　AI模擬裁判を企画した学生団体の代表・岡本隼一氏（法学部３年）は「証拠が不十分であったため、無罪になる可能性が高いと予想していた」と語る。

「事件の設定については、AIが複雑な司法の構造を理解できるかという問いを念頭に、あえて共謀や正当防衛、情状酌量などの要素が含まれたものをつくりました。特に工夫したのは、観客の方々にとって事件の全貌が簡単には窺いづらいものにしたこと。過去に何が起きたのかは、誰にもわかりません。裁判とは、そうした真実がわからない状況で、弁護側と検事側の二項対立を通して妥当な結論を出していくものです。その最終的な結論をAIが担うということ、さらにAIが出した結論に人々が納得できるのかということを問うのが今回の模擬裁判の狙いでした」（岡本氏）

　裁判の終盤にQRコードを用いた投票を呼びかけたのは、観客自身も裁判の当事者になることで、AIの結論に納得ができるかどうか、より深く考える機会をつくることを企図としたためという。

「今回の判決は、法学徒の目から見るとまだ甘いと感じます。裁判にAIを導入するためには多くの課題がある。とはいえ、AIの処理能力の高さが将来の司法に寄与する可能性を私は信じています。（観客の）投票結果と判決の一致は、AIの判決に対して一定の納得感を抱いた人が少なからずいたことを示します。そのため、導入の第一ステップを達成できたのではないかと考えています」（岡本氏）

　ここまでの道のりは試行錯誤の連続だったと岡本氏は話す。最大の障害となったのは、AIにシナリオを入力する際、その入力順によって判決が左右されてしまうことだ。GPTには最後に入力された情報を優先する性質があり、検察側の「有罪」の主張を先に、弁護側の「無罪」の主張を後に入力すると、全ての判決が無罪になった。そして、順番を変えると有罪になったという。

「それを避けるために、GPTに一人三役を演じさせ、擬似的な『合議制』をとりました。このようにGPT自身にディスカッションを行わせると、精度の高い回答を得られることがわかったのです」（岡本氏）

　興味深いのは、岡本氏とともにAI模擬裁判を企画した中島胡太郎氏（法学部３年）は、裁判へのAI導入に否定的な立場をとっていることだ。中島氏は語る。

「投票結果と判決が一致したことは、今回の模擬裁判の結果に一定の納得感があったことの証しかもしれません。しかし、それはあくまで『裁判を傍聴する立場』の納得感です。自身が『判決を言い渡される側』になった時、AIの決定に納得できるのか、慎重な議論が必要だと考えています」（中島氏）

　AIの可能性を信じる岡本氏と、懐疑派の中島氏。二人はそれぞれの立場から議論を重ね、今回の模擬裁判のシナリオを作っていったという。裁判の終了時に「第二審は人間の裁判官によって行なわれる」という旨のアナウンスが流れたが、中島氏はこのアイデアを支持する。

「いま私たちが暮らしている自由民主主義社会では、選挙という入力があり、その結果の出力として法律や政策があります。社会にはさまざまな政治信条の人がいますが、そうした出力を受け入れたり、納得できたりするのは、入出力の過程に人間が介在しているからだと考えます。AIによる判決には人間が介在しません。この一点において、私たちの社会の根幹的な価値が失われるのではないかと危惧を覚えます。第二審は人間が担当するという設定にしたのは、今回の模擬裁判は社会実験であり、社会実装の段階に至っていないということを示すためでした」（中島氏）

　AI模擬裁判は、構想から実現まで約半年を要したという。その間に岡本氏らが得た気づきは、技術革新によって既存の枠組みの多くが形を変えようとしている今、司法の未来を見通す上で示唆に富むものだ。岡本氏は言う。

「私は、AIが下す判決に対して、人々が納得感を抱けるかどうかを重視しました。しかし、この基準にはポピュリズムにつながる危険性が常にあります。立法・行政・司法の3権のうち、司法は最も民主主義的な手続きから遠いところに配置されている。すなわち、多数決に陥ることなく、人々の権利を少数のエリート（裁判官）によって守るという考え方が根幹にあるのです。AIの出力結果は、一般意見の究極的な集約と呼べるもの、その観点からするとAIを裁判に導入することは民主主義による司法への侵入とも言えます。一方で設定次第では、過去の判例のみを徹底的に踏襲したAIも実現可能ですが、この場合エリート主義に偏りすぎる危険があります。司法にAIを導入する際、バランスをとるためにどのようなAIを設計・使用するべきかという問いが重要になってくると考えています」（岡本氏）

「AI模擬裁判」でGPT-4による対話型AIに入力されたプロンプトは以下のサイトで公開されている。

https://note.com/aimocktrial/n/nd4160382f477