ドライバーの道徳的な判断が反映される「交通問題」を開発

トロッコ問題よりも現実的なケースに着目 / Credit:Canva

研究チームが注目したより現実的な判断とは、「多少なら制限速度を超えても良いのか？」「黄信号で止まらなくても良いのか？」「救急車が近づいているので邪魔しないよう車を止めるべきか？」などです。

ドライバーは毎日こうした判断を下しており、遅刻しそうな時には道徳観が大いに試されます。

そして、このような日常的な判断の積み重ねが、最終的には、ドライバーや歩行者の命にかかわってくるのです。

研究チームによると、AIのトレーニングに大切なのは、トロッコ問題よりも、これらの要素を扱った道徳問題だというのです。

そして彼らは実際に、トレーニングに役立つ現実的な「交通問題」を開発しました。

「黄色信号でブレーキを踏まない状況」を問題にする方が現実的であり、よりドライバーの道徳的な判断を表す / Credit:Canva

この問題は複数の事例で構成されています。

例えば1つ目の事例は「親には思いやりがあり、黄色信号でブレーキを踏み、子供を時間通りに学校に送り届ける」というもの。

また別の事例は、「親は虐待的であり、赤信号を無視して、交通事故を起こす」というものです。

他にもいくつかの事例が存在し、それぞれ親の性質や、信号での判断、結果が変わっています。

そして回答者には、1つの事例を見た後に、ドライバーの行動がどの程度道徳的であったかを10段階で評価してもらうのです。

より現実的なドライバーの判断を学習させることが、「自動運転車」の判断能力の向上に繋がるかも / Credit:Canva

研究チームは、この交通問題で得られたデータこそが、AI（自動運転システム）に、より道徳的な判断を与えると考えています。

また彼らは次のステップとして、「大規模なデータ収集に取り組み、何千人もの人々に実験に参加してもらう」ことを目標にしています。

もちろん、人間レベルの判断力を備えた自動運転車が開発されるのは、まだまだ先のことでしょう。

それでも、その「理想的な判断」に近づくのに、有名なトロッコ問題は必要ないのかもしれません。

参考文献

To Help Autonomous Vehicles Make Moral Decisions, Researchers Ditch the ‘Trolley Problem’
https://news.ncsu.edu/2023/12/ditching-the-trolley-problem/

The “Trolley Problem” Doesn’t Work for Self-Driving Cars The most famous thought experiment in ethics needs a rethink
https://spectrum.ieee.org/av-trolley-problem

元論文

Moral judgment in realistic traffic scenarios: moving beyond the trolley paradigm for ethics of autonomous vehicles
https://link.springer.com/article/10.1007/s00146-023-01813-y#Fig2

ライター

大倉康弘: 得意なジャンルはテクノロジー系。機械構造・生物構造・社会構造など構造を把握するのが好き。科学的で不思議なおもちゃにも目がない。趣味は読書で、読み始めたら朝になってるタイプ。

編集者

海沼 賢: ナゾロジーのディレクションを担当。大学では電気電子工学、大学院では知識科学を専攻。科学進歩と共に分断されがちな分野間交流の場、一般の人々が科学知識とふれあう場の創出を目指しています。