秋元通信

自動運転最大の課題…かもしれない「トロッコ問題」を知る

  • 2019.10.30

先日、山口県の小学校と中学校で、「トロッコ問題」を題材とした授業があり、物議を醸しています。
学校側は、「選択に困ったり、不安を感じたりした場合に、周りに助けを求めることの大切さを知ってもらうのが狙い」と授業の意図を説明していますが、保護者からは、不安の声も上がっているとのこと。
 
実は、トロッコ問題は、自動車の自動運転においても、とても大きな課題となっています。
今回は、このトロッコ問題について考えましょう。
 
 

トロッコ問題とは

 
線路を走っているトロッコ(※実は、手押し車のような簡易鉄道車両ではなく、路面電車のこと)が制御不能になったとします。
 
このままだと、前方で作業中の5名が、逃げることもできず轢き殺されてしまいます。
 
あなたは線路の分岐地点にいて、目の前に分岐器(※トロッコの行き先を変更できる装置)があります。あなたが、分岐器を操作し、別路線にトロッコを誘導すれば、5人の命は助かります。
 
しかし…
別路線でも、作業員1名が作業しており、あなたが分岐器を操作、別路線にトロッコを誘導すると、その1名は確実に死にます。
 
さて、あなたは、どうするべきでしょうか?
(※なお、分岐器を操作する以外のいかなる救出方法、選択は存在しないものとします)
 
 
トロッコ問題は、とても残酷な思考実験です。
 
5名と1名の命の価値を、どう考えるのか?
ある人を助けるために、犠牲を出すことは許されるのか?
 
人の根源に関わる、倫理観や道徳観が試される思考実験なのです。
 
 

トロッコ問題を、多くの人はどう考えるのか?

 
トロッコ問題については、多くの研究機関が、さまざまな人にアンケートを取っています。
その中から、マサチューセッツ工科大学(MIT)メディアラボの研究チームが発表した統計データをご紹介しましょう。
 
MITでは、まず、トロッコ問題を派生させた13のバリエーション問題を用意し、「Moral Machine」と題して、Web上で公開しました。いずれも、誰かの死が避けられない状況を設定した思考実験です。
「Moral Machine」には、英語版だけでなく、アラビア語、中国語、フランス語、ドイツ語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語の計10言語が用意されました。18ヶ月の間に集まった回答は、233の国と地域に住む4,000万人近くになったそうです。
 
では、「Moral Machine」によるトロッコ問題の調査結果の一部をご紹介しましょう。
 
研究では、以下の各項目に着目し、人々が犠牲者と生存者を選択する基準を考察しました。
 

  • 生存者と犠牲者の数
  • 性別
  • 年齢(乳幼児/子供/大人/高齢者)
  • 種(人間/犬/猫)
  • 健康状態(アスリート体型/肥満体型)
  • 社会的地位(会社経営者/医師/ホームレス/犯罪者)
  • 搭乗者と歩行者どちらを優先するか
  • 交通規則の順守を重視するか
  • 介入する傾向の強弱(クルマの進路を変えるか、何もしないか)

 
年齢、性別、居住国の違いによらず、「ペットよりも人間を」、「少人数よりは多人数を」救う傾向が高いことが分かりました。
 
興味深いのは、世界をみっつのグループに分け分析した結果、もしくは国ごとに傾向を診たものです。
 
グループ1:
北米ヨーロッパ諸国など、歴史的にキリスト教が支配的な宗教であったグループ
 
グループ2:
日本、インドネシア、パキスタンなど、儒教やイスラム教の伝統を継ぐグループ
 
グループ3:
中央アメリカと南アメリカ、およびフランスと旧フランスの植民地
 
グループ1では、グループ2に比べ、若者を救うためには、高齢者を犠牲にする傾向が見られたそうです。
一方で、グループ内で、性別、年齢、学歴などでフィルタリングしても、その傾向にあまり違いはなかったそうです。
 
国別の傾向も診ましょう。
 
治安が良く、経済的にも恵まれた、日本やフィンランドでは、信号無視をしている歩行者を「死んでも仕方がない」と考える傾向が、政府機関などの力が弱いナイジェリアやパキスタンよりも強いようです。
 
貧富の差と生存者/犠牲者の関係については、所得格差の小さいフィンランドでは、社会的地位と生存者/犠牲者の選択に相関関係は少なかったものの、大きな貧富の差があるコロンビアのような国では、ホームレスや犯罪者を犠牲者に選ぶ傾向が強かったそうです。
 
フランスは、高齢者よりも若者を助けようとする傾向が強く、逆に儒教的思想の強い台湾、中国、韓国では、高齢者を助けようとする傾向が強かったそうです。
 
また、中国やエストニアでは、歩行者よりもクルマに乗っている人を助けようとする傾向が強かったとのこと。
 
日本の傾向を診ましょう。
 

  • 日本は、生存者の数を判断材料にしない傾向が強い。
    (「何人助けるか?」よりも「誰を助けるか?」を重視する)
  • 日本は、歩行者を助ける傾向が、もっとも強い。
    (2位はノルウェー、3位はシンガポール)
  • 日本は、介入を避ける傾向が平均よりもかなり高い。

 
MITの研究者は、日本を「世界で最も功利主義的でない国」と評したそうですが。
これはどうなんでしょうね….
 
 

トロッコ問題を、小学生、中学生に出題してはいけない理由

 
そもそも、トロッコ問題とは、出題者のためのものです。
 
これは、例えば算数のような、一般的に学校で行われるカリキュラムと大きな違いです。算数のテストは、出題者である先生のために行われるのではなく、児童のために行われます。児童は、算数のテストを解くことで、新たな知見を得るわけです。
 
対して、トロッコ問題は、出題者が回答者の反応を観察し、研究するためのものです。根本的に違います。

なぜ、問題の先生方は、小学生や中学生相手に、トロッコ問題なんてゲテモノ(とあえて言いましょう)を授業で取り上げたのでしょうね。
 
「選択に困ったり、不安を感じたりした場合に、周りに助けを求めることの大切さを知ってもらうのが狙い」なのであれば、トロッコ問題ではなく、以下のように人の生死を問わない問題だって考えられるわけですが。
 

絶対的な「正しい答え」が存在しない設問の例:
 
太郎くんと花子ちゃんという兄弟がいます。
今日は、花子ちゃんの誕生日です。
花子ちゃんはチーズケーキが好きだけど、太郎君はチーズケーキが食べられません。太郎君はいちごのショートケーキが好きだけど、花子ちゃんはショートケーキが食べられません。
モンブランならば二人とも食べられるけど、そのために誕生日はいつもモンブランばかり食べさせられるので、ふたりはモンブランにすっかり飽きてしまいました。
 
花子ちゃんは、「私の誕生日だからショートケーキが食べたい」と言い出しました。
どうすれば良いのでしょう?

 
 
これはこれで、物議を醸しそうな設問でありますが。
トロッコ問題よりは、はるかにマシです。
 
 

自動運転におけるトロッコ問題とその解決策

 
例えば、自動車を運転している際、急に歩行者が飛び出してきたとします。
歩道側にハンドルを切れば飛び出した歩行者を助けられるものの、そこには散歩中の幼稚園児たちがいるとしたら…?
 
トロッコ問題は、単なる思考実験であって、しかも人を不愉快で不快な気持ちにさせるだけの愚かな問いかけであって、現実的には意味がないと考える研究者もいます。
なぜならば、このようなケースにおいて、ドライバーがとっさに選択できる行動は論理思考に基づいたものではなく、パニックの結果としての動作である可能性が極めて高いからです。
 
パニックになり、歩道の園児たちに気が付かず、歩道側にハンドルを切ってしまうのか?
それとも、何もできず、飛び出した歩行者を轢いてしまうのか?
 
ただし、自動運転車は(もしくは、搭載されたコンピューターは)、人間のようなパニックは起こさないでしょう。
各種センサーテクノロジーの発達により、人間では不可能なレベルの、極めて短時間の瞬間に、判断を下すことが可能かもしれません。
 
従って、自動運転車の脳であるコンピューターには、トロッコ問題のような場合にどのように判断するのかを、あらかじめルールとしてインプットしておく必要があるわけです。
 
これは、とても重たい課題です。
 
安倍内閣は、2020年、つまり来年には自動運転を実現すると公約しました。ただし、公約した自動運転はレベル3。いざと言うときには、人が運転を代わる必要があるレベルのものであり、完全自動運転ではありません。
 
では、完全自動運転は、いつ実現するのでしょうか。
レーザー(LiDAR)や赤外線センサー、カメラなどの、センサー技術は、日々進歩しており、現実的な低価格で自動運転に必要な各種センサーを市販車に搭載できる日も、そう遠くはないでしょう。
 
しかし、トロッコ問題に関するジレンマを、どのように自動運転車のプログラムに実装するのか?
自動運転車における行動ルールとしての道徳観を、どのように定めるのか?
 
もしかすると、自動運転車実現に向けた最大のハードルは、技術ではなく、倫理であり道徳上の課題なのかも知れません。
 
現時点では、GoogleやUberなど、自動運転車のリーディングカンパニーたちも、トロッコ問題に対し、明確な解答を持ち合わせていません。
 
ただし。
これ、答えを出して良いのでしょうかね?
 
人は、人の命を奪うという選択に対し、常に慎重であるべきです。
だから、死刑の是非などが議論され、日本のように死刑制度を継続している国は、諸外国から非難されているわけですが。
 
皆さまは、どのようにお考えになりますか?
 
 
 

参考

 
『トロッコ問題』(Wikipedia)
 
『自律走行車は誰を犠牲にすればいいのか? “トロッコ問題”を巡る新しい課題』(WIRED)
 
Self-driving car dilemmas reveal that moral choices are not universal』(nature)
 
 
 


関連記事

■数値や単位を入力してください。
■変換結果
■数値や単位を入力してください。
■変換結果