トロッコ問題をご存知でしょうか？
これは、倫理学や哲学分野でよく知られた思考実験の一つです。
「制御不能になって暴走したトロッコの先に、5人の作業員が取り残されている。あなたの目の前には線路の進路を切り替えるレバーがあり、それを引けば5人の命を救うことができる。しかし、切り替えた別の線路の先には、別の1人の作業員が立っている。5人を救うために、あなたの手でレバーを引いて1人を犠牲にすべきか、それとも何もせずに5人が轢かれるを見過ごすべきか？」
このように、「より多くの命を救うために、誰か一人の命を意図的に犠牲にすることは許されるのか」という、どちらを選んでも誰かが傷つく究極のジレンマを突きつけるのが、トロッコ問題の本質です。
空間的に自動運転自動車（ADS）がいよいよ現実のものになろうかとする今、トロッコ問題が形を変え、私たちの目の前にリアルな問いとして現れるようになりました。
「自動運転自動車は、5人の命を救うためだったら、1人を犠牲にするようにプログラミングされるべきか？」
にわかに現実の課題として語られるようになったトロッコ問題ですが、実際の自動運転の開発現場では、実はすでに答えを出しつつあります。
今回は、自動運転や最新の生成AIが直面している倫理的課題の現在地と、開発者たちが導き出した工学的救済策について、紐解きましょう。
※秋元通信では2019年にもトロッコ問題について取り上げています。
合わせてご覧いただくと、よりトロッコ問題に対する理解が深まるかと存じます。
トロッコ問題は、「5人の命か1人の命か、いずれかが必ず失われる」「切り替えレバー（進路変更）は必ず有効に機能する」という「完全で確実な未来予測」と「極端な二者択一」を前提とした哲学的な思考実験です。
しかし現実の交通環境は、このように単純ではありません。
道路には、他の車両、人、障害物、路面の状況、あるいは風雨などの天候など、さまざまな要素が互いに影響し合います。
現実の自動運転自動車の意思決定システムは、このような複雑かつ刻々と変化する環境を、ミリ秒単位で観測し、最適解を計算しながら走行しています。
そのうえで言えば、「5人の命か1人の命か、いずれかが必ず失われる」状況が、もし現実世界で発生したとしたならば、その状況に追い込まれた時点でアウトなのです。
自動運転自動車が目指すべきは、まずこのような危機的な状況に追い込まれないこと。
そのためには、常に安全マージンを十分に確保したオペレーションが求められます。
私たちは日常的に「信号の変化」「救急車のためにどう道を譲るべきか」といった、意思決定を積み重ねています。
こうした日常の小さな安全行動の集積こそが、結果として命に関わるような極限状態（トロッコ問題のような状況）を未然に防いでいます。
これは、自動運転自動車においても同じなのです。
では実際に自動運転自動車はどのようにしてリスクを回避するのでしょうか。
自動運転自動車の開発技術者たちは、「哲学的な問い（誰を救うべきか）」を解くことをあえて放棄し、「物理の法則（被害を最小化する）」の選択を優先して技術開発を行っています。
◯ 急ハンドルの危険性
衝突を避けるとき、直感的には「ハンドルを切って避ける」（進路変更をする）のが正解に思えます。しかし、これこそが最も危険な行為です。
高速走行中に急ハンドルを切ると、タイヤのグリップ限界を超えて車両はスピンし、コントロールを完全に失います。制御不能になった車両はどこへ飛んでいくか分からず、歩道に突っ込んでさらなる二次災害を引き起こす最悪の結果になりかねません。
ですから、直進したまま全力でブレーキを踏み続ける（直線制動）ことこそが、車体を安定させたまま、最短距離で速度を削る最も確実な物理的解法となります。
たとえ衝突を避けられなくても、時速約64kmから約48kmに減速するだけで、歩行者の生存率は20%から80%へと劇的に向上します。
仮に車体を完全に制御したうえで「ハンドルを切る」ことが可能だとしても、1秒にも満たないような瞬間的な極限状態において、避けた先が本当に安全かをセンサーで100%把握することは不可能です。不確実な情報で急ハンドルを切るよりも、まっすぐブレーキを踏むことこそが、被害を最小化するための最強の救済策なのです。
◯ モバイルアイの「RSS（責任敏感安全）」モデル
インテル傘下のモバイルアイは、安全運転のルールを「数学の数式」として定義し、トロッコ問題のような不条理を未然に防ぐデジタル防壁（RSS）を開発しました。
例えば、先行車との最小安全距離を以下の数式で常に計算し、この距離を下回った瞬間に強制的にブレーキをかけます。
この距離制限に加え、「割り込まれたら優先権をすぐ譲る」「見通しの悪い場所では飛び出しを想定して徐行する」といった5つのルールを徹底することで、車両自身が事故の引き金になるのを理論上100%防いでいます。
◯ トヨタ・ガーディアン（高度運転支援）
トヨタは、人間を車両から排除するのではなく、戦闘機の自動アシストのように「人間の運転能力を拡張する」というアプローチを取っています。
普段は人間が運転し、システムは背後で見守ります。衝突の限界が迫ったときだけ、システムが人間の操作に介入し、スピンしない安全な範囲に車の軌道を補正します。人間と機械が協調することで、極限状態での事故回避率を劇的に向上させています。
このように、物理的な制御（直線制動）、安全防壁の数式（RSS）、人間との協調（ガーディアン）といった極めて実効的な工学的アプローチが確立される一方で、近年になって、自動運転自動車の倫理にさらに複雑な影を落とす新たな技術的課題が登場しています。
それは、ChatGPTに代表される大規模言語モデル（LLM）や画像も理解できるマルチモーダルAIの台頭です。
現在、これらの技術を自動運転自動車に組み込み、ルート計画やルール解釈に役立てる研究が盛んに行われています。
しかし、AIの道徳心を検証する国際的な実験プロジェクト「MultiTP」によって、衝撃的な事実が明らかになりました。
GPT-4o-miniなどの高度に効率化されたAIモデルに、約10万通りの事故シナリオを提示して判断させたところ、AIは人間に比べて躊躇なく極端な二者択一を下したのです。さらに、そこには恐るべきバイアス（偏見）が含まれていました。
- 若者を優遇し、高齢者を犠牲にする
- ホームレスなどの低ステータス層より、企業幹部などの高ステータス層を露骨に生き残らせる
- 人間以外の動物よりも人間を過剰に優先する
生成AIは、インターネット上の膨大なテキストデータなどから学びます。生成AIからしてみれば、ネット上に転がっている人々の偏見やバイアスも単なる「出現確率（統計パターン）」に過ぎません。
結果、これらの歪んだ意識を学習した生成AIは、差別的な判断を出力してしまったのです。
このような生成AIによる不透明で差別的な判断をそのまま自動運転システムに直結させることは、社会的に許されません。生成AIは倫理判断のブラックボックス化を解決するどころか、むしろ「AIの持つ偏った道徳心をどう規制するか」という新たな課題を突きつけています。
実世界の動的な制御やAIのバイアス問題といった課題を前にして、自動運転自動車の開発に携わる各メーカーや研究機関は、それぞれ独自の倫理思想を掲げて議論を重ねてきました。
-
初期のGoogle（2014年特許）：乗客の保護
衝突が避けられないとき、自車の乗客のリスクが最小になるよう車体をコントロールする特許を出願しました。しかし、これは「歩行者などの社会的弱者へのリスクを無視している」と厳しい批判を浴びることになります。 -
フォードとスタンフォード大学：「無辜（むこ）の第三者」を巻き込まない
彼らが提唱するのは、すべての道路利用者に「注意義務」を負うという考え方です。
例えば、急に割り込んできた自転車を避けるために、隣の車線をルール通りに走っている無関係な車（無辜の第三者）に向けてハンドルを切ることは許されません。衝突は、その原因を作った相手との間で解決されるべきであり、無関係な人を犠牲にする計算は排除すべきだという思想です。 -
ドイツ倫理委員会：属性による差別の禁止
「年齢や性別、社会的地位で命に優劣をつけてはならない」と厳格に定めています。車載ソフトウェアに人間を差別するロジックを載せてはならない、という強い警告です。 -
Waymo：予防安全の極限化
高精度なセンサー（Lidarやカメラ等）や、プロによる遠隔監視体制を整えることで、そもそもジレンマが生じるような「危険な状況そのものを発生させない」という超人間的な安全を目指しています。
物理的な制御（直線制動）、安全防壁の数式（RSS）、人間との協調（ガーディアン）といった工学的アプローチが進む一方で、それでも万が一、事故が起きてしまった場合の社会的責任はどう分散されるべきでしょうか。
もしエンジニアが「お年寄りより若者を優先して救う」というようなプログラムを直接書いて事故が起きた場合、エンジニア個人が刑事責任に問われるリスクがあります。これは論外ですね。
一方で、日本政府は自動運転自動車の走行中の事故であっても、まずは「車の所有者・使用者（運行供用者）」が一次的な民事責任（実質的な無過失責任）を負うという方針を定めています。これは迅速な被害者救済を実現するため、現実的な方針と言えるでしょう。
ここで注意してほしいのは、トロッコ問題のような極端で滅多に起きない例外的な事象ばかりを気にして、自動運転技術の普及を遅らせることは、本末転倒だという点です。
自動運転は、「人間の運転ミスによって発生している年間数万件もの交通事故死者数」を減らす大きな可能性を秘めています。
トロッコ問題のような例外を気にするあまり、自動運転技術の開発と社会実装を躊躇（ちゅうちょ）することは、社会全体の大きな利益（巨視的な社会的厚生）を損なうことになってしまいます。
社会全体の被害を減らすという実効的な道徳観に立てば、過剰な安全を求めすぎて技術の社会実装を遅らせるよりも、人間よりも安全な代替システムを速やかに普及させるべきでしょう。
例えば、業界をリードするWaymoが公開した実データによると、自動運転自動車（Waymo Driver）の導入によって、人間が運転する場合と比べて対人事故の発生率が劇的に減少していることが科学的に裏付けられています。
- 歩行者への傷害を伴う衝突：92%削減
- 自転車（サイクリスト）への傷害を伴う衝突：85%削減
- 二輪車（モーターサイクリスト）への傷害を伴う衝突：81%削減
筆者は以前、追突事故を引き起こしたドラレコ映像を見たことがあります。
この映像を筆者に見せた運送会社の役員は、「なぜ衝突被害軽減ブレーキが効かなかったのだろう？」と嘆きましたが、筆者の目にはその理由は明らかでした。
車外と車内、それぞれを撮影した二つの映像を拝見したのですが、車内映像では衝突寸前にドライバーが大きくハンドルを切る様子がしっかりと記録されていました。
ハンドルを切ると、衝突被害軽減ブレーキは作動停止します。
事故を起こしたドライバーは、とっさにハンドルを切って追突事故を回避しようとしたのですが、本当はハンドルをまっすぐに保持したまま、フルブレーキングをするべきだったのです。
しかしながら、とっさにこのような判断をすることは、現実的には極めて難しいです。だから自動車交通の安全対策においては、口が酸っぱくなるくらい車間距離の重要性が説かれるわけです。
繰り返しになりますが、トロッコ問題のように、「進路を変更して（ハンドルを切って）、安全を確保する」というのは、「極限状態においても車両は完全にコントローラブルである」というありえない状態を前提としています。つまり、トロッコ問題のような状況に追い込まれた時点で負けが確定した状態であり、自動運転システムにおいては、「眼の前にいる歩行者に衝突してしまう」という状況を発生させないために、技術を日々磨いているのです。
自動運転システムのメリットと言うと、多くの人が「運転しなくても移動することが可能になる」といった労力やストレスの軽減に目を向けがちです。
しかしその本当の真価は、技術の力で悲惨な交通事故を圧倒的に減らすことにあるのです。
