自動運転車の前に立ちはだかる「トロッコ問題」　我々はどのようにプログラミングすべきなのか？【2chまとめ】ニュース速報嫌儲板

自動運転車の前に立ちはだかる「トロッコ問題」　我々はどのようにプログラミングすべきなのか？

開催中の東京モーターショーでは、自動運転自動車が話題だ。
自動運転自動車を実用化するためには、様々な法的問題を検討しなければならないが、その一つに、「トロッコ問題」というものがある。
トロッコ問題とは、線路を走るトロッコが制御不能で止まれなくなり、そのまま走ると線路の先の5人の作業員を轢いてしまうが、線路の分岐点で進路を変えると、その先の1人の作業員を轢いてしまうとき、進路を変えることが正しいか否か、といった思考実験だ。

これを自動運転自動車に応用すると、たとえば、道路が突然陥没し、ブレーキをかけても間に合わず、直進すれば穴に落ちて搭乗者が死んでしまうというときに、方向転換すれば助かるが、その先にいる5人の小学生を轢いてしまうという場合、自動車の人工知能はどちらを選択すべきか、という問題になる。
最近、この問題に関する海外の研究成果が報道された。仏トゥールーズ第一大学のJean-Francois Bonnefon心理学博士が率いる研究チームが数百人を対象に実施した調査結果によれば、被害者を最小限にするように全自動運転カーはプログラムされるべきという考えが支持された。
ただし、同博士は「自分自身は全自動運転カーに乗りたくないという意見がありました」と語ったそうである。

この問題を日本の刑法学の立場から考えると、緊急避難（刑法37条1項）の問題となる。
まず、自動運転ではなく、人間が運転していた場合、上記の事例でどうなるかを考えてみる。刑法37条1項は、「生じた害が避けようとした害の程度を超えなかった場合に限り、罰しない」と定めているから、穴に落ちて死ぬ搭乗者と、ハンドルを切った先でひき殺される歩行者の数の比較となり、後者が多ければ、緊急避難は成立しない（本当は法解釈上ややこしい議論があるのだけれど、割愛する）。
ただし、歩行者の被害の方が多かったとしても、法は「情状により、その刑を減軽し、又は免除することができる」と定めているから、具体的事情によっては、処罰されない可能性もある。例えば、あなたが産気づいた妻を乗せて病院に向かっているとき、赤の他人の小学生のために、妻と子どもを犠牲にできるか？と言った、よりシビアな問題になる。
次に、これを自動運転自動車に応用できるかを考えてみよう。
刑法学上の理論を単純に当てはめれば、「特定の危険回避措置を取らなかった場合に搭乗者が被る被害と、取った場合に通行人等が被る被害を比較し、後者の被害が少ない場合のみ、危険回避措置を取る」というプログラムを組むべし、という結論になる。
しかし、この結論はおそらく間違いだ。理由の第一は、彼我の被害予測を正確に行うことは、いかに人工知能が発達したとしても無理という、技術的な理由である。
第二は、そのようなプログラムを実装
http://hanamizukilaw.cocolog-nifty.com/blog/2015/11/post-cfa8.html

5 ：

：2015/11/04(水) 20:07:47.98 ID:949EEnqo0

日本だと自転車は車道禁止にしないと無理らしい

6 ：

：2015/11/04(水) 20:08:13.42 ID:O/9adC6Ka

将来的に自動運転を実装しなかったメーカーは生き残れなさそうだが
不完全なものを作って訴えられまくる恐ろしさで溜まったもんじゃないな

194 ：

：2015/11/05(木) 08:57:46.15 ID:S81k0MGI0

>>6
IoTですべての車などが情報発信するなら自動化もみえてくるが
いまのような一部の車だけ自動化ってのはかなりきついんだよな・・・
プログラム考えただけでもうんざりするレベル

7 ：

：2015/11/04(水) 20:08:45.00 ID:fKGr45Sg0

そう言う状況になったらマニュアル運転に切り替わる
そこからは自己責任ですってな

97 ：

：2015/11/04(水) 21:14:29.89 ID:aeg4Ur5V0

>>7
炸裂寸前の爆弾渡されるようなものか
迷惑極まりない

192 ：

：2015/11/05(木) 08:56:10.70 ID:/Lrq3K6V0

>>7
あとは頼んだやで
ほな…また…

9 ：

：2015/11/04(水) 20:09:39.47 ID:KC3PPfEO0

何人死ぬかは結果論だろ

12 ：

：2015/11/04(水) 20:11:41.97 ID:SpEsxwhX0

ついに自動車でも他国に勝てない日本が見れるのか
胸が熱くなるな
技術軽視ソフト軽視でやってきたツケがまわってきたか

13 ：

：2015/11/04(水) 20:12:21.28 ID:VFP/oFyN0

事故った場合誰に責任がいくの

16 ：

：2015/11/04(水) 20:13:46.04 ID:GQUMcezu0

誤作動起こして大量殺人起こした際の責任の所在

18 ：

：2015/11/04(水) 20:14:10.50 ID:Rrxml6so0

自動運転に文句言う人は無事故とか人間でも答えが出ない倫理問題に答えを出せとか
人間ができてないことを機械にやらせるべきだと言ってるけど

それは無理だろ

19 ：

：2015/11/04(水) 20:14:19.30 ID:4ZgPHEhwM

保険屋も大変やで

20 ：

：2015/11/04(水) 20:14:47.06 ID:SZWHUsLc0

マイケル危険です

23 ：

：2015/11/04(水) 20:15:43.92 ID:Ris8YFxZ0

穴に落ちて死ぬかどうかわからんだろ
事前にエアバッグ出すなりして被害を最小限にする処理を組み込めよ

26 ：

：2015/11/04(水) 20:16:11.82 ID:zGb4d/CYa

先ず日本の狭い道路だと車道を走ってる自転車で走行不能になりそうだな

28 ：

：2015/11/04(水) 20:17:43.83 ID:X3O7c1CE0

車載レーダーの高さじゃ落ちたら死ぬくらいの深さの陥没か判断できねーだろ

29 ：

：2015/11/04(水) 20:18:19.80 ID:gCwVIdmL0

車という凶器に乗っている搭乗者だけが勝手に死ぬべきである
通行人に関係は発生しない

34 ：

：2015/11/04(水) 20:21:48.59 ID:455bGnJ40

ブレーキかけて避けられないような障害物だったらそのまま突っ込めや
歩道に乗り上げるような回避するほうがおかしい

36 ：

：2015/11/04(水) 20:22:54.27 ID:wgm3jrGC0

トヨタの工場みたいに車両優先にすれば解決だな
轢かれたら交通を妨げたってことで損害賠償

38 ：

：2015/11/04(水) 20:24:42.26 ID:sreZ4kb10

また科学技術を無視した哲学者の妄言か

39 ：

：2015/11/04(水) 20:24:47.24 ID:I1/NdZ9Gp

そんな事より自動運転だとやっぱり制限速度を厳守して走るわけ？
前に自動がいたらすっげーイライラしそうだな

42 ：

：2015/11/04(水) 20:26:02.45 ID:P47BsarK0

運転手にパスしろよ

43 ：

：2015/11/04(水) 20:26:09.48 ID:DfZY0nBk0

自動運転って高速道路だけの話じゃないの？

44 ：

：2015/11/04(水) 20:26:10.42 ID:0ywfp9tE0

だから「21世紀の未来像」でも、
未来の自動運転車は透明なパイプでできた専用レーンの中を走っていたやん
それで解決することでもないけど、一般道を普通に走るのは無理だろ

46 ：

：2015/11/04(水) 20:28:02.53 ID:3zZ4oX8l0

高級車だけ何が何でも乗員守る制御になってそう

ってか自分が死ぬ選択されるなら自動運転なんか使わん

47 ：

：2015/11/04(水) 20:28:05.73 ID:CrcDXgxo0

事故をわざと起こして同乗者殺しますフラグだな
そもそもメーカーに責任がないシステムなんて誰も利用しないよ
コンピューターに殺されるだけじゃん

51 ：

：2015/11/04(水) 20:28:59.52 ID:Uqqgh/Zc0

エアバッグで全身包んどけば落ちても死なないじゃん

52 ：

：2015/11/04(水) 20:30:58.42 ID:BWgS6Kr90

老害を優先的に狙うシステムでいいだろ

55 ：

：2015/11/04(水) 20:33:10.04 ID:M8Z9BoLR0

上級国民だけ絶対に死なないような異常な動きをします

61 ：

：2015/11/04(水) 20:35:27.81 ID:mEVumhYNd

>>55
これ
どうせ上級国民仕様は特別なプログラムが入るんだろ

56 ：

：2015/11/04(水) 20:33:19.00 ID:mwE4zmFN0

ライントレーサーみたいにしてそこだけ走るようにすれば。
そこに人が立ってたら死刑で

57 ：

：2015/11/04(水) 20:33:22.21 ID:DjMlTT7Q0

自爆が一番犠牲が少ないと判断しました

58 ：

：2015/11/04(水) 20:33:38.42 ID:3zZ4oX8l0

自動運転が無理だと判断したら脱出装置作動して
シートごと上空に射出されるシステムにすればいいな

59 ：

：2015/11/04(水) 20:33:52.31 ID:f9/YQJj3K

今のAI技術的にそんな高度な判断する機能は求められてないでしょ
挙げられてる例では道路が陥没してようが真っ直ぐ突き進むように設定すればいい
そんで操作を手動に切り替える機能と後続に危険停止を促す機能を別につければ十分

62 ：

：2015/11/04(水) 20:36:14.20 ID:1PkxCFZL0

道路が陥没したら道路管理者の責任だろ
交通事故の原因の何割かは自動車か道路の欠陥

63 ：

：2015/11/04(水) 20:36:32.07 ID:5iH3PfEfM

は？上空に緊急回避しろよ
21世紀だぞ

64 ：

：2015/11/04(水) 20:37:16.83 ID:bHMPOvDO0

青矢印とか絶対無理だろ

66 ：

：2015/11/04(水) 20:38:18.72 ID:gla4cry00

こういう問題があるから日産のビデオのようにハンドルがなくなることはないだろうね

74 ：

：2015/11/04(水) 20:43:35.30 ID:3IvZc84W0

セレクター付けて、自爆するか他人を殺して助かるか、プログラムを運転者に選択させればいいな

80 ：

：2015/11/04(水) 20:48:55.63 ID:YMZ+n4qM0

そんな状況人間でも正解出せないだろ

82 ：

：2015/11/04(水) 20:49:09.94 ID:k413Zu5Od

急ブレーキで止まればいいだろアホか

85 ：

：2015/11/04(水) 20:53:03.85 ID:EAhTs18f0

免許って何だと思ってるんだ
デカい鉄の塊が高速で動くこと自体がこの社会にとって大きなリスクであり
自動車に乗る者がその責任の一切を被るべき、死ぬ覚悟で乗れ

87 ：

：2015/11/04(水) 20:55:15.62 ID:xwtltQZ6a

この場合は自動車と歩行者だと歩行者の安全最優先だから、車は穴に落ちて搭乗者は死ぬべきた。

89 ：

：2015/11/04(水) 21:00:38.62 ID:Bm0Ui6wH0

自動で安全な速度が保たれることを前提にしてぶつかっても搭乗者が死なないように設計すれば解決するのでは？

91 ：

：2015/11/04(水) 21:06:21.40 ID:lxtAqvBu0

これは交通システムか車が糞ってことじゃないのか

96 ：

：2015/11/04(水) 21:14:14.79 ID:3bRsDytv0

これで他人を殺した場合に自動運転車のメーカーがいちいち責任を負うことになるから実務上で考えると
「自分が死ぬか他人が死ぬかの選択の場面では常に自分が死ぬほうを選択することに異存ありません」
という書類にサインしないと自動運転の車には乗れないってことになると思うよ

99 ：

：2015/11/04(水) 21:19:08.54 ID:aeg4Ur5V0

>>96
AI「訴訟起こされたら面倒だしドライバーが死ぬように突っ込むか。確かこいつ独り身だし」
AIに切り捨てられる時代がくるのか

100 ：

：2015/11/04(水) 21:19:48.34 ID:3zZ4oX8l0

>>96
そんな棺桶に誰が高い金払って乗るんだよw
誤作動して死んだら洒落ならんなw

102 ：

：2015/11/04(水) 21:21:21.06 ID:Yf5PVvScp

アラート出してオートパイロットオフにすればいいじゃん
最終的な判断は機長がするもんだろ

113 ：

：2015/11/04(水) 21:45:54.11 ID:5vNgQTPU0

>>102
突然素早い判断が求められるなら普通に運転してるより危険じゃね

104 ：

：2015/11/04(水) 21:24:24.79 ID:03uAsyaua

これは哲学者じゃなくて保険屋に聞くべき問題

107 ：

：2015/11/04(水) 21:26:26.27 ID:TVrM+Bha0

陥没した所に落ちても死なない構造にすればいい

110 ：

：2015/11/04(水) 21:40:41.50 ID:mi2I8Jjf0

サイコロ振れよ

111 ：

：2015/11/04(水) 21:42:41.80 ID:KL9XFZ0kd

そういう状況になったらハンドル中央の巨大ボタンがせりだし、フロントガラスに「一撃！」の文字が投影される
押した瞬間大音響とともにレクサスマーク役物が落下すれば神回避で助かる

116 ：

：2015/11/04(水) 21:48:59.03 ID:LU7uqTovp

自動運転で1人殺したら犯罪者だが
100人殺したらそれは英雄だ

117 ：

：2015/11/04(水) 21:49:44.48 ID:vZfcAqQz0

そんな心配するより渋滞の首都高で自然に合流できるほどの自動運転を実現しろ

123 ：

：2015/11/04(水) 22:11:36.98 ID:ioZZAp6t0

空を飛んで緊急非難しろよ

125 ：

：2015/11/04(水) 22:20:51.21 ID:ODPylQLPM

トロッコって止まれないからトロッコなんだろ

止まれる速度で走るのが自動車だ。

127 ：

：2015/11/04(水) 22:26:41.74 ID:UZ36aOOU0

歩行者に自動ブレーキをつければいいだけだろ

129 ：

：2015/11/04(水) 22:30:55.56 ID:Z9E9lm+1d

小学生の性別は？

133 ：

：2015/11/04(水) 22:36:39.69 ID:dtioSEB10

津波が来た場合どうするんだよ？
棺桶になって「もうダメです、一緒に死にましょう」って車側が言ってくるのか？

136 ：

：2015/11/04(水) 22:40:10.97 ID:u4zO6Jq2a

>>133
津波への対応なんて考えてるわけないよ。
どうしようも無いんだから。

141 ：

：2015/11/04(水) 22:43:16.74 ID:Psk4VQyz0

なんか外に出たら隕石が落ちて頭に当たって死ぬ可能性がある
どうすればいいか？
って言ってるだけのように思える

142 ：

：2015/11/04(水) 22:43:38.84 ID:BAGdMyF4p

車が自爆しろアホ

143 ：

：2015/11/04(水) 22:43:55.59 ID:iZlnr2cB0

トラムでいいじゃんって思うのよね

144 ：

：2015/11/04(水) 22:47:16.88 ID:ponkaQkY0

プログラムにバグはつきもの

146 ：

：2015/11/04(水) 22:50:07.95 ID:lbQ61pkY0

自動運転車専用道路が無いと解決しない
日本じゃ無理

150 ：

：2015/11/04(水) 22:57:22.05 ID:mxVijD+np

これって実際サンデル教授はどっちが正解って言ってたの？

154 ：

：2015/11/04(水) 23:11:56.04 ID:qmGpbila0

迷った時は自爆したら良い
迷惑を掛けずに自己完結しろ

155 ：

：2015/11/04(水) 23:15:58.96 ID:qmGpbila0

瞬間で顔認証を掛けてマイナンバーで年収等を参照して最も損害賠償の低いパターンを選んで事故るべきか
場合によっては貧民を10人ぐらい撥ねるけどそれがベストだから問題無いな

158 ：

：2015/11/04(水) 23:19:34.27 ID:KL9XFZ0kd

「完全自動運転」を謳う車が販売されたとして果たして自分はハンドルから手を離すことが出来るだろうか？
俺には無理だ

162 ：

：2015/11/04(水) 23:28:43.31 ID:wk2lS/kO0

フェイルセーフ的にシステム構築するなら、どちらかを轢きそうなら最も短距離で停止が出来る急制動シーケンスに入るだけだろ

163 ：

：2015/11/04(水) 23:33:39.02 ID:IFhzkpXH0

ブレーキで止まれる速度で走るように設定しろよ

165 ：

：2015/11/04(水) 23:48:56.65 ID:3IvZc84W0

こんなもん作るより先に、飲酒状態では運転できない車を作れよ

171 ：

：2015/11/05(木) 00:43:51.56 ID:MXWx5cLb0

飽くまで製造者のリスク低減努力限界を超えた不慮の事故に限定の話だが、
運転手＜同乗者＜他車＜歩行者
生命の選択はこの優先順位にしろ
車を持つものは常に事故のリスクを背負う
自分が選んで乗った車にはどんな欠陥があっても最後まで責任を持とうよ
事故が起きた時、そこを車が通ることになんの責任もなかった通行人が命を払うのは納得できない

177 ：

：2015/11/05(木) 06:45:54.07 ID:z8MQ2D+e0

自動運転にかまけてるのが悪い
自動運転がどんな判断しようとも、今までと同じで運転手にその責任を負わせればいい
もちろんドラレコを義務化して、ソフトの誤作動かどうかを判断するための証拠も残す必要はある
ソフトの誤作動なら完全にメーカー責任だし

179 ：

：2015/11/05(木) 07:20:23.10 ID:vUl579Mg0

制限速度を落とせばいい
一般道を３０ｋｍで走るようにすればたいていの事故被害は軽減できる
専用自動車道はもっと整備する

182 ：

：2015/11/05(木) 07:28:38.14 ID:q2RsKntmM

ひきころしますか？YESを設定してる車は危険
見かけたらバットで壊されるレベル

184 ：

：2015/11/05(木) 08:06:30.75 ID:pFwWWcIZr

天板が落下してきたらブレーキ踏んで止まるか加速してトンネル出口までいくか
悩むね

188 ：

：2015/11/05(木) 08:40:43.28 ID:Ce3cGpuk0

一台ずつ運転手で運転結果は自己責任にして普及してきたのに
それを根底から覆したらメーカーは無限責任になってしまう
なんでもアップデートですむ製造物責任とか品質管理とかの発想が皆無の
ウェーイなIT業界のひとたちがかかわっていい産業じゃねぇんだよ

189 ：

：2015/11/05(木) 08:50:06.13 ID:yhzLUomuM

ベイルアウトしよう

190 ：

：2015/11/05(木) 08:54:08.22 ID:Z9zpcO160

自動運転だから搭乗者に責務はなく、人を何人ひき殺そうとプログラミングした自動車会社のほうの責任

自動車会社だったら「どうせひき殺して訴訟受けるなら人数少ないほうを殺そう」っていう思考に至ると思う

191 ：

：2015/11/05(木) 08:54:24.02 ID:EWgHodlt0

なにをどう考えたら全く無関係の小学生を殺していいということになるのか
トロッコ問題でもなんでもないだろ、勝手に死んどけ

200 ：

：2015/11/05(木) 09:07:37.55 ID:BePK2MqK0

止まれば良いんだよ
どっちかを選ぶ必要なんて無い
危険に遭遇したらその場でブレーキ、これでどうなっても知らんよという契約になるだろうな

203 ：

：2015/11/05(木) 09:11:33.20 ID:pD7pcZdt0

選択式の場合、乗せてる人の年収や、轢き殺しそうな人の年収を秤にかけて、合計が多い方（上級国民）を助ける未来の自動運転車

204 ：

：2015/11/05(木) 09:19:59.75 ID:RJoXoTRq0

飛び出してきたのが犬か猫か老人か子供か美人かによって対応変えてくれんの？

205 ：

：2015/11/05(木) 09:31:52.24 ID:S81k0MGI0

>>204
データが正しいと家庭して損害が小さいものを選ぶというロジックを組んでる場合なら
そうなるね

でも美人かブスかも損害で判断される
日本だとブスでもひき殺して損害賠償される額が高いなら美人を選ぶだろう

207 ：

：2015/11/05(木) 09:35:27.60 ID:0ZDzOcy80

戦闘機の座席みたいに飛び出ろ
生死の確立が少しは揚がるだろ

209 ：

：2015/11/05(木) 09:43:37.72 ID:1kChbvGI0

車が全自動になると
今までとは違って交通事故の被害者側が責任を問われるようになると思う

211 ：

：2015/11/05(木) 09:57:25.49 ID:KMty9nztr

これからドンドンジーサンバーサンの踏み間違いとボケ暴走増えるんだから
早く完全自動運転車を作るべき

引用元：http://fox.2ch.net/test/read.cgi/poverty/1446635167

関連記事

：名無しさん2015/11/05 (木) 22:54:51 ID:-

自動運転より専用レーン作った方がよさそう

トラックバックURL: https://newskenm.blog.2nt.com/tb.php/44747-7a51f0e0

11 | 2024/12 | 01
日	月	火	水	木	金	土
1	2	3	4	5	6	7
8	9	10	11	12	13	14
15	16	17	18	19	20	21
22	23	24	25	26	27	28
29	30	31	-	-	-	-

11 | 2024/12 | 01

日

月

火

水

木

金

土

【2chまとめ】ニュース速報嫌儲板

◆ New Entries