今度トリアージに関する問題も含めて講演会をするのですが、資料を作っていたら、この問題についても思いつきました。
わかりにくいと思いますがすいません。
まだ自分でも仮説の段階ですが、備忘録も兼ねて問題提起させていただきます。

典型的な自動運転のトロッコ問題とはこういう問題です。
「①自動運転の車が事故を起こしそうになり、②このままだと子供を轢きそうになっているが、③ハンドルを切れば老人を轢いてしまう、この場合に④老人を轢くインプットをしておいて良いのか」
です。

　この問題は倫理的にも法的にも難問とされていますが、よくよく考えていると、問題自体が抽象的なのと、様々な未確定の前提があるから難しいのではないか？特に、「老人か子供か」の問題と、「搭乗者を守るか他の人を守るか」の問題とが一緒に議論されていないか？

　結論的には、「老人か子供か」の問題は、「そもそも老人を轢くことが許されるかどうかが個別具体的事情によるし、その個別具体的事情は、自動運転AIがあらかじめ感知できない事情に左右される（少なくとも自動運転が実用化される時点では、最初の事故原因について誰に過失があるのかや、運転場所に近い人間の平均余命や健康状態という情報をネットワークでつなぐことも、分析することも不可能）ので、結論的には、単純に「来た危難は避けるようにインプットするが、避ける方向に別の危難があったら元の危難は避けない」とインプットするしかないのではないか？さらに進めるとしても人と物を区別できるのであれば、物の方向に避けては良いが、人の方向に避けることは許されない。とインプットするしかないのではないか？

なお、この問題が難しい原因の一つには、「人間であれば危難を避ける先にいる老人の存在を認識することは到底不可能な状況であっても、自動運転車は老人の存在を認識できている」という前提があるからだと考えています。

検討していきます
①において、そもそも事故を起こす理由が自動運転車（A車とします）の運転ミスが理由であれば、そもそも緊急避難は適用されない（自招危難）。よって、例え老人を轢くことで子供が守られる場合であってもそのようにインプットすることは、少なくとも現在の法的解釈としてはできないのではないか。
そうなると、「①の起きそうな事故が自招なのか他人のせいなのかをAIに判断することもさせることも不可能なので、そもそも、危難を避けるために他人を害するインプットをすることは許されない（物は良い）」という結論になるしかないのではないか？
それともインプットの問題と、起きた事故に対する法的処理は異なるので許されるのか？

話をつづけるとしても、想定すべきは、A車に過失がなくて事故になる場合だから、他の車B車か、道路に瑕疵があるような、「他人のせい」の場合。
この問題設定だと正当防衛や緊急避難の話になる。
トロッコ問題は、①の起きそうな事故の原因となった人に対する反撃ではないので、緊急避難の問題

緊急避難の問題だと、刑法３７条の「これによって生じた害が避けようとした害の程度を超えなかった場合に限り、罰しない。ただし、その程度を超えた行為は、情状により、その刑を減軽し、又は免除することができる。 」に該当するか。の問題

「生じた害」と「避けようとした害」とは、「老人を轢くこと」と、「子供を轢くこと」です。ここですぐに「どっちの命が重いか」という議論になるのは早計ではないか？
「老人を轢いた」からと言って必ず亡くなるわけではない、それは「子供を轢く」場合も一緒。
むしろ個別事案ごとに「老人を轢いた」場合と、「子供を轢いた」場合とでどちらの害が少なかった（少なくとも同じであった）という評価が必要。ここの考え方に平均余命という考え方を入れるのであれば、老人の平均余命X事故による死亡の可能性と、子供の平均余命X事故による死亡の可能性となるし、入れない場合でも、ハンドルを切らない場合と切った場合とというどちらかは実際に起きていない仮定の事実を想定して比較しなければならず、それは、生命の価値という問題も存在していて、実務上裁判所は判断不可能。法律で決めてしまうとしても、定めようがないのではないか？
よって、いずれにせよ自動運転車については「危難は出来るだけ避けるが、避けるために他の人に危害は加えない。物であると認識できたら避けて良い」くらいではないか？

この結論に違和感があるのは、通常、人がこのような状況に遭遇した場合の考え方は、「子供を轢くことを避けるためにとっさにハンドルを切った状況では、その先にいた老人に気づくことができなかったのであるから過失が存在しない」と判断されて無罪となるのに、自動運転の場合は違うのはなぜかと思うからではないか？
「避けた先にいる老人」の存在を認識している状況においては、結果発生の予測も回避も可能なので構成要件的過失は存在し、違法性の問題にならざるを得ないのではないか？これは事案が違うから結論が異なっても違和感はないのではないか？

ただし、この結論には欠陥もあり、この結論を前提にすると、「子供か老人か」の場合は解決できても、「搭乗者が死の危険に遭遇しているとき」に不都合が生じます。
というのは、「人が運転する場合やセンサーが良くない自動運転車の場合には、老人の存在を認識できないから轢いて（搭乗者の）危難を避けることが許され、優秀な自動運転車の場合は老人の存在を認識できるから（搭乗者の）危難を避けることは許されない」ということになり、それで良いのか？と、人が運転する場合に比べて、自分の命が危険にさらされていても他人の命を優先する車にみんな乗るのか？しかも自分が運転していたら避けても無罪になる可能性が高いのに。となることです。

だからと言って「緊急時には乗っている人を最優先にして他者の命をも犠牲にするプログラムの車を走らせる社会」を我々は許容できるのか？もともと人間が運転していても危険はもっとあるはずだからそちらの方が受け入れやすいのか？
自動運転車に乗っている人間が引き起こした自招の危難であった場合、のちに刑事罰を加えるとしても、その者が救われて他者が轢かれる結論を受け入れられるのか？もともとそうだからそれで良いのか？
と悩むところでもあります。
仮に搭乗者に対する危険度合いの評価が可能なのであれば、搭乗者にある一定程度以上の害が予想されない場合は、危難を避けない。搭乗者に一定以上の害が予想される場合には危難を避ける。と出来れば良いが、現実的には難しいか？

確かにここまで考えると、「搭乗者対第三者」の場合は、「もともと人間が車を運転している社会と同じ」なので、搭乗者を優先し、起きた事故は保険と刑事罰でカバーする。「子供対老人」の場合は「インプット不可」が座りが良いようにも思えますがその結論すら妥当なのか？

どうなんですかね。自分でも考えているところなので、何か良い文献や講演等あったらご教授下さい。