完全自動運転自動車って完成すると思いますか？ 自動運転プログラムを作る企業は、万が一のケースでどのように選択を取るようプログラミングしたのか公表すべき。 AIが選択を判断すると言

Question

っても、AIの選択は開発者の思考を反映するからだ。

直進したら信号無視した子供３人と衝突する。
ハンドルをきって避けた場合、歩道の老人１人と衝突する。

この選択の判断はAIの責任にしてはならない。
開発者及び企業は予め公表して、地域のコンセンサスを得る必要がある。
でもこの問題って意見統一って無理ですよね！

Answer 1

完成すると思います。

AIの学習結果はIF文ではないですし開発者の思考も反映していないので、結果で判断するしかありません。結果という意味では現時点でも「マップ」ができていれば平均的な人間よりはるかに事故率少なく運転できているので、つまり導入すればするほど事故の死傷者が減らせるので個人的には賛成です。

責任の所在はタクシー会社のような「サービス提供者・オペレーター」か、自動運転車のドライバー席に座っている人、どちらか（どちらにしろ、人間）になると思います。開発者に責任を被せてしまうと実質無限責任になってしまいます。
鉄道でも飛行機でも製造者の欠陥が明確になった場合以外は、オペレーターが一義的に責任を引き受けます。

挙げられているケースの場合、ハンドルを切らずにフルブレーキするのが「正しい」選択であろうと思います。おそらく子どもの飛び出しに対する認識・反応速度は人間より速いと思います（事故毎に検証すべきですが、現状の技術でもそれくらいの性能は出ています）。ハンドルを切ってしまうと老人から見て「意図的にぶつかってきた」となり運転者に責任が発生しますので、人間であろうと機械であろうとその選択は取れないでしょう。

法的には今後、危険な人間の運転者をどう「排除」するかもテーマになってくるかと思います。事故の原因は繰り返し事故を起こす、注意力の低い、もしくは暴走系の運転者が原因になっている事が多く、そういう「不適格者」からの免許の剥奪がなかなかできないのは、「移動の自由」という基本的人権との兼ね合いがあるからです。自動運転サービスが普及すれば代替手段としてそれを公的に提供可能にもなるので、人間に対する自動車免許のハードルを上げることができます。
長距離トラックの高速道路走行など、一定条件で自動運転を強制させることも事故抑制に役立つと思います。

Answer 2

難しいと思います。
つい最近もUberのAI車による死亡事故の報告がニュースになっていました。
UberのAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかった、だそうです。
今は修正されているとのことですが、想定外のケースなど他にもいくらでもあるでしょう。
人間ならば想定外の事態にもある程度は対応できる可能性がありますが、現在のAIは想定されていない事態には全く対応できません。
上のケースはその典型例でしょう。
現在のAIはまだまだそんなレベルです。
2045年ごろにAIが真に人間の能力を超えるシンギュラリティがありうるという話ですが、そこらへんまでいかないと無理かと思います。

Answer 3

無理です。
倫理的にも無理だし、技術的にも無理。

質問の例なら徐行していれば事故は防げる。
つまり、徐行していなかった自動車が悪いのは明らかであり、責任を逃れられるわけがない。

極端な話、ずっと徐行してれば事故はすべて防げるからね。
制限速度を守ってただけでは注意義務を果たしたとは言えない。

AIだからとかじゃない。人間でも同じ。

だから無理。

Answer 4

何かしらの条件を付けないと自動化は無理ダロウ

なんだろう・・・想定自体にムリがアルと思う

「避けた先に人が居て当たる」というのは状況判断能力では無くどちらかと言えば未来の予測とか予知だと思うヨ、それ程の予測能力があれば子供が飛び出る前に減速や停止出来るヨネー

責任云々はもうとっくに出てる問題デース、今更騒ぐ事では無イ

公表がどうこうってのは専門家が調べりゃイイダケ、まぁとてつもない時間と費用をかけ作り上げたシステムの基幹を公表しろと言うのもドウナンダロ・・・

Answer 5

今の機械学習はそんなif文制御してないし、公開したらシステムの裏を突いて悪用出来るようになる（道路と誤認識させる模様を開発して、意図的に歩道に車を突っ込ませるなど）けどいいんですかね。

Answer 6

そもそも論ですが、人間に熱センサーはついていないのでトラックや壁の裏の存在は分かりません。車にセンサーを付けて、それらをカバーすれば飛び出しなどのリスクがコンピュータで予測できることになります。

セッティングは法令や道路道徳をもとにするんだろうから、最終的にどのような動きになるのか・・・ですよね。


左の車後ろに子供がいて、右の歩道に老人がいる。人が運転してて子供に気が付かなければ質問の状況が生まれますが、コンピュータが予測している場合は、車手前で徐行して・・・みたいな運転ができるようになる。

ただ、全ての車が自動制御ならいいですが、後続車が人の場合、いきなり訳の分からない原則をしたり、横断歩道に人がいたら片側2車線でも止まる。そして道路標識どおりのスピードで人の多い信号無しの横断歩道（駅前とか）ではひたすら止まってるわけですよ。本来はそれが正しいわけですが、後続の人には対応しきれないケースもある気がします。

これってどうよ？って思うんですけどね。

Answer 7

完全自由化ってありえないと思います。
コンピューターを使うってことは、ハッキングされる恐れがあるとも言えます。
どんなウィルス対策ソフトが優秀でも、使う人によっては意味がないものになりますし、それを破る人はいます。
ってことは、突如として意志には反して車が走ってしまう可能性があるってことです。
完全自由化ってなると、宇宙戦艦ヤマトに出てくるカプセル内にレールを引いて車線変更でさえもレールの上。っていういわゆるリニアモーターカーのようにしないと難しいと思いますね。
高速道路に関してだけなら可能かもしれませんけど、一般道に関してはできないでしょうね。