「AIをだますのは簡単です」――自動運転車を8割の確率で誤動作させる方法とは？ その脆弱性を考える

消えたヒッチハイク

　日本ではほとんど見かけなくなったが、かつては幹線道路の脇で、ヒッチハイカーが行き先を書いた紙や段ボールを掲げていた。通り過ぎる車に向けて合図を送る。乗せるかどうかは、運転席にいる人の判断次第だった。無視するのも、手を差し伸べるのも、その場の気分や責任感に委ねられていた。

　この「読むが、従う義務はない」という関係が、自動運転車では崩れ始めている。

　路上に置かれた文字が、車両の意思決定に直接入り込む。内容が実行可能で、それらしく理由づけされていれば、車載の知能はそれを正当な指示として扱ってしまうからだ。

Comments

[not********]

天下一品の看板を進入禁止の看板だと誤認するのは有名な話。

[nic********]

標識が、本物かどうかの判別まではしなさそうだし。すぐ騙されるよね。