テレビのニュースで、コメンティーターらしい芸能人が、「戦場でAIが判断して射撃をするのは怖い」と語っていた。そして同席していたアナウンサーもそれを特に否定することなく、いかにも「その通りだ」と頷いていた。
それを聞いていて、チョット待ってと思ったのである。つまり、「AIに意志がある」と考えていることがどこまで正しいのか、そこのところが疑問に思えてきたからである。
こうした会話は、最近それほど珍しくなく聞かれるようになってきている。人工知能は人間を目指し、部分的にしろ遜色ないほどに人間に似てきている、と多くの人が考えるようになっている。でも、それは本当にそうなのだろうか、そのことに私は疑問を抱いてしまったのである。
本当にAIには「意志がある」のだろうか。意志とは何なのだろうか。AIはブラックボックスだと、つい最近ここへ書いたばかりである(別稿「
人工知能とブラックボックス」参照)。それは、ある入力(仮に質問でもいい)があり、その答をAIが出すとき、その途中経過をAI自らが説明できないことに対する問題を提起したものである。
つまり、AIは答に至る経過を説明できないこととその信頼性に対する疑問を記したものである。とは言っても、「途中経過の不明なままの結論」と言うそれだけの現象を取り出してみると、出された答はいかにもAIが独自に下した判断であるかのように見える。
だがその答が、例えばディープラーニングというプログラムと、人間の与えた多くのデータの結果によるものだったとするなら、それはプログラムされた答ということになるのではないだろうか。つまり、それは単にプログラムの結論であって、「AI独自の答」とは違うような気がするからである。つまりプログラムによった結論と言うことは、それはそのままプログラムを作った人間の結論と同視してもいいのではないか、とも思えるからである。
だとするなら、「AIに意志がある」という前提そのものを、もう一度考え直してみる必要がある。AI搭載の自動運転自動車を考えるとき、「トロッコ問題」と言う基本的なテーマがある。
単純に言うと、進んでいる線路の先が二股に分岐している。ブレーキの利かなくなったAI搭載のトロッコが今まさに暴走している。分岐の右の線路には三人の人がいてそちらへ進めるとその三人をひき殺してしまう。もし左を選ぶなら、その先には一人の人がいて、その人を殺してしまう。・・・「さあAIさん、君ならどっちへ進む?」、そんな問題である。
条件は様々に設定することができる。左の一人は例えばアインシュタインとし、右の三人は確定判決を受けた死刑囚とするのもいいだろう。また、左は老婆で、右は若い親子の三人連れでもいい。社長と部下でもいいし、政治家と一般人でもいい。何らもっと単純に男一人女一人の場面だって構わない。
そうした様々の事態に対して、AIに右へ進むか左にするかの判断がどこまで可能か、そしてそうした判断はどこまで正しいのか、そしてその得られた判断が人間として許容できるかの解を求めようとするものである。
これはAI兵器に求められる機能と、少しも異なるものではない。AI兵器の機能とは、銃口の先にある射撃対象が、兵士か民間人か、敵か味方か、人間か兵器かなどなど、対象をどこまで的確に判定しその順位を決定するかを問うものだからである。
でも、その判断を人間の作成したプログラムが下すのだとするなら、それはAIの判断になるのだろうか、それともそれは人間の判断なのだろうか。銃に照準装置をつけたことで、射撃精度は格段に上昇したとする。でもそのことを「銃の意志が向上した」とは言わないだろう。その銃がマシンガンになり、大砲になったところで同じである。誰もその兵器が意志を持ったとは言わないだろう。
だとするなら、意志とは何なのだうか。「私は個人としての意思を持っている」、それは正しいだろう。そしてその時、私という概念を「私たち」、「人間」、「人類」にまで拡張して呼び換えても、特別抵抗感はないように思える。それでも、犬猫に意志はないのかと問われるなら、とたんに意志の定義が不明確になってくる。
犬猫にまで広げず「人間の意志」だけに限定してもいいではないか、と考えるのも一つの方法である。このエッセイは「AI兵器は怖い」と言う発言を発端として書き始めたものである。だが、その問いかけには「AIの判断力は、人間の判断力に及ばない、劣る」と言う無意識の思い込みがあるように思える。つまり、人間は常に正しいけれどAIは時に誤りを犯す、だからAIは怖いのだという、AI不信につながる思い込みである。
−−−−−−−−−−−−−−−−−−−−−−−−−−−−−
「AIに意志はあるのか」を考え出したら、終わらなくなってしまった。「
AI兵器の意志〜2」へ続けます。
2019.8.6 佐々木利夫
トップページ ひとり言 気まぐれ写真館 詩のページ
