今の世の中、ＡＩばやりである。それに今年発生し拡大した新型コロナウィルス騒ぎが、テレワークだの、店員と接触しないショッピングだのと、これまでにない商取引などにまで影響するようになって、ますますコンピュータの出番が拡大するようになってきた。そしてその中で、「ＡＩが処理してます」の一言が、あたかも神託でもあるかのように世の中を席巻している。

　ＡＩｉについては、これまでここに何度も書いてきた。ただその内容は、いわゆる人工知能と訳されるＡＩと、人間の知能との相似と言うか違いを中心とするものであった。

　ただこのところ、ＡＩ神話がまた一段と高まってきて、「ＡＩによる判断です」がまさに万能になってきているような雰囲気が、私の曲がったへそをどこかでくすぐるのである。

　それは、ＡＩは一つの統合された判断なのかに対する疑問である。限界はあるにしろ、一つのＡＩがあらゆる判断をするというのなら、その是非はともかく意味は分かる。何らかのスーパー頭脳が、あらゆる判断を任せられているという状況があるのなら、それはそれで一本筋が通っていると思う。

　ＳＦ小説で、「マザー」などとと呼ばれるスーパーコンピューターが、自己保身との矛盾を契機として暴走する物語がよくでてくる。別に名称がマザーでなくてもいいのだが、世界中のコンピューターをネットワークで結んで「一つのマシン」となり、そのマシンが世界をコントロールするという物語は、それほど珍しい設定ではない。

　そうしたシステムが独裁とどう違うのか、そのあたりのことはここでは問題としない。「変だ」、「許せない」とするか、一つの万能であることを理想とするかは、結局人類の選択にかかっているテーマだと思うからである。

　一台のヒトラー型ＡＩを求めるか、仮にヒトラー型でないとしても、ある種の統一化もしくは神格化された「理想のＡＩ」を選ぶかは、結局人類の選択になるだろう。

　単一のシステムではないかも知れないが、例えば原子力発電所の運転や防災や緊急時処理などを含めた様々が、相互に関連を持ちつつ現実に動いている。そのことは、ある種の統合されたコンピューターシステムに、私達が電力供給といった日常を委ねていることと同じである。

　単一とは言えないまでも、金融も運輸も財政も、ある種の統一されたシステム、それもコンピューターによるシステムにコントロールされている事実は、現状では避けようがない。

　それが一つのＡＩとして、そのコントロール下に入ることの恐怖はここでは置いておこう。そんな世界は私は反対だけれど、現実社会が単一ではないとしもそれも膨大な数のコンピューターを利用したある種の統合されたシステムから成り立っていることは否定できないだろう。

　そう考えると、ＡＩもまた複数のシステムから成り立っているらしいことが分かる。もちろん、コンピューターの数だけＡＩが存在するとまで思っているわけではない。一つのプログラムが、複数のコンピューターに組み込まれていることくらい、現代では常識だからである。

　ただＡＩもまた、ある種のアルゴリズムで組み立てられたプログラムの一つだと、私は考えている。ＡＩに関する知識など皆無な私ではあるけれど、ＡＩシステムもまた、人間の作ったある種のプログラムであることくらいは分かる。

　ＡＩは自らを複製し増殖するようなプログラムを作り上げることができるのか、現状では無理だと私は思ってはいる。そうは言っても、それとても私にきちんと理解できているわけではない。もし仮に、そうした自己完結的なＡＩが既に完成しているのなら、私のここで述べることは全くの誤解に基づく意見になる。このエッセイは誤りであり、間違った見解である。

　ただ、少なくも本を読んだりテレビの講座などで知る限り、現在利用されているＡＩは、「わたし」もしくは「私の会社、もしくはグループ」が作り上げた、一種の個性あるプログラムである。

　ＡＩに関する知識のまるでない私ではあるけれど、多少なりともプログラム作成に関わった経験からすると、その作られたプログラムは非常に個性の強いものになる。たとえ公共を意識したプログラムであったとしても、作成者の個性や価値観がそこには色濃く出てくるものである。

　かつて私はオセロゲームのプログラムを、マイコンと呼ばれるおもちゃ類似のコンピューターで作ったことがある。少し判断の難しい場面になると、コンピューターが次の石をどこに置くかの判断に、10分も20分もかかることがあった。しかも勝負は必ずと言っていいほどマシンが負けるという、下手くそなプログラムだった。

　それは逆に仲間たちに「コンピューターに勝った」という自己満足を与える、別の意味での人気のあるソフトにはなったけれど、まさに使い物にならないプログラムでしかなかった。このように、たとえ使い物にならず、利用価値のないソフトであっても、それはそれで一つの完成されたプログラムだったのである。

　私が言いたいのは、ＡＩもまたプログラムであり、作成者の個性が表れるものだということである。しかも、ＡＩの根底にあるディープラーニングなるものの構造は、結論に至るまでの経過が見えない、つまりブラックボックスだと言われている。

　そんなシステムを、ＡＩと呼んで神格化してしまうような使い方が、果たしてどこまで許されていいのだろうか。「私はＡＩです。だから私を信じなさい」、そんなことだけを言い続けるマシンを、私たちはどこまで信じたらいいのだろうか。「信じる」ことそのものに対する余りにも大きな疑念が、山積されているのではないだろうか。

　これまでの私は、「脳細胞とコンピューターのメモリーもしくはシナプスの接続や構造」が、どこかで共通なものとして理解できるのではないか、を基本としてＡＩを考えてきた。だが、タイトルに示したように、「ＡＩはどこまでＡＩなのか」そのものが、私の中で疑問になってきたのである。

　どんな人物が作ったＡＩプログラムでも、同じ結果が出るというなら分からないではない。でも、同じ結果が出るのなら、逆にＡＩというシステムそのものの意味がないことになってしまう。また反対に、作る人ごとに結論の違うのがＡＩプログラムなのだとしたなら、それもまた信頼できないシステムになる。

　「ＡＩの信頼性」という評価は、どこで誰がやるのだろうか。そしてその評価は、果たしてどこまで「信頼できる」のだろうか。果たしてＡＩの答えは、どこまで正しいのだろうか。ＡＩに判断を委ねることそのものが、どこまで許されるのだろうか。


　　　　　　　　　　　　　　　　　　　　　　　　2020.8.20　　　　 　　　佐々木利夫


　　　　　　　　　　　　トップページ　　　ひとり言　　　気まぐれ写真館　　　　詩のページ