Verification を問い直す

HAL9000 はとっくに旅立ち、アトムの誕生日も過ぎた今日になっても、人工知能 (AI) が実現しそうな気配はない。どちらかというと、AI という言葉は濫用され て見放されてきた感がある。１５年前の三国志IIの戦闘ルーチンも人工知能だっ たなあ。時代が進んで多少は強くなってきているかもしれないが、結局、愚直で ワンパターンというコンピュータの枠を超えることはできていない。誰もが、AI なんてそんなものと思ってしまっている。AI 冬の時代である。

何かが根本的に間違っているのではないか。工学的応用を求めたあまり AI の本 質を見失っているのではないだろうか、という気がする。じゃあその本質とは何 なのか。

＊

強化学習の本など書いているR. Sutton のホームページに Incomplete Ideas というセクションがある。なかなか面白い のだが、とくに興味をもったのは、Subjective Knowledge (主観的知識) と Verification (確認) こそが AI に必要なのだという点である。主観的知識につ いてはまた別の機会に議論しよう。ここでは verification を考えたい。

曰く、今までの AI は与えられた知識を確認することができない。それにとって、 すべての環境、ルールや知識は人間が与えたものであり、そのルールの正しさや 妥当性を確認することはできない。そもそもわれわれの世界のルールは不確定で あり、仕事場まで車で何分かかるかとか、あなたがこの文章を読むと何がわかる ことになるのか、といったことは、決断する（家を出るとか、文章を読み始める） 時には正しくわからないことが多いのだ。しかし、現在の AI では、そうした要 素は製作者によって最初から与えられなければいけない。 人間がルールの正しさ・妥当性を保証しなけ ればならず、人間の手の届く範囲のことしか AI にはできないのだ、と。

たとえとして彼があげている椅子の例は、AI ではよくとりあげられるテーマであ る。あるものが椅子であるか椅子でないか、人間であれば簡単に判断できること であるが、コンピュータにとって単純なことではない。パイプ椅子やベンチや安 楽椅子、色や形状は実に多種多様である。場合によってはただのダンボール箱や、 ガードレール、積み上げた雑誌だって椅子になる。人間が「椅子とはこのような ものである」と椅子データベースや画像認識プログラムを作ることでは決して解 決しないのだ。 Sutton は、verifier があればいいという。要するに座ってみれ ばいいのだ。成功したらそれは椅子である。また、試してみることで、行為者に とって、椅子とは何であるかという認識が確認され、改善され、維持されていく のだ、と。

確かに、と思う。ある行為の結果を確率分布で記述して、その数値を改善してい くような枠組も研究されてきているが、確率を分布させる範囲はけっきょく人間 が与えるのだ。仕事場までの所要時間を確率分布であらわしたとしても、事故で たどりつけない可能性は記述できない。事故を含めた確率分布にしたとしても、 その確率の外の事象がないとは言い切れない。以前 にのみやさん が した「６面のサイコロをふって、どれでもないもの（犬とか）が出る確率を０と いうことはできない」という話は笑い飛ばしたものだが、今ならその気持ちがわ かる気がする。確率分布を仮定した時点で、確率分布の範囲は「人間が与える」 「公理としての（確認できない）知識」となり、行為の結果を人間が記述するの と本質的にはかわらないことになってしまう。確率分布では、AI は人間の手のひ らの上から抜け出せないのだ。

＊

しかし、同時に疑問も湧いてくる。なぜ verify するのか、そして、そもそも verify するとは何なのか、ということである。

まず、なぜ verify するのか。そもそも verify するということもひとつの行動 である。コストもかかるし、知識が確認・改善されるということ以外にいいこと はない。これは報酬最大化の原理だけで記述できるのか、それとも知識の確認・ 改善に対して人間が本能的欲求をもっているのか？　前者であれば、ある知識が 不確定であり、verify することで報酬が確定できる（とか、負の報酬を排除でき る）なら verify するということになるだろう（積み上げた雑誌が椅子かどうか verify するときはこれじゃないかと思う）。かといって、後者が排除できるわけ ではない。

そして、そもそも verify するとは何なのか。verified な知識なんて世の中に存 在しない。少なくとも、ある時点で行動を選択した結果の報酬を予測するために 使えるような知識については、絶対だろう。こうした知識は、人間が経験から得 た、帰納的なものでしかない。人間は本質的に不確実な知識に基づいてしか推論 できないのだ。知識に根拠を求めても、その根拠もまた不確実な知識にしか求め られない。結局、根拠の無限後退となるか、ある根拠を無条件に受け入れるか、 どちらかしかない。それなら、verify するとはいったいなんなのか・・・ わからなくなってくる。

積み上げた雑誌の山に座ってみることで、椅子の概念が verify されるかもしれ ない。しかし、椅子（＝座れるもの）という概念そのものの根拠にはならない。 椅子という概念は神様が人間を作るときに与えたものではないはずだ。ならば文 化的、言語的根拠なのか。それとも人体の構造が根拠なのか。だとすれば、人体 の構造がこうなった根拠はなんなのか？　R2D2 は何を根拠に「椅子」という概 念をとらえ、verify すればいいのか？　

＊

生きるとは自らの認識と根拠を問い直す不断の努力である、と現象学者の早坂は 言っている。そういう意味では現象学こそが人間の本質と、そして AI の本質を 捉えているのかもしれない。僕自身の生としては、verify するとはなんなのか、 問い直すとはなんなのか、をまず問い直していかなければいけないようだ。