私にとってコロナ禍に利点があるとすれば、ライフワークに専念できたことだ。私の永遠の問いは「外で起こっていることを知るとはどういうことか」である。哲学で「認識論」や「心の哲学」と呼ばれる分野の本を、時間を気にせず読んで考えることができた。

　哲学だけに没頭していると、1970から80年代の哲学者がなぜ人工知能に否定的だったのかがわかってくる。私はドレイファスやサールのような否定論者にはならないつもりでいたが、コンピューター・サイエンスの本から離れて、哲学にのめり込んでみると、彼らの言い分にも傾聴すべき点があると思うようになった。

　ドレイファスはハイデガーの研究者だが、科学技術開発で名高いランド研究所で人工知能を学んだ後、『コンピューターに何ができないか』という本を出している（原著1972年出版、邦訳は産業図書）。大雑把に解説するならば、ハイデガー哲学では、人間は「世界内存在」であり、思考は環境や状況に影響を受けている。しかしドレイファスが標的とした当時の人工知能は論理形式のみで人間の思考が再現できると考えていた。環境や状況に左右されない思考はないという立場から、ドレイファスは人工知能不可能説を唱えた。

　1980年にサールは「心・脳・プログラム」という論文で「中国語の部屋」という思考実験を提示する。思考実験は、ありえない状況を想定することで論理的矛盾を明らかにする英米哲学（分析哲学）の手法である。

　二つの投函口以外は密閉された小部屋の中にサールがいて、右の投函口から一枚の紙が入れられる。サールはひと目見て、それが未知の文字によって書かれた意味不明の文章であることを知る。実際は中国語で、漢字が並べられているという想定である。サールは小部屋に入る前に、英語で書かれた規則集を渡されており、右から入ってきた紙に修正を施して、左から出すように命じられている。

　サールは規則集を見ながら、得体のしれない漢字の組み合わせを並べ替えたり、別の漢字を挿入したり、いくつかの漢字を削除する。これはただ「こんな形の文字は、別のそんな形の文字の後に」という英語で書かれたインストラクションに従って並べているだけで、サールは一切、それぞれの漢字の意味も、これらを組み合わせた文章全体の意味をも理解していない。

　悪戦苦闘の末、サールは左の口から自分が作成した漢字の並んだ紙を外に出す。小部屋の右から入ってきたのが「インプット」、左から出ていくのが「アウトプット」、サールのいる小部屋がブラックボックスである。私は今、この文章をパソコンで打っているが、キーボードを叩く作業が「インプット」、叩いた瞬間に変換された漢字が表示されるが、これが「アウトプット」、叩くことと文字の表示を結びつけているのがブラックボックス（パソコン）である。私が（ひらがな変換なら）「た」「た」「く」とキーボートを押して、画面に「叩く」と出てきたら、作業は成功となる。

　サールの小部屋の右から入ってきた紙に「この文章の誤りを見つけよ」と書いてあったとしよう。サールは何も理解できていない。そして左の口から外に出された紙では、すべての文法的間違いや誤植が訂正されていたとしよう。左の口の外で紙を受け取った中国人はその文書を読んで、小部屋の中にいる人は中国語が「理解できる」と思うだろう。しかし実際のところ、中にいるサールは中国語を知らず、ただ英語で書かれた指示通りに作業しただけである。

　サールの論点は、コンピューターがしていることは、これと同じだということである。事前に書かれたインストラクション（プログラム）によって「形式的に」情報を処理しているだけであり、人間の思考を再現するはずの人工知能は「理解」することが不可能なので、人工知能は存在し得ないという主張だ。

　私は最近まで、これを単なる揚げ足取りだと軽視していた。しかしこの数カ月間、「認識」「理解」「意識」と名の付く本ばかり読んでいると、簡単には切り捨てられないと感じるようになった。人工知能に寛容な哲学愛好家でありたかったが、とうとうこっち側の人（否定論者）になってしまった。

　きっちり認識する、つまり対象が何かを「理解」するためには、人間は一時的には意識的でなければならないだろう。「一時的」としたのは「無意識」と書くと語弊があるものの、人間の認識のすべてが意識的ではないからだが、対象が何かを最終的に判断する時には、その対象を意識するはずだ。そしてその瞬間は、対象を意識している自分をも意識している。この「自己意識」をも考慮に入れないと、機械による認識の再現は無理だろう。

　実際に「自己意識」に取り組んでいる人工知能学者もいる（メラニー・ミッチェル『教養としてのＡＩ講義』日経ＢＰ）ので、これは暴論ではない。人工知能はパワー依存の時代から、繊細なプログラミングの時代に移行していく必要があろう。

（月刊『時評』2021年8月号掲載）