思想の言葉　西垣 通

感染症と自由
──戦後日本のハンセン病当事者運動とその歴史性・現在性
有薗真代

デモクラシーは普遍的政治モデルか？
フロラン・ゲナール／三浦信孝 訳

空間・時間・可能世界
──視点の哲学（1）
鈴木雄大

Self-as-Anything
──道元における自己・世界・他者（上）
出口康夫

頹落とはなにか，それはどのように記述されるべきなのか
──『存在と時間』の「影」描法（上）
須藤訓任

フィヒテの意識事実論（一）
──知の生の視点から
山口祐弘

フーコーの「生政治」を再評価する
──コロナ禍におけるアガンベン論争をかえりみて
武・アーサー・ソーントン

　二〇一〇年代に始まった第三次AI（人工知能）ブームは、チャットGPT（Generative Pre-trained Transformer）に代表される対話型AIの登場によって、いよいよ社会の期待を集めつつある。これまでインターネットで情報を検索するときはキーワードを入力するのが主流だったが、いまや自然な文章で質問すると、対話型AIがなめらかな日本語文章を生成し、ていねいに回答してくれる。

　ただし、回答の内容を精査すると、率直に言って首を傾げることも多い。よくある定型的な一般質問にはなかなか上手に答えてくれるが、珍しい個人的質問などにはお手上げとなりがちだ。事実に反する誤りや、矛盾をふくむ回答も現れる。とはいえ本来、AIはデータの論理的処理が得意なのだから、明白な誤りや矛盾の除去については、やがて少しずつ改善されていくだろう。こうして、「しばらく待てば必ず、人間より賢いAIが登場する」と語る自称専門家の声が高くなっていく。

　しかし、この楽観論は正しいのだろうか。──本質的な問題点は、AIが言葉の意味を理解していない、という点にある。対話型AIの基本処理は、文字記号列をパターンとして把握し、過去の大量の文例パターンの統計的分析にもとづいて、確率の高い文字記号列を生成し、出力することだ。語義に加え語句同士の形式的な関係も分析されるから、これを「意味解析」と位置付けることもできるだろう。しかし、そこでの意味解析とは単に表面的・形式的な整合性をとっているにすぎず、文章内容の意図はおろか、個々の語句のイメージすら埒外なのである。こうしてAIは統語論的処理をしているだけだ、という批判が現れる。

　だがそれなら、「意味」とはいったい何だろうか。記号学におけるシニフィエだ、というだけでは一歩も進めない。この難問を解くには、二〇世紀半ば、情報科学とともに生まれた、二つのパラダイムに着目する必要がある。第一はコンピューティング・パラダイムであり、第二はサイバネティック・パラダイムだ。前者は、神のように客観世界を大域的に俯瞰し、論理計算で最適解を求める。これがコンピュータ処理の基礎に他ならない。一方後者は、生物の限定された主観世界（環世界）のなかで、局所的な解を求め続けるアプローチだ。生物は時々刻々、生きるために有用で価値のある対象を選びとり、自己準拠的に主観世界を形成していく。この価値こそ、「意味（significance）」に他ならない。だから「意味」を扱うにはサイバネティック・パラダイムが絶対に不可欠なのだ。AIはコンピューティング・パラダイムのもとにあるから、意味を把握できないのは当然なのである。

　ただし、初期の古典的サイバネティクスにおいては生物を機械と同一視する傾向があった。つまり、二〇世紀半ばには両パラダイムは混然一体になっており、それゆえサイバネティクスは「生物（人間）機械論」と見なされてしまった。第二のパラダイムが明確に独立したのは、一九七〇年代以降に物理学者ハインツ・フォン・フェルスターらによって「ネオ・サイバネティクス」が誕生した後のことである（本誌二〇一〇年第七号を参照）。その代表が、生物哲学者ウンベルト・マトゥラーナとその弟子フランシスコ・ヴァレラによって提唱されたオートポイエーシス理論である。とりわけヴァレラは、生物システムを自律的閉鎖系として定義し、機械システムなどの他律的開放系から峻別した。ここで、「自律的（autonomous）」とは、生物が環境のなかで、あくまで自己準拠的・再帰的にみずからの意味世界を作り続けていくことを指す。一方、AIを含めコンピュータ・システムは、他者である人間の指示に対して開いており、端的にはプログラム通り「他律的（heteronomous）」に作動するのだ。むろん生物も物質的には代謝を行う開放系なのだが、情報的には「閉鎖系」なのである。こうして生物は、主観的な意味の世界をつくるAPS（オートポイエティック・システム）として定義されることになる。

　ところがここで難題が生じた。生物がAPSだとすれば、人間社会でおこなわれる「情報伝達」をいかに位置付ければよいだろうか。―情報伝達というのは、情報科学的には、コンピューティング・パラダイムのもとで通信工学者クロード・シャノンの定義した記号列の形式的伝達に他ならない。だからたとえば、電子メールの送受信において、デジタル記号が正しく伝達されたか否かは分析できても、送信者の意図する意味内容が受信者に誤りなく伝わったかどうかは不明なのだ。AIと同一の問題点がここで顕在化する。

　一方、APSは意味概念と親和的だが、情報的に閉鎖系であり、したがってオートポイエーシス理論とその応用において、「情報伝達」は排除されることになった（ニクラス・ルーマンの機能的分化社会論においては、社会的APSで情報概念が顔を出すが、あくまでシャノンの通信理論の部分的援用にすぎない）。とはいえ、人間社会で意味内容をもつ情報は実際に電子メールなどで交換されているわけであり、ここでデジタル社会は大きな理論的アポリアを抱え込むことになってしまった。

　このアポリアに挑戦したのが基礎情報学である。それはオートポイエーシス理論にもとづくネオ・サイバネティクスの一環でありながら、情報伝達をふくむシステム・モデルを提唱するのだ。核心は「HACS（階層的自律コミュニケーション・システム）」という考え方である。従来、APS同士は対等とされてきたが、基礎情報学ではAPS同士が階層関係をもち、上位APSから見ると、本来は自律的な下位APSがあたかも他律的に見える、というシステムを扱う。こうしてHACSモデルにより、人間が内心では自律的に思考しながらも、社会的制約のもとで外見上は他律的に振る舞うという現象をうまく説明できる。

　換言すると、いわゆる社会的な情報伝達というのは、上位の社会システムのなかでデータがやりとりされて意味内容が形式的に交換され、人間はそこであたかも他律的機械のような役割を果たすからこそ可能になるのだ。そこでの役割はAIとまったく同じである。だが肝心なのは、社会的観察のもとで共時的には他律的に振る舞う人間も、心の中ではあくまで自律的な意味形成をおこなっており、通時的・長期的には社会のメカニズムを変革できる、という点である。一方、非APSのAIは単なるメディアであり、そんなことはできない。

　コンピューティング・パラダイムのもとで実行されるデジタル化では、AIと人間は区別されない。すると人間は機械部品化され、ハイデガーの懸念した「総かりたて体制（Gestell）」に組み込まれていく。基礎情報学はその地獄を避けるための知なのだ。