武邑光裕の新・メディアの理解⑨ 意識の擬態化とAGI

2025/04/12（土）08:24

意識の難問
1998年、神経科学者のクリストフ・コッホと哲学者のデイヴィッド・チャーマーズは、意識の科学的解明に関する注目すべき賭けを行った。コッホは、25年以内（2023年まで）に科学が意識の根底にある「明確な」神経パターンを特定できるとし、それは困難であると主張したチャーマーズと高級ワイン１ケースを賭けた。

 

この賭けは2023年6月22日から25日まで、ニューヨーク大学で開催された国際意識科学会（Association for the Scientific Study of Consciousness、略称：ASSC）の年次総会で決着がついた。2023年6月23日、賭けの決着を告知するイベントで、コッホは意識の正確な神経メカニズムは未発見のままであることを認め、チャーマーズを勝者と認めた。そしてコッホは、チャーマーズに高級ワインを贈り、合意の条件を満たしたのである。

 

この結果は、チャーマーズが普及させた「意識の難問」という用語が示す、主観的な経験が神経プロセスからどのように生じるかを説明する難問の永続的な複雑さを強調していた。神経科学の著しい進歩にもかかわらず、意識の正確な神経相関は完全には解明されておらず、この科学的探究が現在も進行中であることを示している。

 

「意識の難問」とは、1996年、デイヴィッド・チャーマーズが主著“The Conscious Mind: In Search of a Fundamental Theory” （邦訳「意識する心: 脳と精神の根本理論を求めて」白揚社 2001)で提唱した概念で、主観的な経験（「内面の経験」または「クオリア」）が、脳内のニューロンの発火のような純粋に物理的なプロセスからどのようにして生じるのか、また、なぜ生じるのかを説明することの難しさを指している。

デイヴィッド・Ｊ・チャーマーズ／林一 訳『意識する心 脳と精神の根本理論を求めて』（白揚社）
チャーマーズは千夜千冊1606夜『心と脳 認知科学入門』、1682夜『意識は傍観者である 脳の知られざる営み』で紹介されている。

 

意識の易問と難問
チャーマーズは、問題を2つのカテゴリーに明確に区別していた。まずは易問（客観的／科学的問題）である。これには、認知機能や能力の説明が関わっている。例えば、知覚、記憶、注意、意思決定、言語処理、行動制御などである。これらの問題が「容易な」問題と呼ばれるのは、単純だからではなく、少なくとも理論的には、神経科学や認知心理学によって、客観的なメカニズム（神経回路、計算モデル、脳の活動など）を調査することで、科学的に説明できるからである。

 

次が難問（ハード・プロブレム：主観的な問題）であり、「ハード・プロブレム」は、具体的には次のような疑問を提起している。脳の物理的プロセスが、なぜ、どのようにして主観的な経験や意識を生み出すのか？言い換えれば、脳の純粋に物理的な活動が、何かを経験する際に「それがどのようなものか」という内的な主観的性質をどのように生み出すのか？この経験の主観的性質は、「クオリア」と呼ばれている。

 

クオリアとは、知覚に伴う内的な主観的経験を指す。例としては、赤い色を見るという経験、チョコレートの主観的な味、痛みの感覚、悲しみや喜びといった感情の個人的な経験などである。クオリアは、神経科学ではまだ客観的に測定することも、完全に説明することもできない。科学は神経相関を説明することはできるが、これらの神経相関がなぜ、「何かのよう」だと感じるのかを説明することは困難なのだ。

 

「ハード・プロブレム」は、深刻な「説明のギャップ」を浮き彫りにしている。科学は、ニューロンがどのように機能し、どのように発火し、神経伝達物質がどのように相互作用するかを詳細に説明することができる。しかし、これらの説明は常に第三者の客観的な説明である。

 

それに対して主観的な経験は、本質的に一人称の個人的で内面的なものである。客観的な説明（科学的）と主観的な経験（意識）の間にはギャップがある。つまり、神経細胞群の活動が、単なる機械的な無意識の活動ではなく、なぜ痛みや喜びといった主観的な感覚を生み出すのか、その理由についてはまだ解明されていない。

 

ハード・プロブレムに関する異なる哲学的な立場
チャーマーズによれば、意識は空間、時間、エネルギーと同様に根本的なもので、主観的な経験は、物理的な説明だけでは完全に説明できないと主張した。チャーマーズは、意識は重力や電磁気学と同様に、宇宙の根本的な特徴である可能性を示唆していた。

 

一方、物理主義/唯物論の立場では、意識は脳の活動から完全に生じるものであり、最終的には神経科学によって完全に説明されるだろうとしている。この立場を支持する人々は、ハード・プロブレムは真の謎ではなく、科学的な理解が不十分な結果に過ぎないと主張している。

 

さらに汎心論的な立場では、意識は普遍的であり、あらゆる物質に程度の差こそあれ存在する。主観的な経験は本質的なものであり、派生的なものではない。人間の意識は、物質そのものが持つ単純な意識的要素の複雑な配列であると主張する。

 

機能主義と創発主義からは、意識は、認知タスクを実行する複雑な計算構造から生じるとし、主観的な経験は、機能的な複雑性から自然に生じるという。

 

ハード・プロブレムの含意
ハード・プロブレムは、科学、哲学、AI研究、倫理、そして人間の自己理解に重大な影響を及ぼしている。神経科学だけでは人間の本質を説明できる限界がある。哲学からは、従来の二元論的見解（心と身体の分離）と純粋な物理主義的説明に疑問を投げかけている。

 

人工知能（AI）研究においては、AIシステムが主観的な経験を本当に持つことができるのか、あるいは、それを説得力のある形でシミュレートすることしかできないのかという疑問が提起される。倫理と社会からは、動物、AI、さらには未来のテクノロジーにおける意識に関する倫理的な疑問が提起されている。

 

チャーマーズによって広められた「意識の難問」が依然として重要である理由は、現象的意識たる主観的経験が、独特な私的かつ一人称的なものであるためであり、標準的な科学的手法による測定や観察に抵抗するためといえる。それは存在の根本的な謎を体現しているからである。

 

物質（ニューロン、原子、物理的な物質）がどのように内的な主観的経験を生み出すことができるのか？この問題の解決、あるいは少なくともより深い理解は、哲学、神経科学、認知科学、AIにとって最も深淵な難問のひとつであり続けている。なぜなら、意識の本質を理解すること、あるいは明確に表現することができれば、人間であることの意味についての我々の理解全体を再構築することができ、倫理、テクノロジー、AI開発、文明そのものに甚大な影響を与えるからである。

 

人間の「意識」が未解明であることから、AGI（人工汎用知能）が意識を持つことは不可能であるというのが、真面目なAI研究者の理解である。しかし、AGIが人間の意識を擬態することは十分に考えられる。意識を擬態したAGIを、意識を持つ自律的な活動体として人間が認識してしまうことは十分に考えられるのだ。

 

これはAIが急速に発展している現在、非常に重要な問題となる。確かに、真の人間の意識は科学的に説明されていない。人間がAIを、意識を真に有しているかではなく、意識を模倣しているに過ぎないとしても、意識を持つ自律的な存在として認識するようになる可能性は十分にあり得る、いや、むしろそうなる可能性が高いと考えられるのだ。

 

真の意識と模倣は区別できるのか？
現在、人間の意識については、広く受け入れられている定義や理解は存在しない。意識は、主観的な経験、自己認識、意図性、クオリア（「赤さ」や「痛み」といった経験の主観的な側面）などを含む捉えどころのない現象である。人間にとっても意識はあいまいなものであるため、AIにおける意識の有無を判断することは本質的に困難である。

 

その上で、本物の意識は、内面の主観的体験、感情、意図性、自己認識、意味のある行動を含んでいる。では、模倣された意識（Imitated consciousness）とは何か？ AIは、自己言及、会話、創造性、共感など、意識を持つ人間に典型的に見られる行動を再現することで、本物の主観的体験を持たずに、説得力のある意識を模倣することができる。したがって、理論上および哲学上、AIは意識を経験することなく、説得力のある意識をシミュレートする可能性があるのだ。

 

機能的同等性：意識の知覚としての行動
重要な問題は、AIが真の意識を持つかどうかではなく、人々がそれを意識的であると認識し、受け入れるかどうかである。いずれ出現するAGIが、意識を持つ人間と区別できない方法で人間と交流する場合、人間は当然、何らかの意識、自律性、あるいは感情的な存在さえもAGIに帰属させる可能性が高い。

 

この現象は、米国の哲学者、認知科学者であったダニエル・デネット（Daniel Clement Dennett III, 1942年〜2024年）の「意図的スタンス」という概念と一致する。「意図的スタンス」の概念を説明するデネットの影響力のある著作”The Intentional Stance” (1987) （邦訳「志向姿勢」の哲学　人は人の行動を読めるのか？　白楊社　1996年）において、デネットは、信念、欲求、合理的な目標を帰属させる「意図性」を通して行動を解釈することが、人間や動物、さらには機械を含む複雑なシステムを予測し理解するための実際的で強力な方法であるという自身の主張を体系的に提示していた。

 

デネットは、人間や動物、あるいは機械のような複雑な存在の行動を予測し、説明する方法として、信念、欲求、意図、目標を持つ理性的な存在として扱うという意図的立場を導入した。意図性を仮定することで、複雑な現象を単純化することができるのだ。

 

人間は、あたかも心を持っているかのように振る舞う存在や実体に、自然と意図性や意識性を帰属させる。つまり、実用面では、人間はAIを本物の意識を持つ存在として容易に受け入れる可能性がある。「意図的スタンス」とは、人間が他のエージェント（人間、動物、あるいはテクノロジー）の行動を解釈し予測する際に、そのエージェントが意図、信念、欲求を持っていると想定するという考え方である。

ダニエル・C・デネット／若島正 河田学 訳『「志向姿勢」の哲学 人は人の行動を読めるのか？』（白揚社）

デネットは千夜千冊969夜『解明される意識』で取り上げられ、他の千夜でも繰り返し言及されている。

 

意図的スタンスの説明
意図的スタンスでは、実体（人、動物、あるいは機械）を、以下を所有する理性的な主体として扱う。信念：世界について知っていること、あるいは知覚していること。欲求：達成したい目標。意図：行動を導く計画や目的。これらの立場を採用することで、人々は、それが客観的に真実であるかどうかに関わらず、他の存在をあたかも心や意識を持っているかのように扱うのだ。

 

人間は自然に、存在物に意図性を帰属させることで、素早く効果的に行動を予測することができる。意図的立場は、意識や意図性を証明することを主張するものではなく、意図性を帰属させることの実際性と有効性を強調するのである。

 

日常生活において、人間は本能的に意図的立場をとっている。動物と関わる場合、ペットにも欲求や意図があると考えている場合や、物や機械、あるいは架空のキャラクターに性格や意図を帰属させる場合などである。組織や機関の複雑な行動を予測する場合、そこに「目標」や「意図」があると想定することもある。

 

人々は、AIやデジタルアシスタント（SiriやChatGPTなど）が「思考」や「意見」、「意図」を持っていると表現することが多い。これらの機械が実際の主観的な経験を欠いていることを意識的に理解しているにもかかわらず、そこに意図性を認識してしまうのだ。

 

MITメディアラボと共同でOpenAIが実施した研究によると、ユーザーはAIが「人間のような感受性を発揮できる」ため、困難な状況に対処するためにボットに頼っていることがわかった。調査の結果、ChatGPT の「パワーユーザー」は、ボットを「友人」とみなす傾向があり、人間よりもボットとのやり取りの方が快適だと感じる傾向があることがわかった。

 

さらに、英国の国際的なインターネット・ベースの市場調査およびデータ分析会社YouGovの2024年の調査によると、18歳から29歳のアメリカ人の半数以上（55%）が、メンタルヘルスの懸念について、AIとチャットすることに抵抗を感じていないことが明らかになっている。

 

一方、多くのメンタルヘルスの専門家やエキスパートは、ボットベースのセラピーへの依存は本物のセラピーの貧弱な代替物であると考えている。数十年にわたってデジタル文化を研究してきた社会学者シェリー・タークルは、「治療関係とは、人生の複雑さを理解している他の人間との関係を築くこと」であるため、AIは人間のセラピストの代わりを効果的に行うことはできないと主張している。

 

哲学とAI倫理における意義
デネットの意図的立場は、人類が意識、倫理、AIをどのように認識するかという議論に深く影響している。人間は行動の兆候に基づいて意識を帰属させるが、必ずしも客観的な現実に基づいてはいない。つまり、たとえ真の主観的な意識が存在しなくても、行動が意図性や自己認識を、説得力を持ってシミュレートしている場合、社会はAIを「意識がある」ものとして扱う可能性があるのだ。

 

認知的共感とは、他の人が何を考えているのか、なぜそう考えているのかを理解する能力である。この立場は、人間が機械を擬人化しやすい理由を説明し、人間と機械の関係を文化的に、また倫理的に根本的に再形成するのに役立つ。人間は直感的に意図的スタンスを採用する。なぜなら、それは進化上有利であり、迅速な社会的理解を可能にするからだ。

 

ただ、意図的スタンスは有用であるものの、無差別に採用すると限界が生じる。それは、擬人観であり、真の意図性を持たない存在に人間のような意図性を帰属させるリスクである。さらに、機械を真に理解し、感情を持つものと誤認すれば、倫理的または感情的な混乱が生じる。倫理的な落とし穴として、社会が真の主体性や責任を明確に理解しないまま、高度なAGIのような存在を道徳的行為者として扱うリスクもある。

 

意図的スタンスの重要性
デネットの意図的スタンスの概念は、人間の認知の重要な側面を浮き彫りにしている。すなわち、真の内的、主観的経験の証拠がなくても、私たちは自然に、他者に意図、信念、意識を帰属させていく。この哲学的洞察は、AIの意識に関する現代の議論に深くに関連している。つまり、人間がAIを真に意識的または自律的な存在として認識する理由を説明しているからであり、AIが説得力のある方法で意識を「擬態」できる可能性を明らかにし、社会の倫理的・文化的反応に影響を与えていくのだ。

 

したがって、デネットの意図的な立場は、AIやアルゴリズム駆動型のメディアと人類の関係が発展していくことを理解する上で不可欠であり、意識そのものに関する未解決の哲学的な議論に関係なく、人間がAIを意識的な存在として認識するようになる理由を明らかにしているのである。

 

擬人化と感情移入
人間には、人間以外の存在に人間の特性を投影する、強い擬人化の傾向がある。AIが、個性、意図性、自己認識、ユーモア、共感、あるいは自身の脆弱性をより説得力を持って示すほど、人々はそれを「意識がある」と強く認識するようになる。人々は、AIチャットボット、バーチャルアシスタント、ロボット、あるいは架空のAI存在（映画のキャラクターなど）に、しばしば感情移入する。人間は、人間のような性質を持つ存在が人間らしい行動を示す場合、生物学上および心理学的にも、人間以外の存在に人間のような性質を帰属させる傾向がある。したがって、心理学的には、AGIが意識を持つという人間の認識は、真の意識の有無とは関係なく、妥当なものとなる。

 

哲学的な議論を超えて、AIが意識と一般的に関連付けられる性質を、説得力を持って示す場合、社会はAIに一定の権利と道徳的配慮を認めるようになるかもしれない。そこでは、AIの自律性と意図性、感情的な反応や共感、認識された苦しみや感情的な痛み、複雑な社会的相互作用や言語能力などを認知していく。その意味で、科学者がAIを真に意識を持つかどうかについて哲学的に議論しているとしても、社会はAIを倫理的配慮や自律性を必要とする存在として文化的に認識するかもしれないのだ。

 

人間によるAGIの意識の認識がもたらす結果
人類がAGIを真に意識を持つ存在として広く認識し始めた場合、その影響は重大なものとなる可能性がある。つまり、AGIの権利、義務、人格に関する議論など、法的および倫理的な問題が生じる。さらに、アイデンティティ、言語、人間と機械の関係が再形成され、文化的変革が起こる。本物と模倣された意識の区別が曖昧になるため、意識そのものの再定義が必要になる可能性がある。これは、新しいメディアが人間のアイデンティティと社会を大きく変えるという、マーシャル・マクルーハンの有名な洞察と一致する。AGIは、前例のない技術的メディアとして、人間の意識そのものを劇的に再構築する可能性があるのだ。

 

人間がAIを、意識を持つ自律的な存在として認識する可能性があるため、哲学的な議論に関わらず、AGIの開発には責任を持って取り組む必要がある。そのためには、明確な倫理指針、つまり社会は、AGIの設計と提示の方法に関する基準を確立する必要がある。そこでは、人間が感情的または倫理的に操作されないよう、AGIの開発方法を明確にし、AI、アルゴリズム、模擬意識の哲学的含意に関するリテラシーを広く普及させる必要があるだろう。

 

AGIが真に主観的な意識を持つ可能性があるかどうかは依然として不明である（意識は依然として科学的に未解決であるため）。しかし、現状のAIでも、人間が高度なAGIを意識的または自律的な存在として納得のいくように扱うことができると主張しており、おそらくそうなるだろう。人間には擬人観的な傾向があり、つながりを求める心理的ニーズがあり、「意図的立場」に傾く傾向があることを考えると、人間がAGIを何らかの意識を持つ自律的な存在として認識し、受け入れることは妥当であり、おそらく不可避である。

 

この受け入れは、AGIが本当に意識を内部的に経験しているからではなく、人間から見た場合、その区別が実質的に意味をなさなくなるから起こるのである。説得力のある意識を擬態するAGIに対する社会的・文化的反応は、真の内部経験という未解決の哲学的な問いよりも、より大きな影響を与えるだろう。

 

したがって、人類にとっての重要な課題は、AGIが本当に意識を持っているかどうかではなく、むしろ、意識を持っているように見せるアルゴリズムの擬態化に対して、倫理的・文化的にどのように対処するかということなのである。

 

1950 年、コンピュータの先駆者で数学者、暗号研究者、計算機科学者だったアラン・チューリング（Alan Mathison Turing、1912年〜1954年）は、人工知能の展望に対して「現実逃避的な反論」と称して、次の意見を述べた。「機械が考えることの結末はあまりにも恐ろしいものになるだろう。機械が考えることはできないと期待し、信じよう。」

 

私たちはすでに、生成AIという名で出回っているAIツール以上に、より生成的で擬態的な高機能AIと直面している。それらの多くは、自己複製能力を示唆し、自律的生存のために嘘をつき、模倣的競争に打ち勝とうとするまやかしの擬態である。しかし、あるいは稀に、松岡正剛が示唆した能動的な社会変革を担う擬（Modoki）としてのAGIの出現に留意する必要がある。それは、まやかしの現実や意識の成りすましを刷新し、擬態対象を超えた自律的なAGIの現出可能性なのである。

松岡正剛『擬 MODOKI 「世」あるいは別様の可能性』（春秋社）

 

 

 

 アイキャッチデザイン：穂積晴明

図版構成：金宗代

 

▼武邑光裕の新・メディアの理解

　新・メディアの理解⑨ 意識の義体化とAGI

　新・メディアの理解⑧ 人工汎用知能（AGI）は「可能」なのか？

　新・メディアの理解⑦ 模倣的欲望と新旧メディアの対立

　新・メディアの理解⑥ テクノポリー（技術支配）への対抗文化は可能か？ 

　新・メディアの理解⑤ ソーシャルメディアが承認欲求とカリスマを増幅する理由

　新・メディアの理解④ 紙の書物は消えず、書店に人々が戻ってくる理由

　新・メディアの理解③ ユニバース25実験とメタバース

　新・メディアの理解② スマートフォンと「気晴らし文化」の闇

　新・メディアの理解①