AI・データ化された未来社会の思想とは(評者:藤田直哉)

藤田直哉
Mar 31 · 11 min read

本書は、スリリングかつ知的刺激に満ちた未来予測の書物である。

内容は壮大で、人類史的スケールで「テクノロジーとサピエンスの未来」を描き出す。著者のユヴァル・ノア・ハラリはイスラエルにあるヘブライ大学歴史学部の教授で、ベストセラー『サピエンス全史』の著者である。その続編的な内容の本書は、世界中で四〇〇万部を超えるベストセラーになっている。確かに、なんらかの時代精神を捉えた部分があるのだと感じられる書物だ。

基本的には、科学や経済や政治は、世界を良くしてきた。そのために最適なシステムであった、という歴史観が語られている。語りは、人文的というよりは、進化論や脳神経科学、行動経済学などの知見に基づいて、ある程度のエビデンスを確保しながら語られるハイブリッドなスタイルになっている。

ハラリの未来予測で重視される新しいテクノロジーは、AI、脳科学、バイオテクノロジー、インターネット、コンピュータなどである。それらが人類の生に加わったとき、人類には何が起こるのか。それを、価値観の最も底にあるドグマのようなもののレベルにまで降りて考察しているのが、本書の美徳である。たとえば、脳科学は脳をいじれる。すると、好悪、真善美などの感覚が変えられるかもしれない。バイオテクノロジーも同様である。そのようなテクノロジーは、私たちの倫理観・価値観の最も基礎にある部分に介入し、人為的に変えることができる。そのようなテクノロジーをどう使うべきかの指標は、一体どこにあるだろうか? おそらくそれは、人々が実際に生きて生活し応用していく中で、じりじりと変化していくのだろう。中世のように「神」を本気で信じる人々が少なくなっていったように。

最も目を引く主張としては、人類は神を目指しており、神になろうとしている、ということをハラリは言う。人類史の発展の経緯から鑑みて、人類が進む先は「不死」と「至福」と「神性」である。ハラリの考えでは、サイボーグ技術やバイオテクノロジー、スマートドラックなどにより人間を改造し、人類はこれから「非死」や「超人」を目指していく。しかし、それができるのは経済的エリートに限られ、人類は分断されるのではないかという懸念も同時に語られる。そのような、新しい人間への変化が今起ころうとしている、というのがハラリの主張であり、それに備えて何をするべきか、というのが、本書の問いである。おそらく、それは、「ポストヒューマン」の議論と同じ思潮にあるだろう。

最も大きな変化は何か。現代の多くの人の価値観のベースは、ある宗教だとハラリは言う。「人間至上主義」である。それには「人権」も含まれる。人間の個人に最大の価値を置く、現在の多くの人が当たり前に思っている価値観のことである。

ハラリの言う「宗教」とは、人類が共同作業をするために発明した、共通の考え方や価値観のセット、のような意味である。「人間至上主義」は中世が終わり、近代になってから普及した「宗教」である。「意味も神や自然の法もない生活への対応策は、人間至上主義が提供してくれた。(…中略…)人間至上主義という宗教は、人間性を崇拝し、キリスト教とイスラム教で神が、仏教と道教で自然の摂理がそれぞれ演じた役割を、人間性が果たすものと考える」(下巻、p34)。

価値観や倫理の源泉と責任者が、神ではなく、人間へと移行したのだ(人々の考え方の中で、ということだが)。近代では、神も宗教も人間が作り出したものであるという風に人々は考えるようになる。それによって人間は自由になり、解放されもしたが、人間は責任をもって世界を作り替え、文明を進展させ、自身の存在意義を作り出さなければならなくなった。そして、自身や世界の「意味付け」を失ってしまった。

「人間至上主義」のドグマの一つが、「自由意志」である。私たちは自己決定をする座としての「自由意志」があると思っている。法律や投票などはそれを前提としているだろう。しかし、脳科学の実験で、意識が何かをしたいと思うより先に脳は決定していることが分かっている、とハラリは言う。どうも自由意志はなさそうだ、というのが、脳神経科学の知見らしい。そうなったときに、近代に形成された価値観は崩れるのではないか。

あるいは、人間の「欲望」や「情熱」が崇高なものだという価値観が現在、フィクションなどを中心にあるが、それを人為的にコントロールできるような状況になったとしたらどうなるだろう。それらに高きを置く価値観は衰退しないだろうか。これは夢想的なことではなく、抗鬱剤やADHD治療薬などを考えれば、現代社会で既に着手されていることである。「魂」などは存在せず、あるのは「生化学的プロセス」であり、操作可能なものでしかない。「魂」があり、それが崇高で神聖だと考える「人間至上主義」は、中世の時代の考え方のように時代遅れの迷信なのかもしれない。

さらに、ぼくらは、自分自身である「意識」を高く評価するが、意識の価値も低くなるかもしれない、とハラリは示唆する。意識は、自分のことも分かっていないし、周囲のこともそれほど正確に判断できるわけではないのだ。むしろ、個人の身体や脳の中で起きる「生化学的プロセス」を一番よく把握しているのは、外部デバイスやライフログであり、AIの方が意識よりも良い判断をするようになっているかもしれない。そう言いうる根拠となる例をハラリは並べていく。

たとえばフェイスブックは、ある特定の人物のプロファイルを、その人が行った「いいね!」300個で、配偶者よりも正確に割り出すことができたという。わずか10個でも、同僚より正確に当てることができる。とすると、既に私たちは、自分自身よりも正確に自分自身のことを判断できる主体がいるのだから、より良い意思決定を自身のデータを豊富に持つAIに任せるようになっていっても良いのではないか。そのように変化していくだろう、というのがハラリの予測だ。自動運転の車に任せるように、自分自身の情動の管理も、意志決定も、AIに任せて何が悪いのか。きっとそのような趨勢になっていくだろう。社会や政治も、もちろんダイナミックに変わる。意思決定の主体としての座をAIやデータに譲ってしまい、「人間至上主義」は少しずつ風化していく。

そして「データ至上主義」の世の中が訪れる。「科学は一つの包括的な教義に収斂しつつある。それは、生き物はアルゴリズムであり、生命はデータ処理であるという狭義だ」(下巻、p245)とされ、「人間至上主義」に替わり、データ至上主義、データ教が誕生する。アルゴリズムとは、あるインプットに対し、ある手順で処理を行い、アウトプットをする仕組みのことである。生物がアルゴリズムで生命がデータ処理であるならば、ネットで接続されたコンピュータやAI群もまた生命ではないか。人間はそれに、価値観や生き方、政治的決断なども委ねるようになり、精神状態や健康も管理してもらい、生きる意味なども提供してもらうようになるのかもしれない。

その世界では「無用者階級」が誕生するとハラリは言う。知能を基準とする立場を採用すれば、AIの方が上なのだから、人間は劣位なポジションに置かれてしまうかもしれない。自分自身を改造できる「超人」と、それになれない「無用者階級」に世界は分化し、「人間至上主義」も失われているのだから人権や平等の概念も衰退していく。そんなことは起きない、と常識的に言いたくはなるが、国家が国民を平等に扱い福祉に気を配ったのは、総力戦の時代における徴兵を意識してであったことをハラリは指摘する。総力戦の時代ではなくなった現在、「人間至上主義」的な価値観を政府が維持するインセンティブはあるだろうか? 平等を重要な価値を見做す根拠はあるだろうか?

ハラリは「こうなるのがいいことだ」と言っているのではない。現状から帰納的に想定しうる未来像を描いた上で、そこにある問題に立ち向かうことを要求している。それは、不平等や、環境破壊、動物や家畜の苦痛などだ。それは経済や科学や文明が現在のまま進歩していくだけでは解決できない、より困難な問題である、とハラリは考えているようである。

この内容紹介を聞いて、SFじゃないかと思われる読者も多いと思う。実際、伊藤計劃『ハーモニー』や、長谷敏司『BEATLESS』などと『ホモ・デウス』はかなり近しい内容である。フィクションとして書かれたSFと、ノンフィクションを装う本書がよく似ている、ということは、どこか居心地を悪くさせる部分がある。

実際のところ、『ホモ・デウス』は、エビデンスに満ちた科学的で実証的な歴史を語っているかのように見せかけながらも、高度に自覚的に「物語」を語っている書物である。私たちは「宗教」「物語」「虚構」による「認知革命」を経て、人々が協力するようになり、これほどの文明の達成を行った、とハラリは考えている。「私たちは虚構のおかげで上手に協力できる」(上p215)。しかし、「虚構」は現実や実態を覆い隠すこともあるとも明確に述べている(第四章)。「筆を振るうだけで現実を変えようとすることの魅力に抗える支配者はいなかった」(p206)。

「虚構」であるナショナリズムや宗教で戦争や苦しみが起きることもある。「だからこそ、虚構と現実を区別するべきなのだ」。しかし、一方で、「虚構は悪くはない。不可欠だ」(p218)。複雑な人間社会における人類の協力ネットワークを機能させるために、それは必要なものなのだ。

さらに、「歴史は単一の物語ではなく、無数の異なる物語なのだ」(p217)とも書いている。つまり、『サピエンス全史』『ホモ・デウス』で語った歴史もまた、「物語」であると認めていることになる。では、なぜハラリはこの物語を書いたのか。

もし誰かが現実を歪め過ぎると、その人は力が弱まり、物事を的確に見られる競争相手に歯が立たない。その一方で、何らかの虚構の神話に頼らなければ、大勢の人を効果的に組織することができない。だから、虚構をまったく織り込まずに、現実にあくまでこだわっていたら、ついてきてくれる人はほとんどいない。(p209)

『ホモ・デウス』はふてぶてしい虚構である。虚構や物語の問題性を自覚しながらも、それが不可欠であることを認識し、人間の協力ネットワークの力を高めるために、敢えて流布されている「物語」である。コンピュータとインターネットの爆発的な発展に触発された暗黒啓蒙や加速主義などの秩序破壊型の(ニーチェ的な)思想が現在多く現れているが、おそらく本書はそれらの思潮が叫ばれている中に投入され、可能な限り協調的に人々が行動し、問題を軽減させるようにするために、敢えて覚悟して語られている「神話」であり「宗教」なのだ。

中世では人間は「神」を信じ、その世界観で自己や世界を理解してきたが、近代以降はそうではなくなった。蒸気機関や工場の時代には、人間や生命を「機械」と考える思想が流行した。そのような変化が、コンピュータやインターネットが爆発的に進歩した現在、そして未来に起こるだろう、と彼は考えている。生命観、人間観、そして宗教すら変化し、従って価値観の最も基礎になるものも変化しつつある、そのような現状にあるとハラリは考えている。

さて、そのような身体性のないデータのネットワークそれ自体の中に神性を見ようとし、「超人」へと自身をアップデートしていこうというシリコンバレー思想が全面展開されていくかもしれない時代に、多くは身体を持った人間が使う物理的なメディウムである建築は、何をするべきだろうか。木を生かして自然と調和する建築などは、この思想に真っ向から抵抗しているように、ぼくは感じる。また、落合陽一らの著作で、アニミズムと結びついたAIの議論が行われている(『デジタルネイチャー』など)のは、一神教的な構図を持つハラリ的議論に対する、日本的な応答もしくはカウンターなのかもしれない。

賛成するかしないかはともかく、この「データ教」的な思想との対峙し立ち位置を示すことによって、おそらく建築そのものが持っており、体現している思想性──それは、人間存在のあり方や、未来がどうあるべきかに関わる──が、逆照射されるのではないか。

_
書誌
著者:ユヴァル・ノア・ハラリ
訳者:柴田裕之
書名:ホモ・デウス:テクノロジーとサピエンスの未来
出版社:河出書房新社
出版年月:2018年9月

建築討論

建築をめぐる幅広い批評的議論のプラットフォームを提供する日本建築学会のウェブマガジンです。

藤田直哉

Written by

ふじた・なおや/1983年札幌生まれ。東京工業大学社会理工学研究科価値システム専攻修了。博士(学術)。著書に『虚構内存在』『シン・ゴジラ論』(作品社)『新世紀ゾンビ論』(筑摩書房)、編著に『地域アート 美学/制度/日本』(堀之内出版)『3・11の未来 日本・SF・創造力』(作品社)『東日本大震災後文学論』(南雲堂)など

建築討論

建築をめぐる幅広い批評的議論のプラットフォームを提供する日本建築学会のウェブマガジンです。

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade