書評

　人工知能（AI）の発展を中心とする第四次産業革命の可能性について、耳にしない日はない。だが、この急速な技術発展は、本当に人間を「自由」にし、さらには「幸福」にしてくれるだろうか？　これが本書の核心的な問いである。
　菅付の整理によれば、世間には対立した見方があるという。一方では、あらゆる情報が監視され、人間はAIに仕事を奪われ隷属することになるというディストピア論がある。そして、他方では、人間がAIによって様々な重荷から解放され、自由・幸福になるというユートピア論がある。
　どちらの見解が正しいかを突き止めるために、菅付は、様々な専門家にインタビューをし、豊富な具体例をもとに、テック業界の現場の最前線をレポートしてくれる。そして、「AIは人間のように思考することができるのか？」、「AIは意識を持つか？」、「AIは人間を労働から解放するか？」など、AIについて考えようとすると必ず思い浮かぶ重要な問いについて考えるヒントを数多く与えてくれる。
　興味深いのが、菅付が取材を進めるにつれて、徐々に楽観的なシンギュラリティの到来予測そのものへの懐疑を強めていくように思われることだ。というのも、調査から浮かび上がってくるのは、多くの研究者や専門家たちが、シンギュラリティのような世界がすぐに実現する可能性はかなり低いと見積もっている現状だからである。
　この事実から奇妙な構図が浮かび上がってくる。フランスの哲学者ジャン＝ガブリエル・ガナシアを引用しながら、菅付が述べているように、シリコンバレーの人々は、一方では、AI発展の限界を暗に認めながらも、同時に、「人間の終わり」をもたらすようなAIの危険性を熱心に警告しているのである。つまり、「私たちの心はすべてAIに読まれている」、「私たちの判断は実はすべてグーグルやフェイスブックが生み出しているフェイクに支配されている」と警告しているのだ。あたかも私たちには自由意志もなく、すべては幻想だと言わんばかりに。
　この矛盾を考察するためには、さらに踏み込んで、私たちはこう問わねばならない。テック業界の人々は、近い将来のAI技術発展の限界を知っているにもかかわらず、なぜ誇張された危険性を積極的に広めているのだろうか、と。
　それは単に話題を生み出すことで、世間的な注目を浴び、政府の助成金やクラウド・ファンディングによる資金を獲得するためだけではないだろう。また、万が一の危険性を親切心から喚起してくれているわけでもない。むしろ、真の狙いは、私たちの自由意志は存在せず、真実を知ることはできない、と人々を疑心暗鬼にさせることにあるのではないか。
　つまり、狙いはこうだ。一度、私たちが自明の事実を自明ではないものとして疑うようになれば、人々はもはや事実とフェイクの区別をつけられなくなる。あるいは、自由意志を疑ってくれれば、そこに付け込んで、人々を操ることが容易になる。私たちがテック業界の警告を信じて、自発的に、自ら判断し、行為する能力を疑う背後で、GAFAは私たちの情報データをどんどん集めて分析しながら、巨大な支配システムを構築していく。本書でも引用されているマルクス・ガブリエルが『未来への大分岐』（集英社新書、2019年）で述べているように、こちらが敵を見誤れば、相手の思う壺である。これほど簡単なゲームはないのだ。
　人間は単なる動物ではなく、機械でもない。「動物と機械から離れて」、存在している。人間の人間らしさの一つは、自ら進んで人間性を否定することのできる能力のうちにある。これ以上の自発的隷従を防ぐためには、まずは相手の戦略をしらなくてはならない。本書はそのための貴重なドキュメンタリーだ。
　要するに、敵はAIではない。菅付が述べるように、AIはうまく使えば、私たちの知能を大いに高めてくれる。「特定の」使われ方をする場合にのみ、AIは破壊的な危険性を発揮することになるのである。
　だが、この文脈で、技術が中立でないというのであれば、その力関係を規定する政治的要因だけでなく、GAFAを駆動する資本主義の経済的要因にも触れるべきだろう。問題は、中国やロシアの監視社会だけではないのだから。端的に言えば、真の敵は、AIを利用して、私たちの生活や思考を支配しようとするシリコンバレーであり、利潤を求め続ける資本主義なのである。