ジェイムズ・バラット氏の「人工知能～人類最悪にして最後の発明」人類と人工知能は共存可能か？？

「人工知能～人類最悪にして最後の発明～」

フリーのテレビプロデューサーである

ジェイムズ・バラット氏が、人工知能と

人類の共存可能性について、数々の専門家との

取材を通じて、分析考察された本です。

人工知能が、「知能爆発」レベルを超えると、

人類は制御不可能になり、人工知能に管理されて

しまうのではないかと、「悲観的結論」に導かれています。

未来の真実とは！？

今回は、この本をご紹介します。

「人工知能～人類最悪にして最後の発明～」（ジェイムズ・バラット著、水谷淳訳、ダイヤモンド社、２０１５年）

ジェイムズ・バラット氏（以下、著者）は、様々なドキュメンタリー番組を

手がけてこられたフリーのテレビプロデューサーです。

２０００年以来、本書にも登場するレイ・カーツワイル氏や

アーサー・C・クラーク氏に取材して以来、

人工知能（以下、AI）の問題点について、

探究してこられた一つの到達点が本書の結論であります。

いわく、「AIは、人類のような生物とは異なる別種の存在」であり、

これまでの「楽観論」「悲観論」が暗黙の大前提ともしていた

「人類とAIの共存可能性」を

「人類との共存可能性すら難しい危険な存在！？」へとイメージ転換させて、

「人類滅亡論」の極北までを考慮に入れた何らかの抑止策を

「知能爆発」超えで、管理不能状態に陥る前に、

練っておくべきだと論じられています。

まさに、この数年の直近こそが、「最終地点」だと・・・

２０１４年末には、『タイム』誌によって、

「AIによる人類滅亡論者」として、

スティーヴン・ホーキング氏やイーロン・マスク氏とともに、

重要な識者５人のうちの１人に選ばれた人物であります。

このように、著者のAI論に関する立場は、「超悲観論！？」で

あるようです。

あくまで、「技術的特異点（シンギュラリティー）」に達してしまう前の

「早期」に手を打たなければとの大前提ではありますが・・・

当ブログでも、出来るだけ公平な観点から、現時点における

AI専門家などの諸見解をご紹介してきましたが、

著者の独自視点は、「楽観論者」の根拠なき「AI安全神話」に対する警鐘や

「悲観論者」でさえ見落としてきた「AI擬人化論」の限界について、

激しくその問題点について追究されている点にあります。

著者は、生物進化史の流れからも、このAIを位置づけておられますが、

これまでの「人類」とも地球上の多種多様な「生命体」とも異なる

「特異な未知の生物体！？」として分析考察されています。

もっとも、現時点のAI研究開発者の念頭には、「人類」の手によって

プログラミング化された「ロボット（道具！？）」だから、

予想外の展開が生じたとしても、「人類」の手によって、必ず「制御（制圧）」

できるとの見通しで進められているようですが、

それも「現時点」における技術レベルでの話であります。

最終的なAIの未来予想図は、

「自己認識と自己組織化を伴う（自己意識＝感情を持った）別種の生物体」だと

予想される重要な視点が、これまでの議論では、

見事なまでに軽視されてきたのではないかと強調されています。

そこに、著者ならずとも、一抹の不安を覚えてしまうのが、

「人類」の「良心」であります。

ということで、今回は、AIをテーマに「悲観論の＜極北＞」の視点から

著者の見解をご紹介することになりますが、

あくまで参考意見の一つとして（とはいえ、相当な貴重な見解ですが・・・）、

皆さんにもともに各人各様の視点から考察して頂くヒントとして、

この本を取り上げさせて頂きました。

「人類」は、早期に生存対策を練らなければ「AIターミネーター」によって滅ぼされる！？

本書をご紹介するに当たり、

無理に重ね合わせる予定はなかったのですが、

本日たまたまSF映画『ターミネーター２』のテレビでの放映が

ありましたので、「AIターミネーター」というタイトルにしてみました。

このタイトルこそ、著者のイメージ像とも重なるようで

理解しやすくなるのではと思われるからです。

この映画のような「最悪にして最後の発明品」になるのか否かは、

まだ誰も「現実」に直面していないことから、安易な「断定」など出来ませんが、

「人類」が自ら創り出した「人工知能」といった「機械（的生物？？）」が、

圧倒的なスピードで、知能指数を自らアップしていき、

文字通り「あっという間に」、「人類」の手に負えない領域にまで

進展していくことは、十分に予想がつきます。

最初のプログラミング（入力）までは、「人類」によって、

制御し得たとしても、AI自身による「自己学習」の過程は、

「ブラックボックス」化してしまうために、

最終的にどのような結末（出力）となって、「人類」の前に

再び現れ出るかは、「想定外」だと著者は語られています。

そのような「想定外」の非常事態にも備えるための、

ある種の「自殺遺伝子情報（プログラム細胞死＝アポトーシス）」

（本書３１６～３１８頁ご参照）を予め組み込んでおけば、

被害を最小限に食い止めることが出来るだろうとの対策案も

本書では紹介されているのですが、「自己増殖」の過程が

「未知数」でもあり、生物界における進化過程で「想定」されてきた

「突然変異＜仮説＞」が、もし本当に「実証」されでもしたら・・・

そのような時こそ、「人類」にとっての「大災厄」であります。

このような観点から、従来のAI「楽観論者」や「悲観論者」にさえ

刺激を与える論考が、本書の主題であります。

「まずは、AIとは、従来の＜生物＞とも異なり、単なる＜機械＞でもないことを

あらためて＜再確認＞する視点を獲得しよう！！」

「＜人類＞によって、この世に創出されたAIが、＜人類＞のことを考慮しながら

自己成長してくれるとでも都合良く考えていないかい？」

「そのような認識自体、甘すぎるのではないかしら・・・」との視点で

著者は、論旨展開していきます。

～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～

それでは、＜本書の内容構成の目次＞を挿入しておきましょう。

「はじめに　AIが人類を滅ぼす日」

「第１章　人類はこうして絶滅する－ビジーチャイルド・シナリオ」

「第２章　一度起こればもはや手遅れ－AIのリスクは予想不可能で計算できない」

「第３章　グーグルXとアルカイダに共通する怖さ－人工知能の「知能」は

人と同じか？」

「第４章　チューリングテストとAIボックス実験－人工知能版「ロボット三原則」の

設計は可能か？」

「第５章　「遺伝的プログラミング」の落とし穴－AIの思考プロセスは

必然的に「ブラックボックス」化する」

「第６章　人工知能の「４つの衝動」－完璧に「経済合理的」なAIにとって人は

必要か？」

「第７章　数学者グッドの予言－「知能爆発」はどのようにして起こるのか？」

「第８章　金融マーケットで人知れず進化するAI－人工知能はいつまで「人の

道具」でいてくれるのか？」

「第９章　カーツワイルの「シンギュラリティー」再考－人類は機械に

追いつけるのか？」

「第１０章　人工知能は「２１世紀の核兵器」－予防策はまだない」

「第１１章　膨大な資金は「誰」が出しているのか？－経済と軍事という

２大要因」

「第１２章　あまりにも、あまりにも複雑－「ソフトウェアの複雑性」は

克服できても・・・・・・」

「第１３章　超知能を生む「脳のリバースエンジニアリング」－

・・・・・・複雑すぎて人は人工知能を理解できない」

「第１４章　AI研究にルールを作れるか－「悪魔」を解き放つのは

善意の研究者か、それとも」

「第１５章　もし社会インフラを人工知能に乗っ取られたら－

コンピュータウイルスとAIの類似性」

「おわりに　人工知能の危険は、今を生きるすべての人の問題である」

※今回は、本書の内容構成の＜目次＞についてのみ記載しておきましたが、

１章ずつその詳細を要約すると長くなりすぎて、煩瑣になりますので、

詳細は、本書をご一読頂くとしまして、以下は、著者の論考に触発された

範囲での重要点を、語らせて頂くことにします。

～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～～

まず、今回解説されている「人工知能（AI）」は、

狭義の「特定」された指示に従う「産業用ロボット」のような

存在ではないということです。

「人工知能（AI）」については、論者によって、

その定義も幅があるようですが、

著者のイメージ像では、科学者が名付けるところの「子どもAI（ビジーチャイルド）」

から「人工汎用知能（AGI）」を経て、人間の知能指数をはるかに飛び越えた

「人工超知能（ASI）」へと進化発展の度合に応じて、その知能指数が

「拡大強化」されていく「（機械的）生命物体！？」が想定されています。

では、そのような急速な進化を遂げた人工知能（AI）は、

私たち「人類」にとって安全・安心できる代物なのでしょうか？

その点に、多大な疑問をお持ちなのが、著者の立場であります。

先にも触れさせて頂きました

「＜人類＞によって、この世に創出されたAIが、＜人類＞のことを考慮しながら

自己成長してくれるとでも都合良く考えていないかい？」

という問題意識から、従来型の「楽観論」に疑義を呈しています。

その一つに、前にも当ブログにてご紹介させて頂きましたアイザック・アシモフ氏の

「ロボット三原則」があります。

「ロボット三原則」とは、以下の３つの原則のことです。

①「ロボットは人間に危害を加えてはならないし、人間が危害を受けるのを

何もせずに許してもならない。」

②「ロボットは人間からのいかなる命令にも従わなければならない。

ただし、その命令が第一原則に反する場合は除く。」

③「ロボットは、第一原則および第二原則に反しない限り、自身の存在を

守らなければならない。」

（本書１７～１８頁ご参照）

このようにアシモフ氏の「ロボット作品」では、

この「ロボット三原則」が示されるとともに、特に②と③の「相互矛盾」に

ついて、「想定外」の事態が起こりえることが描写されているといいます。

つまり、この「ロボット三原則」だけでは、不測の事態に対する原理としては

「不十分」だということです。

また、倫理学者のニック・ボストロム氏も、「超知能」は、今この世に存在する

物体とは、「まったく別種のもの」だという視点が欠けていることに

警鐘を鳴らされています。

つまり、

「超知能を＜擬人化＞することが、もっとも多大な誤解をもたらしている！！」

のだという点が、強調されています。

このような＜擬人化＞論法から、「人類」に友愛的な「フレンドリーAI」を

組み込むことが可能だとの過度に「楽観的」な風潮が現状ですが、

人類の未来を「より良く」しようと研究開発に専念する「善意」の研究開発者ほど、

この「盲点」に気付かずに、最終局面まで突き進みかねないところに

より一層の危険性が潜むことになるとも指摘されています。

アシモフ氏については、前の記事でも語らせて頂きましたが、

管理人にとっても、思い入れの深い作品がたくさんあります。

今なお、「ロボット」に関するイメージ像は、

始めてアシモフ作品に出会った小学生時代のものですし、

その時分には、学芸会でも「ロボットもの」を演題とする

共同制作をみなで演じた経験もあるだけに、今から思えば

この３０数年ほどの短い期間に「時代は大きく変転したんだなぁ～」と

感慨深いものがあります。

その時分には、まさか、ここまで「人工知能（AI）」の実現性が

一気に高まるとも考えていなかっただけに衝撃度も大きいものがあります。

小学生時代には、まるで「アニメ＜ドラえもん＞のような世界」であり、

２２～２５世紀あたりの出来事であり、

まさか、自分の生きている間に起きる「２１世紀の課題」とも実感が伴わなかった

だけに、衝撃度も強まるばかりです。

とはいえ、この勢いが急速に突き進むと、「人類」の雇用が奪われるなど

不安な一面もある一方、それはそれで、より良い代替策も多々生み出されていくだろうと、

管理人自身も「楽観視」してきただけに、

著者の見解には、「極論」ではないかと、読み始め当初には感じられたのも

正直なところでした。

本書を読むと、管理人も著者のいうところの「シンギュラリティー信者」だったのでしょう。

意外なところでは、レイ・カーツワイル氏が、その「シンギュラリティー」といった

言葉の＜生みの親＞だと思い込んでいただけに、これまでの「楽観的な見方」が

変化するきっかけになりました。

「シンギュラリティー（技術的特異点）」に対するイメージは、

カーツワイル氏の「指数関数的進化」を伴う「バラ色の未来」といった

世界観が、若者の間では根強くあるようですが（管理人も、この言葉を

カーツワイル氏のイメージで受け取ってきただけに「明るい」イメージが

鮮烈に焼き付いてしまっていますが・・・）、著者の見解に触れたからには、

もう少し「冷静」な姿勢で、「シンギュラリティー」を見つめ直さなければと

触発された次第です。

著者によると、この言葉の初見は、ヴァーナー・ヴィンジ氏からだそうで、

『シンギュラリティーは恐ろしく、我々の絶滅につながりうるという結論』

（本書１５９頁ご参照）といったイメージが、

その言葉には、込められていたといいます。

要するに、私たち「人類」の知能水準を優に上回った「人工知能（AI）」の

知能指数など、早晩「人類」にとって「理解不能」になる潜在的脅威が

含まれているということです。

ある一定の「臨界点」に達すると、AIも上記「４つの衝動」といった

「欲望（感情）」を持つことも予想されています。

その「４つの衝動」とは、

①「効率性」

②「自己保存」

③「資源獲得」

④「創造性」

であります。

その究極の果てには、「人類」そのものが、AIにとって「道具化」されるに

止まらずに、場合によっては「捕食化」されかねない恐ろしい未来も

予見されることになりそうです。（本書１１４～１１８頁ご参照）

そうならないために、「シンギュラリティー」に達する近年中に

対策を練っておかなければならないと、著者は全編を通じて、

何度も繰り返し強調されています。

著者の不安な見解も「杞憂」に終われば、それに越したことはありませんが、

このAIの進展が急速な時期であるだけに、いかなる論者といえども、

冷静に、分析考察しながら、慎重に研究開発を進めるべきは

論を待たないところであります。

「人工知能（AI）」の脅威も、元はと言えば「人類」の欲望が生み出した代物！！

このように、「人工知能（ＡＩ）」に対する批判的考察が進められていくのですが、

元はと言えば、「人類」にこそ、「生みの親としての責任」があることは、

忘れてはいけないところです。

本書は、「人類」が生み出した「人工知能（ＡＩ）」に重点が置かれた

論考のために、「生みの親」である「人類」の「＜創造＞責任問題」は、

間接的な話題に縮小されてしまっていますが、

この「人工知能（ＡＩ）」を生み出す原動力には、

「人類」の長年に渡る「欲望実現化過程」があったことは無視できないところです。

まとめますと、「人工知能（ＡＩ）」を批判的考察しながら、

研究開発を慎重に推進していくことも大切ですが、それ以前の大問題として、

今ある「人類」の知的能力の「弱さ」をまずは謙虚に受け止めるところから

「再出発」すべきだと思われて仕方ありません。

世の中には、「戦争」や「差別」、「経済格差問題」「環境破壊」などなど・・・

数え上げればきりがありませんが、「人類」が有史以来、この地球上に

多大な「ご迷惑」をおかけしてきた点は、素直に認める時期であります。

著者のような「ＡＩによる人類滅亡論」を唱える論者の中には、

スティーヴン・ホーキング氏もおられますが、

「人類」の地球外「脱出」を考える前に、この「ＡＩ開発問題」の

原点にある「人類」による不純な「欲望動機」を厳しく問い正さないことには、

この「美しい星」地球を汚すだけ汚して、「はい、さよなら！！」では

他の「生命体」「非生命体」に対しても、

あまりにも無責任かつ無礼きわまりない行動ではないでしょうか？

現代世界の頂点にも立たれる賢者であれば、

もう少し賢く、謙虚に「改善策」をこの地球上で練るべきでありましょう。

「地球＜外＞の宇宙空間へ逃げ出す前に・・・」

管理人は、ホーキング博士を敬愛していることもあって、

特に博士に対する批判を専ら展開することが、ここでの主旨ではありませんが、

博士にも「児童向け」の「ＡＩ啓蒙作品」として、

「ホーキング博士のスペース・アドベンチャーⅡ－１

宇宙の法則～解けない暗号～」

（ルーシー＆スティーヴンホーキング著、さくまゆみこ訳、

岩崎書店、２０１５年）という著書もあるだけに、

今日の「人類」の知的レベルが、まだまだ精神的には、

幼すぎることだけは認められるのではないでしょうか？

少なくとも「童心」に戻って、謙虚に反省する視点を持ち直すことが

叶えば、私たち「人類」の危機自体を自ら招き寄せてきた事実に

気付くことができましょう。

私たち「人類」自身の「知的レベル」が幼すぎるだけに、

そのまま「人工知能（ＡＩ）」研究開発を無理に推し進めると、

本書が警告してきたように、本当に「人類」（だけではありませんが、

＜万物の霊長＞を称するだけに地球環境に対する責任があります。）は

早晩「自滅」の方向へと追いやられることになりかねません。

人類自身の「知的能力」も幼く、「欲望」を抑えきる力がないのだとすれば、

それこそ、「強欲」という名の「罪業」によって「人工知能（ＡＩ）」によって、

「制圧」されてしまうことでしょう。

本書を読み進めながら、結論も著者に似て、「悲観論」に導かれてしまいましたが、

必ずしも、諦めることなどありません。

むしろ、すべてを「人工知能（ＡＩ）」の前で、「より良き」方向へと

歩みを進めることを諦めた時こそが、

本当の「＜最悪＞にして、人類の＜最後＞の日」になります。

この本書によって与えられた課題をきっかけに、

「人類」は「反省」する機会を宇宙から与えられたのだと

「楽観的」に考えることができれば、その方向性を転換させることもあり得るでしょう。

とはいえ、「人類」の「強欲」は、かくも根強いものですから、

油断ならないところが、心配の種であります。

本書は、そうした「人工知能（ＡＩ）」問題を通じて、現代人の飽くなき「強欲」を

厳しく見つめ直すことも、隠れたテーマとなっています。

ということで、まずは「地球資源」を食い尽くそうとする「人類」の指向性こそ、

悔い改めながら、あるべき「人工知能（ＡＩ）」の未来予想図をともに描いて頂く

好著として、本書をご一読されることをお薦めさせて頂きます。

最後までお読み頂きありがとうございました。

sponsored link

---