AIの遠い未来 「12のシナリオ」by Tegmark

Tegmarkの"Life 3.0"をザッピングして、少し嫌になる。Huluで「パーソン・オブ・インタレスト」の残りを見た方がよかったかも。
今世紀中に、大きなAI技術の飛躍が起きるというところは、同意。また、自分は、"Digital Utopian"ではなく、著者と同じく、現時点では、"Beneficial AI Movement"の立場に立つことでも同意。
ただ、その先が良くない。
"CHAPTER 5 Aftermath: The Next 10,000 Years"
10個以上の、Next 10,000 yearsのシナリオが示されている。
そんな先まで、議論しようというのがおかしい。もちろん、何を想像するのも何を問題提起するのも自由なのだが。ただ、SF作家の想像力の方が、よほど魅力的かもしれない。
こんな未来像を煽っていたら、現実的には、4番の「人間Gatekeeper」版が、今のうちに必要だということに落ち着くだけだと思う。
最初の三つは、現在の社会・経済思想を、一万年後に投影したものでしかない。縄文人に、「オープンソース」や「ビット・コイン」を想像させるのは、難しい。
神についてのシナリオでは、歴史的には機械の「創造主」は人間に他ならないのだから、「機械の神に人間がなる」(きっと偶像は、ビル・ゲイツかスティーブ・ジョブスになるのかも)というシナリオがないのが残念。(Descendants の派生系だが)
個人的には、もちろん、想像の世界での話だが、8番のDescendants が好き。ただ、きわめて現実的には、12番のSelf-destruction が、一番ありそうなシナリオに思えるのが悲しい。
彼があげている、12のシナリオを訳して見た。
------------------------
1. Libertarian utopia (リバタリアンのユートピア)
人間、サイボーグ、アップロード、スーパー・インテリジェントAIは、財産権を保証することで平和的に共存する。
2. Benevolent dictator (情深い独裁者)
AIが社会を運営する上で厳格なルールを強制することは誰もが知っている。ほとんどの人間はこれを良いことと見ている。
3. Egalitarian utopia (平等主義のユートピア)
人間、サイボーグ、アップロードは、財産権を廃止し、収入を保証することで平和的に共存する。
4. Gatekeeper
スーパー・インテリジェントAIは、別の超インテリジェンスAIの創造を妨げるために、必要な干渉することを目標として作成される。その結果、多少の人間工学的な知能を持つヘルパーロボットが多く生まれ、人間機械のサイボーグは存在するが、技術の進歩は永遠に阻害されている。
5. Protector god (守護神)
本質的に全知全能なAIは、我々が自身の運命を支配しているという感情を持たせたまま、多くの人間がAIの存在を疑うほどうまく隠れた方法で介入して、人間の幸福を最大にする。
6. Enslaved god (囚われた神)
スーパー・インテリジェントなAIは、人間によって閉じ込められる。人間は、その力を使って、想像を絶する技術と富を、良い目的であれ悪い目的であれ、人間のコントローラに応じて使うことができる。
7. Conquerors (征服者)
AIが支配権を取る。AIは、人間を脅威/厄介者/資源の浪費者であると判断し、我々には理解もできない方法で人間を取り除く。
8. Descendants (子孫たち)
AIは人間に取って代わる。ただ、人間には、AIを我々人間の価値ある子孫とみなすような優雅な逃げ道を与える。親たちが、自分より賢い子供を持つことに、幸せと誇りを持つように、AIは人間から学び、人間が夢見たことを実現するのだと思うようになる。たとえ、生きているうちに、その全てを見ることはできないにしても。
9. Zookeeper (動物園)
全能のAIは、何人かの人間たちを残し、近くに置く。動物園の動物のように扱われ、人間は自らの運命を嘆く。
10. 1984
スーパー・インテリジェンスのための技術進歩は、AIによってではなく、オーウェル型の監視国家で人間主導で恒常的に縮小される。そこでは、ある種のAI研究は禁止される。
11. Reversion (退行)
スーパー・インテリジェンスへの技術進歩は、アーミッシュのスタイルで、テクノロジー以前の社会に戻ることで防止される。
12. Self-destruction (自滅)
スーパー・インテリジェンスは創造されない。人類は核あるいは気候変動による生物学的障害といった、別の理由で、絶滅へと突き進む。

コメント

このブログの人気の投稿

マルレク・ネット「エントロピーと情報理論」公開しました。

初めにことばありき

人間は、善と悪との重ね合わせというモデルの失敗について