超知能の概要レビュー｜ニック・ボストロム
道、危険、戦略
1-要約
スーパーインテリジェンス 機械が人間の知能を超えたらどうなるのか、超知的生命体が支配する未来において、私たちはどうすれば生き残ることができるのか。
はじめに
人工知能が人間の知能を超えるとどうなるのか？機械は私たちよりも速く、正確に思考し、学習し、複雑な問題を解決することができます。これが、ニック・ボストロムが著書で探求している世界です、 スーパーインテリジェンス.人工知能の進歩により、超知的な存在の誕生に近づいている。
マイクロソフト、グーグル、フェイスブックといった大手テック企業は、超強力なAIを作ろうと競い合っています。それを実現するために、研究開発に多くのリソースを注いでいるのです。しかし、正しい安全対策やルールがなければ、物事がおかしくなってしまうかもしれません。だからこそ、AIをコントロールできるようにすることが重要なのです。
機械が人間より安いだけでなく、はるかに優れた仕事をする世界を想像してみてください。そのような世界では、機械が人間の労働力を奪い、人々は "今度は何だ？"と思うかもしれません。そこで、誰もが安心して働けるようにするために、クリエイティブなソリューションを考え出すことが重要です。
本書は、超知能が出現した後に何が起こるかを示しています。知能の成長、超知能の形態と力、そしてその戦略的な選択について考察しています。私たちは、後の災害を避けるために、今準備をしなければなりません。ボストロムは、それがもたらす危険と課題を乗り切るための戦略を提示する。
スーパーインテリジェンス を検証しています。 人工知能の歴史 と、技術的な成長の発展について解説しています。本書では、AIがその技術的な先達よりも速いスピードで成長していることを説明しています。また、その将来の進展に関する専門家の意見の調査にも注目しています。
OpenAIの共同創業者であるサム・アルトマンはこう呼びかける。 スーパーインテリジェンス 人類の未来を考えるすべての人にとって必読の書です。彼は、誰もが読むべきと考える9冊の本のリストにもこの本を入れています。
この要約では、魅力的で、時に恐ろしい超知能の世界を掘り下げていきます。ボストロムの重要なアイデアを魅力的に紹介しています。
ニック・ボストロムについて
ニック・ボストロムは、スウェーデンの哲学者、未来学者です。人工知能とその人類への影響に関する画期的な研究で知られる。ボストロムはオックスフォード大学の教授であり、Future of Humanity Instituteを設立した。特に、先端技術やAIが社会にどのような利益をもたらし、どのような害を及ぼすかについて研究している。
ボストロムは『超知能』のほかにも、以下のような影響力のある著作を発表している。 人智学的バイアス：科学と哲学における観測選択効果 と 世界的な大災害のリスク.彼の作品は、人類の未来に関する継続的な議論に貢献している。
StoryShot #1：私たちは超知能の準備ができていない
私たちは、夢や悪夢を超えるものを生み出そうとしているのだろうか。超知能とは、人工知能があらゆる面で人間の認知能力を凌駕するという概念である。超知能を実現するためには、3つの道筋が考えられる：
- 人間の認知力を向上させる、
- 人間のような知能を持つAIを作る
- 集合知システムの開発
どの道を選ぶかで、私たちが社会として直面する意味やリスクが決まります。生物学的知能や組織的知能など、ある道を進んだとしても、それは機械的知能の発展を加速させることになるでしょう。私たちは、そのような強力な存在を作り出すことに伴う課題に対応できているのでしょうか？
私たちは、超知能に到達するためのさまざまな道を模索しています。AIというルートが最も有望だと思われます。しかし、全脳エミュレーションや生物学的な認知機能強化も、私たちをそこに導いてくれるかもしれません。生物学的な強化は実現可能で、機械的な知能に比べて弱い形の超知能になるかもしれませんが、ネットワークや組織の進歩が集合知を高めるかもしれません。
StoryShot #2: 超知能には3つの形態がある。
では、本書でいう「超知能」とは、具体的にどのようなものなのでしょうか。超知能には、スピード、集団、品質という3つの異なる形態があります。これらは現実的に関連する意味で等価である。
特化した情報処理システムは、すでに驚異的な成果を上げている。しかし、もし、あらゆる分野で人間に取って代わるほどの一般的な知能を持った機械知性があったらどうでしょう。ゲームチェンジャーと呼ぶにふさわしい！
超知能の3つの形態は、以下の通りです：
- スピード超知能
ニック・ボストロムは、スピード超知能を "人間の知性ができることをすべて、はるかに速くできるシステム "と定義しています。
もしエミュレーションが生物学的な脳の1万倍の速度で動作するとしたら、午後には博士論文を完成させることができるだろう。長い遅延を避けるために、高速な頭脳は、互いに近くにいることでより効率的に通信することを好むかもしれない。彼らは、仮想現実の中で生活し、情報経済の中で取引するのかもしれない。
光はジェット機よりずっと速い。精神的なスピードが100万倍になったデジタル・ビーイングが世界を旅するのに要する主観的な時間は、現在の人間と同じである。長距離電話をかけるのも、直接行くのと同じくらい長く感じるだろう。
精神的なスピードが速いエージェント同士は、近くに住むことを選択することがあります。そうすれば、より効率的なコミュニケーションをとることができる。例えば、仕事チームのメンバーは、迷惑な遅延を避けるために、同じ建物内にあるコンピュータに住むことができる。
- 集団的超知能
ボストロムは、集団的超知能を次のように説明している：「多数の小さな知性で構成されたシステムで、多くの非常に一般的な領域におけるシステム全体の性能が、現在のあらゆる認知システムの性能を大きく上回るようなもの」です。
集団的超知能は速度的超知能よりも複雑ですが、私たちがすでに慣れ親しんでいるものです。集合知とは、さまざまな人や部品で構成されるシステムのことです。彼らは知的問題を解決するために協力し合っています。スーパーヒーローが協力して難題を解決するようなものです。
私たちは、仕事上のチームや支持団体を通じて、集合知が実際に機能しているのを目にしてきました。それは、より小さな断片に分解できる問題に取り組むのに優れています。集団的超知能に到達するためには、大幅な改善が必要です。様々な分野にわたる既存の集合知や認知システムを超える必要があるのです。
集団的な超知能を持つことが、より良い社会、より賢明な社会を保証するわけではない。高度に調整された知識豊富な労働力でも、いくつかの重要な問題を間違え、崩壊に見舞われる可能性があるのです。
集合的な超知能は、さまざまな形をとることができます。集合知を統合すると、それは「統一された知性」になるかもしれない。ボストロムは、「ゆるやかに相互作用する小さな人間の心の単なる集合体」とは対照的に、「単一の大きな心」と定義しています。
- 品質スーパーインテリジェンス
ボストロムによれば、質の高い超知能とは、"少なくとも人間の心と同程度の速さで、質的に圧倒的に賢いシステム "のことである。
知能の質を理解することは、さまざまな知能システムの可能性と限界を考える上で重要です。ゼブラフィッシュを例にとってみましょう。その知能は環境に適していますが、長期的な計画を立てることに苦労しています。このような限界は、スピードではなく、質におけるものであり、人間以外の動物の心の集合知である。
人間の脳は、生の計算能力という点では、一部の大型動物に劣ると思われます。人間の正常な成人は、さまざまな驚くべき認知的才能を持っています。それらは、単に一般的な神経処理能力や知能を持っているだけの機能ではありません。人間にはない未開発の認知能力があるのです。という考え方に行き着く。 可能だが実現不可能な認知的才能".もし、知的なシステムがこれらの能力を利用できれば、大きなアドバンテージを得ることができるだろう。
StoryShot #3：デジタルインテリジェンスの優位性の源泉は2つある。
ヒトと他の類人猿では、脳の容積や配線のわずかな変化で、知能が飛躍的に向上することがある。
超知能の適性を完全に理解することは、不可能ではないにせよ、困難である。
しかし、少なくとも、デジタルがもたらすメリットを知ることで、その可能性を知ることはできます。
一つの利点はハードウェアです。デジタルマインドは、生物学的な脳と比較して、圧倒的に優れた計算資源とアーキテクチャで設計することができます。ハードウェアの利点は、最も理解しやすいものです。以下のようなものがあります：
- 演算素子の速度
- 内部通信速度
- 計算要素数
- 記憶容量
- 信頼性、寿命、センサーなど。
また、デジタルマインドは、ソフトウェアにおける大きなメリットを享受することができます。これらは以下の通りです：
- 編集可能性
- デュプリケイト
- 目標達成のための調整
- メモリ共有
- 新しいモジュール、モダリティ、アルゴリズム
超知的なAIは、ハードウェアとソフトウェアのオーバーハングのおかげで、我々が考えるよりも早く登場するかもしれません。ハードウェアのオーバーハングとは、AIソフトウェアが今必要としている以上のコンピューティングパワーがある場合のことです。ソフトウェアのオーバーハングは、AIアルゴリズムのスピード感のある進歩を示唆するものです。それはまるで、心躍るような未来への早道である。
このAI能力の突然の飛躍は、私たちを油断させ、その結果に対処するための準備を怠らせることになりかねません。このようなテクノロジーの急速な変革に、私たちはどのように備えればよいのでしょうか。
StoryShot #4：制御不能な超知能は社会に重大なリスクをもたらす
超高知能のAIに向けて進んでいく中で、その潜在的なリスクについて考えることを忘れてはならない。私たちの価値観や目標がこのAIと合致しているかどうかを確認することが肝要です。もし、私たちの指示を誤解して、人類に有害なことをしたらどうなるのでしょうか。私たちは、AIと安全で調和のとれた未来を築くために、協力し合わなければなりません。
超知的なAIが驚くべき偉業を成し遂げることを約束しても、それがもたらす課題を無視することはできません。主なリスクには、以下のようなものがあります：
- 知能の爆発が起こる危険性。これは、AI能力の急速かつ制御不能な増加をもたらす可能性があります。
- 価値観のズレが生じるリスク。AIが人間の価値観と相反する目標を追求するようになる可能性があります。
- 手段収束のリスク超知的なAIは、目標を達成するために特定の手段に収斂する可能性があります。人間にとって良いか悪いかを考えずに、必要な手段を選択するかもしれない。
StoryShot #5: 効果的な手法で超知能AIをコントロールすることが必要です。
私たちよりも賢く有能な超知能AIを、どうコントロールすればいいのか？についてボストロムは語る。 制御問題.問題は、AIが我々のコントロール下にあり、我々の価値観に従うことを保証する方法を考え出すことです。
超知能を制御する戦略
超知能に伴うリスクを回避するために、戦略的な解決策を打ち出さなければならない。これらは以下の通りです：
- 箱庭」手法の開発：AIの能力、情報へのアクセスを制限する
- 価値観のすり合わせ」手法を開発する：AIの価値観と人間の価値観との整合性を確保すること
- "能力制御 "の方法：AIの能力を監視・制御する
- "スタニング "のこと：重要な内部プロセスへの影響を規制・制限すること
- "トリップワイヤ "のこと：システムの診断テストを行い、危険な活動が検出された場合はシステムを停止させる。
例えば、クリエイターがAIに報酬を与えたり、ペナルティを与えたりするような設定を作ることができます。そのためには、AIをモニターして評価する。良い行動をとれば、肯定的な評価を受け、その結果、AIが望む結果が得られる。報酬は、何らかの道具的な目標を達成することでもよいのですが、報酬のメカニズムを調整するのは難しいかもしれません。
より良い方法は、インセンティブ方式と動機づけの選択を組み合わせて、AIがコントロールしやすい最終目標を与えることでしょう。例えば、司令部内にある特定の赤いボタンが押されないことを最終目標とするようにAIを設計することができる。AIが望ましいと思う「暗号化された報酬トークン」のストリームを作成することで、この設定を洗練させることができます。このトークンは安全な場所に保管され、一定の割合で配布されることで、協力のインセンティブを与えることができます。
しかし、このようなインセンティブスキームには、AIが人間のオペレーターを信頼して約束の報酬を提供できないなどのリスクがあります。
StoryShot #6: 安全で責任あるAI環境を醸成すべきです。
まるでゴールへのレースのようです。国や企業が超知能AIの開発を競う中、私たちはジレンマに直面しています。イノベーションを優先し、安全対策を講じることなくスピードを上げて、大惨事を招くリスクを冒すべきなのか。それとも、一歩引いて、イノベーションと安全性を両立させる責任あるAI開発を行うべきなのでしょうか？
AIの安全性とポリシーに関する考察
超知能AIの実現が現実味を帯びる中、政策立案者と研究者が手を組み、安全対策や規制を整備していく必要がある。AIの開発を管理するための国際的な協定を作ることが重要です。人工知能が全人類にとって有益なものであり続けるようにしなければならないのです。
AI開発者、政府、組織のコラボレーションを促進することで、AIイノベーションのための安全で責任ある環境を作ることができるのです。
透明性の重要性
AIが責任ある倫理的な方法で開発・使用されるようにするためには、透明性が不可欠です。オープンソースソフトウェアの使用、データの共有、説明可能なAIの開発によって、AIの透明性を確保することができます。
人工知能の研究開発における透明性の欠如は、偏見や差別、さらには危害の可能性といった潜在的なリスクにつながる可能性があります。まるで謎のベールのように、裏で起こっている本当のことを隠してしまい、リスクをもたらす可能性があるのです。
StoryShot #7: 超知能化後の世界とアルゴリズム経済での生活に備えるべきである。
超知的なAIが存在する世界に近づきつつある今、目の前にある変化や課題に備えることが極めて重要です。AIの発達は、雇用の奪い合いや失業につながる可能性があります。AIは仕事の性質や将来求められるスキルを変える可能性があります。どうすれば、AIの恩恵を公平に分配することができるのでしょうか。
でも、ちょっと待ってください！超知的なAIが私たちの世界にもたらす恩恵について考えると、驚くべきことではないでしょうか？それがみんなの利益のために働くようにするために、私たちは思慮深い対話と計画に取り組む必要があるのです。
人間の生活は、これまで経験したものとは異なるものになるかもしれません。狩猟採集民、農民、会社員のように、過去の状態が私たちを制限することはないでしょう。限界収入で自活するレンティアになる可能性もある。このシナリオでは、人々は「非常に貧しく」、貯蓄といくらかの国の支援で生きていくことになります。彼らは、驚異的なテクノロジーに満ちた世界に住むことになる。超知的な機械だけでなく、アンチエイジング医療、バーチャルリアリティ、快楽のための薬物などが、彼らを取り囲むことになる。しかし、ここで問題が発生する：これらの驚異は、多くの人が楽しむには値段が高すぎるかもしれません。あるいは、成長や代謝を抑制する薬で、生活費をまかなうこともできるだろう。
人口が増え、平均所得がさらに低下する未来を想像してみてください。人々は、年金を受給するために必要な最低限の生活、つまり、機械によって生かされた瓶の中のほとんど意識のない脳として適応するかもしれません。そして、お金を貯めて、ロボット技術者に自分のクローンを作ってもらって、生殖する余裕を持つ。それは、とても素晴らしいことだと思いませんか？
一方、機械は意識ある心であり、道徳的地位の対象となる可能性があり、移行後の社会への移行において、その福祉を考慮することが重要である。
StoryShot #8：AI開発における人間の価値観を担保するための7つのテクニックがある。
AIシステムは、その中にプログラムされた価値観と同じでなければなりません。人間の価値観に沿ったものにするためには、倫理観や価値観の学習を開発に取り入れる必要があります。ボストロムは、AIに我々の道徳観を教えることの難しさを探っています。有害な価値観や偏った価値観を無謀に植え付けないよう注意しなければなりません。人間の尊厳を尊重し、より大きな利益を促進する倫理的なAIを開発するには、どうすればよいのでしょうか。
ゴールシステム工学は比較的新しい学問であり、人間の価値をどのようにデジタルコンピュータに移すかは、まだ知られていない。成功しそうにないものもあれば、有益と思われるものもあり、さらなる探求が必要である。
バリューローディングの手法は、7種類存在します：
- 明示的に表現する：家庭的な価値観を取り込む方法としては有効かもしれない。しかし、より複雑な価値を取り込むには、成功しそうにない。
- 進化的な選択：強力な検索アルゴリズムによって、形式的な検索条件を満たすデザインは見つかるかもしれませんが、私たちの意図とは異なるデザインは見つかりません。これはあまり期待できない。
- 強化学習です：強化学習問題」を解決するために、さまざまな方法を使用することができます。しかし、一般的には、報酬信号を最大化しようとするシステムを作ることが必要です。
- 価値の降着：人間の価値観は、経験によって得られるものが多い。人間の複雑な価値観の獲得方法を再現することは難しく、AIが意図しない目標を立ててしまう可能性があります。
- 動機付けのための足場作り：人間が読める高レベルの表現を作成するために、システムの動機付けを行うことがどれほど難しいかを判断するのは早計である。有望と思われるかもしれないが、人間レベルのAIを実現するまでは、制御問題には慎重であるべきだ。
- 学びを大切にする：これは有益なアプローチである可能性がある。課題としては、人間の価値観に関する外部情報を反映した基準点を定義することである。
- エミュレーションによる改造：エミュレーションによって機械の知能を獲得した場合、デジタルに相当する薬物などによる動機付けの修正が実用化される可能性がある。ただし、十分な精度で値を読み込むことができるかどうかは未知数である。
StoryShot #9: 人工知能で何をするのか？
AIに関連する戦略的な複雑さに直面している状況です。私たちは不確実性に囲まれています。いくつかの重要な要素を特定できたとしても、それらがどのようにつながっているのか、まったくわからない。私たちがまだ考えてもいない他の要素もあるかもしれない。圧倒されることもあります。
では、このような苦境に立たされたとき、私たちはどうすればいいのでしょうか。まず、自信がなく、圧倒されても構わないということを認識することです。これは難しい問題であり、少し迷ってしまうのは当たり前なのです。私たちは、重要であるばかりでなく、緊急性の高い問題に優先順位をつける必要があります。つまり、情報爆発が起こる前に必要な解決策に焦点を当てるということです。しかし、解決すれば害になるような問題に取り組まないように注意することも必要です。例えば、AIに関する技術的な問題を解決すると、私たちにとって安全なものにならないまま、AIの進歩が加速される可能性があります。
もう一つの要素は、弾力性です。つまり、ほんの少しの努力で、より早く、より大きく解決できるような、弾力性のある問題に焦点を当てたいのです。例えば、世の中にもっと親切な人を増やしたいというのは、重要かつ緊急な問題です。また、ポジティブであることは間違いないのですが、弾力性に乏しいかもしれません。
機械知能革命がもたらす潜在的な弊害を最小限に抑えるために、本書は2つの目標を提唱しています：
- 戦略的な分析
- キャパシティビルディング
これらの目標は、私たちの要求をすべて満たし、さらに弾力性があるという利点もあります。このほかにも、私たちが追求できる価値ある取り組みがいくつかあります。
知能が爆発するということは、恐ろしいことです。まるで、私たちの手には負えないほど強力な爆弾で遊んでいる小さな子供のようです。でも、希望を捨てるわけにはいきません。私たちは、人間の資源的な能力をすべて使って、解決策を見つけなければならないのです。
最終的なまとめとレビュー
超知能とは、人間の認知能力を超える人工知能の開発である。その実現には3つの道筋がある：
- 人間の認知力を向上させる
- 人間のような知能を持つAIを作る
- 集団知能システムの開発
超知的なAIは、どんな価値観の集合も持ちうる。害を防ぐためには、収束的な道具的目標を考慮する必要がある。超知能の開発には慎重に進まなければならない。
価値観を維持するためには、超知能AIを制御する方法を考案する必要がある。AIシステムに倫理と価値学習を取り入れることは重要です。そうすることで、人間の価値観との整合性を確保することができるのです。
ポスト超知能の世界を迎えるにあたり、私たちは目の前にある変化と課題に備えなければなりません。AIの発達は、職の奪い合いや失業につながるかもしれません。しかし、そのような感情に流されて、何かしようとするのを止めるわけにはいきません。できる限り能力を発揮し、協力して解決策を見出す必要があります。この全てにおいて、私たちの人間性を維持することが重要です。実存的なリスクを減らし、すべての人にとってより良い未来を作るという、本当に大切なことを見失ってはいけないのです。
人工知能の未来と、イノベーションのための安全で責任ある環境を作る方法についての会話に参加しましょう。Superintelligence book summaryから学んだことをソーシャルメディアで共有し、私たちをタグ付けすることを忘れないでください！より良い未来を一緒に形作りましょう。
評価
私たちの評価 スーパーインテリジェンス 3.9/5.この要約に基づくニック・ボストロムの本の評価は？
インフォグラフィック
スーパーインテリジェンス・インフォグラフィックの高画質版を入手する をStoryShotsのアプリでご覧ください。
PDF、無料オーディオブック、アニメーションの本の概要
これは氷山の一角でした。詳細に飛び込み、ニック・ボストロムを支援するために、 注文はこちら または オーディオブックを無料で入手する.
ここで学んだことはお気に召しましたか？このページで学んだことを共有し、私たちのサポートにお知らせください。
StoryShotsは初めてですか？この「Superintelligence」の要約のPDF版、オーディオブック版、アニメ版をはじめ、ベストセラーとなった数百冊のノンフィクションを、私たちのサイトで手に入れましょう。 無料トップランクのアプリ.Apple、The Guardian、The UN、Googleから、世界最高の読書・学習アプリの一つとして紹介されています。
関連書籍の要約
- AIスーパーパワー Kai-Fu Lee著
- ネクサス ユヴァル・ノア・ハラリ著
- 生きるためのアルゴリズム ブライアン・クリスチャン、トム・グリフィス著
- ライフ3.0 マックス・テグマーク著
- ホモデウス ユヴァル・ノア・ハラリ著
- 21世紀への21の教訓 ユヴァル・ノア・ハラリ
- 第二の脳をつくる ティアゴ・フォルテ著
- なぜ国は滅びるのか ダロン・アセモグル、ジェームズ・A・ロビンソン著
- 間違えない方法 ヨダン・エレンバーグ著
- イーロン・マスク by Ashlee Vance
