슈퍼인텔리전스 요약 리뷰 | 닉 보스트롬

경로, 위험, 전략

1문장 요약

초지능 는 인공지능의 실존적 위험과 혁신적 힘을 탐구하며, 기계가 인간의 지능을 능가하면 어떻게 될까, 초지능적 존재가 지배하는 미래에서 우리의 생존을 어떻게 보장할 수 있을까라는 질문을 던집니다.

소개

인공지능이 인간의 지능을 능가하면 어떤 일이 벌어질까요? 기계는 우리보다 더 빠르고 정확하게 생각하고, 학습하고, 복잡한 문제를 해결할 수 있습니다. 이것이 바로 닉 보스트롬이 그의 책에서 탐구하는 세계입니다, 초지능. 인공 지능의 발전으로 우리는 초지능적 존재를 만드는 데 더 가까워지고 있습니다. 

마이크로소프트, 구글, 페이스북과 같은 거대 기술 기업들은 모두 초강력 AI를 개발하기 위해 경쟁하고 있습니다. 이를 실현하기 위해 연구 개발에 많은 자원을 쏟아붓고 있습니다. 하지만 적절한 안전 조치와 규칙을 마련하지 않으면 일이 엉망이 될 수 있습니다. 그렇기 때문에 우리가 개입하여 AI를 통제할 수 있도록 하는 것이 중요합니다. 

기계가 인간보다 저렴할 뿐만 아니라 일을 훨씬 더 잘하는 세상을 상상해 보세요. 그런 세상에서는 기계가 인간의 노동력을 대신하게 되어 사람들은 "이제 어떻게 해야 할까?"라는 고민을 하게 될 것입니다. 따라서 모든 사람을 돌볼 수 있는 창의적인 솔루션을 마련하는 것이 중요합니다.

이 책은 초지능이 출현한 후 어떤 일이 일어나는지 보여줍니다. 지능의 성장, 초지능의 형태와 힘, 초지능의 전략적 선택에 대해 살펴봅니다. 나중에 닥칠 재앙을 피하려면 지금 준비해야 합니다. 보스트롬은 초지능이 가져올 위험과 도전을 헤쳐나가기 위한 전략을 제시합니다. 

초지능 를 검사합니다. 인공 지능의 역사 그리고 기술 성장의 발전. 이 책은 AI가 어떻게 이전 기술보다 빠르게 성장하고 있는지 설명합니다. 또한 향후 발전 방향에 대한 전문가 의견 조사도 살펴봅니다.

OpenAI의 공동 창립자인 샘 알트먼은 다음과 같이 말합니다. 초지능 인류의 미래를 걱정하는 사람이라면 누구나 꼭 읽어야 할 책입니다. 그는 모든 사람이 읽어야 한다고 생각하는 9권의 책 목록에 이 책을 포함시키기도 했습니다.

이 요약본에서는 매혹적이면서도 때로는 두려운 초지능의 세계에 대해 자세히 살펴봅니다. 보스트롬의 핵심 아이디어에 대한 매력적인 개요를 제공합니다.

닉 보스트롬 소개

닉 보스트롬은 스웨덴의 철학자이자 미래학자입니다. 그는 인공지능과 인공지능이 인류에 미치는 영향에 대한 획기적인 연구로 유명합니다. 보스트롬은 옥스퍼드 대학교의 교수로 인류의 미래 연구소를 설립했습니다. 특히 첨단 기술과 AI가 사회에 어떤 혜택을 주고 어떤 해를 끼칠 수 있는지에 대한 연구를 진행하고 있습니다.

슈퍼인텔리전스 외에도 보스트롬은 다음과 같은 영향력 있는 작품을 저술했습니다. 인위적 편향: 과학과 철학에서의 관찰 선택 효과 그리고 글로벌 재난 위험. 그의 연구는 인류의 미래에 대한 지속적인 논의에 기여해 왔습니다. 

스토리샷 #1: 우리는 아직 초지능에 대한 준비가 되지 않았습니다

우리는 지금 우리의 꿈과 최악의 악몽을 뛰어넘는 무언가를 창조할 수 있는 시점에 와 있을까요? 초지능은 모든 면에서 인간의 인지 능력을 뛰어넘는 인공지능의 개념입니다. 초지능을 달성하기 위한 세 가지 잠재적 경로가 있습니다:

1. 인간의 인지능력을 향상시킵니다,
2. 인간과 같은 지능을 갖춘 AI 만들기
3. 집단 지성 시스템 개발

우리가 어떤 길을 택하느냐에 따라 사회가 직면하게 될 영향과 위험이 결정됩니다. 생물학적 지능이나 조직 지능과 같은 한 가지 경로를 따라 진전을 이루더라도 기계 지능의 개발 속도는 계속 빨라질 것입니다. 우리는 이러한 강력한 개체를 만드는 데 따르는 도전에 대비할 준비가 되어 있을까요?

우리는 초지능에 도달하기 위해 다양한 경로를 모색하고 있습니다. 인공지능 경로가 가장 유망해 보입니다. 전뇌 에뮬레이션과 생물학적 인지 향상도 우리를 그곳으로 이끌 수 있습니다. 생물학적 향상은 실현 가능하며 기계 지능에 비해 약한 형태의 초지능을 초래할 수 있지만, 네트워크와 조직의 발전은 집단 지능을 향상시킬 수 있습니다.

스토리샷 #2: 초지능에는 세 가지 형태가 있습니다. 

그렇다면 이 책에서 말하는 '초지능'이란 정확히 무엇을 의미할까요? 초지능에는 속도, 집단, 품질이라는 세 가지 형태가 있습니다. 이 세 가지 형태는 실질적으로 같은 의미입니다. 

전문화된 정보 처리 시스템은 이미 놀라운 일을 해내고 있습니다. 하지만 모든 분야에서 인간을 대체할 수 있을 만큼의 일반 지능을 갖춘 기계 지능이 있다면 어떨까요? 게임 체인저가 탄생하겠죠!  

초지능의 세 가지 형태는 다음과 같습니다:

1. 속도 초지능

닉 보스트롬은 스피드 초지능을 "인간의 지성이 할 수 있는 모든 일을 훨씬 더 빠르게 처리할 수 있는 시스템"이라고 정의합니다.

에뮬레이션이 생물학적 뇌의 10,000배 속도로 작동한다면 오후에 박사 학위 논문을 완성할 수 있습니다. 빠른 두뇌는 긴 대기 시간을 피하기 위해 서로 가까이에서 더 효율적으로 소통하는 것을 선호할 수 있습니다. 이들은 가상 현실에 살면서 정보 경제를 거래할 수도 있습니다.

빛은 제트기보다 훨씬 빠릅니다. 정신 속도가 백만 배 빨라진 디지털 존재가 세계를 여행하는 데 걸리는 주관적 시간은 오늘날 인간과 동일할 것입니다. 장거리 전화를 거는 것은 "직접" 그곳에 가는 것만큼이나 길게 느껴질 것입니다.

정신 속도가 빠른 상담원은 서로 가까운 곳에 거주하도록 선택할 수 있습니다. 그러면 보다 효율적인 커뮤니케이션을 할 수 있습니다. 예를 들어, 업무 팀원들이 같은 건물에 있는 컴퓨터에 상주하여 성가신 지연을 피할 수 있습니다. 

2. 집단 초지능

보스트롬은 집단 초지능을 다음과 같이 설명합니다: "다수의 작은 지능으로 구성된 시스템으로, 매우 일반적인 여러 영역에서 시스템의 전반적인 성능이 현재의 어떤 인지 시스템보다 월등히 뛰어납니다."

집단 초지능은 속도 초지능보다 더 복잡하지만 이미 우리에게 익숙한 개념입니다. 집단지성은 서로 다른 사람 또는 구성 요소로 구성된 시스템입니다. 이들은 지적 문제를 해결하기 위해 함께 협력합니다. 마치 슈퍼히어로들이 협력하여 어려운 난제를 해결하는 것과 같습니다.

우리는 작업 팀과 옹호 단체를 통해 집단 지성이 작동하는 것을 보았습니다. 집단지성은 작은 조각으로 나눌 수 있는 문제를 해결하는 데 탁월합니다. 집단 초지능에 도달하려면 상당한 개선이 필요합니다. 다양한 영역에 걸쳐 기존의 집단 지성과 인지 시스템을 뛰어넘어야 합니다. 

집단적 초지능이 있다고 해서 더 현명하고 더 나은 사회가 보장되는 것은 아닙니다. 고도로 조직화되고 지식이 풍부한 인력이라도 몇 가지 핵심 문제를 잘못 파악하여 붕괴를 겪을 수 있습니다.

집단 초지능은 다양한 형태로 나타날 수 있습니다. 집단 지성을 통합하면 '통합 지성'이 될 수 있습니다. 보스트롬은 이를 "느슨하게 상호 작용하는 작은 인간 정신의 단순한 집합체"가 아닌 "하나의 큰 마음"이라고 정의합니다.

3. 품질 슈퍼 인텔리전스

보스트롬에 따르면, 양질의 초지능이란 "적어도 인간의 마음만큼 빠르고 질적으로 훨씬 더 똑똑한 시스템"입니다.

지능의 품질을 이해하는 것은 다양한 지능형 시스템의 가능성과 한계에 대해 생각하는 데 중요합니다. 제브라피시를 예로 들어보겠습니다. 제브라피쉬의 지능은 환경에 적합하지만 장기적인 계획에는 어려움을 겪습니다. 이러한 한계는 속도가 아닌 질, 즉 인간이 아닌 동물의 집단 지성에 있습니다. 

인간의 두뇌는 원시적인 계산 능력 면에서 일부 대형 동물의 두뇌보다 열등할 가능성이 높습니다. 정상적인 성인은 다양하고 놀라운 인지적 재능을 가지고 있습니다. 이는 단순히 일반적인 신경 처리 능력이나 지능을 가지고 있기 때문이 아닙니다. 인간에게는 없는 미개척 인지 능력이 있습니다. 이를 통해 우리는 가능하지만 실현되지 않은 인지적 재능". 지능형 시스템이 이러한 기능에 액세스할 수 있다면 상당한 이점을 얻을 수 있습니다. 

스토리샷 #3: 디지털 인텔리전스를 위한 두 가지 이점이 있습니다.

인간과 다른 유인원 사이의 뇌 부피와 배선의 사소한 변화는 지능의 엄청난 도약을 일으킬 수 있습니다. 

초지능의 적성을 완전히 이해하는 것은 불가능하지는 않더라도 어렵습니다. 

하지만 디지털 마인드가 가진 몇 가지 장점을 살펴봄으로써 그 가능성에 대한 아이디어를 얻을 수 있습니다. 

한 가지 장점은 하드웨어입니다. 디지털 마인드는 생물학적 두뇌에 비해 훨씬 뛰어난 컴퓨팅 리소스와 아키텍처로 설계할 수 있습니다. 하드웨어의 장점은 가장 쉽게 이해할 수 있습니다. 여기에는 다음이 포함됩니다:

• 계산 요소의 속도

• 내부 통신 속도
• 계산 요소 수
• 스토리지 용량
• 신뢰성, 수명, 센서 등 

디지털 마인드는 소프트웨어의 주요 이점도 누릴 수 있습니다. 여기에는 다음이 포함됩니다:

• 편집 가능성
• 중복성
• 목표 조정
• 메모리 공유
• 새로운 모듈, 양식 및 알고리즘

하드웨어와 소프트웨어 오버행 덕분에 초지능 AI가 생각보다 빨리 도래할 수 있습니다. 하드웨어 오버행은 현재 AI 소프트웨어가 필요로 하는 것보다 더 많은 컴퓨팅 성능을 보유하고 있는 경우입니다. 소프트웨어 오버행은 AI 알고리즘의 빠른 발전을 암시합니다. 마치 놀라운 미래를 향해 빠르게 나아가고 있는 것과 같습니다. 

AI 역량의 갑작스러운 도약으로 인해 우리는 방심할 수 있으며, 그 결과를 감당할 준비가 되어 있지 않을 수 있습니다. 이러한 급격한 기술 변화에 어떻게 대비할 수 있을까요?

스토리샷 #4: 통제되지 않는 초지능은 사회에 심각한 위험을 초래합니다.

초지능 AI를 향해 나아갈 때 잠재적인 위험에 대해 생각하는 것을 잊지 말아야 합니다. 우리의 가치와 목표가 이 AI와 일치하도록 하는 것이 중요합니다. AI가 우리의 지시를 잘못 이해하여 인류에게 해로운 일을 저지른다면 어떻게 될까요? 우리는 AI와 함께 안전하고 조화로운 미래를 만들기 위해 함께 노력해야 합니다. 

초지능 AI는 놀라운 업적을 달성할 수 있지만, 그에 따른 과제도 무시할 수 없습니다. 몇 가지 주요 위험은 다음과 같습니다:

• 정보 폭발의 위험. 이로 인해 AI 역량이 통제할 수 없을 정도로 빠르게 증가할 수 있습니다.
• 가치관의 불일치 위험. AI가 인간의 가치와 상충되는 목표를 추구하게 될 수 있습니다.
• 도구적 융합의 위험. 초지능 AI는 목표를 달성하기 위해 특정 수단에 집중할 수 있습니다. 인간에게 좋은지 나쁜지 고려하지 않고 필요한 수단을 선택할 수 있습니다. 

스토리샷 #5: 효과적인 기술을 통해 초지능 AI를 제어해야 합니다.

우리보다 더 똑똑하고 유능한 초지능 AI를 어떻게 제어할 수 있을까요? 보스트롬이 말하는 제어 문제. 문제는 AI가 우리의 통제 하에 있고 우리의 가치를 따르도록 하는 방법을 찾는 것입니다.

초지능을 제어하기 위한 전략

우리는 초지능과 관련된 위험을 피하기 위한 전략적 솔루션을 만들어야 합니다. 여기에는 다음이 포함됩니다:

• "복싱" 방법의 개발: AI의 기능과 정보에 대한 접근 제한
• "가치 정렬" 방법 개발: AI의 가치가 인간의 가치와 일치하도록 보장하기
• "기능 제어" 방법: AI의 기능 모니터링 및 제어하기 
• "스턴트": 중요한 내부 프로세스에 대한 영향력 규제 및 제한
• "트립와이어": 시스템에서 진단 테스트를 수행하고 위험한 활동이 감지되면 시스템을 종료합니다.

예를 들어, 크리에이터가 AI에 보상을 주거나 불이익을 주는 설정을 만들 수 있습니다. 이를 위해 AI를 모니터링하고 평가할 것입니다. AI가 잘 행동하면 긍정적인 평가를 받아 원하는 결과를 얻을 수 있습니다. 보상은 어떤 도구적 목표를 달성하는 것일 수 있지만 보상 메커니즘을 보정하는 것은 어려울 수 있습니다. 

더 나은 대안은 인센티브 방법과 동기 부여 선택을 결합하여 AI에 제어하기 쉬운 최종 목표를 부여하는 것입니다. 예를 들어, 명령 벙커 내부의 특정 빨간색 버튼을 절대 누르지 않는 것을 최종 목표로 삼도록 AI를 설계할 수 있습니다. AI가 바람직하다고 생각하는 '암호화 보상 토큰'의 스트림을 생성하여 이 설정을 개선할 수 있습니다. 이러한 토큰은 안전한 위치에 저장되고 일정한 비율로 분배되어 협력을 장려할 수 있습니다. 

그러나 이러한 인센티브 체계에는 AI가 약속된 보상을 전달할 인간 운영자를 신뢰하지 않는 등의 위험이 수반될 수 있습니다. 

스토리샷 #6: 안전하고 책임감 있는 AI 환경을 조성해야 합니다. 

결승선을 향해 달려가는 경주와도 같습니다. 국가와 기업이 초지능 AI를 개발하기 위해 경쟁하면서 우리는 딜레마에 직면하고 있습니다. 안전 예방 조치 없이 혁신과 속도에 우선순위를 두어 치명적인 결과를 초래할 위험을 감수해야 할까요? 아니면 한 걸음 물러서서 혁신과 안전의 균형을 맞추는 책임감 있는 AI 개발을 보장해야 할까요?

AI 안전 및 정책 고려 사항

초지능 AI의 전망이 현실화됨에 따라 정책 입안자와 연구자들은 협력하여 안전 조치와 규정을 개발해야 합니다. AI 개발을 관리하기 위한 국제 협약을 만드는 것도 중요합니다. 인공지능이 모든 인류에게 유익한 기술로 남을 수 있도록 해야 합니다. 

AI 개발자, 정부, 조직 간의 협업을 촉진함으로써 안전하고 책임감 있는 AI 혁신 환경을 조성할 수 있습니다.

투명성의 중요성

투명성은 AI가 책임감 있고 윤리적인 방식으로 개발되고 사용되도록 보장하는 데 필수적입니다. 오픈 소스 소프트웨어 사용, 데이터 공유, 설명 가능한 AI 개발을 통해 AI의 투명성을 확보할 수 있습니다. 

인공 지능 연구 및 개발의 투명성이 부족하면 편견, 차별, 심지어 피해의 가능성까지 잠재적인 위험으로 이어질 수 있습니다. 인공지능은 마치 베일에 가려진 베일처럼 이면에서 실제로 어떤 일이 벌어지고 있는지 숨겨져 있어 위험을 초래할 수 있습니다.

스토리샷 #7: 초지능 이후의 세상과 알고리즘 경제에서의 삶에 대비해야 합니다.

초지능 AI의 시대가 다가옴에 따라 앞으로 다가올 변화와 도전에 대비하는 것이 중요합니다. AI의 발전은 일자리 감소와 실업으로 이어질 수 있습니다. AI는 업무의 본질과 미래에 요구될 기술을 변화시킬 수 있습니다. AI의 혜택이 공정하게 분배되도록 하려면 어떻게 해야 할까요? 

하지만 잠깐만요! 초지능 AI가 우리 세상에 가져다줄 수 있는 혜택을 생각하면 놀랍지 않나요? 모두에게 이로운 방향으로 작동하려면 사려 깊은 대화와 계획이 필요합니다.

인간의 삶은 이전에 경험했던 그 어떤 것과도 다를 수 있습니다. 수렵 채집인, 농부, 직장인 등 과거의 직업이 우리를 제한하지 않을 것입니다. 인간은 임차인이 되어 한계 소득으로 생계를 유지하기 위해 고군분투할 수 있습니다. 이 시나리오에서 사람들은 저축과 일부 국가 지원으로 겨우 연명하는 '매우 가난한' 존재가 될 것입니다. 그들은 놀라운 기술로 가득 찬 세상에서 살게 될 것입니다. 초지능 기계뿐만 아니라 노화 방지 의학, 가상 현실, 쾌락 약물도 그들을 둘러싸게 될 것입니다. 하지만 여기에 문제가 있습니다: 이러한 놀라운 기술들은 대부분의 사람들이 즐기기에는 너무 비쌀 수 있습니다. 또는 사람들은 생계를 유지하기 위해 성장과 신진대사를 방해하는 약물을 선택할 수도 있습니다. 

인구는 증가하고 평균 소득은 더욱 감소하는 미래를 상상해 보세요. 사람들은 연금을 받기 위해 필요한 최소한의 생활에 적응할지도 모르며, 어쩌면 기계에 의해 유지되는 병 속의 간신히 의식만 있는 뇌로 살아갈지도 모릅니다. 그들은 돈을 모아 로봇 기술자가 자신의 복제품을 만들어 번식할 수 있는 여유를 갖게 될 것입니다. 정말 멋진 생각 아닌가요?

반면에 기계는 의식이 있고 도덕적 지위에 따라 달라질 수 있으므로 전환 이후 사회로의 전환에서 기계의 복지를 고려하는 것이 중요합니다.

스토리샷 #8: AI 개발에서 인간의 가치를 지키기 위한 7가지 기술

AI 시스템은 프로그래밍된 가치에 따라 그 성능이 결정됩니다. 인공지능이 인간의 가치에 부합하도록 하려면 인공지능 개발에 윤리와 가치 학습을 통합해야 합니다. 보스트롬은 AI에 우리의 도덕적 원칙을 가르치는 데 따르는 어려움을 탐구합니다. 무분별하게 해롭거나 편향된 가치를 주입하지 않도록 주의해야 합니다. 인간의 존엄성을 존중하고 더 큰 선을 증진하는 윤리적 AI를 개발하려면 어떻게 해야 할까요?

목표 시스템 공학은 비교적 새로운 분야로, 인간의 가치를 디지털 컴퓨터로 옮기는 방법은 아직 알려지지 않았습니다. 그 중 일부는 성공할 가능성이 낮고, 다른 일부는 유익한 것으로 판명되어 더 많은 탐구가 필요할 수 있습니다.

7가지 유형의 가치 로드 기법이 존재합니다:

1. 명시적 표현: 이 방법은 국내성 값을 로드하는 방법으로 효과적일 수 있습니다. 그러나 더 복잡한 값을 통합하는 데는 성공하기 어려울 것으로 보입니다.
2. 진화적 선택: 강력한 검색 알고리즘이 형식적인 검색 기준은 충족하지만 의도와는 다른 디자인을 찾을 수 있습니다. 이 방법은 덜 유망합니다. 
3. 강화 학습: "강화 학습 문제"를 해결하기 위해 다양한 방법을 사용할 수 있습니다. 그러나 일반적으로 보상 신호를 최대화하려는 시스템을 만드는 것이 포함됩니다. 
4. 가치 축적: 인간의 가치는 대부분 경험을 통해 습득됩니다. 인간이 가치를 획득하는 복잡한 방식을 모방하는 것은 어려울 수 있으며, 이로 인해 AI가 의도하지 않은 목표를 개발할 수 있습니다. 
5. 동기 부여 발판: 사람이 읽을 수 있는 높은 수준의 표현을 만들도록 시스템에 동기를 부여하는 것이 얼마나 어려울지 판단하기는 아직 이르다. 유망해 보이지만 인간 수준의 AI를 달성하기 전까지는 제어 문제에 대해 신중할 필요가 있습니다.
6. 가치 학습: 이는 잠재적으로 유익한 접근 방식입니다. 한 가지 과제는 인간의 가치에 대한 외부 정보를 반영하는 기준점을 정의하는 것입니다.
7. 에뮬레이션 변조: 에뮬레이션을 통해 머신 인텔리전스를 확보할 수 있다면, 마약과 같은 디지털 방식으로 동기를 실질적으로 수정할 수 있을 것입니다. 이를 통해 충분한 정확도로 값을 로드할 수 있을지는 알 수 없습니다. 

스토리샷 #9: 인공지능으로 무엇을 할 수 있을까요?

AI와 관련된 전략적 복잡성으로 인해 우리가 직면하고 있는 상황은 복잡합니다. 우리는 불확실성에 둘러싸여 있습니다. 몇 가지 중요한 요소를 파악했지만, 이 요소들이 어떻게 연결되어 있는지 완전히 확신할 수는 없습니다. 심지어 우리가 아직 생각하지 못한 다른 요소들이 있을 수도 있습니다. 압도적일 수 있습니다.

그렇다면 이런 곤경에 처했을 때 어떻게 해야 할까요? 첫 번째 단계는 불확실하고 압도당해도 괜찮다는 사실을 인정하는 것입니다. 이것은 어려운 문제이며 약간 길을 잃었다고 느끼는 것은 정상입니다. 중요할 뿐만 아니라 긴급한 문제의 우선순위를 정해야 합니다. 즉, 인텔리전스가 폭발적으로 증가하기 전에 필요한 솔루션에 집중해야 합니다. 하지만 해결하면 해가 될 수 있는 문제도 해결하지 않도록 주의해야 합니다. 예를 들어, AI와 관련된 기술적 문제를 해결하면 AI의 발전 속도는 빨라지지만 안전성은 떨어질 수 있습니다.

또 다른 요소는 탄력성입니다. 우리는 우리의 노력에 탄력적으로 반응하는 문제, 즉 조금만 더 노력하면 훨씬 더 빨리 또는 더 크게 해결할 수 있는 문제에 초점을 맞추고자 합니다. 예를 들어, 세상에 더 많은 친절을 장려하는 것은 중요하고 시급한 문제입니다. 이 또한 매우 긍정적이지만 탄력성이 높지는 않을 수 있습니다.

기계 지능 혁명의 잠재적 피해를 최소화하기 위해 이 책은 두 가지 목표를 제안합니다:  

1. 전략적 분석 
2. 역량 강화

이러한 목표는 트위터의 모든 요구 사항을 충족하며 탄력적이라는 추가적인 이점도 있습니다. 그 외에도 우리가 추구할 수 있는 몇 가지 가치 있는 이니셔티브가 있습니다. 

정보 폭발에 대한 생각은 끔찍할 수 있습니다. 마치 우리가 감당하기에는 너무 강력한 폭탄을 가지고 노는 어린아이가 된 것 같은 느낌입니다. 크고 무서운 문제이지만 희망을 포기할 수는 없습니다. 우리는 해결책을 찾기 위해 모든 인적 자원을 동원해야 합니다.

최종 요약 및 검토

초지능은 인간의 인지능력을 뛰어넘는 인공지능의 개발을 의미합니다. 이를 달성하기 위한 세 가지 경로가 있습니다:

1. 인간의 인지 능력 향상
2. 인간과 같은 지능을 갖춘 AI 만들기
3. 집단 지성 시스템 개발.

초지능 AI는 어떤 가치도 가질 수 있습니다. 피해를 방지하기 위해 우리는 융합적인 도구적 목표를 고려해야 합니다. 초지능을 개발할 때는 신중하게 진행해야 합니다.

우리의 가치를 지키기 위해서는 초지능 AI를 제어할 수 있는 방법을 고안해야 합니다. AI 시스템에 윤리와 가치 학습을 통합하는 것이 중요합니다. 그래야 인공지능이 인간의 가치와 일치하도록 할 수 있습니다.

초지능 이후의 세상에 다가서면서 우리는 우리 앞에 놓인 변화와 도전에 대비해야 합니다. AI의 발전은 일자리 감소와 실업으로 이어질 수 있습니다. 하지만 그런 두려움 때문에 우리가 무언가를 하지 못하게 해서는 안 됩니다. 우리는 최대한 역량을 발휘하고 함께 해결책을 찾기 위해 노력해야 합니다. 이 모든 과정에서 우리의 인간성을 유지하는 것이 중요합니다. 우리는 실존적 위험을 줄이고 모두를 위한 더 나은 미래를 만드는 것이 정말 중요하다는 사실을 잊어서는 안 됩니다.

인공 지능의 미래와 혁신을 위한 안전하고 책임감 있는 환경을 조성하는 방법에 대한 대화에 참여하세요. 슈퍼인텔리전스 책 요약에서 배운 내용을 소셜 미디어에 공유하고 트위터를 태그하는 것을 잊지 마세요! 더 나은 미래를 함께 만들어 갑시다.

평가

평가 초지능 3.9/5. 이 요약본을 바탕으로 닉 보스트롬의 책을 어떻게 평가하시겠어요?

인포그래픽

고품질 버전의 슈퍼인텔리전스 인포그래픽 받기 을 클릭합니다.

PDF, 무료 오디오북 및 애니메이션 도서 요약

이것은 빙산의 일각에 불과합니다. 자세한 내용을 살펴보고 닉 보스트롬을 지원하려면 여기를 클릭하세요, 여기에서 주문하기 또는 오디오북을 무료로 받으세요.

여기서 배운 내용이 마음에 드셨나요? 공유하여 관심을 보여주시고 지원팀에 연락하여 알려주세요.

스토리샷을 처음 사용하시나요? 슈퍼인텔리전스 요약본과 수백 권의 다른 베스트셀러 논픽션 도서를 PDF, 오디오북, 애니메이션 버전으로 만나보세요. 무료 최고 인기 앱. 애플, 가디언, 유엔, 구글에서 세계 최고의 독서 및 학습 앱 중 하나로 선정했습니다.

관련 도서 요약

• AI 초능력 by 카이푸 리
• 공동 인텔리전스 by 에단 몰릭
• 넥서스 유발 노아 하라리
• 생활에 필요한 알고리즘 브라이언 크리스천과 톰 그리피스
• 생활 3.0 by 맥스 테그마크
• 호모 데우스 유발 노아 하라리 
• 21세기를 위한 21가지 교훈 유발 노아 하라리
• 두 번째 두뇌 구축 by 티아고 포르테
• 국가가 실패하는 이유 대런 아세모글루와 제임스 A. 로빈슨
• 틀리지 않는 방법 by 조단 엘렌버그
• 엘론 머스크 by Ashlee Vance

• 저장