Sammanfattning av Superintelligence | Nick Bostrom

Vägar, faror, strategier

Sammanfattning i 1 mening

Superintelligens av Nick Bostrom utforskar de existentiella riskerna och den artificiella intelligensens omvälvande kraft och ställer frågan: vad händer när maskinerna överträffar människans intelligens och hur kan vi säkra vår överlevnad i en framtid som domineras av superintelligenta enheter?

Introduktion

Vad händer när artificiell intelligens överträffar mänsklig intelligens? Maskiner kan tänka, lära sig och lösa komplexa problem snabbare och mer exakt än vad vi kan. Detta är den värld som Nick Bostrom utforskar i sin bok, Superintelligens. Framstegen inom artificiell intelligens för oss närmare skapandet av superintelligenta varelser. 

Stora teknikföretag som Microsoft, Google och Facebook tävlar alla om att skapa en superkraftig AI. De satsar mycket resurser på forskning och utveckling för att få det att hända. Men här är haken: utan rätt säkerhetsåtgärder och regler kan saker och ting gå överstyr. Därför är det viktigt att gå in och se till att AI håller sig under kontroll. 

Föreställ dig en värld där maskiner inte bara är billigare utan också mycket bättre på att utföra jobb än människor. I den världen kan maskinerna ta över det mänskliga arbetet och människor undrar: "Vad händer nu?". Därför är det viktigt att komma på kreativa lösningar för att se till att alla får det bra.

Boken visar vad som händer efter att superintelligens har uppstått. Den undersöker intelligensens tillväxt, superintelligensens former och befogenheter samt dess strategiska val. Vi måste förbereda oss nu för att undvika katastrofer senare. Bostrom erbjuder strategier för att navigera i de faror och utmaningar som det innebär. 

Superintelligens undersöker den historia av artificiell intelligens och utvecklingen av den tekniska tillväxten. I boken beskrivs hur AI växer snabbare än sina tekniska föregångare. Den tar också upp undersökningar av expertutlåtanden om dess framtida utveckling.

Sam Altman, medgrundare av OpenAI, säger att Superintelligens ett måste för alla som bryr sig om mänsklighetens framtid. Han tog till och med med den på sin lista över de nio böcker som han tycker att alla borde läsa.

Den här sammanfattningen ger en inblick i den fascinerande och ibland skrämmande världen av superintelligens. Den ger dig en engagerande översikt över Boströms viktigaste idéer.

Om Nick Bostrom

Nick Bostrom är en svensk filosof och futurist. Han är känd för sitt banbrytande arbete inom artificiell intelligens och dess inverkan på mänskligheten. Bostrom är professor vid universitetet i Oxford, där han grundade Future of Humanity Institute. Han forskar särskilt om hur avancerad teknik och artificiell intelligens kan gynna och skada samhället.

Förutom Superintelligence har Bostrom skrivit andra inflytelserika verk, bland annat Antropisk bias: Observation Selektionseffekter inom vetenskap och filosofi och Globala katastrofrisker. Hans arbete har bidragit till den pågående diskussionen om mänsklighetens framtid. 

StoryShot #1: Vi är inte redo för superintelligens

Är vi på väg att skapa något som överstiger våra vildaste drömmar eller våra värsta mardrömmar? Superintelligens är begreppet artificiell intelligens som överträffar människans kognitiva förmågor i alla avseenden. Det finns tre möjliga vägar för att uppnå superintelligens:

1. Förbättra mänsklig kognition,
2. Skapa AI med människoliknande intelligens
3. Utveckling av ett system för kollektiv underrättelseverksamhet

Vilken väg vi väljer kommer att avgöra vilka konsekvenser och risker vi står inför som samhälle. Om vi gör framsteg på en väg, t.ex. biologisk eller organisatorisk intelligens, kommer det ändå att påskynda utvecklingen av maskinell intelligens. Är vi redo för de utmaningar som följer av att skapa så kraftfulla enheter?

Vi utforskar olika vägar för att nå superintelligens. AI-vägen verkar vara den mest lovande. Emulering av hela hjärnan och biologiska kognitiva förbättringar kan också leda oss dit. Biologiska förbättringar är genomförbara och kan resultera i svaga former av superintelligens jämfört med maskinell intelligens, men nätverk och organisatoriska framsteg kan öka den kollektiva intelligensen.

StoryShot #2: Det finns tre former av superintelligens 

Vad exakt menar boken med "superintelligens"? Det finns tre olika former av superintelligens: snabbhet, kollektivitet och kvalitet. De är likvärdiga i en praktiskt relevant mening. 

Specialiserade system för informationsbehandling gör redan underverk. Men vad händer om vi hade maskinintellekt med tillräcklig allmän intelligens för att ersätta människor på alla områden? Snacka om en förändring av spelet!  

De tre formerna av superintelligens är:

1. Hastighet Superintelligens

Nick Bostrom definierar snabb superintelligens som "ett system som kan göra allt som ett mänskligt intellekt kan göra, men mycket snabbare".

Om en emulering skulle fungera 10 000 gånger snabbare än vad som är typiskt för en biologisk hjärna skulle den kunna slutföra en doktorsavhandling på en eftermiddag. För att undvika långa latenstider kan snabba hjärnor föredra att kommunicera med varandra mer effektivt genom att vara nära varandra. De kanske lever i den virtuella verkligheten och handlar i informationsekonomin.

Ljuset är mycket snabbare än ett jetplan. En digital varelse med en miljon gånger högre mental hastighet skulle ta samma subjektiva tid på sig att resa runt i världen som en människa idag. Att ringa ett långdistanssamtal skulle kännas lika långvarigt som att åka dit "personligen".

Agenter med höga mentala hastigheter kan välja att bo nära varandra. På så sätt kan de kommunicera mer effektivt. Medlemmar i ett arbetslag kan till exempel bo i datorer som finns i samma byggnad för att undvika irriterande förseningar. 

2. Kollektiv superintelligens

Bostrom beskriver kollektiv superintelligens som: "Ett system som består av ett stort antal mindre intellekt så att systemets totala prestanda inom många mycket allmänna områden vida överstiger den som alla nuvarande kognitiva system har."

Kollektiv superintelligens är mer komplex än snabb superintelligens, men det är något som vi redan känner till. Kollektiv intelligens är ett system som består av olika personer eller komponenter. De arbetar tillsammans för att lösa intellektuella problem. Det är som superhjältar som samarbetar för att knäcka svåra utmaningar.

Vi har sett kollektiv intelligens i praktiken genom arbetsgrupper och intresseorganisationer. Den är bra på att ta itu med problem som kan delas upp i mindre bitar. För att nå kollektiv superintelligens skulle vi behöva betydande förbättringar. Det måste gå längre än befintlig kollektiv intelligens och kognitiva system på olika områden. 

Kollektiv superintelligens är ingen garanti för ett bättre och klokare samhälle. En mycket samordnad, kunnig arbetsstyrka kan fortfarande göra fel i vissa viktiga frågor och drabbas av en kollaps.

Kollektiv superintelligens kan ha många olika former. När vi integrerar den kollektiva intelligensen kan den bli ett "enhetligt intellekt". Bostrom definierar det som ett "enda stort sinne" i motsats till "en samling löst samverkande mindre mänskliga sinnen".

3. Superintelligens för kvalitet

Enligt Bostrom är superintelligens av hög kvalitet "ett system som är minst lika snabbt som ett mänskligt sinne och som är mycket kvalitativt smartare".

Det är viktigt att förstå intelligensens kvalitet för att kunna tänka på möjligheterna och begränsningarna hos olika intelligenta system. Ta zebrafiskar som exempel. Dess intelligens är lämplig för dess miljö, men den har svårt att planera på lång sikt. Dessa begränsningar ligger i kvaliteten, inte i hastigheten, eller i den kollektiva intelligensen bland icke-mänskliga djursinnen. 

Människors hjärnor är sannolikt sämre än vissa stora djurs hjärnor när det gäller rå beräkningskraft. Normala vuxna människor har en rad anmärkningsvärda kognitiva talanger. De är inte bara en funktion av att man har en allmän neuronal processorkraft eller intelligens. Det finns outnyttjade kognitiva förmågor som ingen människa har. Det för oss till "idén om möjliga men icke realiserade kognitiva talanger". Om ett intelligent system skulle få tillgång till dessa förmågor skulle det kunna få en betydande fördel. 

StoryShot #3: Det finns två källor till fördel för digital intelligens

Små förändringar i hjärnans volym och ledningar mellan människor och andra apor kan leda till gigantiska språng i intellekt. 

Det är svårt, om inte omöjligt, för oss att fullt ut förstå superintelligensens förmågor. 

Vi kan dock åtminstone få en uppfattning om möjligheterna genom att se på några fördelar som digitala sinnen har. 

En fördel är maskinvaran. Digitala hjärnor kan utformas med mycket bättre datorresurser och arkitektur än biologiska hjärnor. Hårdvarufördelarna är lättast att uppskatta. De omfattar följande:

• Hastighet för beräkningselement

• Hastighet för intern kommunikation
• Antal beräkningselement
• Lagringskapacitet
• Tillförlitlighet, livslängd, sensorer osv. 

Digitala sinnen kommer också att dra nytta av stora fördelar när det gäller programvara. Dessa inkluderar:

• Redigerbarhet
• Duplicerbarhet
• Samordning av mål
• Delning av minnet
• Nya moduler, modaliteter och algoritmer

Superintelligent AI kan komma tidigare än vi tror, tack vare överhängande hårdvara och mjukvara. Hårdvaruöverhäng är när vi har mer datorkraft än vad AI-programvaran behöver just nu. Mjukvaruöverhäng antyder snabba framsteg i AI-algoritmer. Det är som att befinna sig på ett snabbspår mot en sinnesöverväldigande framtid. 

Detta plötsliga språng i AI-kapacitet kan ta oss på sängen och göra oss oförberedda att hantera konsekvenserna. Hur kan vi förbereda oss för en sådan snabb teknisk förändring?

StoryShot #4: Okontrollerad superintelligens innebär betydande risker för samhället

När vi nu närmar oss superintelligent artificiell intelligens får vi inte glömma bort att tänka på dess potentiella risker. Det är viktigt att se till att våra värderingar och mål överensstämmer med denna AI. Vad händer om den missförstår våra instruktioner och gör något skadligt för mänskligheten? Vi måste arbeta tillsammans för att se till att vi bygger en säker och harmonisk framtid med AI. 

Även om superintelligent artificiell intelligens lovar att åstadkomma fantastiska prestationer kan vi inte bortse från de utmaningar som den medför. Några av de viktigaste riskerna är följande:

• Risken för en underrättelseexplosion. Detta kan leda till en snabb och okontrollerbar ökning av AI-kapaciteten.
• Risken för felanpassning av värden. Det kan leda till att AI strävar efter mål som står i strid med mänskliga värderingar.
• Risken för instrumentell konvergens. Superintelligent artificiell intelligens kan komma att konvergera mot vissa medel för att uppnå sina mål. Den kan välja alla nödvändiga medel utan att ta hänsyn till om det är bra eller dåligt för människor. 

StoryShot #5: Vi måste kontrollera superintelligent AI genom effektiva tekniker

Hur kan vi kontrollera en superintelligent AI som är smartare och mer kapabel än vi? Bostrom talar om den kontrollproblem. Problemet är att ta reda på hur man säkerställer att AI förblir under vår kontroll och följer våra värderingar.

Strategier för att kontrollera superintelligens

Vi måste skapa strategiska lösningar för att undvika de risker som är förknippade med superintelligens. Dessa är bl.a:

• Utveckling av "boxnings"-metoder: Begränsa AI:s kapacitet och tillgång till information
• Utveckling av metoder för "värdeanpassning": Säkerställa att AI:s värderingar överensstämmer med mänskliga värderingar
• Metoder för "kontroll av kapacitet": Övervakning och kontroll av AI:ns förmågor 
• "Förlamning": Reglering och begränsning av påverkan på viktiga interna processer
• "Snubbeltrådar": Utför diagnostiska tester på systemet och stänger av systemet om farlig aktivitet upptäcks.

Vi kan till exempel skapa ett system där skaparen belönar eller bestraffar AI:n. För att göra detta kommer AI:n att övervakas och utvärderas. Om den beter sig väl får den en positiv utvärdering som leder till ett önskat resultat. Belöningen skulle kunna vara uppfyllandet av något instrumentellt mål, men det kan vara svårt att kalibrera belöningsmekanismen. 

Ett bättre alternativ vore att kombinera incitamentsmetoden med motivationsval för att ge AI:n ett slutmål som är lättare att kontrollera. AI:n skulle till exempel kunna utformas så att den har som slutmål att en viss röd knapp i en kommandobunker aldrig trycks in. Förfiningar av detta upplägg är möjliga genom att skapa en ström av "kryptografiska belöningstecken" som AI finner önskvärda. Dessa tokens skulle lagras på en säker plats och delas ut i en jämn takt för att uppmuntra till samarbete. 

Det finns dock risker med ett sådant incitamentssystem, t.ex. att AI inte litar på att den mänskliga operatören levererar de utlovade belöningarna. 

StoryShot #6: Vi bör främja en säker och ansvarsfull AI-miljö 

Det är som en kapplöpning mot mållinjen: när länder och företag tävlar om att utveckla superintelligent AI ställs vi inför ett dilemma. Ska vi prioritera innovation och köra på utan säkerhetsåtgärder och riskera katastrofala följder? Eller ska vi ta ett steg tillbaka och säkerställa en ansvarsfull AI-utveckling som balanserar innovation med säkerhet?

AI-säkerhet och politiska överväganden

När utsikterna för superintelligent AI blir allt mer verkliga måste beslutsfattare och forskare samarbeta och utveckla säkerhetsåtgärder och regler. Det är viktigt att skapa internationella avtal för att styra AI-utvecklingen. Vi måste se till att artificiell intelligens förblir till nytta för hela mänskligheten. 

Genom att främja samarbete mellan AI-utvecklare, regeringar och organisationer kan vi skapa en säker och ansvarsfull miljö för AI-innovation.

Betydelsen av öppenhet

Transparens är avgörande för att säkerställa att AI utvecklas och används på ett ansvarsfullt och etiskt sätt. Genom att använda programvara med öppen källkod, dela med oss av data och utveckla AI som går att förklara kan vi se till att AI är transparent. 

Bristande transparens inom forskning och utveckling av artificiell intelligens kan leda till potentiella risker, som fördomar, diskriminering och till och med risk för skada. Det är som en mystisk slöja som döljer vad som egentligen pågår bakom kulisserna, vilket kan innebära risker.

StoryShot #7: Vi bör förbereda oss för världen efter superintelligens och livet i en algoritmisk ekonomi

När vi nu närmar oss en värld med superintelligent AI är det viktigt att förbereda sig för de förändringar och utmaningar som väntar. Utvecklingen av AI kan leda till undanträngning av arbetstillfällen och arbetslöshet. AI kan förändra arbetets karaktär och de färdigheter som kommer att efterfrågas i framtiden. Hur kan vi se till att fördelarna med AI fördelas rättvist? 

Men vänta! Är det inte fantastiskt att tänka på de fördelar som superintelligent AI kan tillföra vår värld? För att se till att det fungerar på ett sätt som gynnar alla måste vi föra en genomtänkt dialog och planera.

Människors liv kan skilja sig från allt vi har upplevt tidigare. Våra tidigare tillstånd kommer inte att begränsa oss, som jägare och samlare, jordbrukare eller kontorsarbetare. Människor kan bli rentierer, som kämpar för att försörja sig på sin marginella inkomst. I det här scenariot skulle människor "vara mycket fattiga" och klara sig på sina besparingar och lite statligt stöd. De skulle leva i en värld full av häpnadsväckande teknik. Inte bara superintelligenta maskiner kommer att omge dem, utan även medicin mot åldrande, virtuell verklighet och njutningsmedel. Men här är haken: Dessa underverk kan vara för dyra för att de flesta människor ska kunna njuta av dem. Alternativt kan människor välja läkemedel som hämmar deras tillväxt och ämnesomsättning, så att de kan klara sig. 

Föreställ dig en framtid där vår befolkning växer och medelinkomsten sjunker ännu mer. Människor kanske anpassar sig till den miniminivå som krävs för att kvalificera sig för en pension - kanske som knappt medvetna hjärnor i burkar, som hålls vid liv av maskiner. De skulle spara pengar och ha råd att reproducera sig genom att låta en robottekniker skapa en klon av dem själva. Visst är det en fantastisk tanke?

Maskiner kan å andra sidan vara medvetna sinnen och ha en moralisk status, vilket gör det viktigt att beakta deras välbefinnande i övergången till ett samhälle efter övergången.

StoryShot #8: Det finns sju tekniker för att säkra mänskliga värden i AI-utvecklingen

AI-system är bara så bra som de värderingar som programmeras in i dem. För att se till att de överensstämmer med mänskliga värderingar måste vi införliva etik och värderingsinlärning i deras utveckling. Bostrom undersöker utmaningarna med att lära AI våra moraliska principer. Vi måste vara försiktiga så att vi inte obetänksamt införlivar skadliga eller partiska värderingar. Hur kan vi utveckla etisk AI som respekterar mänsklig värdighet och främjar det allmänna bästa?

Målsystemteknik är en relativt ny disciplin, och det är ännu inte känt hur man överför mänskliga värderingar till en digital dator. Vissa av dem kommer troligen inte att lyckas, medan andra kan visa sig vara fördelaktiga och kräver ytterligare undersökningar.

Det finns sju typer av tekniker för värdeöverföring:

1. Explicit representation: Denna metod kan vara effektiv som ett sätt att ladda domesticitetsvärden. Men det verkar osannolikt att den skulle vara framgångsrik när det gäller att införliva mer komplicerade värden.
2. Evolutionärt urval: Kraftfulla sökalgoritmer kan hitta en design som uppfyller de formella sökkriterierna, men inte våra avsikter. Detta är mindre lovande. 
3. Förstärkningsinlärning: En rad olika metoder kan användas för att lösa "problem med förstärkningsinlärning". Vanligtvis handlar det dock om att skapa ett system som strävar efter att maximera en belöningssignal. 
4. Värdeökning: Mänskliga värderingar skapas till stor del genom erfarenhet. Det kan vara svårt att återskapa de komplexa sätt på vilka människor tillägnar sig värderingar, vilket kan leda till att AI utvecklar oavsiktliga mål. 
5. Motiverande byggnadsställningar: Det är för tidigt att avgöra hur svårt det skulle vara att motivera ett system att skapa mänskligt läsbara representationer på hög nivå. Även om det kan verka lovande måste vi vara försiktiga med kontrollproblemet tills vi uppnår AI på mänsklig nivå.
6. Värdelärande: Detta är en potentiellt fördelaktig metod. En utmaning är att definiera en referenspunkt som återspeglar extern information om mänskliga värderingar.
7. Emulering modulering: Om maskinintelligens uppnås via emulering kan praktiska modifieringar av dess motiv vara möjliga, t.ex. genom den digitala motsvarigheten till droger. Det är okänt om detta kommer att göra det möjligt att ladda värden med tillräcklig noggrannhet. 

StoryShot #9: Vad ska vi göra med artificiell intelligens?

Den situation vi står inför med strategisk komplexitet relaterad till AI är komplicerad. Vi är omgivna av osäkerhet. Även om vi har identifierat några viktiga faktorer är vi inte helt säkra på hur de hänger ihop. Det kan till och med finnas andra faktorer som vi inte ens har tänkt på ännu. Det kan vara överväldigande.

Så vad kan vi göra när vi befinner oss i den här situationen? Det första steget är att erkänna att det är okej att känna sig osäker och överväldigad. Det här är ett tufft problem, och det är normalt att känna sig lite vilsen. Vi måste prioritera de problem som inte bara är viktiga, utan också brådskande. Det innebär att vi måste fokusera på lösningar som behövs innan underrättelseexplosionen inträffar. Men vi måste också vara försiktiga så att vi inte arbetar med problem som kan vara skadliga om de löses. Att lösa tekniska problem relaterade till AI kan till exempel påskynda dess utveckling utan att göra den säker för oss.

En annan faktor är elasticitet. Vi vill fokusera på problem som är elastiska för våra ansträngningar, vilket innebär att de kan lösas mycket snabbare eller i större utsträckning med bara en liten extra ansträngning. Att uppmuntra till mer vänlighet i världen är till exempel ett viktigt och brådskande problem. Det är också robust positivt, men det kanske inte är särskilt elastiskt.

För att minimera de potentiella skadorna av maskinintelligensrevolutionen föreslår boken två mål:  

1. Strategisk analys 
2. Kapacitetsuppbyggnad

Dessa mål uppfyller alla våra krav och har den extra fördelen att de är elastiska. Det finns också flera andra värdefulla initiativ som vi kan fullfölja. 

Tanken på en intelligensexplosion kan vara skrämmande. Det är som om vi vore små barn som leker med en bomb som är alldeles för kraftfull för att vi ska kunna hantera den. Även om det här är ett stort och skrämmande problem får vi inte ge upp hoppet. Vi måste använda alla våra mänskliga resurser för att hitta en lösning.

Slutsammanfattning och granskning

Superintelligens är utvecklingen av artificiell intelligens som överträffar människans kognitiva förmåga. Det finns tre sätt att uppnå detta:

1. Förbättra mänsklig kognition
2. Skapa AI med människoliknande intelligens
3. Utveckling av ett system för kollektiv intelligens.

Superintelligent AI kan ha vilken uppsättning värden som helst. För att förhindra skada måste vi överväga konvergerande instrumentella mål. Vi måste gå försiktigt fram när vi utvecklar superintelligens.

För att bevara våra värderingar måste vi utveckla metoder för att kontrollera superintelligent artificiell intelligens. Det är viktigt att integrera etik och värdeinlärning i AI-system. På så sätt kan vi se till att de anpassar sig till mänskliga värderingar.

När vi nu närmar oss en värld efter superintelligens måste vi förbereda oss för de förändringar och utmaningar som ligger framför oss. Utvecklingen av artificiell intelligens kan leda till att arbetstillfällen flyttas och arbetslöshet uppstår. Men vi kan inte låta dessa känslor hindra oss från att göra något åt saken. Vi måste vara så kompetenta som möjligt och arbeta tillsammans för att hitta en lösning. Det är viktigt att vi behåller vår mänsklighet i allt detta. Vi får inte förlora det som verkligen är viktigt ur sikte - att minska den existentiella risken och skapa en bättre framtid för alla.

Delta i samtalet om framtiden för artificiell intelligens och hur vi kan skapa en säker och ansvarsfull miljö för innovation. Dela vad du lärt dig av boksammanfattningen om Superintelligence på sociala medier och glöm inte att tagga oss! Låt oss forma en bättre framtid tillsammans.

Betyg

Vi bedömer Superintelligens 3.9/5. Hur skulle du betygsätta Nick Boströms bok baserat på denna sammanfattning?

Infografik

Få den högkvalitativa versionen av infografiken om Superintelligens i appen StoryShots.

PDF, gratis ljudbok och animerad boksammanfattning

Detta var toppen av isberget. För att dyka ner i detaljerna och stödja Nick Bostrom, Beställ den här eller få ljudboken gratis.

Gillade du det du lärde dig här? Dela det för att visa att du bryr dig och låt oss veta genom att kontakta vår support.

Är du ny på StoryShots? Få PDF-, ljudboks- och animerade versioner av denna sammanfattning av Superintelligence och hundratals andra bästsäljande fackböcker i vår gratis topprankad app. Apple, The Guardian, FN och Google har nämnt appen som en av världens bästa läs- och inlärningsappar.

Sammanfattningar av relaterade böcker

• AI:s superkrafter av Kai-Fu Lee
• Nexus av Yuval Noah Harari
• Algoritmer att leva efter av Brian Christian och Tom Griffiths
• Livet 3.0 av Max Tegmark
• Homo Deus av Yuval Noah Harari 
• 21 lärdomar för det 21:a århundradet Yuval Noah Harari
• Att bygga en andra hjärna av Tiago Forte
• Varför nationer misslyckas av Daron Acemoglu och James A. Robinson
• Hur man inte får ha fel av Jodan Ellenberg
• Elon Musk av Ashlee Vance

• Spara