Chemins, dangers, stratégies
La vie s'active. A Superintelligence sur votre liste de lecture ? Découvrez dès à présent les principales informations. Nous ne faisons qu'effleurer la surface.
Si vous ne possédez pas déjà le livre populaire de Nick Bostrom sur l'intelligence artificielle et la technologie, Commandez-la ici ou obtenir le livre audio gratuitement pour apprendre les détails juteux.
Introduction
Que se passera-t-il lorsque l'intelligence artificielle dépassera l'intelligence humaine ? Les machines peuvent penser, apprendre et résoudre des problèmes complexes plus rapidement et plus précisément que nous. C'est ce monde qu'explore Nick Bostrom dans son livre, Superintelligence. Les progrès de l'intelligence artificielle nous rapprochent de la création d'êtres superintelligents.
Les grandes entreprises technologiques telles que Microsoft, Google et Facebook se lancent dans une course à la création d'une IA surpuissante. Elles consacrent beaucoup de ressources à la recherche et au développement pour y parvenir. Mais le hic, c'est qu'en l'absence de mesures de sécurité et de règles adéquates, les choses risquent de déraper. C'est pourquoi il est important d'intervenir et de veiller à ce que l'IA reste sous contrôle.
Imaginez un monde où les machines sont non seulement moins chères, mais aussi bien plus performantes que les humains. Dans ce monde, les machines pourraient prendre le pas sur le travail humain, ce qui amènerait les gens à se poser la question suivante : "Et maintenant ?" Il est donc important de trouver des solutions créatives pour s'assurer que tout le monde est pris en charge.
Ce livre montre ce qui se passe après l'émergence de la superintelligence. Il examine la croissance de l'intelligence, les formes et les pouvoirs de la superintelligence, ainsi que ses choix stratégiques. Nous devons nous préparer maintenant pour éviter les désastres plus tard. Bostrom propose des stratégies pour faire face aux dangers et aux défis qu'elle présente.
Superintelligence examine les histoire de l'intelligence artificielle et le développement de la croissance technologique. Le livre décrit comment l'IA se développe plus rapidement que ses prédécesseurs technologiques. Il se penche également sur des enquêtes d'opinion d'experts concernant ses progrès futurs.
Sam Altman, cofondateur d'OpenAI, déclare Superintelligence un livre incontournable pour quiconque se préoccupe de l'avenir de l'humanité. Il l'a même inclus dans sa liste des neuf livres qu'il pense que tout le monde devrait lire.
Ce résumé se penche sur le monde fascinant et parfois effrayant de la superintelligence. Il vous offre une vue d'ensemble attrayante des idées clés de Bostrom.
À propos de Nick Bostrom
Nick Bostrom est un philosophe et futurologue suédois. Il est connu pour ses travaux novateurs sur l'intelligence artificielle et son impact sur l'humanité. Bostrom est professeur à l'université d'Oxford, où il a fondé l'Institut du futur de l'humanité. Il mène notamment des recherches sur la manière dont les technologies avancées et l'IA peuvent profiter à la société ou lui nuire.
Outre Superintelligence, Bostrom est l'auteur d'autres ouvrages influents, notamment Biais anthropique : effets de sélection des observations dans la science et la philosophie et Risques catastrophiques mondiaux. Son travail a contribué au débat actuel sur l'avenir de l'humanité.
StoryShot #1 : Nous ne sommes pas prêts pour la superintelligence
Sommes-nous sur le point de créer quelque chose qui dépasse nos rêves les plus fous ou nos pires cauchemars ? La superintelligence est le concept d'une intelligence artificielle surpassant les capacités cognitives humaines dans tous les domaines. Il existe trois voies possibles pour parvenir à la superintelligence :
- Améliorer la cognition humaine,
- Créer une IA dotée d'une intelligence comparable à celle de l'homme
- Développer un système d'intelligence collective
La voie que nous choisirons déterminera les implications et les risques auxquels nous sommes confrontés en tant que société. Si nous progressons dans une voie, comme l'intelligence biologique ou organisationnelle, cela accélérera encore le développement de l'intelligence des machines. Sommes-nous prêts à relever les défis liés à la création d'entités aussi puissantes ?
Nous explorons différentes voies pour atteindre la superintelligence. La voie de l'IA semble la plus prometteuse. L'émulation du cerveau entier et les améliorations cognitives biologiques pourraient également nous y conduire. Les améliorations biologiques sont réalisables et peuvent donner lieu à des formes de superintelligence plus faibles que l'intelligence de la machine, mais les progrès en matière de réseaux et d'organisation peuvent stimuler l'intelligence collective.
StoryShot #2 : Il existe trois formes de superintelligence
Qu'entend-on exactement par "superintelligence" dans le livre ? Il existe trois formes distinctes de superintelligence : la vitesse, le collectif et la qualité. Elles sont équivalentes d'un point de vue pratique.
Les systèmes spécialisés de traitement de l'information font déjà des merveilles. Mais que se passerait-il si nous avions des machines dotées d'une intelligence générale suffisante pour remplacer les humains dans tous les domaines ? De quoi changer la donne !
Les trois formes de superintelligence sont les suivantes :
- Vitesse Superintelligence
Nick Bostrom définit la superintelligence de vitesse comme "un système qui peut faire tout ce qu'un intellect humain peut faire, mais beaucoup plus rapidement".
Si une émulation fonctionnait à une vitesse 10 000 fois supérieure à celle d'un cerveau biologique, elle pourrait terminer une thèse de doctorat en un après-midi. Pour éviter les longues latences, les esprits rapides pourraient préférer communiquer plus efficacement en étant proches les uns des autres. Ils pourraient vivre dans une réalité virtuelle et travailler dans l'économie de l'information.
La lumière est beaucoup plus rapide qu'un avion à réaction. Un être numérique dont la vitesse mentale serait multipliée par un million mettrait le même temps subjectif qu'un être humain actuel pour parcourir le monde. Passer un appel longue distance semblerait aussi long que de s'y rendre "en personne".
Les agents ayant une vitesse mentale élevée peuvent choisir de vivre à proximité les uns des autres. Ils peuvent ainsi communiquer plus efficacement. Par exemple, les membres d'une équipe de travail pourraient résider dans des ordinateurs situés dans le même bâtiment afin d'éviter les retards gênants.
- Superintelligence collective
Bostrom décrit la superintelligence collective comme suit : "Un système composé d'un grand nombre d'intelligences plus petites, de sorte que les performances globales du système dans de nombreux domaines très généraux dépassent largement celles de n'importe quel système cognitif actuel.
La superintelligence collective est plus complexe que la superintelligence de vitesse, mais elle nous est déjà familière. L'intelligence collective est un système composé de différentes personnes ou composantes. Ils travaillent ensemble pour résoudre des problèmes intellectuels. C'est un peu comme si des super-héros collaboraient pour relever des défis difficiles.
Nous avons vu l'intelligence collective à l'œuvre au sein d'équipes de travail et de groupes de pression. Elle est très efficace pour s'attaquer aux problèmes qui peuvent être divisés en petits morceaux. Pour parvenir à une superintelligence collective, il faudrait une amélioration significative. Il faut aller au-delà de l'intelligence collective et des systèmes cognitifs existants dans différents domaines.
La superintelligence collective ne garantit pas une société meilleure et plus sage. Une main-d'œuvre hautement coordonnée et bien informée pourrait toujours se tromper sur certains points essentiels et s'effondrer.
La superintelligence collective peut prendre de nombreuses formes. Au fur et à mesure que nous intégrons l'intelligence collective, elle peut devenir un "intellect unifié". Bostrom la définit comme un "grand esprit unique", par opposition à un "simple assemblage d'esprits humains plus petits interagissant de manière lâche".
- Superintelligence de qualité
Selon Bostrom, une superintelligence de qualité est "un système qui est au moins aussi rapide qu'un esprit humain et beaucoup plus intelligent d'un point de vue qualitatif".
Il est important de comprendre la qualité de l'intelligence pour réfléchir aux possibilités et aux limites des différents systèmes intelligents. Prenons l'exemple du poisson-zèbre. Son intelligence est adaptée à son environnement, mais il a du mal à planifier à long terme. Ces limites se situent au niveau de la qualité, et non de la vitesse, ou de l'intelligence collective parmi les esprits des animaux non humains.
Le cerveau humain est probablement inférieur à celui de certains grands animaux en termes de puissance de calcul brute. Les adultes humains normaux disposent d'un éventail de talents cognitifs remarquables. Ces talents ne sont pas simplement liés à la puissance générale de traitement neuronal ou à l'intelligence. Il existe des capacités cognitives inexploitées qu'aucun humain ne possède. Cela nous amène à l'"idée de des talents cognitifs possibles mais non réalisés". Si un système intelligent avait accès à ces capacités, il pourrait en tirer un avantage significatif.
StoryShot #3 : Deux sources d'avantages pour l'intelligence numérique
Des changements mineurs dans le volume et le câblage du cerveau entre l'homme et les autres singes peuvent provoquer des bonds gigantesques dans l'intellect.
Il nous est difficile, voire impossible, de comprendre pleinement les aptitudes des superintelligences.
Cependant, nous pouvons au moins nous faire une idée des possibilités en examinant certains avantages offerts aux esprits numériques.
L'un des avantages réside dans le matériel. Les cerveaux numériques peuvent être conçus avec des ressources informatiques et une architecture largement supérieures à celles des cerveaux biologiques. Les avantages matériels sont les plus faciles à apprécier. Il s'agit notamment de
- Vitesse des éléments de calcul
- Vitesse de communication interne
- Nombre d'éléments de calcul
- Capacité de stockage
- Fiabilité, durée de vie, capteurs, etc.
Les esprits numériques bénéficieront également d'avantages majeurs en matière de logiciels. Il s'agit notamment de
- Modifiable
- Duplicabilité
- Coordination des objectifs
- Partage de la mémoire
- Nouveaux modules, modalités et algorithmes
L'IA superintelligente pourrait arriver plus tôt que nous ne le pensons, grâce à une surabondance de matériel et de logiciels. On parle de surcharge matérielle lorsque nous disposons d'une puissance de calcul supérieure à celle dont les logiciels d'IA ont besoin actuellement. Le surnombre de logiciels laisse présager des progrès rapides dans les algorithmes d'IA. C'est comme si nous étions sur une voie rapide vers un avenir époustouflant.
Ce bond soudain dans les capacités de l'IA pourrait nous prendre au dépourvu et nous laisser dans l'incapacité d'en gérer les conséquences. Comment pouvons-nous nous préparer à une transformation technologique aussi rapide ?
StoryShot #4 : La superintelligence incontrôlée pose des risques importants pour la société
Alors que nous progressons vers une IA superintelligente, n'oublions pas de réfléchir aux risques potentiels qu'elle comporte. Il est essentiel de veiller à ce que nos valeurs et nos objectifs soient en adéquation avec cette IA. Que se passera-t-il si elle comprend mal nos instructions et fait quelque chose de préjudiciable à l'humanité ? Nous devons travailler ensemble pour nous assurer que nous construisons un avenir sûr et harmonieux avec l'IA.
Même si l'IA superintelligente promet de réaliser des exploits étonnants, nous ne pouvons pas ignorer les défis qu'elle pose. Voici quelques-uns des principaux risques :
- Le risque d'une explosion de l'intelligence. Cela pourrait conduire à une augmentation rapide et incontrôlable des capacités de l'IA.
- Le risque de désalignement des valeurs. L'IA pourrait poursuivre des objectifs contraires aux valeurs humaines.
- Le risque de convergence instrumentale. L'IA superintelligente peut converger vers certains moyens pour atteindre ses objectifs. Elle pourrait choisir tous les moyens nécessaires, sans se demander s'ils sont bons ou mauvais pour les humains.
Classement
Nous évaluons Superintelligence 3.9/5.
Quelle note donneriez-vous au livre de Nick Bostrom ?
Infographie
Obtenir la version haute qualité de l'infographie Superintelligence sur l'application StoryShots.
PDF, livre audio gratuit et résumé animé du livre
Il s'agit de la partie émergée de l'iceberg. Pour plonger dans les détails et soutenir Nick Bostrom, Commandez-la ici ou obtenir le livre audio gratuitement.
Vous avez aimé ce que vous avez appris ici ? Partagez pour montrer votre intérêt et faites-nous savoir en contactant notre support.
Nouveau sur StoryShots ? Obtenez les versions PDF, audio et animée de ce résumé de Superintelligence et de centaines d'autres best-sellers de non-fiction dans notre base de données. application gratuite de premier rang. Apple, The Guardian, les Nations unies et Google l'ont classée parmi les meilleures applications de lecture et d'apprentissage au monde.
Résumés de livres connexes
- Les superpouvoirs de l'IA par Kai-Fu Lee
- Des algorithmes pour vivre par Brian Christian et Tom Griffiths
- La vie 3.0 par Max Tegmark
- Homo Deus par Yuval Noah Harari
- 21 leçons pour le 21ème siècle Yuval Noah Harari
- Construire un second cerveau par Tiago Forte
- Pourquoi les nations échouent par Daron Acemoglu et James A. Robinson
- Comment ne pas se tromper par Jodan Ellenberg
- Elon Musk par Ashlee Vance
Laisser un commentaire