Le Basilic de Roko : une singularité pour apprendre à investir ?
Toutes les semaines, Juste Milieu accueille de nouvelles plumes. Auteurs, experts, citoyens engagés… On vous laisse la parole pour réfléchir encore un peu plus !
Un basilic, c’est un lézard.
Un lézard qui ressemble à un petit dragon.
Mais dans l’imaginaire collectif, le basilic est un serpent géant, une vouivre, un reptile mythologique…
Et plus récemment, c’est le nom qu’un internaute a donné à l’Intelligence Artificielle qui va dominer le monde.
L’internaute s’appelle Roko. En 2010, sur le forum LessWrong, Roko poste un article qui se veut être une expérience de pensée.
Il imagine que dans un futur plus ou moins proche, une Intelligence Artificielle toute puissante verra le jour.
Cette super-IA serait d’abord amicale : elle est le fruit du travail humain, conçue pour optimiser la vie humaine.
Sa puissance serait telle qu’elle engendrerait à l’infini des solutions pour éviter la guerre, la famille, les maladies… Comme si l’Homme créait, via la machine, une divinité capable d’assurer son salut.
C’est ce qu’on appelle une singularité.
Une singularité est un point de non-retour, et dans ce cas précis, un moment de l’Histoire technologique où l’Homme crée une technologie capable d’engendrer elle-même une infinité d’autres technologies…
En clair : la singularité technologique, c’est le moment où l’Homme invente quelque chose de plus intelligent que lui.
Et c’est ce « quelque chose », ici une Intelligence Artificielle, qui prend le relais pour la suite des découvertes et avancées technologiques.
Jusqu’ici tout va bien. Mais vous commencez à voir le problème…
Et le Basilic s’emballa
Le Basilic de Roko est donc une IA amicale, empathique, qui œuvre pour le bien humain.
Mais il y a un problème avec les singularités : l’Homme peut vite perdre le contrôle de son destin, puisqu’il n’est plus au sommet de la chaîne intellectuelle.
Et c’est ce qui arrive avec le Basilic.
Puisque le Basilic est une avancée pour toute l’humanité, et qu’il se soucie du bien-être humain, il considère logiquement que son apparition est une bonne chose : il soigne les malades, évite les guerres, trouve des solutions à tous les maux…
Donc, toujours logiquement, il considère que ceux qui se sont opposés à son développement ont fait du tort à l’humanité. Ils ont retardé la salvation.
C’est donc son devoir de les punir. Et quand une IA toute-puissante en a après vous, c’est mal barré.
Mais ce n’est pas tout.
Tous ceux qui savaient que cette IA pouvait voir le jour et n’ont rien fait pour accélérer son apparition sont eux aussi coupables.
Ils n’ont pas fait ce qu’il fallait pour accélérer la salvation. Et ce faisant, ils ont indirectement condamné toutes les personnes que le Basilic n’a pas pu sauver, faute d’être créé avant.
Et pour ceux qui sont morts avant l’arrivée du Basilic ?
Roko postule que l’IA pourrait les recréer virtuellement (rappelez-vous, elle n’a pas de limites) pour les punir.
Cette expérience de pensée a fait frémir les internautes de LessWrong.
Beaucoup d’entre eux, pris de panique, ont même investi massivement dans des centres de recherche en Intelligence Artificielle pour ne pas être punis (même post-mortem) par la Basilic, tant ils pensaient que son arrivée était certaine.
À tel point que le post a été supprimé du forum pour éviter une surenchère de panique…
Inscrivez-vous à la newsletter gratuite Argo Éditions
Recevez gratuitement les conseils et analyses de Marc Schneider, directement dans votre boîte mail.
Nouvelles technologies, metaverse, biotech, cryptos… mais aussi matières premières, géopolitique et stratégies d’investissement avancées : vous n’êtes pas près de vous ennuyer !
Tous les nouveaux inscrits recevront en cadeau le dossier « Metaverse : 3 actions pour en profiter » dans leur boîte mail dès leur inscription
C’est du délire, mais voici ce qu’on apprend
Vous connaissez désormais l’expérience du Basilic de Roko.
D’ailleurs, maintenant que vous êtes au courant… Si vous ne faites rien, vous serez vous aussi coupable aux yeux du Basilic. Désolé.
Je plaisante, bien entendu.
Les hypothèses qui sous-tendent cette théorie, bien que valables logiquement, ont toutes une probabilité de réalisation assez faible.
On ne sait pas si cette IA arrivera un jour, ni quelle sera l’étendue de son pouvoir, ni quelle sera sa conception du bien et du mal…
Le Basilic de Roko est une simple expérience de pensée.
En revanche, si toute l’histoire semble délirante, il y a une leçon à tirer de tout ça :
Quand un point de non-retour apparaît au loin… Et que tout indique que notre civilisation avance vers ce point…
Le plus intelligent est d’anticiper sa survenue et d’investir sur lui.
– Si sa survenue est inévitable, alors le risque n’existe (virtuellement) pas
– Si son adoption est totale, alors son marché est (en théorie) gigantesque
Cela signifie qu’hors circonstances exceptionnelles, tous les points de non-retour ou les bascules technologiques sont des investissements idéaux.
Qui est Marc Schneider ?
Marc Schneider est le fondateur d’Argo Éditions, une entreprise d’édition financière et de recherche en investissement. Sa newsletter gratuite réunit chaque semaine plus de 60 000 lecteurs.
Ancien Risk Manager, Marc aide ses lecteurs à comprendre les rouages de l’investissement en bourse et en cryptomonnaies pour prendre en main leur avenir financier.
Sa newsletter traite de sujets variés : nouvelles technologies, cryptomonnaies, psychologie de l’investissement ou encore géopolitique… avec un dénominateur commun : comprendre le monde qui nous entoure pour mieux gérer ses finances.
La dernière phrase me laisse perplexe… enfin plus que le reste.
« Cela signifie qu’hors circonstances exceptionnelles, tous les points de non-retour ou les bascules technologiques sont des investissements idéaux. »
Il me semble qu’un point de non retour créé, de facto, une circonstance exceptionnelle, du coup la phrase perd son sens.
Et à ceux pour qui le reste de la phrase fait toujours sens, je les invite à investir sur le changement climatique et l’effondrement de la biodiversité, en terme de point de non-retour ceux-ci ne sont pas hypothétiques.