L’Humanité survivra-t-elle à l’ère de l’IA ?
Crédits photo : Shutterstock
Toutes les semaines, Juste Milieu accueille de nouvelles plumes. Auteurs, experts, citoyens engagés… On vous laisse la parole pour réfléchir encore un peu plus !
Envie de publier vos articles sur Juste Milieu ? Écrivez-moi à remy@juste-milieu.fr !
Depuis fin mars, une pétition est en ligne sur le site Futureoflife.
Elle demande à tous les laboratoires d’IA d’interrompre pour au moins six mois la création de systèmes plus puissants que le fameux modèle GPT-4, développé par la société OpenAI.
Ce moratoire est demandé alors même que la courbe de développement des IA est exponentielle et semble inarrêtable…
La course incontrôlée aux cerveaux numériques les plus puissants
GPT-2, lancé en 2019, fonctionnait sur une base de 1,5 milliards de paramètres.
3 ans plus tard, en 2022, GPT-3 fonctionnait déjà sur une base de 175 milliards de paramètres.
(115 fois plus puissant !)
Et aujourd’hui, l’arrivée de GPT-4 dépasse tout, avec une base estimée à plus de 100 000 milliards de paramètres !
(encore 600 fois plus puissant !)
Cette nouvelle version peut toujours interpréter du texte comme les versions précédentes, mais de façon encore plus performante.
Et en plus, elle peut intégrer et analyser des images complexes.
Nous en sommes donc déjà au stade où plus personne – pas même les créateurs – ne peuvent comprendre en totalité, prédire, ni contrôler de manière fiable ces outils…
… qui sont pourtant mis dans les mains du grand public, grâce à des interfaces ultra accessibles comme celle de Chat GPT !
C’est pourquoi plus de 5 000 experts mondiaux ont déjà signé la pétition en évoquant des “risques majeurs pour l’Humanité”.
Car même si la plupart des chercheurs pensent qu’une IA super-intelligente ne peut pas éprouver des émotions humaines telles que l’amour ou la haine…
Et qu’on ne peut donc pas lui attribuer des “intentions” bienveillantes, ou malveillantes.
Ils envisagent malgré tout deux scénarios qui pourraient être très risqués pour les humains.
Inscrivez-vous à la newsletter gratuite Argo Éditions
Recevez gratuitement les conseils et analyses de Marc Schneider, directement dans votre boîte mail.
Nouvelles technologies, metaverse, biotech, cryptos… mais aussi matières premières, géopolitique et stratégies d’investissement avancées : vous n’êtes pas près de vous ennuyer !
Tous les nouveaux inscrits recevront en cadeau le dossier « Le business caché de l’IA » dans leur boîte mail dès leur inscription
Programmer pour tuer
C’est le cas le plus évident à imaginer.
Si une IA est programmée pour faire quelque chose de dévastateur, alors elle accomplira sa mission mieux que n’importe qui.
Et dans le domaine des armes autonomes, des progrès gigantesques sont en train d’être réalisés…
Ces armes pourraient être déployées sur les champs de bataille d’ici quelques mois.
Les drones aériens en sont déjà le premier niveau.
Aujourd’hui, il y a encore un “opérateur” humain derrière le joystick, mais demain c’est l’IA qui prendra elle-même la décision d’engager le combat si elle le juge nécessaire.
Il est donc envisageable que les humains perdent le contrôle de la situation face à des drones autonomes contrôlés par une IA qui a décidé d’accomplir des buts militaires.
D’autant plus que pour éviter d’être piratées par l’ennemi, ces armes sont conçues pour être très difficiles à “désactiver”.
Et plus le niveau d’intelligence embarquée augmente, plus ce risque s’accroît.
Atteindre son objectif… à n’importe quel prix
L’IA peut aussi être programmée pour faire quelque chose de bénéfique, mais dont la réalisation entraîne des catastrophes.
Imaginez par exemple que vous demandiez à une voiture autonome de vous conduire à l’aéroport avant le départ de votre avion.
Si l’IA est connectée aux horaires de vol et qu’elle calcule qu’elle doit rouler à 273 km/h sur l’autoroute pour réussir son programme, vous risquez d’avoir des ennuis…
Une IA super-intelligente pourrait donc causer des conséquences graves pour certaines personnes, mais sans aucune malveillance initiale.
Il faut donc réussir à aligner ses objectifs avec ceux des humains.
Les laboratoires d’IA et les experts indépendants devraient mettre en place des protocoles de sécurité partagés pour améliorer la transparence et la fiabilité des modèles qu’ils développent.
Cela ne signifie pas une pause dans le développement de l’IA en général, mais simplement un recul par rapport à la course dangereuse vers des modèles de boîtes noires toujours plus grands et imprévisibles, dotés de capacités qui dépassent nos propres cerveaux.
L’IA va révolutionner la médecine, le journalisme, l’agriculture, l’industrie militaire, le secteur du divertissement…
Il faut donc faire en sorte que ces outils permettent d’améliorer l’Humanité plutôt que de l’asservir encore un peu plus.
Qui est Marc Schneider ?
Marc Schneider est le fondateur d’Argo Éditions, une entreprise d’édition financière et de recherche en investissement. Sa newsletter gratuite réunit chaque semaine plus de 60 000 lecteurs.
Ancien Risk Manager, Marc aide ses lecteurs à comprendre les rouages de l’investissement en bourse et en cryptomonnaies pour prendre en main leur avenir financier.
Sa newsletter traite de sujets variés : nouvelles technologies, cryptomonnaies, psychologie de l’investissement ou encore géopolitique… avec un dénominateur commun : comprendre le monde qui nous entoure pour mieux gérer ses finances.
L’Humanité survivra-t-elle à l’ère de l’IA ? Tu pose la bonne question . Le projet MK ultra est d’origine militaire (CIA ) et la conférence de Macy était une marionnette entre les mains de la CIA , l’idée de départ est de dicter et d’imposer le mondialisme (totalitaire ) avec un double objectif : discréditer les opposants ao mondialisme et une fois mis en place éliminer toutes révoltes . Les débats a son sujet sur le médiats ne sont là que pour faire croire a une discutions démocratique , qui n’est qu’une propagande déguisée . Les nazions que les médiats nous montrent , qui sont mis en places par les services secrets , a pour but de discréditer les opposants au mondialisme .
Je suis très inquiète pour l’avenir de nos enfants…et je demande comment pouvoir continuer à croire à tout ce que nous voyons dans tous les domaines de la vie…
Révolutionner la médecine ? Cela sera juste une aide mémoire. Elle ,e pourra pas se substituer au diagnostic d’un médecin compétent qui vous recevra où vous auscultera chez vous, s’apercevra qu’outre ce dont vous vous plaignez, votre peau aura un aspect malsain, trop sèche, où luisante, trop fine, que vous tremblez trop ou par intermitence etc..; des signes qui mettent en alerte ce bon toubib et qui réfléchira et s’apercevra qu’une autre pathologie vous guette …
Rien ne peut remplacer le jugement humain, l’IA ne pourra donner que l’indication d’un médicament approprié … à condition que Bigpharma n’ai pas introduit des biais….
Ce n’est pas nécessairement l’IA qui est dangereuse (c’est comme la langue d’ésope) c’est la crétinisation des peuples qui l’est et qui entraine l’acceptation ovine de n’importe quelle mesure ou déclaration
déjà que sans l’IA, je doutais de tous les discours (depuis le nuage de tchernobyl). Maintenant, nous allons dans un monde paranoïaque, où il sera impossible de faire confiance à ce qu’on lit, écoute, voit. C’est pour ça que l’on promeut l’euthanasie ?
L’IA c’est un ordinateur qu’on a gavé et qui donne les réponses que ceux qui l’ont gavé veulent qu’on croit. C’est comme pour dieu et consorts, comme pour les politiques, il ne faut plus croire ce qu’on nous raconte dans les meRdias…..