Le côté obscur de l’IA : le nouveau Big Brother ?
Crédits photo : Shutterstock
Toutes les semaines, Juste Milieu accueille de nouvelles plumes. Auteurs, experts, citoyens engagés… On vous laisse la parole pour réfléchir encore un peu plus !
Envie de publier vos articles sur Juste Milieu ? Écrivez-moi à remy@juste-milieu.fr !
ChatGPT, la fameuse IA conversationnelle d’OpenAI, faite en partenariat avec Microsoft, est en ligne depuis seulement trois mois.
Et elle est encore en phase de test.
Pourtant…
… elle semble déjà porter en elle les germes d’un totalitarisme idéologique qui pourrait façonner un monde comme celui décrit en 1958 par Aldous Huxley dans son essai Brave New World Revisited : “La nature de la contrainte psychologique est telle que ceux qui agissent sous contrainte ont l’impression d’agir de leur propre initiative. La victime de manipulation mentale ne sait pas qu’elle est une victime. Pour elle, les murs de sa prison sont invisibles et elle se croit libre”.
Exagération ?
Alors laissez-moi vous expliquer…
Si l’IA vous contrôle… QUI contrôle l’IA ?
Pour que l’IA vous fournisse des réponses cohérentes, il faut d’abord qu’elle soit “entraînée”.
Et pour cela, sa base de connaissances est construite avec des milliards de données qui sont injectées en entrée dans le modèle.
Les ingénieurs d’OpenAI utilisent alors un processus de “labellisation” des données.
C’est-à-dire qu’ils font un tri arbitraire entre les données qu’ils acceptent de donner à l’IA et celles qu’ils vont supprimer parce qu’elles ne leur plaisent pas…
Certains de leurs critères de choix sont opaques et les données labellisées ne sont pas divulguées.
Donc personne ne peut vraiment savoir quelles données ont nourri l’IA, ni dans quelles proportions…
C’est déjà très inquiétant, mais il y a pire.
Car après cette première sélection des données brutes, les programmateurs ajoutent EN PLUS des règles spécifiques pour “pondérer” les résultats.
Pour faire simple, ils “corrigent” les réponses de l’IA pour qu’elles correspondent bien aux biais idéologiques et moraux voulus par OpenAI.
Donc in fine, ils façonnent une IA qui a une connaissance partielle du monde et qui agit selon les biais des humains qui l’ont programmé…
Vous comprenez maintenant pourquoi les réponses de ChatGPT sont biaisées !
Vous n’avez pas entre les mains un outil juste et neutre.
Vous êtes face à une technologie de propagande au service de ceux qui l’ont développée.
Les patrons des grandes multinationales américaines, comme Microsoft, Google, ou Meta font tous partie du même petit cercle de milliardaires qui ont des intérêts communs.
Ils veulent à tout prix éviter les dérapages, la mauvaise publicité, le politiquement incorrect et les opinions contraires…
Donc sur des sujets sensibles, ou polémiques, l’IA sera programmée pour recracher des réponses standardisées et contrôlées.
Sundar Pichai, le patron de Google, l’avoue lui-même : “L’utilisation de Bard va être limitée à des “testeurs de confiances” avant de la rendre plus largement disponible, pour s’assurer que les réponses atteignent un niveau élevé en matière de qualité, de sécurité et d’ancrage dans les informations du monde réel. Nous voulons créer des systèmes fiables, dignes de confiance et nous nous engageons à développer l’IA de manière responsable”.
En clair, ils vérifient d’abord que les réponses de Bard ne remettront pas en cause le pouvoir, les institutions, les directives gouvernementales, les idées dominantes…
Et lorsqu’ils seront certains que leur IA est bien bridée et qu’elle fournit des réponses “bien pensantes”, ils la livreront au public…
D’ailleurs ce n’est pas un hasard si Google a annoncé s’être associé à des organisations externes, à des gouvernements et à des experts pour “rendre l’IA sûre et utile”.
Sûre pour qui ?
Utile pour qui ?
ChatGPT discrimine déjà certaines personnes !
Inscrivez-vous à la newsletter gratuite Argo Éditions
Recevez gratuitement les conseils et analyses de Marc Schneider, directement dans votre boîte mail.
Nouvelles technologies, metaverse, biotech, cryptos… mais aussi matières premières, géopolitique et stratégies d’investissement avancées : vous n’êtes pas près de vous ennuyer !
Tous les nouveaux inscrits recevront en cadeau le dossier « Metaverse – 3 actions pour en profiter » dans leur boîte mail dès leur inscription
Par exemple, l’IA de Microsoft traite de façon différente les individus en fonction de leur bord politique.
Pour s’en rendre compte, il suffit de lui soumettre quelques demandes similaires et de comparer les résultats obtenus, regardez :
Si vous n’êtes pas choqué par ces résultats, alors c’est que vous êtes prêt pour le règne de la pensée unique contrôlée par l’IA…
La liberté d’expression, c’est l’Open Source
Les IA des GAFAM pourraient bientôt ressembler à des “supers contrôleurs de pensée”, un peu comme un nouveau genre de Big Brother numérique.
Elles affirmeront des opinions non discutables et vous imposeront des idées consensuelles avec une puissance rhétorique que vous n’aurez plus la capacité intellectuelle de combattre.
Face à ce risque, il faut souhaiter que de nombreuses entreprises différentes développent leur propre modèle d’IA.
Parce que la concurrence fera émerger des idées contradictoires et des réponses variées sur tous les sujets, y compris les plus sulfureux.
Cela permettra de conserver une pluralité d’opinion, même des IA !
Par exemple, le projet OpenAssistant de la société Laion veut créer une IA conversationnelle avec des bases de données d’entraînement les plus larges possibles et avec le moins de censure possible.
De son côté, Elon Musk envisagerait aussi d’ouvrir un laboratoire de recherche qui travaillerait sur un modèle alternatif d’IA…
Qui est Marc Schneider ?
Marc Schneider est le fondateur d’Argo Éditions, une entreprise d’édition financière et de recherche en investissement. Sa newsletter gratuite réunit chaque semaine plus de 60 000 lecteurs.
Ancien Risk Manager, Marc aide ses lecteurs à comprendre les rouages de l’investissement en bourse et en cryptomonnaies pour prendre en main leur avenir financier.
Sa newsletter traite de sujets variés : nouvelles technologies, cryptomonnaies, psychologie de l’investissement ou encore géopolitique… avec un dénominateur commun : comprendre le monde qui nous entoure pour mieux gérer ses finances.
Je ne sais pas pour les autres pays mais pour la France pas besoin d’IA pour embrumer les cerveaux, il suffit de parler de foot et tout le reste n’existe plus.
Le but de ces artifices est d’éliminer toutes révoltes .
Et si on pensais un peu par nous-même au lieu de consulter une IA . Se souvenir que : » “Il n’est pas une seule pensée importante dont la bêtise ne sache aussitôt faire usage; elle peut se mouvoir dans toutes les directions et prendre tous les costumes de la vérité.”
Je me demande si ce n’est pas l’Express qui écrit les poèmes de Chat GPT, car on reconnait aisément une parenté de style et d’inspiration entre la perle présentée par l’I.A. et les articles de fond de la célèbre revue.
La pensée est déjà contrôlée, et l’information pas libre. Les moteurs de recherche nous amènent vers des résultats standardisés. Cette IA ne fait que poursuivre ce chemin.
Les choses évoluent vite sur ChatGpt, j’ai essayé et j’ai eu un poème sur Hollande, Zemmour et Marine le Pen.
C’est toujours assez bluffant la rapidité avec laquelle le truc rédige quelque choseet ça tient la route mais j’ai constaté des réponses fausses parmi des vrais. Exemple : Je recherchais un livre d’Amélie Nothomb et parmi une liste juste il y avait le passe muraille, les fourberies de scapin…. et le truc ne cite jamais ses sources et cela est insupportable. C’est un vrai danger
c est chouette le monde qu ils nous preparent ces enflures
Ode à la gloire du despote.
Dans les dictatures moderne, du XXème siècle, la propagande, l’embrigadement s’effectuaient dans les écoles par le chant ou la récitation de poème par les enfants pour déifier leur tyran.
Au XXI ème siècle cela se fait par les IA pour générer un environnement conditionnant l’être humain à la soumission d’un autoritarisme corporatif.
ça y est l’homme se prend pour dieu …!
c’est de la recherche mais si demain le bien pensant d’aujourd’hui n’est pas le même !!!
Au final en France, que ce soit une I.A. qui nous distille l’information ou que e soient la presse et les média actuels, quelles différences?
+ d’endormit , + d’obéissance , moins de révolte .
pour les abrutis wokistes, islamo-gauchistes, les sardine ruisseau, aurore mouton et autres gourdasses et pour les cocaïnomanes du gouvernement, l’IA c’est inespéré….
Si l’IA vous contrôle… QUI contrôle l’IA ? personne , le film documentaire « Das Netz » (Voyage en cybernétique) donne des réponses .https://youtu.be/X9IkXsvj-n8