Le progrès est une vague inarêtable. Le tout est de savoir si l’on veut être submergés par lui, à la manière d’un tsunami dévastateur, ou si l’on souhaite surfer sur la vague et prendre plaisir à se laisser porter par elle.
C’est ce qui est en train d’arriver à l’humanité, avec la très mal nommée « Intelligence artificielle » ; I.A. pour les intimes. Il est nécessaire de s’arrêter sur cette appellation. D’où les inventeurs ont-ils sorti que la chose était intelligente ? J’ai lu quelque part que l’intelligence était une spécificité du vivant. Un brin d’herbe, aussi petit et modeste est-il dans son élaboration, est mille fois plus intelligent qu’une machine à penser de la Silicon Valley. En vérité, pour dire et écrire cela, il faut croire en Dieu – croire qu’il y a quelque chose de tellement plus grand que nous, qu’on ne peut le concevoir qu’en terme de divinité. Ce en quoi les gars de la Silicon Valley ne croient pas. Ils ne croient pas en Dieu, mais en toutes sortes de diableries.1 Les dieux, ce sont eux. Quant à l’Homme, ils veulent l’augmenter. Faire mieux que Celui qui est à l’origine de leur propre existence.
Dans une vidéo d’entretien, Ariane Bilheran explique que l’outil « I.A. » n’est pas comme un marteau parce que : « le marteau n'a pas les prétentions de remplacement », mais que les concepteurs, eux, ont cette prétention. Elle a entièrement raison. Pour ma part, je persiste et signe : un outil reste un outil. Et l’outil devient mortel si main d’homme s’emploie à le faire devenir. Je suis convaincue qu’une I.A., correctement programmée, sans intention malveillante, restera/resterait, un très bon outil. Au point qu’il pourrait, comme le feu l’a fait en son temps, faire faire un bond de géant à notre humanité. Pour cela, nous n’aurions pas besoin d’être “augmentés”, comme ils disent. Foutaises. Ils veulent juste nous soumettre avec ce qui ressemble à un un collier de dressage invisible autour du cou, c’est tout. C’est à cela que sert leur technologie. Pas de bienveillance, pas d’amour du prochain, juste de la haine et du mépris. Mais je m’emporte, comme d’habitude.
Quand les ploutocrates de la Silicon Valley tentent de nous faire gober qu’ils pourraient perdre le contrôle de l’I.A., je n’y crois pas une seconde. Leur narcissisme et mégalomanie sont les meilleurs remparts pour que cela n’arrive pas. D’autant que ces malades mentaux sont prodigieusement intelligents.
Venons-en au livre d’Ariane Bilheran, que j’ai lu en petite vitesse. Accessible au grand public, il faut savoir cependant qu’il demande de la concentration. Ici, on n’est pas dans le “page turner” nº1 des Ventes sur Amazon, mais dans l’étude minutieuse d’un phénomène de société comme il n’en survient qu’une fois chaque millénaire, et encore ! ; il est de l’ordre de l’invention de la machine à imprimer de Gutenberg.2 Comme à son habitude, le docteur Ariane Bilheran a fait un travail de recherche remarquable, approfondi. M’est avis, à la vitesse prodigieuse où la technologie progresse, qu’elle pourra remettre son ouvrage sur le métier dans 5, voire 10 ans maximum. Les Musk et consorts font tout ce qu’ils peuvent pour accélérer le processus de transformation de nos sociétés, pour nous faire accéder à « l’homme nouveau » – contre notre gré ; « dans la perspective totalitaire, explique A. B., il s’agit d’un auto-engendrement d’un prototype d’homme “rénové’ depuis l’extérieur à partir d’une construction délirante. » Puis : « qui arrêtera les grands acteurs de la tech, nous dit-elle plus loin, sans qu’aucun contre-pouvoir ne parvienne à réguler ces expériences d’apprentis sorciers et cette course interminable au profit ? » Eh bien, pour ma part, déjà, je ne vois pas en ces monstres des apprentis, mais d’authentiques sorciers. Et, selon mon point de vue, hormis une intervention divine de choc, rien ne les arrêtera.
Dans un autre segment du livre, A. B. nous explique, selon sa vision clinique de la question, que « le fantasme totalitaire en est à sa pleine concrétisation » et nous propose, pour exemple, le roman de Dos Santos La femme au dragon rouge. Un roman où il est question d’un totalitarisme dernier cri, “High-Tech”, pourrait-on dire. Plus loin, A.B. ajoute : « En somme, gouvernement américain et gouvernement chinois travaillent, à l’aide de cette entreprise Oracle,3 à faire advenir massivement le même totalitarisme, vers un avenir “post-humain” ». Pas d’étonnement de ma part. Bien sûr qu’ils sont tous dans la même combine. C’est pourquoi, quand je lis sur les R.S. les commentaires d’Internautes qui s’extasient, voire qui supplient pour être “secourus” par ces pays, j’enrage. Bordel, personne ne viendra sauver leurs fesses ! Chaque individu, avec sa foi en bandoulière, aura prochainement la mission de se remuer le popotin pour ne pas perdre sa liberté ; celle que quiconque ne peut lui enlever, parce qu’elle est de droit divin.
C’était la minute “vénère”.
Ce ne sont là que quelques points que j’ai relevés dans la lecture du Totalitarisme numérique, en cour de chargement. Mais Ariane Bilheran a fait un travail d’enquête très fouillé, et les pistes de réflexion déployées dans son livre sont très nombreuses. En dernier ressort, elle insiste fortement sur le fait qu’il faut faire extrêmement attention avec les I.A., car : « il est très difficile de se prémunir psychiquement des effets du transfert, de l’attachement affectif et de l’illusion perceptive. Il n’existe en effet pas de garde-fous. » Je suis entièrement d’accord avec elle. En ce qui me concerne, vis-à-vis de l’I.A., je suis comme le jeune enfant qui apprend à se servir correctement des allumettes, sous le regard bienveillant d’un parent. Apprendre à tenir la boîte, puis coordonner le mouvement pour enflammer le petit bâton soufré. Ce que je veux dire par là, c’est que tout outil requière un apprentissage. Et que, lorsqu’on est un adulte responsable, on ne le met pas entre n’importe quelles mains.
La dernière réflexion qui m’est venue, vers la fin du livre : Quelle est la durée de vie d’une I.A. ? Car, si j’ai bien suivi, l’I.A. se nourrit de données humaines. Mais, si cette société humaine devient de plus en plus sotte (experts et élites compris - mais pas celles qui sont aux commandes, et qui sont de super psychopathes monstrueusement intelligentes !), comment pourrait-elle évoluer ? Mieux : se perpétuer ? Lisant la phrase suivante, certains vont se tordre sur leur chaise et grimacer : comment une machine, aussi perfectionnée soit-elle, pourrait-elle surpasser une création divine ?
Le logiciel Mythos
La chronique d’Eric Le Boucher met en évidence quelque chose de particulièrement intéressant quand il soulève les questions liées au logiciel Mythos.4 Article que je vous laisse lire, pour ne pas alourdir cette page :
Remarque : il a toutefois fallu que je demande à Grok d’analyser le troisième paragraphe, et plus particulièrement la phrase : « Mais surviennent les risques concrets, comme le logiciel Mythos fait pour révéler les failles des systèmes bancaires et comme les premières hallucinations (les erreurs que font les IA par construction) à grande échelle. », que je trouvais bancale et ne la comprenais qu’à moitié.
Réponse :
La phrase est effectivement mal tournée et un peu confuse. Elle essaie de lister deux exemples de « risques concrets » qui émergent avec l’IA, mais la construction est maladroite (surtout le double « comme… et comme… »). Ce qu’elle veut dire : L’auteur oppose (ou plutôt enchaîne) deux types de risques réels :
Le logiciel Mythos (un modèle d’IA développé par Anthropic) :
C’est un outil très puissant en cybersécurité, capable de découvrir automatiquement des failles (y compris des vulnérabilités inconnues, des « zero-day ») dans des systèmes complexes, comme ceux des banques. Il a tellement bien réussi dans des tests internes qu’Anthropic a choisi de ne pas le sortir publiquement (ou de le limiter fortement), car il pourrait être utilisé pour des attaques massives. Des réunions d’urgence avec des banques et régulateurs ont même eu lieu. Mythos illustre le risque que l’IA devienne un super-outil d’attaque cyber.
Les premières hallucinations à grande échelle :
Les « hallucinations » sont les erreurs factuelles que les IA génératives produisent par construction (elles inventent des informations plausibles mais fausses). L’auteur veut dire que, maintenant que les modèles sont très puissants et déployés massivement, ces erreurs ne sont plus des cas isolés mais deviennent un problème systémique et visible à grande échelle.
Eh bien justement, à ce propos, je découvre qu’une chercheuse suédoise s’était posé la question de savoir ce qui arriverait s’il était lancé une fausse maladie, et comment l’I.A. réagirait : il en a résulté que ChatGPT a diagnostiqué 40 millions de personnes avec cette maladie, et qu’elle leur conseillait de consulter. Le post est à lire ; il développe l’argumentaire :
Le cas Bixonimania est frappant précisément parce qu’il a été conçu pour être si manifestement faux. La vraie question qu’il soulève est : qu’est-ce qui passe à travers les mêmes systèmes et qui n’est pas du tout aussi facile à repérer ?
L’expérience a utilisé un nom ridicule. Des articles frauduleux. Des signaux d’alarme visibles à chaque niveau.
Elle était conçue pour être détectée.
Elle n’a pas été détectée.
L’IA qui a parlé de Bixonimania aux patients est la même qui leur a répondu sur leurs douleurs thoraciques, leurs médicaments, les symptômes de leur enfant, et leur calendrier de dépistage du cancer.
40 millions de personnes. Tous les jours. Source
Ce qu’ils nomment improprement « Intelligence artificielle » ne peut pas, et surtout, ne doit pas être utilisé par l’armée. L’I.A. n’est pas intelligente, elle ne sait pas faire la distinction entre le réel et le factice. C’est un outil programmé. Dans cet entretien vidéo,5 l’ancien inspecteur en armement de l’ONU, et officier du renseignement du Corps des Marines Scott Ritter, explique le problème.
Pendant ce temps, la chine réfléchit sérieusement :
Traduction du début du post :
La Chine n’attend pas une crise énergétique — elle enseigne au réseau à penser
Les systèmes d’alimentation résilients sont devenus l’épine dorsière de la suprématie de l’IA, et la Chine répond par une initiative qui contourne les discussions habituelles sur les puces et les logiciels. Au lieu d’alimenter davantage les centres de données en électricité, Pékin veut intégrer directement l’IA dans son infrastructure énergétique, transformant une contrainte paralysante en un avantage stratégique. Cliquer sur l’image ci-dessus, ou ici, pour lire la suite.
Il n’est pas dit que le résultat serait beaucoup mieux. La Chine et la Russie, elles y participent pleinement. Dois-je vous rappeler que les BRICs ont signé, en août 2023, la déclaration de Johannesburg II, pour un partenariat de « Développement durable et multilatéralisme inclusif » ?
Citation du point “53” de la déclaration de Johannesburg :
Nous saluons les progrès réalisés par les pays BRICs dans la promotion de la résilience urbaine, notamment par le biais du forum sur l’urbanisation des BRICs, et apprécions l’engagement à renforcer davantage la collaboration inclusive entre le gouvernement et les sociétés à tous les niveaux, dans tous les pays BRICs, dans la mise en œuvre de l’Agenda 2030 et la promotion de la localisation. Des ODD.
Enfonçons gaiement le clou : le terme « ODD » cité six fois dans cette déclaration, n’est pas un hasard, c’est l’énoncé d’un programme. Enfin, je rappelle que Chine et Russie ont allègement piquousé et confiné leurs populations lors de l’épisode C0videsque, rebaptisé Warp Speed Operation (vitesse de distorsion, c'est-à-dire une vitesse fulgurante, supérieure à celle de la lumière.)6
Toujours sur la Chine et l’I.A.
Pendant que la Chine s’affole sur les dégâts causés sur sa population par ladite « intelligence artificielle » :
« Pékin contraint des millions de personnes à rompre leurs relations virtuelles face au déclin démographique :
La Chine a interdit aux mineurs d’utiliser des chatbots d’intelligence artificielle pour lutter contre la baisse du taux de natalité.
Les entreprises doivent surveiller les utilisateurs afin de détecter toute crise de santé mentale et contacter les personnes à contacter en cas d’urgence.
ByteDance, Alibaba et Tencent ont désactivé les fonctionnalités de chatbot en réponse aux nouvelles règles.
Des adolescents comme Xiaoxue contournent les restrictions en utilisant les numéros d’identification de membres de leur famille.
Les utilisateurs des réseaux sociaux ont critiqué cette réglementation, la jugeant néfaste pour le réconfort et le lien virtuels. Source
C’est à se demander si là-bas, par hasard, quelqu’un n’aurait pas lu le livre d’Ariane Bilheran…
Des experts sérieux, très au fait de la question, nous expliquent que le bousin va s’effondrer. En même temps, je me dis que peut-être – allez, rêvons un peu ! – l’oligarchie financière sombrera avec ; l’entité la plus maléfique de ce monde qui a misé des sommes folles sur cette technologie, censée les aider grandement à nous mettre en esclavage. Il faut écouter ce que dit Alex Krainer, chez Glenn Diesen, pour en être convaincu. L’entretien est passionnant, et s’il provoque quelque inquiétude, il est, somme toute, positif. Oui, toute cette crapulerie sera pulvérisée quand elle s’encastrera sur le mur du réel. Et l’on en souffrira. C’est certain. Mais, depuis l’époque reculée où l’humanité est arrivée à maîtriser le feu, celle-ci devrait être capable de maîtriser au mieux la science des algorithmes, et elle se relèvera. Je crois en cette humanité-là : curieuse, aventurière et obstinée.
Abonnez-vous gratuitement et sans engagement pour recevoir mes prochaines publications !
Merci d’avoir lu le Substack de Marguerite.
Cette publication est publique, alors n’hésitez pas à la partager !
Sauf que leurs démons n’existent pas Dieu. D’ailleurs, Il est le Grand Patron et Il les a éjectés du paradis pour cause d’inconduite.
Gutenberg n’est pas l’inventeur à proprement parler, car il existait déjà un procédé appelé « xylographie », dont on retrouve la trace en Asie vers la fin du VIIe siècle.
En cours de rédaction de cet article, j’ai croisé une vidéo intéressante : l’auteur note que les ploutocrates de la Silicon Valley, grands adeptes d’occultisme et de cabale, ont choisi des noms en relation avec la mythologie pour leurs entreprises :
Le mythos n’est pas une « fable mensongère » ou un simple récit imaginaire. Il constitue un mode de connaissance symbolique, antérieur au discours rationnel. Source
Le passage est d’un grand intérêt, je vous le recommande.
C’était également un partenariat public-privé du gouvernement fédéral des États-Unis pour faciliter et accélérer le développement, la fabrication et la distribution de vaccins thérapeutiques contre le C19. Pour ceux qui sont intéressés par la symbolique du logo, voir l’article sur mon ancien blogue
