Lors d'une conférence à Bruxelles sur la révolution que représente le nouvel agent conversationnel ChatGPT, sont présents parmi les orateurs les personnes suivantes : François-Xavier Bellamy, philosophe français et député européen et Laurent Alexandre, chirurgien, entrepreneur et essayiste français.

François-Xavier Bellamy interroge la notion “d’intelligence” qui est selon lui plus complexe qu’enseignée habituellement, et qui ne peut être réduite à une puissance de calcul. L’intelligence humaine étant protéiforme, l’intelligence artificielle ne pourra jamais la supplanter tout à fait. D’autant plus que cette dernière n’a ni sentiments, ni conscience d’elle-même — du moins pas encore.

Laurent Alexandre envisage plusieurs scenarii : le premier serait que Chat GPT-4 ne connaîtrait pas de version plus performante et que l’organisation du travail ne serait pas bouleversée ; le second que l’intelligence se développerait, mais qu’elle n’atteindrait jamais ce qu’on appelle l’intelligence artificielle générale qui dépasserait le cerveau humain dans tous les métiers — 80 % des experts croient en ce scénario, raison pour laquelle il suscite beaucoup d’inquiétude ; enfin celui de la “superintelligence” d’ici dix ans qui serait incommensurablement plus développée que celle de l’homme, prophétisée par Sam Altman, le président d’Open IA et créateur de ChatGPT. Laurent Alexandre poursuit: "Il faut que l’homme s’adapte et utilise cette révolution numérique pour parfaire son humanité."

La culture générale sera notre réponse à l’intelligence artificielle.

Laurent Alexandre et François-Xavier Bellamy s’accordent sur la seule et unique réponse à apporter à l’intelligence artificielle : l’acquisition d’une solide culture générale grâce à la lecture. Bellamy le martèle : ce qui compte, c’est l’éternelle actualité de la culture. La fréquentation des livres épaissît notre vie intérieure. Elle donne petit à petit le recul nécessaire, l’esprit critique nécessaire pour discerner le vrai du faux, le beau du laid, le bien du mal, et les miroirs aux alouettes que l’époque nous tend. Les livres sont la source de notre liberté.

Source : extraits choisis et remaniés d'un article de La Libre par Aymeric de Lamotte, Directeur général adjoint de l’Institut Thomas More et avocat.

Voir aussi l'article d'Euronews "France : alerte sur la "résurgence" des actions violentes de l'ultradroite."

"Les intelligences artificielles génératives mettront fin à la pauvreté dans le monde", nous disent les grands pontes de la tech. "Elles vont résoudre le problème du dérèglement climatique. Et elles vont redonner du sens à nos métiers et les rendre plus intéressants". L'idée qu'il vaut mieux attendre que des machines formulent des solutions plus acceptables et/ou profitables n'est pas un remède au mal, mais un symptôme de plus. Non seulement ces belles promesses tentent de faire passer un pillage à grande échelle comme un cadeau, mais en plus elles contribuent à nier les incontestables menaces que constituent ces technologies.

Il existe bien un monde où les IA génératives pourraient effectivement être au service de l’humanité, des autres espèces et de notre maison commune. Encore faudrait-il pour cela qu’elles soient déployées dans un environnement économique et social radicalement différent de celui que nous connaissons. Nous vivons dans un système conçu pour extraire le maximum de richesses et de profits – à la fois des êtres humains et de la nature. Et dans cette réalité où le pouvoir et l’argent sont hyperconcentrés, il est nettement plus probable que les IA se transforment en terrifiants instruments de vol et de spoliation.

Car ce que l’on observe, c’est que les entreprises les plus riches de l’histoire sont en train de faire main basse sur l’entièreté des connaissances humaines consignées sous forme numérique et de les enfermer dans des produits propriétaires, parmi lesquels bon nombre porteront préjudice à des hommes et femmes dont le travail aura été utilisé – sans leur consentement – pour fabriquer ces machines. C’est ce que la Silicon Valley appelle couramment “disruption”. Le temps de dépasser l’effet de nouveauté et de commencer à mesurer les dégâts sociaux, politiques et économiques de ces nouveaux jouets, la technologie est déjà si omniprésente que les législateurs et les tribunaux jettent l’éponge.

D'abord, créez un produit attractif et mettez-le à disposition gratuitement ou presque pendant quelques années, sans apparent modèle commercial viable. Faites de nobles déclarations sur votre objectif. Puis, voyez les gens devenir accros à votre outil gratuit et vos concurrents faire faillite. Une fois le champ libre, faites de la place pour la publicité, la surveillance, les contrats avec l'armée et la police, la boîte noire des reventes de données utilisateurs et les frais d'abonnement croissants. Des chauffeurs de taxi en passant par les locations saisonnières et les journaux locaux, combien de vies et de secteurs ont-ils été décimés par cette méthode ?

Avec la révolution de l'IA, ces préjudices pourraient paraître marginaux par rapport aux nombre d'enseignants, de programmeurs, de graphistes, de journalistes, de traducteurs, de musiciens, de soignants et tant d'autres professionnels menacés de voir leur gagne-pain remplacé par du mauvais code. Mais n'ayez crainte, prophétisent les apôtres de l'IA - ce sera merveilleux.

Alors qu'il connaît pertinemment le pouvoir de l'argent sur les politiques du gouvernement, Sam Altman, le PDG d'OpenAI - concepteur de ChatGPT -, semble halluciner un monde complètement différent du nôtre, un monde dans lequel les dirigeants politiques et les industriels prendraient leurs décisions sur la base des données les plus pertinentes. Or nous ne vivons pas dans le monde rationnel et humaniste que Sam Altman semble voir dans ses hallucinations.

Les géants de la tech voudraient nous faire croire qu'il est déjà trop tard pour revenir en arrière et renoncer aux machines qui supplantent les humains."

"Un monde de deepfakes et d'inégalités croissantes n'est pas une fatalité. Il est le résultat de choix politiques."

Source : extraits choisis de l'article de Naomi Klein "Les IA organisent le plus grand pillage de l'histoire de l'humanité" paru dans le Courrier International. L'article original est paru dans le journal The Guardian.

Voir aussi l'article de La Libre sur ce sujet.

« Le vraisemblable se meut avec plus d’agilité sur les réseaux sociaux que le vrai. Vérifier une information est souvent coûteux et mettre en péril son propre cadre mental plus encore. Le cerveau est, sur bien des points, un épicier qui évalue l’investissement que représente une tâche et il n’aime guère faire des efforts. La plupart du temps nous acceptons donc des propositions satisfaisantes, même si elles ne sont pas optimales. […] Cela représente aussi un péril collectif lorsque […] les propositions qui flattent nos instincts mentaux les plus immédiats sont omniprésentes et renforcées par les algorithmes qui président à nos recherches d’informations. […] La dérégulation du marché de l’information est encore en cours et qu’on ne sait pas, par exemple, de quelle façon l’interconnexion massive des objets de notre quotidien va affecter les flux qui inspireront notre représentation partagée du monde. […]

La situation actuelle est inquiétante mais loin d’être désespérée. La défense de la rationalité, qui est une incitation à négocier intellectuellement avec le monde en convoquant les outils de sélection du réel que l’histoire des idées et des méthodes nous a laissés, est loin d’être un combat d’arrière-garde. […] En raison du caractère polymorphique de l’empire des croyances, ce combat est loin d’être terminé et ne le sera sans doute jamais. Il est surtout porteur d’un programme plein d’espoir : il parie sur le fait qu’il y a assez de points communs et d’humanité en chacun de nous pour que notre rationalité, lorsqu’elle s’applique à la pensée méthodique, aboutisse à une conclusion universellement valable au-delà de nos différences culturelles. C’est pourquoi les énoncés scientifiques sont universellement vrais et non pas vrais pour un Chinois et non pour un Ghanéen par exemple. Les ressources de la pensée méthodique révèlent notre commune humanité qui est enfouie sous l’amoncellement de nos différences. Ainsi, le rationalisme est un universalisme et il n’y a pas d’universalisme possible sans rationalisme. […]

Pour cette même raison, la pensée méthodique est la chose la plus démocratique qui soit parce qu’on peut tous la pratiquer, mais elle est exigeante et on ne la pratique pas n’importe comment. C’est un travail ascétique, difficile, à recommencer tous les jours. Un combat essentiellement contre soi-même. […] C’est pourquoi, même si l’ampleur de la tâche paraît immense aujourd’hui et même si la défense de la rationalité dans le débat public est prise dans un étau, le combat n’est pas perdu. Nous n’avons de toute façon d’autre choix que de le mener si nous voulons prévenir l’avènement de nouveaux totalitarismes qui n’auront pas nécessairement la forme dont l’histoire nous a appris à nous méfier. […] La tyrannie des minorités […] désigne un phénomène sociologique banal qu’avait bien décrit par exemple Mancur Olson : le fait que certains groupes minoritaires parviennent à imposer leur point de vue contre la majorité, y compris en démocratie. Cela peut se produire de deux façons au moins : lorsque la majorité reste apathique et ne trouve pas assez de motivation pour s’opposer à l’activité de petits groupes ne représentant qu’eux-mêmes ; lorsque la minorité parle si fort qu’elle arrive à faire confondre la visibilité de son point de vue avec de la représentativité. Or ce type de phénomènes est particulièrement important pour comprendre la diffusion de la crédulité sur Internet. […]

Un faible nombre de personnes motivées peuvent influencer l’opinion sur Internet beaucoup plus que dans la vie sociale classique. […] Si certains auteurs voient dans Internet l’espoir de démocratiser la démocratie, la démocratie dont il est question ne correspond pas nécessairement à l’idéal qu’ils paraissent s’en faire : certains y votent mille fois, tandis que d’autres jamais. Or, les motivés que sont les croyants « votent » beaucoup. Pour n’en prendre qu’un exemple particulièrement inquiétant, une étude récente de l’activité de certains internautes anti-vaccins sur les réseaux sociaux a montré qu’ils s’organisaient selon les caractéristiques réticulaires de ce que la littérature des Web Sciences a désigné sous le terme de Small World. […] Nombre de nos concitoyens, qui sont indécis sur tel ou tel sujet, peuvent se laisser impressionner par la saillance de certaines propositions qui étaient confinées auparavant dans des marges de radicalité. Il semblerait que l’islamisme profite lui aussi de ce type de mécanismes. »

Source : extraits choisis du dernier chapitre du livre « Déchéance de rationalité » de Gérald Bronner chez Grasset, 2019.

Gérald Bronner est professeur de sociologie à l'université de Paris-Diderot, membre de l’Académie des technologies et de l’Académie nationale de médecine.

« Cette activité des minorités croyantes dans tous les domaines a pour effet immédiat d’organiser une confusion permanente entre la visibilité de l’information et sa représentativité. Il ne s’agit pas d’interdire à ces minorités de s’exprimer mais de s’interroger sur notre apathie collective. Le manque de motivation moyenne du citoyen ordinaire face à cette déferlante de crédulité est une des clés du problème. […] La solution du problème est en chacun de nous. Si chaque citoyen raisonnable acceptait de consacrer quelques minutes de son temps hebdomadaire à répondre aux âneries qui se répandent sur les réseaux sociaux, les forums et ailleurs, on contrebalancerait le poids des croyants qui eux militent de cette façon quotidienne. En ce domaine, la politique de la chaise vide n’est pas la bonne. C’est donc à une nouvelle forme de militance citoyenne qu’il faut en appeler. […]

J’ai pu montrer […] que sur beaucoup de sujets, lorsque l’on utilise Google […], 60 à 70% de sites qui apparaissent dans les trente premiers résultats défendent la croyance plutôt que la science. Dans ces conditions, les « indécis » ont toutes les chances de se laisser influencer par la façon dont le rayonnage de ce supermarché de l’information est achalandé. […] Les algorithmes qui confèrent une saillance à certaines propositions intellectuelles plutôt que d’autres doivent être repensés en profondeur. Il s’agit en quelque sorte de leur implémenter des dispositifs normatifs, de la moralité, car ces algorithmes ne sont certainement pas neutres mais la conséquence de leur activité est encore partiellement impensée. […]

Mais de toutes les solutions qu’on peut imaginer pour limiter l’impérialisme de la crédulité, celle qui est la plus satisfaisante concerne l’éducation des esprits. Cette question est d’autant plus essentielle que cet impérialisme touche les jeunes qui s’informent sur Internet et ont tendance à croire plus facilement que les autres classes d’âge ce qu’ils y lisent. Des mesures doivent être prises pour accompagner cette révolution sur le marché de l’information d’une révolution pédagogique, afin de doter ces jeunes citoyens d’une « boussole » leur permettant de s’orienter dans cet océan de données. »

Source : extraits choisis du dernier chapitre du livre « Déchéance de rationalité » de Gérald Bronner chez Grasset, 2019.

Gérald Bronner est professeur de sociologie à l'université de Paris-Diderot, membre de l’Académie des technologies et de l’Académie nationale de médecine.