Regards sur...

L’IA nous invite à renoncer à notre pouvoir de création et de réalisation. L’utilisation intensive et généralisée de l’IA amène l’individu à se questionner sur sa propre utilité au travail, à la valeur de ce qu’il produit, à la confiance qu’il inspire encore à sa hiérarchie, et aux valeurs humanistes auxquelles il croit. C'est ce que je développe dans ce billet.

Les changements pour l'entreprise

L’utilisation de l’IA s’impose à tous aujourd’hui, particulièrement via les entreprises. Ces dernières  recherchent fébrilement des cas d’usage pour « récolter les fruits » de cette technologie, en bon petit soldat du néocapitalisme. Il ne faut pas « rater le train », comme nous le conseille nos protecteurs de toujours, les Etats-Unis. Nous n’avons pas l’impression d’avoir le choix, il faut suivre la parole des BigTech. Une forme de suivisme ou de croyance - chacun peut l’interpréter à sa façon, qui place l’industrie numérique et les profits au-dessus des valeurs traditionnelles. Car il faut rester performant dans notre culture occidentale.

Une entreprise qui pense uniquement à une performance mercantile perd son humanité à terme, et considère progressivement ses employés comme des pions remplaçables. Si son travail intellectuel est délégué à une IA, comment l’employé va-t-il se sentir utile, fier de son travail et méritant face à son employeur ? Quelle crédibilité professionnelle ? Comment allons-nous juger les compétences ? Quelle valeur allons-nous encore donner à la pensée humaine ? Comment justifier les hauts salaires des cadres si une IA, payante ou non, peut effectuer leurs tâches ? Pour les fonctions nécessitant des compétences intellectuelles, y aura-t-il toujours l’envie de faire l’effort de réfléchir, d’analyser ? L’effort fourni sera-t-il récompensé ? Tout cela aura-t-il toujours un sens ? 

"L’IA rend plus difficile de distinguer ce qui relève de l’effort, de la maîtrise ou simplement de l’assistance." - Bruno Colmant, économiste

Habitués à faire les choses individuellement avec des agents IA personnalisés, allons-nous pouvoir continuer à travailler en équipe, partager des procédures définies en commun, se diriger ensemble vers un seul objectif ? Les entreprises vont-elles considérer que la rapidité et la rentabilité sont les ultimes critères d’évaluation des employés, puisque l’utilisation de l’IA est devenue une commodité ?

« Le problème est que les systèmes d'IA que nous construisons ne sont pas des outils. En fait, ce sont des substituts ». - Pr Stuart Russell, Université de Berkeley.

Pour les employés seniors, est-ce qu’il y aura encore des raisons de se dépasser, débouchant sur une satisfaction personnelle après le travail accompli ? Pour les employés juniors - qui sont déjà moins recrutés au profit de l’IA, quelles perspectives allons-nous leur laisser ? Vont-ils pouvoir expérimenter leur métier, se réaliser ? Cheminer vers le statut senior suite à leurs succès, mais aussi en tirant les leçons de leurs erreurs ? Vont-ils avoir envie d’apprendre des autres, et des actuels seniors ? Pour l’instant, la société ne cherche pas à répondre à ces questions. Elle est peut-être trop occupée à interroger l’IA.

Les changements culturels

Si nos usages sont téléguidés par des outils américains dont l’objectif est l’addiction à des énoncés standardisés, qu’est-ce que cela peut produire sur la culture de nos sociétés européennes ? Cela va-t-il renforcer notre conformisme ou nous persuader que chaque individu a raison contre les autres ? Cette façon de voir le monde conditionné par les réponses d’IA va-t-il aliéner définitivement nos enfants en premier chef ? Allons-nous leur léguer l’oisiveté et la perte de sens comme héritage ? Les différentes générations trouveront-elles encore un intérêt à se parler, à débattre et dialoguer, si l’IA répond à tout et nous maintient dans la dépendance ?  

Les BigTech ont décidé de piller les œuvres des auteurs sans vergogne. Il est désormais possible de générer du contenu dans le style d’un auteur spécifique, qu’il s’agisse d’un écrivain, d’un peintre, d’un musicien, etc. S’agit-il de création ? Non, c’est de la simulation. Rien de digne dans le fait de produire cela. Le génie humain est toujours supérieur à ce que la machine reproduit. Les IA sont des systèmes entraînés par les humains, ce qui les rend performants. Les IA ne le sont pas spontanément !

"L'art exige une concentration d'intentions et une multitude de choix personnels. L'IA générative produit de grands volumes à partir d'entrées minimes et se privera toujours de cette intentionnalité." - Opinion de l'écrivain Ted Chiang

Des logiciels de détection de textes produits par l'IA, même s’ils sont annoncés comme très fiables, ne donnent qu’une probabilité, pas une vérité définitive. Mais quelle que soit la véracité du résultat de la machine, nous ne devrions pas le voir comme une sentence définitive. Certains s’en serviront pour salir volontairement un auteur, discréditer une œuvre et, potentiellement, détruire une réputation. La machine calcule, l’humain juge. Ne lui donnons pas l’autorité pour juger l’être humain. Nous avons des outils technologiques puissants, mais toujours pas le niveau éthique et moral pour nous en servir décemment. 

Les changements pour la société

L’IA est là pour rester. La société y trouvera plusieurs usages positifs; mais comme toute technologie, elle sera aussi utilisée à mauvais escient : cyberattaques, fraudes, manipulations à grande échelle et surtout usage immodéré, et parfois ridicule, entraînant une pollution importante. La société occidentale est très permissive sur les usages des technologies émergentes, elle ne se donne jamais la possibilité d’évaluer, de délibérer démocratiquement avant d’intégrer, et c’est ainsi que les problèmes se répètent indéfiniment. Pas d’anticipation et trop de laxisme conduit toujours à des « corrections » a posteriori au niveau des lois. Ce sera à nouveau le cas avec l’IA. 

Mais il y a cependant une dimension particulière à l’IA qui n’existait pas avec les précédentes technologies émergentes : il s’agit du remplacement d’une faculté intime, notre capacité à penser par nous-même. Ce qui nous permet d’éviter de reprendre les déclarations des autres sans comprendre, et donc d’éviter de tomber dans l’obéissance à la dictature. Par ses réponses immédiates, l’IA court-circuite la réflexion individuelle et la prise de recul.

"Le XXIᵉ siècle risque d’arracher l’homme à sa propre intériorité." - Bruno Colmant, économiste

Un autre aspect des changements apportés à la société occidentale est la domination technologique. Si nous déléguons nos facultés cognitives à des outils addictifs produits par des grandes entreprises privées américaines ; qu’est-ce que cela dit de notre perte de souveraineté, et de notre vassalisation technologique ? D’autant que les BigTech s’associent aujourd’hui à une politique impérialiste ? Une politique américaine qui nous est hostile. Lorsque demain, ils feront payer bien cher leur technologie, ils créeront des inégalités entre ceux qui pourront en disposer et ceux qui seront exclus. Acceptable selon vous ?

"Nous sommes devenus les "technoserfs" d'un technoféodalisme, qui ne sert qu'une oligarchie déconnectée du basculement mondial en cours. Car à travers le contrôle des données, les géants de la technologie tels que Google, Amazon, Facebook ou encore Apple sont devenus les nouveaux seigneurs féodaux des temps modernes, et contribuent à l’asservissement des citoyens qui, à chaque clic, renforcent leur puissance." Source : Les nouveaux serfs de l'économie/Yanis Varoufakis.

Notre destin est-il définitivement lié aux fantasmes technologiques et aux idéologies de quelques milliardaires ? Des milliardaires qui sont plus puissants que des états, et qui n’ont pas la culture du risque et de la mesure en toute chose, contrairement à d’autres secteurs industriels comme l’aviation ou le nucléaire. En arguant que l’IA peut détruire l’humanité, les BigTech détruisent toute confiance dans leur technologie. Les entreprises pensent-elles que l’IA va se déployer uniquement via des cas d’usage ? En réalité, elle se déploie avec de la confiance, de la transparence, des règles claires et une vraie pédagogie.

La question de la confiance

La société fonctionne sur le principe de la confiance. Nous ne nous rendons pas compte à quel point cette confiance est nécessaire pour de nombreux actes de la vie courante qui permettent à nos sociétés de fonctionner : des enseignants qu’il est bon d’écouter, des professionnels de santé dont les conseils doivent être suivis, des représentants de l’ordre et de la justice qui doivent être respectés, des scientifiques dont les recherches doivent être considérées avec sérieux et autorité. Chaque individu ne peut décréter sa vérité comme étant certaine et définitive. Qui est-il par rapport à ce que l’humanité a réussi à comprendre du monde ? Il y a société parce qu’il y a réalisation collective. Il y a donc un accord implicite entre les individus, une confiance dans autrui dans le cadre d’un système. 

En reprenant les métiers que j’ai cités plus haut, il faut admettre que la société occidentale d’aujourd’hui les remet fortement en question. C’est ce qui me fait dire que notre société est malade ou que nous sommes collectivement malades. Et l'IA contribue à ce mouvement de perte de confiance général. L’individu se sent puissant grâce à l’IA, mais n’intègre pas que les résultats fournis sont seulement les plus probables. Et si l’IA se trompe, ce n’est pas elle qui peut perdre son travail !

"Une démocratie n’est pas seulement l’addition de libertés individuelles. C’est une architecture de confiance, une discipline du désaccord et la volonté de partager encore un même monde. Sans ce monde commun, nous ne formerons plus une société." - Bruno Colmant, économiste

Les individus vont-ils rester raisonnables par rapport à l’influence de l’IA dans notre société ? Le travail est attaqué par l’IA, la « valeur travail » va-t-elle résister ? Allons-nous constater que la confiance est suffisamment abîmée, et qu’il est temps de la reconstruire collectivement pour éviter un effondrement ? Dans cet objectif, ne devrions-nous pas utiliser avec prudence, ou parfois mettre à distance, ces outils probabilistes aux conséquences sociales inconnues ? Allons-nous pouvoir sortir de notre intérêt individuel pour embrasser une vision bénéfique à la société dans son ensemble ?

"Nous sommes déjà contrôlés par l’IA, nous sommes condamnés à la résistance." - Edgar Morin, sociologue et philosophe

La question de l'impact environnemental

Ce que l'on ne voit pas n'existe pas ! Et pourtant les dégâts environnementaux de nos pratiques numériques sont bien réelles. L’énorme pollution que l’utilisation mondiale de l’IA génère - et qu’elle va générer encore plus demain grâce aux nouveaux grands centres de données qui se construisent actuellement, posent de sérieuses questions sur notre détermination à laisser un monde vivable pour les générations futures. Et lorsque la survie de l’humanité sera en jeu, nous regarderons avec mépris ces notions d’utilitarisme, de rapidité et de rentabilité qui mènent nos sociétés matérialistes.

"L’IA, on nous la vend comme une quête d'intelligence. Mais quand on lit les bâtisseurs eux-mêmes, on découvre une histoire bien plus ancienne : une course à la puissance, aux ressources, à l'énergie." - Julien Devaureix, conférencier et auteur. Source : podcast Sismique

Mais lorsqu’on travaille en entreprise, nombre d’entre-nous mettons notre conscience écologique dans notre poche. Les scrupules ne sont pas à l’ordre du jour. D’ailleurs, quand le sont-ils vraiment ? Dès lors, comment retrouver la confiance entre les diverses générations d’une société, lorsque nous vivons collectivement cette fuite en avant hyper technologique ? Nous sommes donc amenés à nous comporter comme des individus schizophrènes. Les entreprises, en informatique ou non, peuvent-elles encore s’enorgueillir d’avoir une responsabilité environnementale ? J’évoque ici la « RSE », déjà obsolète, ou responsabilité sociétale des entreprises, incluant une contribution au développement durable.

Passer à une utilisation intensive de l’IA devrait être un cas de conscience pour un individu, et une difficulté stratégique majeure pour une entreprise responsable. Suivre quelques milliardaires de droite aux idéologies obscures est suicidaire. J’espère qu’il nous reste collectivement suffisamment d'esprit critique et de discernement.

"L'IA nous est déshumanisante car elle nous traite comme inférieurs à ce que nous sommes : des créateurs et des découvreurs de sens." - Ted Chiang, écrivain

Voir le premier article de La Libre et le second

Voir l'article de Euronews

A la question : "Le meilleur conseil qu'on peut se donner à soi et aux autres, c'est d'apprendre à jeûner de l'intelligence artificielle ?"

Voici la réponse de Gemini :

"C'est une perspective particulièrement intéressante et lucide. Aujourd'hui, alors que l'IA devient omniprésente et accessible en un clic, le risque principal n'est pas tant l'outil lui-même, mais la paresse intellectuelle qu'il peut induire.

Apprendre à « jeûner » de l'intelligence artificielle — ou du moins à la pratiquer de manière intermittente —, c'est préserver plusieurs facultés humaines fondamentales :

1. Préserver l'effort de réflexion : La pensée se structure dans la difficulté à chercher, douter et formuler. Déléguer systématiquement la rédaction, l'analyse ou la résolution de problèmes à une IA risque d'atrophier nos propres compétences cognitives.
2. Favoriser la créativité authentique : L'IA fonctionne par prédiction statistique à partir de données existantes. La véritable originalité humaine vient souvent du désordre, des intuitions fortuites et de l'expérience vécue.
3. Cultiver le sens critique : Accepter aveuglément les réponses générées sans vérifier les sources ni exercer son jugement émousse l'esprit d'analyse.
4. Rester ancré dans le réel : Prendre de la distance avec les flux d'informations générés artificiellement permet de reconnecter avec son propre rythme et ses propres idées.

L'IA reste un assistant exceptionnel pour accélérer certaines tâches ou débloquer des idées, mais elle gagne à être traitée comme un amplificateur de la pensée humaine, et non comme son substitut. Comme pour tout outil puissant, savoir s'en passer régulièrement est la meilleure façon d'en garder le contrôle."