Nous sommes dans une société dont l’idéologie est capitaliste et consumériste.
Nous regardons d’abord l’intérêt financier et compétitif, avant l’intérêt commun et des générations futures.
Nous sommes souvent dans le déni des problèmes dont nous sommes la cause (changement climatique), et nous ne cherchons pas vraiment à les résoudre collectivement ;
Nous regardons le monde à travers notre grille de lecture et nous ne cherchons pas à améliorer ou à agrandir cette grille.
Nous ne sommes pas intéressés de savoir comment nous sommes perçus par le reste du monde.
Nous vivons dans le confort, mais rien ne nous intéresse plus que notre nombril.
Nous perdons le sens de ce qui est important, au profit du rentable et du divertissant.
Nous pensons avoir plus de droits que de devoirs pour fonctionner en société.
Nous faisons partie des 7% de l’humanité qui vivent encore en démocratie.
Nous avons de réelles réticences à partager nos avancées sociales et nos territoires.
Nous sommes très peu portés à réfléchir en tant qu’humanité, un seul peuple solidaire.
Nous avons rédigé des lois progressistes et morales au plus haut niveau (ONU), mais elles sont aujourd’hui délaissées.
Tels sont les pièges desquels nous avons du mal à nous extirper.

Alors, qu’est-ce qu’on fait ?

A l'instar des enfants devenus des "enfants rois", allons-nous assister à l’avènement des "individus rois" grâce à l'utilisation massive de l'intelligence artificielle ? Le parallèle avec l'enfant roi — à qui l'on cède tout, tout de suite, et qui finit par manquer de tolérance à la frustration, est-elle une grille de lecture pertinente pour analyser notre relation naissante avec l'intelligence artificielle ?

Wikipédia définit l’individu roi comme « un individu qui se comporte avec son entourage comme un roi avec ses sujets. Il se caractérise par un comportement égoïste et égocentrique, et par la volonté de toujours jouir, le « tout, tout de suite ». « Il s'agit d'une pathologie, plus précisément une pathologie du réel, du lien « Soi Autrui », de l'hypertrophie de l'ego et serait dû à une carence éducative, aux parents qui cèderaient devant les exigences excessives de leur enfant roi. »

L'IA aura-t-elle le potentiel de pousser l'individualisme et le narcissisme contemporains à leur paroxysme ? L'enfant roi se caractérise par son incapacité à gérer le "non" et l'attente. Or, l'IA est l'outil de la gratification instantanée par excellence : elle est constamment disponible, valide nos émotions et exécute rapidement le travail à notre place. A force d'évoluer dans un monde numérique où chaque désir est exaucé instantanément, notre seuil de tolérance à la frustration dans le monde réel, qui est complexe et plein de refus, risque-t-il de s'effondrer ?

L’hyper-personnalisation va-t-elle franchir un cap avec l'IA générative ? Offrira-t-elle une réalité sur-mesure ? Demain, nous pourrons consommer des films dont le scénario s'adaptera en temps réel à nos préférences, lire des actualités rédigées selon notre sensibilité politique, et interagir avec des assistants virtuels qui partagent toutes nos opinions. Comme on le voit déjà au Japon, les compagnons virtuels offrent une "relation" sans aucune friction. Le danger est de voir émerger des individus qui préfèrent la docilité de la machine à la complexité des rapports humains, renforçant ainsi leur isolement.

Le risque extrême lié à l’avènement de l’individu roi est l'effacement progressif de l'altérité. Si son environnement numérique lui donne toujours raison et s'adapte constamment à lui, comment va-t-il supporter un collègue, un conjoint ou un citoyen qui pense différemment ? L'individu roi risque de devenir incapable de compromis. La démocratie se fonde sur des principes fondamentaux et un socle de valeurs communes. Que restera-t-il de notre société basée sur la redistribution et le bien commun ?

"Vous ne devriez donc pas être surpris d’apprendre que votre consommation des nouvelles du jour et des réseaux sociaux est filtrée pour vous de la même manière que votre télévision et votre musique. Les sites d’information et les réseaux sociaux apprennent progressivement à connaître vos habitudes, vos centres d’intérêt et vos préférences en tant que lecteur. Elles recueillent des informations sur les articles que vous avez lus, la durée de votre consultation, ce sur quoi vous avez cliqué ensuite et si vous les avez partagés avec vos amis ou sur d’autres plateformes. La personnalisation basée sur l’IA utilise ensuite ces données pour vous guider vers le contenu que vous trouverez pertinent.

Ici encore, nous nous retrouvons à jauger les points positifs et négatifs de cette technologie. Elle procure une expérience de lecture vraiment agréable, personnalisée et motivante. Cependant, un engagement accru vous expose également à davantage de publicité qui utilise ses propres algorithmes sophistiqués pour identifier vos intérêts. Nous devons également tenir compte de l’effet que la personnalisation du fil d’actualité de chacun aura sur la population lorsque les gens ne verront que le contenu avec lequel ils sont d’accord. Lorsque tout le monde est dans sa propre « bulle de filtrage »(*), la société dans son ensemble risque de devenir très polarisée.

Être conscient de l’envers du décor lorsque vous vous informez et surfez sur réseaux sociaux vous donne un meilleur contrôle sur votre expérience globale avec ces plateformes. La totalité de ce qui se passe réellement dans le monde est susceptible d’être beaucoup plus complexe et nuancée que ce que vous voyez sur votre fil d’actualité.

(*) Une « bulle de filtrage » fait référence à un état d’isolation intellectuelle que nous pouvons potentiellement ressentir en naviguant sur certains réseaux sociaux dont les méthodes de filtrage sélectionnent les contenus affichés. Comme dans une petite bulle, nous ne sommes alors exposés qu’à des contenus complaisants, habituels qui peuvent parfois nous déconnecter de la réalité du monde dans lequel nous vivons."

Source : ThatsAI.org

Complément : Les quotidiens ont bien compris qu'ils ne pourraient pas vraiment lutter contre ce flux Google; alors à défaut, ils vous donnent des conseils. La Libre vous explique comment reprendre la main en suivant directement les médias préférés sur le flux Discover. Ainsi, vous ne dépendrez plus uniquement de ce que l'algorithme de Google décide de vous montrer ! Vous pouvez répéter l'opération avec tous vos médias de prédilection pour vous composer un fil d'actualité vraiment à votre image.

Voir aussi un article plus ancien explique comment les algorithmes incitent à être encore plus réguliers que vous n’auriez envie de l’être.

"Les Goliath ne sont pas simplement des Etats mais un ensemble de hiérarchies de domination : des arrangements sociaux dans lesquels un groupe est placé au-dessus des autres et les contrôle par la violence. Ce n'est pas seulement un empire. [...] Les Goliath deviennent de plus en plus inégalitaires avec le temps. Cet écart croissant entre riches et pauvres déborde sur d'autres formes de pouvoir. [...] Nous le voyons aujourd'hui avec des milliardaires qui utilisent leur richesse pour accumuler un immense pouvoir politique. Ces sociétés plus inégalitaires sont plus fragiles. [...]

L'effondrement est simplement une contraction rapide et durable, ainsi qu'une fragmentation des structures de pouvoir. Ce processus comporte à la fois des coûts et des bénéfices, des gagnants et des perdants. [...] L'effondrement implique souvent un pic de violence, lorsque de petits groupes tentent d'établir un nouveau Goliath. Autrefois, ces batailles se faisaient à l'épée ou au mousquet; aujourd'hui, nous avons des drones tueurs et des armes nucléaires - si les effondrements passés étaient régionaux, ils pourraient à l'avenir être mondiaux. [...]

Aujourd'hui, nous faisons face à des risques - comme la guerre nucléaire - qui pourraient mettre fin à notre monde globalisé. Ce n'est pas une polycrise ordinaire. Les menaces technologiques et environnementales mondiales auxquelles nous faisons face aujourd'hui, combinées à un système hyperconnecté et hypercouplé, engendrent de nouvelles vulnérabilités. Elles facilitent la propagation de chocs majeurs à travers les frontières et les secteurs, en gagnant en puissance au passage. Le Goliath global crée ainsi de nouvelles menaces de destruction sans précédent, de nouvelles vulnérabilités liées au risque systémique. 

Nous faisons face à une véritable catastrophe globale, susceptible de mettre fin à notre monde industriel et d'emporter avec lui une grande partie du vivant. [...] Au cours des prochaines décennies ou des prochains siècles, il est hautement probable que le système s'autodétruise s'il n'est pas fondamentalement réformé. Pour la première fois, Goliath pourrait s'effondrer de manière irréversible, et entraîner notre espèce dans sa chute."

Source : extraits choisis d'un article "Vaincre Goliath" de Philosophie Magazine HS68. Entretien avec Luke Kemp, chercheur au Centre pour l'étude du risque existentiel de Cambridge.
 

A la question : "Le meilleur conseil qu'on peut se donner à soi et aux autres, c'est d'apprendre à jeûner de l'intelligence artificielle ?"

Voici la réponse de Gemini :

"C'est une perspective particulièrement intéressante et lucide. Aujourd'hui, alors que l'IA devient omniprésente et accessible en un clic, le risque principal n'est pas tant l'outil lui-même, mais la paresse intellectuelle qu'il peut induire.

Apprendre à « jeûner » de l'intelligence artificielle — ou du moins à la pratiquer de manière intermittente —, c'est préserver plusieurs facultés humaines fondamentales :

1. Préserver l'effort de réflexion : La pensée se structure dans la difficulté à chercher, douter et formuler. Déléguer systématiquement la rédaction, l'analyse ou la résolution de problèmes à une IA risque d'atrophier nos propres compétences cognitives.
2. Favoriser la créativité authentique : L'IA fonctionne par prédiction statistique à partir de données existantes. La véritable originalité humaine vient souvent du désordre, des intuitions fortuites et de l'expérience vécue.
3. Cultiver le sens critique : Accepter aveuglément les réponses générées sans vérifier les sources ni exercer son jugement émousse l'esprit d'analyse.
4. Rester ancré dans le réel : Prendre de la distance avec les flux d'informations générés artificiellement permet de reconnecter avec son propre rythme et ses propres idées.

L'IA reste un assistant exceptionnel pour accélérer certaines tâches ou débloquer des idées, mais elle gagne à être traitée comme un amplificateur de la pensée humaine, et non comme son substitut. Comme pour tout outil puissant, savoir s'en passer régulièrement est la meilleure façon d'en garder le contrôle."

Cette réponse est-elle basée sur une génération probabiliste de textes dérivant de son corpus de données ? Ou bien ce modèle dispose-t-il d'une connaissance approfondie de son propre fonctionnement ? Encore faudrait-il que les BigTech fassent preuve de transparence.

"Les plans climat élaborés par les pays signataires de l'accord de Paris conduisent la planète vers un réchauffement de 2,3 à 2,5°C d'ici la fin du siècle, avertit le Programme des Nations unies pour l'environnement (Pnue) dans un nouveau rapport publié mardi, à quelques jours de l'ouverture de la COP30, à Belém, au Brésil."

Source : article de La Libre

"[A l'occasion de la COP30], les dirigeants doivent saisir cette occasion et ne pas perdre de temps : tripler les énergies renouvelables et doubler l'efficacité énergétique d'ici 2030 ; construire des réseaux modernes et des systèmes de stockage à grande échelle ; et mettre fin à toute nouvelle expansion du charbon, du pétrole et du gaz d'une manière juste et équitable", déclare le secrétaire général de l'ONU.

Source : article Euronews

"La catastrophe serait-elle l'avenir de l'humanité ? Y penser ne signifie en aucun cas la souhaiter, mais bien sûr chercher à la prévenir. Cependant, la première mission est de faire preuve de lucidité, une tâche difficile à accomplir en raison de la domination constante des forces du déni. Ainsi, l'accusation de pessimisme permet d'ignorer un message alarmant en le réduisant à un trait de caractère du messager. Pourtant, la nécessité de lucidité exige de rejeter à la fois le pessimisme et l'optimisme au profit du réalisme. Pour tenter de saisir la réalité, il faut d'abord prendre en compte les données fournies par les sciences contemporaines. Ce sont ces sciences, dans leurs rapports de synthèse les plus officiels, qui montrent que l'humanité se dirige vers une catastrophe globale. Il s'agit alors de comprendre le processus en cours pour découvrir que la logique du vaste dispositif de production mis en place avec la révolution industrielle est une logique d'annihilation. Une réflexion sur l'annihilation peut sembler nihiliste, mais elle ne l'est pas. Au contraire, elle est la volonté de mettre en œuvre toutes les pistes de réflexion pour l'éviter."

Source : article "L'homme catastrophe" de la revue "Infinité" n°6, pg. 126.

"La diffusion des contenus à l’aide d’algorithmes qui, par l’apprentissage automatique (machine learning), orientent les internautes en leur montrant du contenu qui correspond à leurs préférences et à leurs traces de navigation, peut contribuer à renforcer les croyances et opinions de ces derniers (Fletcher et al., 2021), tout en les rendant « aveugles » (Cardon, 2016) face à d’autres points de vue. Les miroirs algorithmiques peuvent être utilisés excessivement pour cibler les utilisateurs de manière discriminatoire ou pour leur montrer du contenu manipulateur : « il y a une plus grande probabilité de générer de la désinformation et de la mésinformation qui se répandent rapidement par le biais des “réseaux de confiance” suite à des réactions émotionnelles, par des gens qui ne sont tout simplement pas informés et qui partagent des informations incorrectes qu’ils jugent correctes et utiles » (Posetti et al., 2019). En situation de crise, lorsque les réactions des utilisateurs sont rapides et émotionnelles, les trolls cherchent à « éduquer » des algorithmes qui naviguent sur les réseaux socionumériques, lesquels sont soumis aux « dynamiques de circulation de l'information favorisant les contenus sensationnalistes - d'actuellement établis ou non - qui attirent les clics » (Loveluck, 2017), avec parfois pour objectif celui de favoriser la provocation au nom de la liberté d’expression (Monnier et al., 2021). De ces crises protéiformes, de nouveaux conflits dits « asymétriques » émergent, liés à l’accès aux données (Bloch, 2021) ; d’aucuns évoquent une « information warfare » (Dugoin-Clément, 2021), un « art de la guerre » de l’information."

Source : extrait choisi d'une conférence de SFSIC

Lire aussi l'article d'Euronews "L'UE demande aux réseaux sociaux de mieux lutter contre la désinformation"

Voir aussi les articles de La Libre :

• Un chef démocrate dénonce le "chemin vers la dictature" pris par Donald Trump
• "Cessons de croire qu'un départ de Trump suffirait à rétablir la sérénité. Il y a dans son entourage des idéologues qui peuvent être plus dangereux"

Pour comprendre le chaos volontairement créé par Trump, écoutez l'épisode du podcast Sismique

Lisez la lettre "Chers océans, nos petits arrangements politiques me terrifient"

La méthode Trump pour se faire de l'argent sur un pays en plein conflit et qui a besoin de vous.

L'interview du réalisateur du documentaire par France Info.

Lire l'article de Euronews

Lire aussi le résumé de l'encyclique sur La Libre

Voir le premier article de La Libre et le second