Regards sur...

"La confiance est un présupposé à toute relation humaine. [...] Or, avec l'IA générative, la confiance est difficile à établir : il s'agit de techniques complexes, incompréhensibles pour le commun des mortels, aux performances fluctuantes et ne garantissant pas le respect de contraintes métiers. Prenons quelques exemples. Les large language models (LLMs) comme ChatGPT sont évalués sur des benchmarks (des tâches à réaliser pour obtenir un score), mais ils continuent à halluciner, ce qui nous empêche de les utiliser pour des tâches critiques où les conséquences de leurs erreurs peuvent être dramatiques. 

Ainsi, il est apparu aux États-Unis que l'utilisation de LLMs pour retranscrire des entretiens médicaux introduisait des erreurs dans les dossiers des patients. Une étude faite sur l'utilisation de RAG (la génération augmentée de récupération permet aux grand modèles de langage de baser leurs réponses sur des documents supplémentaires, tels que des rapports ou des cours) en droit a montré que près de 35% des suggestions étaient incorrectes.

Alors que faire? D'une part, il faut admettre que dans certains contextes, l'IA peut ne pas être la meilleure solution, si une confiance minimale ne peut lui être donnée.[...] Si l'IA est utilisée, il faut se poser la question de ses limitations. Le risque d'hallucination des LLMs, par exemple, n'est pas problématique pour une phase d'idéation, où l'objectif est de générer plein d'idées, parfois originales, farfelues ou… inutilisables. Comme l'a montré une étude récente de la BBC, par contre, résumer un article de presse peut introduire des erreurs factuelles dans près de 50% ces cas. 

Ensuite, il faut intégrer des "sécurités" à l'IA, en l'obligeant à respecter certaines contraintes by-design ou en modifiant son apprentissage. [...] Certaines approches, comme les LLMs, sont par leur nature statistique incapables de garantir une confiance suffisante : de nombreux scientifiques s'accordent sur le fait que les hallucinations sont inhérentes aux LLMs et ne disparaîtront jamais totalement. Il est donc indispensable de développer des alternatives, comme d'étudier et imiter la façon dont le langage émerge chez les humains.[...]

Ce dont les entreprises ont besoin, c'est un ensemble de "narrow AIs", chacune fonctionnant dans un périmètre bien défini pour des tâches bien identifiées et pour lesquelles des garanties de confiance peuvent être données. Enfin, il faut soutenir la recherche scientifique et l'enseignement, à tous les niveaux. D'une part, les technologies pour augmenter la confiance ont plus de chances d'émerger dans une recherche indépendante. D'autre part, éduquer les travailleurs et les citoyens à l'IA est un prérequis pour établir une vraie relation de confiance qui dépasse l'impression de magie trop souvent omniprésente."

Source : extraits choisis d'un article de La Libre

Lisez aussi l'article de La Libre qui montre que les climatosceptiques américains cachent leur dessein derrière la fausse neutralité de l'intelligence artificielle d'Elon Musk.

"Oui, ce qui se passe en Russie aujourd’hui renvoie très précisément à qui s’est passé dans les années trente dans l’Allemagne de Weimar.[...] Oui, ce qui se passe aux États-Unis renvoie aussi très précisément à ce qui s’est passé dans les années trente dans l’Allemagne de Weimar ; et on pourrait éviter de continuer de glisser sur cette pente, en aidant les Américains à lutter pour la survie de leur démocratie, et en nous dotant à temps des moyens de notre défense.

Si on n’y prend pas garde, nous serons peut-être bientôt pris en tenaille entre deux dictateurs expansionnistes, désireux l’un et l’autre de nous piller, alignés l’un avec l’autre par un pacte indicible.[...]

[Aux États-Unis], comme dans toutes les prises de pouvoir par les tyrans, en particulier celle d’Hitler, tout a commencé par de la propagande, des fausses nouvelles, des promesses démagogiques à des classes moyennes menacées de déclin, la désignation d’ennemis imaginaires, l’interdiction de l’usage de certains mots, l’arrêt de certaines recherches, la chasse aux plus faibles et aux étrangers, la remise en cause des décisions de justice. Viendront ensuite, si on laisse faire, l’arrestation de juges (déjà réclamée à cor et à cri par Elon Musk) de journalistes, d’écrivains et d’élus, puis l’invasion (déjà annoncée) de territoires voisins, et la guerre pour les conquérir.

Naturellement, aucune comparaison ne vaut raison. La situation mondiale d’aujourd’hui n’est pas du tout celle d’il y a cent ans. Les moyens ne sont pas les mêmes, la culture n’est pas la même. Ni la Russie ni les Etats-Unis d’aujourd’hui ne reproduisent à l’identique les schémas de l’Allemagne de Weimar."

Source : extraits choisis d'un article du blog Attali

L'ancien président polonais et lauréat du prix Nobel de la paix, Lech Wałęsa, appelle à des changements systémiques pour préserver la démocratie et éviter la montée des dirigeants populistes :

"La démocratie doit s'améliorer, car les gens n'y croient pas, ne la défendent pas. Trois points doivent être mis à l'agenda politique : Le leader d'un grand pays ne peut pas exercer plus de deux mandats de cinq ans maximum. Quiconque est élu peut être destitué. Et troisièmement, la transparence budgétaire."

Source : Euronews

Voir l'article d'Euronews

Voir l'article de La Libre "Les droits des femmes ont reculé dans un pays sur quatre en 2024"

Voir aussi l'article d'Euronews