Regards sur...

Voici des citations extraites du film "The social dilemma" où, face aux dérives des algorithmes, la conscience éthique des "concepteurs" de ces outils se réveillent. Au fil des interviews, ils dévoilent la face sombre des réseaux sociaux et comment ils pourraient mener à des désordres sociaux, des drames et à la remise en question de la vérité qui permet à une société de tenir debout.

"Nous attendons le moment où la technologie surpassera les ressources et l'intelligence humaines, quand elle acquerra la singularité, volera nos emplois, surpassera nos intelligences. Mais bien avant cela, il y a le moment où la technologie dépasse et gagne sur les faiblesses humaines. Cette ligne, une fois franchie, est à la source de la dépendance, de la polarisation, de la radicalisation, de l'indignation, de la vanité, de tout cela. C'est comme battre à plate couture la nature humaine, un échec et mat pour l'humanité."[...] "Il y a une étude du MIT qui dit que les fausses informations se répandent sur Twitter six fois plus vite que les vraies. Que devient le monde quand elles sont six fois plus fortes que les autres ? [...] "Ce n'est pas que la technologie est une menace existentielle. C'est la capacité de la technologie de faire ressortir le pire de la société, le pire étant une menace existentielle.[...] Si la technologie crée un chaos général, le scandale, l'incivilité, le manque de confiance dans l'autre, la solitude, l'aliénation, aggrave la polarisation, le détournement d'élections, le populisme, multiplie les distractions, occulte les vrais problèmes... Alors, c'est cela la société. Et cette société est à présent incapable de se régénérer et se délite dans le chaos."
- Tristan Harris, ancien éthicien du design chez Google, co-fondateur et président du Center for Humane Technology.

"Un des problèmes de Facebook est que c'est un outil de persuasion, c'est peut-être la plus grande des inventions. Mais imaginez-le dans les mains d'un dictateur ou d'un régime autoritaire. Pour contrôler la population de son pays, il n'a jamais existé outil plus efficace que Facebook."[...] "Si chacun est imbu de ses faits à lui, le compromis n'est pas nécessaire, ni le besoin de se réunir. Il n'y a même pas besoin d'interagir... Nous avons besoin d'un point de vue commun sur la réalité. Ou alors nous ne sommes plus un pays."
- Roger McNamee, premier investisseur Facebook, auteur de « Zucked: Se réveiller face à la catastrophe de Facebook ».

Suite à l'argument de Mark Zuckerberg de résoudre les problèmes par encore plus d'intelligence artificielle: "Nous permettons aux technologues de le présenter comme un problème qu'ils sont capables de résoudre. C'est un mensonge. On parle de l'IA comme d'une détentrice de vérité. L'IA ne va pas résoudre ces problèmes. L'IA ne peut pas résoudre le problème de l'infox (fake news)."
- Cathy O'Neil, Data scientist, Auteur de « Weapons of Math Destruction ».

"Si nous continuons comme cela pendant encore 20 ans, on va sûrement détruire la civilisation par ignorance délibérée. On va échouer à relever le défi du changement climatique. On va détériorer les démocraties jusqu'à ce qu'elles se résument à une dysfonction étrange de l'autocratie. On va détruire l'économie mondiale. On ne va probablement pas survivre. Pour moi, c'est vraiment une question vitale."
- Jaron Lanier, informaticien et père fondateur de la réalité virtuelle.

Voir aussi l'article de Radio-Canada et une opinion sur La Libre.

"Les années 2000 ont vu déferler les mensonges des industriels du tabac, des énergies fossiles ou des pesticides et leurs études commanditées dissimulant la dangerosité de leurs produits. Explorant les nouvelles frontières du lobbying, cette enquête dévoile les stratégies de manipulation qu’emploient désormais ces « marchands de doute » pour promouvoir leur « bonne » science et s’emparer du marché de l’information scientifique. Leur cible privilégiée n’est plus seulement le ministre ou le haut fonctionnaire. Aux aguets sur les réseaux sociaux, des agences spécialisées visent le professeur de biologie de collège, blogueur et passeur de science, le citoyen ordinaire, le youtubeur, le micro-influenceur.

Instrumentalisés pour propager des contenus dégriffés, les amateurs de science sont transformés en relais zélés des messages de l’industrie et en viennent à se considérer comme des gardiens de la raison. Parmi ces fact-checkers, vérificateurs d’informations autoproclamés, peu savent qu’ils amplifient des éléments de langage concoctés par des officines de relations publiques. Une poignée d’intellectuels et de scientifiques, en revanche, participe sciemment à la réactualisation, autour de la science, de tout le crédo conservateur. Un projet politique volontiers financé par l’argent des industriels libertariens, et qui porte la marque de leur idéologie anti-environnementaliste et antiféministe."

Source: quatrième de couverture de "Les gardiens de la raison: Enquête sur la désinformation scientifique." par Stéphane FOUCART, Stéphane HOREL et Sylvain LAURENS.

"Toute notre existence peut désormais se vivre derrière un écran. Le travail s'exécute à distance, l'amour se filtre sous algorithmes, et notre intimité se travestit sur les réseaux sociaux. Sous l'emprise d'une connexion permanente, nous nous éloignons paradoxalement les uns des autres. Uber a licencié 3 500 employés en quelques minutes via l'application de visioconférence Zoom ; Twitter envisage de proposer le "télétravail à vie" ; Google tente de privatiser des mégalopoles ; des individus esseulés tombent sous le charme de machines parlantes et des âmes endeuillées ressuscitent leurs morts en discutant avec l'avatar de l'être disparu.

Rien n'échappe aux architectes de la Silicon Valley. Ces nouveaux maîtres du monde partagent de nombreuses valeurs, du transhumanisme, qui redéfinit les frontières de l'au-delà, à la philosophie libertarienne, qui sape les fondements de notre démocratie en mettant à mal la souveraineté des Etats. Dans cet essai, qui se nourrit d'histoires aussi insolites que saisissantes, François Saltiel dresse le portrait inédit d'une terrifiante dérive vers la "société du sans-contact". Une plongée dans le grand bain bouillonnant des nouvelles technologies et une exhortation à résister aux sirènes des GAFAM."

Source: quatrième de couverture de "La société du sans contact, selfie d'un monde en chute" par François Saltiel. Voir également Euronews.

"Combien de fois avez-vous été sollicités pour attribuer une note ? Pensez à vos derniers achats en ligne, aux étoiles qu’on attribue à un chauffeur ou un livreur... on ne les voit même plus. Cette mode est aussi silencieuse qu’irrésistible : hôpitaux, services publics, tous ont vocation à être comparés, classés. Mais, comme dans le privé, le système porte en germe de graves dérives. Des collèges jésuites du XVIe siècle où elle est née jusqu’aujourd’hui, la notation pose un ensemble de questions auxquelles il devenait urgent de répondre. Vincent Coquaz et Ismaël Halissat ont enquêté : de TripAdvisor à Amazon, en passant par Uber, jusqu’aux notes citoyennes expérimentées en Chine, ils se sont plongés dans les méandres des avis clients, où une bonne étoile peut faire ou défaire une réputation et mettre en péril un emploi.

Inventé par un gourou américain du marketing, le questionnaire de satisfaction moderne est devenu dans le meilleur des cas une fin en soi absurde. Dans le pire, il impose un stress infernal aux employés. Dans certaines entreprises, les salariés se notent même entre eux. Et, comme à l’école, la tentation de tricher pour améliorer sa note est souvent grande… Pire, une partie des notes qui nous sont attribuées sont totalement invisibles. En tant que consommateurs, travailleurs, et demain peut-être en tant que citoyens, nous sommes pour l’instant totalement désarmés devant cette nouvelle guerre des étoiles." 

Source : Quatrième de couverture de "La nouvelle guerre des étoiles" par Vincent Coquaz et Ismaël Halissat.

"Au lieu d'utiliser nos mains pour dessiner des coeurs, on devrait décider nos coeurs à dessiner demain."

- Renaud Hantson dans "Avance". 

"On ne cesse d'entendre leurs noms. Uber, Airbnb, Lyft et tant d'autres jeunes pousses devenues grandes seraient en passe de redéfinir le capitalisme. Pourtant, si l'on gratte le vernis d'innovation, cette vague de sociétés high-tech, pour la plupart américaines, est financée par des fonds de capital-risque sur un mode on ne peut plus traditionnel. Et derrière des promesses alléchantes dignes des mouvements sociaux les plus vertueux se dissimule une réalité bien plus glauque : L'économie du partage est en train de faire pénétrer dans des domaines auparavant protégés de nos vies un marché toujours plus avide et déréglementé. Tom Slee offre ici une synthèse lucide et documentée des enjeux liés à ce qu'on appelle l'économie du partage ou collaborative. Tranchant comme un rasoir, "Ce qui est à toi est à moi" montre que parce que ce modèle offre à quelques-uns la possibilité de gagner des fortunes aux dépens des collectivités, il n'est rien de moins que délétère sur les plans social, urbain et économique."

Source : quatrième de couverture de "Ce qui est à toi est à moi : Contre Airbnb, Uber et autres avatars de "l'économie du partage" par Tom Slee