Les doux rêves dépourvus d'éthique des entreprises favorisant l'IA

"Si la technologie doit être plus humaine pour gagner notre confiance, il semble aussi essentiel d'intégrer de la valeur humaine dans ses formes plus complexes comme l'intelligence artificielle et le machine learning pour les rendre dignes de confiance. D'où cette question : la technologie est-elle fiable ? Non, pas toujours. Cela dépend de ce que l'humain intègre comme données pour la guider.

En 2015, le système de recrutement d'Amazon doté d'intelligence artificielle avait eu comme effet pervers d'exclure les CV qui indiquaient une notion se rapportant aux femmes. Autre exemple : d'après une étude de 2018, les algorithmes de reconnaissance faciale aboutissent à davantage d'erreurs de détection pour les personnes à la peau noire que pour celles à la peau blanche. En 2020, des constats similaires avaient soulevé des critiques sur un potentiel profilage racial, poussant Microsoft, IBM et Amazon à refuser de vendre leur logiciel d'analyse des visages à la police américaine.

Malgré cela, seules 25% des entreprises tiennent compte des conséquences éthiques avant d'investir dans l'intelligence artificielle selon Price Waterhouse Coopers qui estime que cette technologie apportera environ 13.000 milliards d'euros à l'économie mondiale en 2030. [...]

Une start-up de Dubaï "apprend à la machine, la détection des émotions, grâce à 30.000 visages différents. Objectif : apprendre à la technologie à être plus consciente de l'homme en attendant qu'elle ait une conscience humaine..."

Manifestement, nous cherchons inexorablement à donner une "conscience humaine" à l'intelligence artificielle, mais nous ne savons pas vraiment quelles en seront les conséquences sociales. Assurément, nous ne pouvons pas nous arrêter pour nous poser de bonnes questions car "cette technologie apportera environ 13.000 milliards d'euros à l'économie mondiale en 2030."

Source: Extraits choisis d'Euronews