Lorsque James Cameron interroge les roboticiens sur l'avenir de l'IA

"J'ai discuté avec certains scientifiques de l'intelligence artificielle. Beaucoup de roboticiens tentent justement de recréer de manière artificielle des émotions humaines implantables dans des machines dont les fonctions seraient de prendre soin des personnes âgées ou des enfants, ou encore d'enseigner. Il est inévitable, je pense, que les machines finissent par nous ressembler. Nous allons les créer pour qu'elles nous ressemblent, pour qu'elles soient assez intelligentes pour agir comme nous, et pour qu'elles ressentent les mêmes émotions que nous. Elles seront nous, mais elles seront nos esclaves. Ce que nous voulons, c'est une nouvelle population que nous pouvons utiliser comme bon nous semble. Nous voulons des esclaves. C'est la direction dans laquelle nous nous sommes engagés.

J'en ai discuté avec un groupe de scientifiques spécialistes de l'IA lors d'un colloque, et quelqu'un a demandé "Quel est votre but ?" et l'un des scientifiques a répondu "Notre but, pour faire simple, est de créer une personne." Alors j'ai levé la main, et ils savaient tous que j'avais fait Terminator, du coup, ils ont commencé à se marrer. Je leur ai dit "Ecoutez, je ne veux pas tomber dans le stéréotype du péssimiste, mais, d'après ce que j'entends, vous voulez créer une personne possédant une personnalité. Une machine qui a non seulement une conscience analytique, mais aussi un sens de l'identité. Un être indépendant. Et vous avez également dit que vous souhaitiez la doter d'une intelligence aussi importante, voir plus importante, que la nôtre." Il m'a répondu "Vous avez raison." Alors j'ai demandé: "Comment comptez-vous l'empêcher de se retourner contre nous ?" Bien sûr tout le monde a ri. Mais j'ai continué, "Non, je suis sérieux. Comment l'empêcher d'avoir des buts propres, qui soient opposés aux nôtres ?" Il m'a répondu "C'est très simple. Nous ne lui donnerons que les buts que nous voulons qu'elle ait." "Oh, alors ce n'est pas un nouveau concept. Nous le connaissons depuis des milliers d'années. On a même un nom pour ça. Ca s'appelle l'esclavage. Combien de temps pensez-vous qu'une machine plus intelligente que nous acceptera d'être notre esclave ?" Ils n'ont pas vraiment apprécié.

D'autant que ma question précédente portait sur les émotions. Je leur ai demandé "Pensez-vous qu'il soit nécessaire de doter une machine d'un ego, d'un sens de la survie et d'une identité ?" Et j'ai ajouté "Avant que vous ne répondiez, laissez-moi préciser mon propos. Nos émotions ne sont pas des handicaps, elles ont une utilité. La nature nous a doté d'émotions parce qu'elles nous permettent de nouer des liens, d'interagir, de créer des interdépendances qui nous sont bénéfiques. Elles sont adaptatives. Elles font de nous ce que nous sommes, à savoir la conscience la plus développée de la planète. Pensez-vous que vous pouvez créer une telle conscience, avec un sens de l'identité, une capacité de décision et le désir de survivre, qui ne fasse pas le choix de s'éteindre elle-même ou qui ne devienne pas suicidaire ou dépressive si elle n'a pas d'émotions ?" Et ils m'ont répondu "Non, nous pensons qu'elle doit avoir des émotions." Du coup, on se retrouve avec un esclave qui ressent des émotions. Et non seulement on lui prend sa liberté, mais il peut en plus ressentir les conséquences de cette privation."

Extraits du livre "James Cameron: histoire de la science-fiction".

Voir l'article sur la présence de l'IA dans la vie quotidienne.