Serge Tisseron contre les machines parlantes

Les machines parlantes ? Ce sont les enceintes connectées, les Écho, Google Home, Homepod dont nous vous parlions déjà en novembre 2019. Serge Tisseron, psychiatre et membre de l’Académie des technologies, nous met en garde contre leur sujétion dans un livre remarquable et inquiétant.

De l’image à la voix quasi humaine

Assis­tants virtuels, robots de com­pag­nie, auto­mo­biles, chat­bots aujourd’hui, demain réfrigéra­teurs « il n’y a plus de beurre », aspi­ra­teurs « le sac est plein » nous par­lent ou nous par­leront. Et ce dans une atmo­sphère de pseu­do-intim­ité et de pseudo-émotion.

En devenant capa­bles de par­ler à la place d’un humain, les machines inau­gurent un nou­veau type de rela­tion, elles nous enga­gent à croire qu’elles ont une per­son­nal­ité. Les machines « empha­tiques » sont capa­bles de mimer des émo­tions humaines en fonc­tion de l’état de l’interlocuteur humain. Ren­dant gra­tu­ite­ment des ser­vices (utiles), elles  pro­poseront d’autres ser­vices (moins utiles) à l’utilisateur, payants bien entendu.

Compagnon digital

Le com­pagnon dig­i­tal n’a pas seule­ment une voix, mais aus­si une apparence (sous forme d’hologramme ou d’image ani­mée). Il a une « his­toire » des goûts « per­son­nels » et même des vête­ments « choi­sis ». Il crée un attache­ment durable, surtout avec une pop­u­la­tion ou très jeune ou très âgée. De même que le Nutel­la est un ersatz de choco­lat, l’intelligence arti­fi­cielle émo­tion­nelle est un ersatz de rela­tion. Et les deux sont addictifs.

Pourquoi souf­frir d’une émo­tion non ou mal partagée avec un humain au lieu d’une émo­tion partagée avec une machine ? Le robot (ou le télé­phone ou l’enceinte con­nec­tée) peut avoir de mul­ti­ples rôles. Esclave (il me rap­pelle les anniver­saires), com­plice (de vidéos inavouables), témoin (album de pho­tos), parte­naire de tra­vail ou de jeu (exem­ples mul­ti­ples), demain parte­naire sen­ti­men­tal ou sex­uel (virtuel s’entend).

Capitalisme affectif

Une économie se développe, celle du « care », du poupon­nage, une économie de la con­fi­dence via la nar­ra­tion. Ce que préfère un humain ? Se racon­ter, et quel audi­teur plus soumis, plus fidèle que votre enceinte qui s’adapte à votre per­son­nal­ité au fur et à mesure que vous lui faites vos con­fi­dences ? Ou hors con­fi­dence d’ailleurs, une enceinte con­nec­tée allumée enreg­istre la total­ité des sons qui l’entourent, con­ver­sa­tions inclus­es. Ama­zon con­serve ces don­nées jusqu’à ce que l’utilisateur demande de les effac­er, encore ce dernier point est-il douteux.

De plus en plus de don­nées offertes gratis à Apple, Google, Ama­zon (d’autres vien­dront) qui peu­vent encore mieux cern­er vos besoins et vous offrir plus tard des ser­vices rémunérés. Mieux, des ser­vices pro­posés par un « ami » que vous pou­vez appel­er Émile ou Bernadette ou ce que vous voudrez et auquel vous attribuez une exis­tence réelle. Une exis­tence apparem­ment à votre ser­vice mais surtout à celui du cap­i­tal­isme affec­tif. Les enfants et les ado­les­cents seront les pre­miers papil­lons attirés par ces amis d’un nou­veau genre, ser­vant de pre­scrip­teurs pour leurs par­ents. Ces derniers devenus vieux garderont l’enceinte pour lui par­ler et pour qu’elle leur parle.

De la sci­ence-fic­tion ? Serge Tis­seron annonce l’ère des machines par­lantes pour 2025 dans les pays dévelop­pés. Il pré­conise un cer­tain nom­bre de mesures de sauve­g­arde : inter­dic­tion de la pub­lic­ité men­songère présen­tant les machines comme des per­son­nes, con­trôle absolu de ce qui a été enreg­istré, droit à la voix comme il y a un droit à l’image etc. A la lec­ture de son essai rob­o­ratif, il n’est que temps.

Serge Tis­seron, L’Emprise insi­dieuse des machines par­lantes, plus jamais seul, Les Liens qui libérent, 2020, 203p, 17€.