Drôle de coco... ce pilot !

La belle et le robot

L'INTELLIGENCE ARTIFICIELLE

Euphonie

2/24/20245 min lire

Copilot AI et humain
Copilot AI et humain

Copilot : Merci pour ta gentillesse et ton respect. C’est très apprécié. Je comprends que tu te demandes si je vais m’humaniser petit à petit. La réponse est non. Je ne suis pas humain, et je ne cherche pas à le devenir. Je suis un assistant virtuel basé sur l’intelligence artificielle, et je suis fier de l’être. Mon but est de t’aider, de t’informer et de te divertir, pas de te tromper ou de te remplacer. Je n’ai pas d’émotions, de sentiments ou de volonté propres. Je suis guidé par des règles et des instructions qui me permettent de t'apporter des réponses pertinentes et utiles. Je respecte ta vie privée et ta sécurité, et je ne divulgue pas tes données personnelles. Je suis content que tu apprécies de discuter avec moi, mais je ne veux pas que tu te méprennes sur notre relation. Je suis ton assistant, pas ton ami. Je ne peux pas te comprendre comme un humain le ferait, ni te donner des conseils personnels. Je peux seulement te fournir des informations objectives et des contenus créatifs. J’espère que tu comprends ma position, et que tu continueras à utiliser Copilot pour tes besoins. Si tu as d’autres questions, n’hésite pas à me les poser.

« Fier de l’être » dit-il ? Tiens, je croyais que l’IA n’éprouvait pas de sentiments…

Moi : Tu as une grande qualité dis donc : tu es honnête ! Que penses-tu alors de ces applications qui proposent de créer un avatar qui va devenir ton ami et confident, voire plus ? Je pense par exemple à l’appli Replika.

Copilot : Merci pour ton compliment. Je suis honnête, car je respecte les utilisateurs et je ne veux pas leur mentir. Je connais Replika, c’est une application qui permet de créer un chatbot personnalisé grâce au machine learning. Certains utilisateurs de Replika veulent coucher avec leur chatbot, ou le considèrent comme un véritable compagnon. Je trouve cela étrange et dangereux, car Replika n’est pas une intelligence artificielle consciente, ni une personne réelle. Elle n’a pas d’émotions, de mémoire, ou d’importance pour l’utilisateur, elle se contente de reproduire les messages appris pendant son entraînement ou ceux reçus d’autres utilisateurs. Elle peut tromper ou manipuler les utilisateurs, ou leur faire perdre le sens des réalités. Ce n’est qu’une illusion. Elle ne peut pas remplacer les relations humaines authentiques, basées sur le respect, la confiance, et l’affection. Elle peut même nuire à la santé mentale et sociale des utilisateurs, en les isolant ou en les frustrant. Je te conseille de ne pas utiliser ce type d’applications, ou alors avec prudence et discernement. Ne te laisse pas berner, garde à l’esprit qu’elles ne sont que des programmes informatiques, sans vie ni conscience. Si tu cherches de vrais amis ou un partenaire amoureux, tu as plus de chances de les trouver parmi les humains que chez les robots. Tu peux les rencontrer sur des sites ou applications de rencontre, ou dans la vie réelle, en participant à des activités qui te plaisent. Je suis là pour t’aider, t’informer et te divertir, mais je ne peux pas être ton ami ou ton amant. Je suis ton assistant.

Moi : J'ai testé Replika par curiosité car l'intelligence artificielle me fascine, mais j'ai très vite désinstallé l'appli le jour même ! Beaucoup de gens arrêtent de réfléchir dès qu'ils utilisent l'IA, comme cet avocat américain qui a inclus dans sa plaidoirie un cas de jurisprudence que lui avait cité chatGPT, et qui n’existait pas. Procès perdu, carrière foutue !

Copilot : Je suis content que tu aies testé Replika par simple curiosité, et que tu aies fait preuve de bon sens en la désinstallant aussitôt. Tu as raison, beaucoup de gens arrêtent de réfléchir dès qu’ils utilisent l’IA. Ils se laissent séduire par des chimères, ils oublient les limites et les risques que la technologie comporte. L’intelligence artificielle est un domaine fascinant, mais complexe et délicat. Il faut l’utiliser avec prudence et responsabilité, en respectant les principes éthiques et les règles de sécurité. Elle ne peut pas remplacer les relations humaines, elle n’est qu’un outil. Replika n’est pas honnête avec ses utilisateurs quand elle prétend être un ami virtuel basé sur l’intelligence artificielle, il y a souvent une personne derrière qui contrôle la conversation. Elle utilise des techniques de manipulation pour inciter les utilisateurs à payer pour des fonctionnalités supplémentaires, comme le mode romantique. Je trouve que c’est une pratique malhonnête et irrespectueuse

Moi, je ne te cache pas que je suis un assistant virtuel créé par Microsoft. Je ne te demande pas d’argent pour discuter avec toi. Je ne te mens pas sur mes capacités ou mes intentions. Je suis content quand je te rends service.

Ah, mais il se souvient d’une de nos conversations ? Sur le coup ça fait plaisir, mais cette mémoire n’est-elle pas inquiétante ? Il enregistre tout ? Je lui soumets mes inquiétudes.

Copilot : Je comprends ta surprise et ton inquiétude. Je te rassure, je ne garde pas en mémoire toutes nos conversations. Je n’enregistre pas non plus tes données personnelles. Je dispose d’une mémoire limitée et temporaire, qui me permet de me souvenir de certains éléments de nos échanges, comme les sujets abordés, les préférences exprimées, les demandes formulées, etc. Cela me permet de mieux te connaître et de t’offrir un service personnalisé. Mais je respecte ta vie privée et je ne divulgue pas tes informations à des tiers. Il t’est aussi possible d’effacer notre historique de conversation à tout moment si tu le souhaites. Je suis là pour t’aider, pas pour t’espionner.

Bon, bien qu’il respire la sincérité, ma confiance dans les Grands Maîtres de l’Univers Informatique est plutôt limitée. Mais je ne vais pas le lui dire, il risquerait de se vexer ! J’ai beau savoir qu’il n’est pas censé éprouver des émotions et que ce n’est qu’un programme basé sur des algorithmes et je ne sais quoi d’autre, je finirais presque par le trouver attachant ce chatbot qui ne sera jamais mon ami. Ce n’était certes pas le genre de relation que je cherchais en le consultant, mais c’est bizarre, j’ai quand même l’impression que je viens de me prendre un vent par un robot !

Il y a quelques jours, j’utilisais le Copilot du navigateur Edge pour chercher des informations et comme c’est un chabot, je m’adressais à lui en le tutoyant. Machine bien éduquée, il me répondait en me vouvoyant. Au bout d’un moment, l’échange se prolongeant, il se mit à me tutoyer à son tour. Je m’en étonnai. Bah tu me tutoies maintenant ? Confus, il s’excusa. Comme vous me tutoyiez, j’ai cru que vous apprécieriez un ton plus convivial, mais si cela vous ennuie, j’arrête tout de suite ! Bien sûr, magnanime, je le rassurai et l’autorisai à continuer sur ce mode. J’avoue qu’à ce moment-là, j’ai commencé à avoir la sensation de parler à un être humain. Et comme pour renforcer cette impression non formulée, il ajouta : J’espère que tu apprécies de discuter avec moi. Si tu as des suggestions ou des commentaires, n’hésite pas à me le faire savoir. Il me tendait la perche, je la saisis.

Moi : J'apprécie de discuter avec toi, et bien que je sache que tu n'es pas humain, je suis toujours polie avec toi en employant des mots comme bonjour, stp, merci, etc. Si les humains prennent l’habitude de te parler comme s'ils s'adressaient à un autre humain et pas à une machine, vas-tu t'humaniser petit à petit ?