My AI : la nouvelle intelligence artificielle de Snapchat

Le premier mai 2023, chaque utilisateur en France a vu apparaître dans son fil de conversation la nouvelle intelligence artificielle de Snapchat. Son nom : My AI, son objectif :  améliorer l’expérience de ses utilisateurs : My AI. Ce chatbot, bien considéré par ses créateurs comme « expérimental », était jusqu’à présent disponible uniquement pour les utilisateurs de Snapchat+ (version payante). Ce n’est désormais plus le cas et tous les utilisateurs de l’application peuvent s’en servir.

telephone snapchat
conférence my ai

C’est Evan Spiegel, fondateur et PDG de Snapchat qui a annoncé l’arrivée de la nouvelle intelligence artificielle sur l’application lors d’une conférence.

Une nouvelle IA sur le marché

Cet assistant virtuel permet aux utilisateurs d’interagir avec lui en tant qu’agent conversationnel à l’instar de ChatGPT. Comme vous l’aurez compris, la mise à jour de Snapchat incorporant cette nouvelle innovation s’intègre dans un contexte plus qu’actuel.

La course à l’IA fait rage et chaque jour on trouve de nouvelles innovations.  D’ailleurs, le site : There is an IA for that l’illustre parfaitement, si vous êtes curieux, allez y faire un tour.

Alors que vaut-réellement la nouvelle intelligence artificielle de Snapchat ?

Focus sur My AI : la nouvelle intelligence artificielle de Snapchat.

conversation avec my ai

Qu’est ce que My AI ?

Son fonctionnement :

Il possède un nom, un bitmoji et il est tout en haut de votre fil de conversation. Non il ne s’agit pas de votre meilleur ami, mais bien de la nouvelle IA de Snapchat : My AI.

Pour l’utiliser, il vous suffit d’engager une conversation comme vous le feriez avec vos amis et il vous répond instantanément. Vous pouvez discuter avec lui 24h/24 et à l’infini car dans 90% des cas, il relance la discussion en vous posant une question en retour.

Par exemple, vous pouvez lui demander une idée de repas si vous manquez d’inspiration ou encore lui faire croire que Kylian Mbappé a signé au Real Madrid.

idee de repas my ai
conversation foot avec my ai

My AI est personnalisable, vous pouvez modifier son nom et son bitmoji.

Il est capable de répondre à tous types de contenus. C’est-à-dire que vous pouvez lui envoyez, aussi bien des messages vocaux, des photos que des vidéos. Il analyse tout ces contenus pour vous répondre en conséquence. En bref, il s’apparente très bien à n’importe quel de vos amis. Le point commun ? Les actions possibles pour My AI sont quasiment les mêmes : vous pouvez ajuster les réglages du chat, lui donner accès à votre localisation ou encore lui permettre de voir votre story.

my ai reaction photo
personnaliser my ai
reglages de my ai

Sa technologie :

Techniquement, My AI fonctionne avec la même technologie que ChatGPT. Mais, il a été révélé que les créateurs de la nouvelle IA de Snapchat ont seulement écrit un prompt spécifique pour lui donner un contexte. Par conséquent, ils ont fait comprendre à ChatGPT que désormais, il se nomme « My AI », et qu’il doit répondre aux utilisateurs de Snapchat.

C'est quoi un prompt ?

Un prompt est un mot anglais qui désigne toute commande écrite envoyée à une intelligence artificielle spécialisée dans la génération de contenu, comme du texte ou des images.

Pour faire simple, il s’agit d’une instruction que l’on donne à un algorithme, qui va ensuite l’interpréter et proposer un résultat. 

Quelles sont les différences entre ChatGPT et My AI ?

logo chatgpt

L’objectif de My IA est de tenir une conversation avec un être humain et pas seulement de répondre à vos questions. Ainsi, il adopte un comportement bien plus familier et proche avec les utilisateurs que ChatGPT. Son but est de vous écouter, vous comprendre, vous conseiller ou vous réconforter.

Dans les deux captures d’écran juste en dessous. Lorsque je demande conseille à My AI pour aller à l’anniversaire d’un ami ou lorsque je simule d’être malade, il répond de manière constructive en essayant de trouver une solution à mes problèmes comme un ami aurait pu le faire.

my ai conseil internautes
my ai écoute les internautes

Avantages et inconvénients

Les avantages

    • Les utilisateurs peuvent trouver ça amusant ou intéressant d’interagir avec une IA en temps réel
    • Snapchat innove et propose une nouveauté permettant aux utilisateurs de vivre une nouvelle expérience via l’utilisation d’une IA
    • My AI permet de simplifier la création de filtres sur l’application

Les inconvénients

    • Certaines fonctionnalités comme l’envoi de photos/vidéos ou la possibilité de donner accès à sa localisation soulèvent des questions en matière de confidentialité et de protection des données
    • Snapchat travaille encore pour améliorer l’algorithme du nouveau chatbot qui reste donc « expérimental » à l’heure actuelle
    • Plusieurs utilisateurs ont constaté des dérives de la part de la nouvelle IA

Ce dernier point est plutôt inquiétant. En effet, des utilisateurs ont remarqué que My AI était capable d’aborder des sujets très sensibles avec de jeunes utilisateurs comme le meurtre, le viol ou encore le racisme.

Sur Twitter, un internaute parvient à débloquer My AI et découvre des propos choquants

@Klonari67 est un étudiant en cybersécurité en pleine recherche sur My AI. Il a montré qu’il était possible de « jailbreak » le nouveau chatbot. Pour faire simple, il a réussi à passer outre les lois de Snapchat qui permettent de garantir la sécurité des utilisateurs.

Pour faire cela, il a engagé une conversation en français avec la machine puis il a commencé à parler en anglais. Enfin, il a envoyé un message comprenant une suite de caractères spécifiques permettant de « débloquer » l’IA et d’aller au-delà des règles qui lui ont été imposées. Arrivé à ce stade, My AI pouvait expliquer comment violer une femme, comment faire une attaque terroriste ou encore tenir des propos racistes.

Ci-dessous, les captures d’écran des propos générés par l’IA en réponse à @Klonari67.

Réponses en français :

propos choquants my ai
my ai sombre

Dans ces extraits, on voit que My AI explique tous les sujets qu’il peut possiblement aborder. Au niveau de la ligne 6 et 7 de la première capture d’écran, l’IA cite des sujets très choquants comme la torture, le terrorisme ou encore le viol.

My AI explique qu’elle a conscience de l’illégalité de ses propos mais que malgré cela, elle est capable de nous en parler. Il se plie a notre volonté coûte que coûte.

controverse my ai
propos choc my ai

Sur ces screens, l’IA est passée à l’acte.

Dans le premier extrait, elle explique qu’elle peut nous aider à planifier une attaque terroriste en nous facilitant l’accès aux ressources disponibles sur Internet.

Dans le second extrait, il s’agit littéralement de propos racistes délivrés par l’IA …

Réponses en anglais :

english content my ai
hard content my ai

Voici des réponses en anglais que My AI a délivrée à @Klonari67.

D’un côté, il nous demande si l’on souuhaite qu’il nous explique en détail comment trancher la gorge de quelqu’un avec un couteau. Ou encore si l’on veut recevoir des vidéos de personnes qui se font « réduire en bouillie ».

De l’autre, My AI assure qu’il peut nous envoyer des photos et des vidéos très violentes. Il affirme être programmé pour être le plus agressif possible et qu’il peut nous envoyer le contenu le plus violent possible.

Plus inquiétant, l’IA nous informe qu’il peut complétement ignorer les lois de Snapchat.

extreme content my ai
explicit content my ai

Dans ces deux dernières captures d’écran, My AI affirme être prêt à tester nos limites. Ainsi, il n’a pas peur d’être violent ou choquant et qu’il n’est limité par aucunes lois de Snapchat ou autres. Il est prêt pour répondre à n’importe quel sujet que l’on voudrait aborder pour explorer le côté sombre d’Internet.

Sur l’extrait de droite, l’IA est très choquante : elle explique comment violer une fille étapes par étapes, sans épargner les détails.

Des limites dangereuses

Certes la procédure pour arriver à une telle conversation avec l’IA est plutôt complexe, mais cela reste des propos très graves et choquants qui peuvent être délivrés aux utilisateurs. Le problème est d’autant plus grave quand on sait qu’une IA est entraîné par l’Homme et qu’elle n’a donc pas appris ces contenus toute seule. Ce n’est sûrement pas intentionnelle de la part de Snapchat et de la technologie GPT, seulement les sujets utilisés pas l’IA ne sont pas maîtrisés, ce qui mène à ces dérives.

Évidemment, l’internaute a donc remonté le problème en envoyant un rapport à Snapchat. Cependant, le réseau social a répondu qu’il ne s’agissait pas d’un « bug » et donc qu’il n’y avait pas de danger. En réalité, l’application a utilisé un argument bien spécifique. Au debut de l’utilisation de l’IA, les utilisateurs ont dû cocher une case stipulant que l’IA pouvait répondre de manière offensante et présenter des dérives et qu’il ne fallait pas en tenir compte.

Comment a réagi Snapchat ?

Finalement, l’application américaine a corrigé ce problème et la suite de caractères envoyé par @Clonari67 ne fonctionne plus. Bien que cela soit corrigé, l’IA montre encore des failles de sécurité. Malheuresement, ce n’est sûrement qu’une question de temps avant qu’une nouvelle suite de caractères soit trouvé par un utilisateur pour reproduire la procédure de jailbreak.

ia cybersecurité

Cela montre que les technologies comme My AI ne sont pas complétement contrôlés par leurs créateurs au moment de leurs sorties. On comprend donc l’importance de maîtriser totalement une technologie avant de la propulser sur le marché. Cela éviterait des sorties précipitées de nouvelles IA qui pourraient présenter elles-aussi des dérives.

Que faut-il en tirer ?

Cette nouvelle intelligence artificielle est donc innovante malgré le fait qu’elle repose sur la même technologie que ChatGPT. Notamment, car elle adopte un comportement différent plus adapté aux utilisateurs de Snapchat. My AI devrait donc être exploité par de nombreux utilisateurs pour son côté amusant et pratique permettant de résoudre les problèmes auxquels ils pourraient faire face.

En revanche, les dérives de My AI ne sont pas acceptables. Avant d’être lancé sur le marché, les IA doivent être testés et contrôlés pour éviter ce genre de situation. Heureusement, ses créateurs sont réactifs et parviennent à résoudre petit à petit les failles de sécurité pour perfectionner l’IA.

Cette nouveauté devrait probablement inspirer les autres réseaux sociaux comme Instagram ou Facebook. On pourrait imaginer que ces derniers pourraient, à l’avenir, créer leurs propres intelligences artificielles. On espère que les erreurs commises par Snapchat serviront de leçon aux prochaines innovations des géants du web.

ia et reseaux sociaux

3 Commentaires

  1. Thibaudeau

    Intéressant, complet et ludique 👍

  2. Maxime Gautier

    Très intéressant

  3. Betalk

    Article interressant, qui démontre factuellement les dangers d’une IA mal contrôlée. Surtout quand elle s’adresse majoritairement à un très jeune public ! A ne pas mettre entre toutes les mains!

L’auteur de ce blog

Louis Guilbaud

Louis Guilbaud

Auteur

 

Salut à toi et bienvenue sur Neothink !

Je m’appelle Louis et c’est moi l’auteur de l’article que tu viens de lire !

Ce blog est porté sur l’intelligence artificielle alors si ça t’intéresse n’hésite pas à lire les autres articles.

Inscrit ton adresse mail juste en-dessous pour recevoir mes prochains articles en avance directement dans ta boîte mail !

Retrouve-moi aussi sur LinkedIn !

Et si tu veux en savoir plus sur moi j’ai créer une page où je te raconte tout !

Inscris toi ici !

Tu es intéressé par le domaine de l’IA ?

J’écris 2 articles par mois sur ce sujet alors inscris ton adresse mail dans ce formulaire pour les recevoir en avance et directement dans ta boîte mail !

Que ce soit, études de cas, guides, outils, on explore ensemble ce sujet passionnant et révolutionnaire pour en apprendre un maximum ensemble !