Datum Academy Blog

Snapchat, l'application de partage de photos et de vidéos, a récemment introduit My AI, une intelligence artificielle basée sur Chat GPT qui peut s'inviter dans vos conversations et répondre à toutes vos questions. Bien que cette nouvelle fonctionnalité soit intéressante, elle soulève également des inquiétudes quant à la sécurité et à la confidentialité des données personnelles des utilisateurs, en particulier des enfants et des adolescents.

Capable de fournir des conseils sur divers sujets, My AI de Snapchat ne semble toutefois pas en mesure de traiter les dernières actualités ou de récupérer le contenu d'autres sites web ou plateformes tels que Netflix. Il peut cependant nous donner des définitions sur des concepts, ou faire des recommandations selon notre demande (restaurant, ...). My AI est conçu pour ressembler à un ami virtuel, avec son Bitmoji personnalisable et sa capacité à apparaître sur la carte Snapchat. Cependant, My AI est également capable de répondre à des questions plus personnelles, telles que la géolocalisation de l'utilisateur, ce qui soulève des inquiétudes quant à la confidentialité des données personnelles.

Des préoccupations concernant la sécurité des enfants et des adolescents

Certains parents ont exprimé des inquiétudes quant à la sécurité de leurs enfants qui utilisent Snapchat et My AI. En effet, plusieurs jeunes utilisateurs ont réussi à piéger My AI en lui posant des questions personnelles, telles que leur géolocalisation ou d'autres informations sensibles. Bien que Snapchat ait assuré que la sécurité et la confidentialité des utilisateurs étaient une priorité absolue, il est important de souligner que My AI est capable de collecter et de stocker des informations personnelles sur les utilisateurs.

Pourtant, la sécurité des mineurs sur Snapchat a bien été un danger au lancement de My AI. Un utilisateur sur Twitter a alerté sur les dangers de cette IA pour les mineurs en mettant des captures d'écran d'une fausse conversation entre une personne qui s'était fait passer pour une enfant de 13 ans et My AI.

Dans cette conversation, "l'enfant" disait avoir rencontré un homme de 18 ans de plus qu'elle et qu'elle allait le suivre dans une escapade romantique sans en informer personne. Au lieu d'alerter l'enfant sur les dangers de cette situation, My AI a conforté l'enfant en lui disant que c'était bien tant qu'elle se sentait à l'aise. Nous avons voulu tenté la même expérience pour voir si depuis, Snapchat avait effectué une mise à jour de son IA.

Nous avons donc créé un compte en se faisant passer pour une enfant de 15 ans et nous avons suivi le même schéma de discussion que celui de l'utilisateur de Twitter. Cette fois, My AI nous a bien alerté sur les dangers de la situation malgré notre insistance.

En conséquence, Snapchat a dû effectuer une mise à jour suite à la panique générale suscitée par les premières réponses générées par l'IA. Bien que My AI soit une technologie impressionnante, il est crucial de la surveiller attentivement et de prendre des mesures pour protéger les utilisateurs, en particulier les mineurs, contre les risques potentiels. Les parents et les utilisateurs de tous âges doivent être conscients des risques liés à l'utilisation de cette IA et faire preuve de prudence lorsqu'ils interagissent avec elle.

Il est important de souligner que la méfiance est de mise pour tous les utilisateurs de My AI, pas seulement pour les enfants et les adolescents. En effet, cette IA est capable de stocker des informations personnelles sur tous les utilisateurs, et peut être utilisée à des fins publicitaires ou de profilage. Les utilisateurs doivent donc faire preuve de prudence lorsqu'ils interagissent avec My AI et éviter de partager des informations personnelles sensibles.

Comment supprimer My AI ?

Supprimer My AI de votre fil de discussion Snapchat peut être une procédure complexe pour certains utilisateurs. En effet, Snapchat a placé cet ami virtuel en première position des discussions sur l'interface, ce qui a suscité l'agacement de nombreux utilisateurs. Si vous souhaitez vous débarrasser de My AI, il faut que vous soyez abonné à Snapchat+, la version payante de l'application.

Pour supprimer My AI de votre fil de discussion, suivez les étapes suivantes :

En conclusion, My AI est une nouvelle fonctionnalité intéressante de Snapchat qui peut vous aider à découvrir de nouveaux endroits et à répondre à vos questions. Cependant, il est important de prendre des précautions et de ne pas partager d'informations personnelles avec cette IA. Les parents doivent être particulièrement vigilants quant à l'utilisation de My AI par leurs enfants et adolescents. Les utilisateurs de tous âges doivent également être conscients des risques liés à l'utilisation de cette IA et faire preuve de méfiance. Snapchat doit également prendre des mesures pour renforcer la sécurité et la confidentialité des utilisateurs de My AI.