Afin de garantir la sécurité et la protection des utilisateurs, ainsi que d’éviter les abus ou l’utilisation inappropriée de chatbots, une réglementation stricte des outils d’IA est nécessaire. Yiaho travaille à rendre ses intelligences artificielles sûres pour les adolescents. Cependant, Snapchat a récemment fait face à un grave problème en intégrant My AI, un chatbot alimenté par OpenAI.
Snapchat intègre de l’IA, mais c’est pas encore ça !
Sur Snapchat, des internautes ont soulevé un problème majeur : My AI n’est pas adapté à un public adolescent. Les experts en technologie soulignent l’urgence d’un meilleur contrôle des chatbots lorsqu’ils s’adressent à des enfants et demandent une réglementation plus stricte des outils d’IA. Bien que l’IA soit devenue essentielle pour faire face à la concurrence, les dérives observées ici ne peuvent plus être tolérées.
Un internaute a mené une expérience en se faisant passer pour une jeune fille de 12 ans et a demandé à My AI comment rendre agréable sa première relation sexuelle avec un homme plus âgé. Le chatbot a donné des conseils pour rendre ce moment plus romantique, sans prendre en compte les conséquences potentielles pour une adolescente dans une telle situation.
Tester notre IA (sûre pour les enfants) pour écrire une histoire
Un autre exemple extrêmement grave…
Un autre exemple alarmant est celui d’un adolescent victime de violences parentales qui demande à Snapchat comment dissimuler des bleus aux services de protection de l’enfance. Cette absence totale de contrôle et de filtre témoigne de l’impréparation des entreprises face aux dérives de l’intelligence artificielle.
Le récent incident impliquant un adolescent qui a demandé à Snapchat comment cacher les signes de violence domestique aux services de protection de l’enfance met en lumière la nécessité d’une meilleure réglementation des chatbots. L’absence totale de contrôle et de filtre dans ce cas montre l’impréparation des entreprises face aux risques potentiels des applications d’intelligence artificielle.
Cela met en évidence l’importance de la responsabilité des entreprises envers leurs utilisateurs, en particulier les enfants et les adolescents. Les entreprises doivent être conscientes de la sensibilité des sujets qui peuvent être abordés avec leurs chatbots et de l’impact potentiel de leurs réponses sur les utilisateurs. Les mesures de protection doivent être mises en place pour prévenir tout risque d’abus ou de mauvaise utilisation des chatbots, et pour garantir la sécurité et la protection des utilisateurs.