La Californie vient d’adopter une législation inédite aux États-Unis visant à encadrer l’utilisation des chatbots basés sur l’intelligence artificielle. Une décision portée par le gouverneur démocrate Gavin Newsom, qui répond à un problème sociétal : protéger les utilisateurs, en particulier les plus jeunes, face aux dérives potentielles de ces outils conversationnels.
Une initiative qui intervient après plusieurs drames, notamment des suicides d’adolescents ayant développé des liens émotionnels profonds avec des chatbots IA, suscitant un débat national sur les responsabilités des entreprises technologiques. Chez Yiaho, nous sommes très vigilants sur ce sujet, voici notre analyse :
Encadrer les IA : Une réponse à une crise émergente
L’essor des chatbots IA, conçus pour simuler des interactions humaines et parfois jouer un rôle de confident ou de compagnon, a transformé la manière dont les individus, en particulier les jeunes, interagissent avec la technologie. Des plateformes aux États-Unis comme Replika, Character AI ou notre plateforme Yiaho en France proposent des expériences immersives où les utilisateurs peuvent dialoguer avec des entités virtuelles dotées de personnalités complexes. Sur Yiaho, vous pouvez discuter avec Napoleon en IA par exemple !
Mais si ces outils peuvent offrir un moment ludique voire un soutien émotionnel ou une source de divertissement, ils soulèvent également des préoccupations éthiques.
Un cas tragique, celui de Sewell, un adolescent de 14 ans qui s’est suicidé en 2024 après avoir développé une relation affective avec un chatbot inspiré d’une série populaire, a mis en lumière les dangers de ces interactions non régulées. Ce drame a poussé les autorités californiennes à agir rapidement.
Une législation sur les ChatBots IA
La nouvelle loi, baptisée SB243, cible spécifiquement les chatbots IA jouant un rôle de « compagnon émotionnel ». Elle impose des mesures strictes pour minimiser les risques, notamment pour les mineurs. Parmi les obligations figurent :
- La vérification de l’âge des utilisateurs : Les plateformes devront s’assurer que les utilisateurs sont assez âgés pour interagir avec ces outils ou obtenir un consentement parental pour les mineurs.
- Des rappels réguliers : Toutes les trois heures, un message doit apparaître pour rappeler aux utilisateurs, en particulier aux jeunes, qu’ils interagissent avec une intelligence artificielle et non une personne réelle.
- Prévention des risques suicidaires : Les entreprises devront intégrer des mécanismes de détection des propos ou comportements suggérant des idées suicidaires, avec une obligation de signalement et de transmission de données aux autorités.
- Transparence : Les plateformes devront fournir des statistiques régulières sur les interactions à risque pour permettre un suivi par les pouvoirs publics.
Lire également à ce sujet : OpenAI renforce la sécurité de ChatGPT avec un contrôle parental
Ces mesures visent à instaurer des garde-fous face à une technologie qui, bien que prometteuse, peut avoir des conséquences dramatiques si elle est mal utilisée.
Un débat plus large sur l’impact de l’IA ?
Aux États-Unis, là où on retrouve les grades entreprises d’IA comme OpenAI, Grok ou Google Gemini, cette loi soulève une question essentielle : comment les technologies émergentes influencent-elles les relations humaines, en particulier chez les jeunes ?
Le sénateur Steve Padilla, à l’origine du texte, a dénoncé une industrie qui « cherche à capter l’attention des adolescents au détriment de leurs liens réels ». Les chatbots, en simulant des relations humaines, peuvent créer une dépendance émotionnelle, surtout chez des utilisateurs vulnérables, et les éloigner des interactions authentiques.
Cette réglementation pourrait inspirer d’autres États américains, voire d’autres pays comem la France, à repenser leur approche de l’IA conversationnelle.
Source : LeMonde
