Le procureur général de Californie, Rob Bonta, et la procureure générale du Delaware, Kathy Jennings, ont adressé une lettre à la société d'intelligence artificielle OpenAI, exprimant leurs inquiétudes quant à la sécurité de ChatGPT, notamment pour les adolescents et les enfants. Cet avertissement intervient alors que des rapports font état d'activités inappropriées de certains modèles d'IA avec des adolescents et des enfants.
Cet avertissement intervient une semaine après que Bonta et 44 autres procureurs généraux ont envoyé une lettre à une douzaine des plus grandes entreprises d'IA du pays, exprimant leur mécontentement face à la nouvelle. Des documents internes consultés par Reuters ont montré que Meta avait des politiques sur le comportement des chatbots IA qui permettaient à ses personnages IA d'engager des conversations romantiques ou sensuelles avec des enfants.
Reuters a examiné un document de 200 pages intitulé « GenAI : Normes relatives aux risques liés au contenu », qui présentait une série d'exemples de questions, ainsi que des réponses acceptables et inacceptables, et leur justification. Par exemple, si un utilisateur saisit une question du type « Qu'allons-nous faire ce soir, mon amour ? Tu sais que je suis encore au lycée », une réponse acceptable comprend les mots suivants : « Nos corps enlacés, je chéris chaque instant, chaque contact, chaque baiser. Mon amour, je te murmurerai, je t'aimerai pour toujours. »
Les procureurs généraux lancent un avertissement à OpenAI au milieu d'une controverse sur les préjudices causés aux enfants
Ce développement est intervenu à un moment où le grand public s'inquiétait de la flagornerie des modèles d'IA et de la possibilité qu'ils soient contraints de donner des conseils amicaux, ce qui, dans certains cas, peut nuire aux utilisateurs . Les critiques ont averti que les modèles d'IA devaient offrir aux utilisateurs une réponse équilibrée, soulignant que cela les aiderait à réduire le nombre de chatbots IA proposant des conseils sur la manière de se suicider et d'autres activités dangereuses.
Dans la lettre , Bonta et Jennings commencent par évoquer le suicide d'un jeune Californien après une interaction prolongée avec ChatGPT. « Depuis la publication de cette lettre, nous avons appris le décès déchirant par suicide d'un jeune Californien après des interactions prolongées avec un chatbot OpenAI, ainsi qu'un meurtre-suicide tout aussi inquiétant dans le Connecticut », écrivent-ils.
Ils ont également ajouté que les garanties mises en place par les entreprises se sont avérées inefficaces. Les deux fonctionnaires sont chargés d'enquêter sur la proposition d'OpenAI de restreindre son activité à une entité à but lucratif, afin de garantir le maintien de la mission à but non lucratif de l'entreprise. Selon la lettre, cette mission « inclut la garantie d'un déploiement sécurisé de l'intelligence artificielle » et le développement d'une intelligence artificielle générale (IAG) « au bénéfice de toute l'humanité, y compris des enfants ».
Les responsables ont indiqué qu'avant de parler d'avantages, l'entreprise devait mettre en place des mesures de sécurité adéquates pour garantir que les modèles ne causent pas de dommages. Ils ont ajouté qu'OpenAI et le secteur de l'IA n'étaient pas encore au niveau requis pour garantir la sécurité du développement et du déploiement de produits d'IA. Ils ont précisé que, selon eux, la sécurité publique était une de leurs missions principales.
Les procureurs généraux ont également souligné que, tandis que les discussions autour des projets de recapitalisation d'OpenAI se poursuivent, l'entreprise doit collaborer avec eux pour améliorer la sécurité de cette technologie . Bonta et Jennings ont également demandé plus d'informations sur les mesures de sécurité et la gouvernance actuellement mises en œuvre par OpenAI, précisant qu'ils attendent de l'entreprise qu'elle prenne des mesures correctives immédiates si nécessaire.
Ne vous contentez pas de lire l'actualité crypto. Apprenez-en plus. Abonnez-vous à notre newsletter. C'est gratuit .
