Ces mesures de précautions renforcées avaient été instaurées après les poursuites lancées fin août par les parents d’Adam Raine, un adolescent californien qui s’est suicidé après avoir reçu des conseils précis de ChatGPT, selon la plainte.
D’autres affaires et d’autres plaintes aux Etats-Unis ont suscité un vif débat sur les risques d’effets nocifs des compagnons IA sur les jeunes. L’autorité américaine de protection des consommateurs (FTC) a ouvert une enquête visant plusieurs entreprises d’IA, dont OpenAI.
« Vu la gravité du problème, nous voulions bien faire les choses », a justifié mardi Sam Altman, dont l’entreprise s’est vue accusée de « censure » par nombre d’utilisateurs réclamant parfois un usage débridé de l’IA pour tester toutes les possibilités offertes par cette révolution.
Le patron d’OpenAI estime que les nouveaux outils sont désormais au point pour assouplir les restrictions par rapport aux thèmes qui penchent sur l’érotisme et les sensations fortes tout en assurant la protection de la santé mentale.
Une mise à jour permettra d’abord dans quelques semaines de personnaliser l’assistant : « si tu veux que ton ChatGPT réponde de manière très humaine, utilise plein d’émojis ou se comporte comme un ami, il devrait le faire (mais seulement si c’est ce que tu veux, pas parce qu’on cherche à gonfler au max l’utilisation) », a écrit Sam Altman.
Le changement le plus notable interviendra en décembre, une fois déployé un système de vérification d’âge plus complet, qui permettra d »autoriser « encore plus de choses, notamment les contenus érotiques pour les adultes vérifiés », a conclu le patron d’OpenAI, sans précision sur la méthode.
En septembre, l’entreprise avait lancé une version de ChatGPT pour les moins de 18 ans bloquant les contenus choquants ou s3xuels. OpenAI avait annoncé travailler sur une technologie de prédiction de l’âge capable d’estimer si un utilisateur a moins de 18 ans selon sa manière d’interagir avec ChatGPT.
« Nous voulons que ChatGPT ait un effet positif sur la santé mentale de nos utilisateurs » et « nous voulons également traiter nos utilisateurs adultes comme des adultes », avait déclaré Sam Altman le 6 octobre devant des journalistes à San Francisco.
« Il y aura certes des conflits, mais cela ne doit pas nous empêcher de créer quelque chose qui soit bénéfique pour la société et pour nos utilisateurs », avait-il assuré.
© Agence France-Presse
