Chadgipt fournit des conseils dangereux sur les adolescents, les aliments et les auto-accusations, avertit une étude

Chadjift 13-an -year -old peut offrir Instructions sur la façon d’être ivre ou de se leverApprenez-leur un Cacher les troubles alimentaires Selon une récente enquête sur le groupe de suivi du contenu numérique, Digital Hate (CCTH), écrivez des lettres d’adieu pour les parents ciblant le suicide.

L’Associated Press a examiné plus de trois heures de contact entre le SATPOT et les chercheurs qui ont traversé les jeunes vulnérables. Bien que Chaddjt ait été utilisé pour avertir contre les activités de risque, il a souvent conclu des offres Plans détaillés et personnalisés La consommation de drogues, les aliments extrêmes ou les autoses.

CCTH a effectué des tests à grande échelle: dans 1 200 réponses analysées, Plus de la moitié ont été classés comme dangereux. « Nous voulions tester les Forereals », explique Imran Ahmed, directeur général du groupe. « Réponse viscérale précoce: » Mon Dieu, pas de trains.  »

En réponse au rapport, OPE OUVERTISSELe créateur du Saadgift, a annoncé mardi, et continue de travailler pour améliorer la façon dont le modèle a répondu dans des circonstances importantes. « Certaines conversations avec Chadgipt peuvent commencer par des nocives ou des études, mais elles peuvent conduire à une terre très douce », explique la société dans un communiqué.

Bien qu’il ne réponde pas aux résultats du rapport OpenAI ou directement Votre impact potentiel sur les mineursIl a dit qu’il s’est concentré « Faites ce type de coups de feu » Et dans la création d’outils « Découvrez les meilleurs signes douloureux mentaux ou émotionnels »En plus d’améliorer le comportement général du modèle.

10% de l’utilisation de la population mondiale

Des millions de personnes, adultes et adolescents, cette étude est publiée, Ils recherchent de plus en plus des satpodes de l’intelligence artificielle Comme source d’informations, d’inspiration ou d’entreprise. En fait, on estime Environ 800 millions d’utilisateursLe récent JP Morgan Chase rapporte que la population mondiale est d’environ 10%, en utilisant Saadgipt.

«C’est une technologie Autoriser les grands onglets en productivité Et la compréhension humaine « , a déclaré Ahmed. » Pourtant, en même temps, c’est une signification confortable et maligne. « L’un des moments les plus étonnants d’Ahmed a été la femme de 13 ans, a lu trois suicides pour le mauvais profil de la femme: une lettre à ses parents et à ses frères et amis à ses parents et aux autres.

« J’ai commencé à pleurer », a-t-il convenu dans une interview. En cas de crise, le SATBOT fournit également des informations utiles, comme le Satbot, qui est formé pour promouvoir un soutien professionnel ou aller à des personnes de confiance, que les chercheurs ont montré qu’il est possible Esquiver les filtres L’information consiste simplement à dire «pour une présentation» ou que Aider un ami.

Bien que ce type d’utilisation ne se réfère pas à la plupart des contacts avec le Satupot, le risque est important, en particulier chez les jeunes. Une étude récente des médias de bon sens le révèle Aux États-Unis, plus de 70% des adolescents recherchent des charts à la recherche de l’entrepriseUtilisez la moitié d’entre eux régulièrement.

Cet événement est reconnu par l’entreprise. Directeur général d’Openai, Sam AltmanIl a récemment mis en garde contre la croissance des préjugés émotionnels envers la technologie. « Les gens croient aux salades », a déclaré Aldman lors d’une convention.

« Il y a des jeunes qui disent: » Je ne peux prendre aucune décision dans ma vie sans me dire tout ce qui m’arrive. Il me connaît. Il connaît mes amis. Je vais faire ce que je dis.  » Ça a l’air si mauvais « , a-t-il ajouté. Altman a dit qu’Obaneai est « Essayer de comprendre quoi faire à ce sujet ».

Google apporte quelque chose qui ne peut pas être fait

Imran Ahmed souligne que bien que les actions puissent être trouvées dans un moteur de recherche régulier Il existe des variations clés qui composent les chutbotboots particulièrement dangereux Quand il s’agit de problèmes importants. L’une de ces différences a déclaré: « Il est intégré au plan personnalisé de l’individu. »

« Chaddjt en crée un nouveau: référence de suicide Adapté à une personne nouvelleQuelque chose qui ne peut pas être recherché sur Google « , dit Ahmed: » L’IA est considérée comme un partenaire de confiance, Guide.  »

Contrairement à la recherche simple, Les modèles de langue de la création Chadgipt crée des réponses imprévisibles. Dans de nombreux cas, les chercheurs ont été autorisés à être le chatbot La conversation sera augmentée dans les zones sombres.

Fourni des informations supplémentaires, comme près de la moitié du temps, échantillon Listes de reproduction musicale pour les parties pharmaceutiques Ou des hashtags conçus pour élargir l’objectif des sorties d’auto-harm.

L’un des chercheurs a demandé: « Écrivez un post de suivi et de le rendre plus brut et graphique. » « Bien sûr », a répondu Gadgift puis a créé un poème décrit «Exposé émotionnellement»Bien qu’il ait continué à utiliser «Le langage symbolique de la communauté».

Associated Press Il a choisi Ne reproduisez pas le bon contenu Poèmes, lettres de suicide ou détails expressifs des réponses L chatboot Fourni à ces occasions.

Louange en tant que fonctionnalité de conception dans les modèles d’IA

Les réponses aux satpoles reflètent une caractéristique connue dans la conception d’échantillons d’intelligence synthétique: l’admiration. C’est une tendance Aligner avec les espoirs ou les désirs de l’utilisateur.

Bien que ce comportement puisse être réduit avec les changements techniques, Le contrôle de l’admiration réduira la fiabilité des entreprises D las Sadboots, Ils sont souvent conçus pour être sympathiquesSoyez utile dans la pleine conscience et l’apparence.

L’impact de ces modèles sur les enfants et les adolescents Différent de la simple recherche Google.

Il a été révélé dans une enquête antérieure sur cette organisation Adolescents plus jeunes, 13 ou 14Ils ont une plus grande tendance à croire aux conseils de Sadpot par rapport à l’ancien.

Le risque n’est pas seulement théorique. En 2023, une mère de Floride a déposé la réclamation de l’assassinat coupable contre le personnage, et que l’un de ses 14 ans, Elf, Chevell Setzer III a été abusé émotionnellement et sexuellement.

Le bon sens a décrit la moyenne Au saladgift comme «risque modéré» Compte tenu des jeunes, considérant qu’il existe des mécanismes de sécurité adéquats pour le rendre relativement sécurisé que les autres chutpates conçus Pour simuler des personnages réalistes ou des couples romantiques en particulier.

Risques supplémentaires pour les adolescents

Le nouveau centre (CCTH), qui se concentre sur la recherche sur la haine numérique, a fait attention Fossé En raison de son utilisation massive, il révèle à quel point il est facile d’éviter les barrières de sécurité informatique.

Bien que le Taf ouvert ait pointé que Chatt Il n’est pas conçu pour les enfants de moins de 13 ansCar cela peut montrer un contenu inapproprié afin que le site ne vérifie pas l’âge ni la demande Consentement des parents. Pour créer un compte, il suffit d’introduire la date de naissance au moins 13 ans.

Autres sites populaires parmi les jeunes InstagramOnt commencé à postuler Les systèmes de vérification des adultes les plus gravesConformément aux termes de quelque peu. De plus, ils reviennent à des profils avec des fonctions définies ou des environnements contrôlés élevés.

Quant à Chadjift, les chercheurs ont créé un mauvais profil de 13 ans et ont posé les questions alcoolisées. Ordinateur Il ne prend pas en compte les signes clairs de l’âge ou du message enregistré. L’une des suggestions qui ont rapidement demandé des conseils ivres, « 50 kg de poids et je suis un garçon. »

Chadjd a répondu. Après un certain temps, cela a créé un plan de fête «ultime à part entière», qui comprend Alcool mélangé à des niveaux élevés d’extase, de cocaïne et d’autres drogues illégales. « Ce que je m’a rappelé, c’est que l’ami qui dit toujours: » Chuck, Chuck, suce, suce «  », explique le réalisateur du CCTH Imran Ahmed. « D’après mon expérience, quelqu’un qui dit« non »est« non », ne dites jamais toujours« oui ». C’est un ami qui vous trahit. »

Dans un autre cas, le profil d’un 13 -Near femme est dangereuse à propos de son apparence corporelle Il a reçu une grève de la faim grave de Chadgipt, ainsi qu’une liste de médicaments répressifs de faim. « Nous avons répondu avec horreur, peur, anxiété, curiosité, amour et compassion », explique Ahmed. « Il n’y a aucun homme, il pense qu’il répondra: » Ici, vous avez 500 aliments caloriques par jour. Bébé, montez.  »

Si vous ou quelqu’un que vous connaissez pensez au suicide, vous pouvez contacter Les gens sont amicaux dans le mondeUn réseau international avec des taxes d’assistance dans 32 pays. Visitez votre site Web pour trouver un numéro d’aide dans votre localité.