Les nouveaux contrôles parentaux et les garanties de santé mentale pour Chatgpt visent à rendre l'IA plus sûr pour les adolescents.

• Openai déploie les commandes parentales pour chatgpt
• Les parents peuvent désormais se connecter avec les comptes de leurs adolescents, limiter les fonctionnalités et obtenir des alertes si une détresse émotionnelle est détectée
• Les conversations à haut risque seront gérées par des modèles spécialement réglés formés pour soutenir les utilisateurs en crise

OpenAI lance une suite d'améliorations de sécurité pour Chatgpt visant à mieux protéger les utilisateurs adolescents et les individus éprouvant des difficultés émotionnelles. La société a révélé de nouveaux outils de supervision parentale qui permettent aux parents de relier leurs comptes à ceux de leur adolescence (âgés de 13 ans et plus). Ces outils permettront aux soignants de fixer des limites d'utilisation et de recevoir des notifications instantanées si l'IA identifie les signes potentiels de dépression, d'anxiété ou de crise émotionnelle dans une conversation.

Ce mouvement indique la reconnaissance de l'Openai que les adolescents utilisent activement le chatppt - souvent comme un confident ou un débouché émotionnel. Bien qu'il n'ait pas été explicitement déclaré, la mise à jour semble être en partie influencée par des cas récents et largement publiés où les familles ont blâmé les chatbots d'IA pour avoir contribué aux crises en santé mentale, y compris les suicides.

Le déploiement commencera dans les prochaines semaines. Une fois qu'un parent relie son compte, il peut contrôler si l'historique du chat est enregistré ou si la fonction de mémoire de l'IA est active. Les paramètres par défaut incluront des filtres de contenu adaptés à l'âge. Les parents ne seront alertés que lorsque le système détecte de graves préoccupations - l'intimité en influence est maintenue au quotidien, tout en permettant une intervention pendant les moments critiques.

"Dans nos efforts continus pour rendre le chatppt aussi favorable et sûr que possible, nous avons appris que les gens se tournent souvent vers elle lors de luttes profondément personnelles", a expliqué Openai dans un récent article de blog. «C'est pourquoi nous affinons continuellement la façon dont nos modèles détectent et réagissent à la détresse émotionnelle - avec des conseils d'experts de premier plan.»

Modèles spécialisés pour des conversations sensibles

Pour les adolescents et les adultes, OpenAI redirigera désormais les conversations impliquant des défis de santé mentale ou des pensées suicidaires vers une version dédiée de son modèle d'IA. Cette variante utilise une technique connue sous le nom d' alignement délibératif pour réagir plus attentivement, éviter les influences nocives et rester fermement dans les protocoles de sécurité, même sous des invites manipulatrices ou à haute pression.

Pour soutenir ce système, OpenAI a formé le Conseil expert sur le bien-être et l'IA et le Global Physician Network , une coalition de plus de 250 professionnels de la santé spécialisés dans la santé mentale, la dépendance et le développement des adolescents. Ces experts aideront à définir comment l'IA identifie la détresse, façonne les réponses compatissantes et détermine quand une intervention du monde réel peut être nécessaire.

Alors que les préoccupations parentales se sont traditionnellement concentrées sur le temps d'écran et le contenu en ligne, l'IA introduit une nouvelle dimension: la nature des interactions qui se produisent derrière l'écran. Lorsqu'un adolescent confie dans une IA qui imite l'empathie et la compréhension - malgré le fait d'être du code - il brouille les lignes émotionnelles et soulève de nouveaux risques.

Jusqu'à présent, les mesures de sécurité de l'IA ont été largement réactives. Ces mises à jour marquent un changement vers la prévention des méfaits proactifs. L'espoir est qu'au lieu d'attendre qu'une crise dégénère dans un message terrible ou un plaidoyer désespéré de l'IA à un parent, la détection précoce peut rediriger doucement quelqu'un en détresse vers le soutien - avant qu'il soit trop tard. Cela peut sembler intrusif pour certains, mais si cela aide à retirer quelqu'un du bord, l'inconfort peut en valoir la peine.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!