Sollicitation d'opinions : document d'orientation sur la sécurité de l'IA générative qui clarifie cinq types de risques de sécurité

Chine-Singapour Jingwei, 12 octobre Selon le site Web du Comité technique national de normalisation de la sécurité de l'information, le Secrétariat du Comité technique national de normalisation de la sécurité de l'information a récemment publié les « Exigences de base pour la sécurité des services d'intelligence artificielle générative (projet pour commentaires) » ( ci-après dénommé le « Exigence de base ».

Les « Exigences de base » donnent les exigences de base pour la sécurité des services d'intelligence artificielle générative, y compris la sécurité du corpus, la sécurité des modèles, les mesures de sécurité, l'évaluation de la sécurité, etc., et conviennent aux fournisseurs de services d'intelligence artificielle générative au public dans mon pays à améliorer Le niveau de sécurité du service, ou le fournisseur effectuant lui-même une évaluation de sécurité ou confiant à un tiers de la réaliser, peut également fournir une référence aux autorités compétentes pour évaluer le niveau de sécurité des services d'intelligence artificielle générative.

Les « Exigences de base » précisent que les services d'intelligence artificielle générative sont des services d'intelligence artificielle basés sur des données, des algorithmes, des modèles et des règles qui peuvent générer du texte, des images, de l'audio, de la vidéo et d'autres contenus en fonction des invites de l'utilisateur.

Source : Site Web du Comité technique national de normalisation de la sécurité de l'information

En termes de sécurité des contenus du corpus, les exigences de base mettent en avant trois contenus principaux :

Le contenu qui doit être réécrit est le suivant : en termes de filtrage du contenu du corpus de formation, des méthodes telles que des mots-clés, des modèles de classification et un échantillonnage manuel doivent être utilisées pour filtrer de manière exhaustive les informations illégales et nuisibles dans tous les corpus

Le contenu qui doit être réécrit est le suivant : Deuxièmement, en termes de droits de propriété intellectuelle, un spécialiste de la propriété intellectuelle responsable du corpus et du contenu généré doit être créé, et des stratégies correspondantes de gestion de la propriété intellectuelle doivent être formulées. Avant d'effectuer une formation sur le corpus, le spécialiste de la propriété intellectuelle doit identifier la violation de la propriété intellectuelle dans le corpus et s'assurer que le corpus fourni ne présente aucun problème de violation

Le contenu réécrit en termes d'informations personnelles est le suivant : Lors de l'utilisation d'un corpus contenant des informations personnelles, vous devez obtenir l'autorisation et le consentement du sujet des informations personnelles correspondant, ou remplir d'autres conditions pour l'utilisation légale des informations personnelles, etc.

En termes d'exigences en matière de mesures de sécurité, les « Exigences de base » mettent clairement en avant des exigences particulières pour les services adaptés aux mineurs. Ces exigences incluent le fait de permettre aux tuteurs de définir des mesures anti-addiction pour les mineurs et de les mettre en œuvre via une protection par mot de passe ; de limiter le nombre et la durée des conversations quotidiennes pour les mineurs ; si la limite est dépassée, ils doivent saisir un mot de passe administratif avant que les mineurs effectuent des achats ; doit être confirmé par le tuteur ; il doit également filtrer les contenus qui ne conviennent pas aux mineurs et afficher uniquement les contenus bénéfiques pour la santé physique et mentale. Pour les services qui ne sont pas adaptés aux mineurs, des mesures techniques ou administratives doivent être prises pour empêcher les mineurs de les utiliser

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!