Les « Exigences de sécurité de base pour les services d'intelligence artificielle générative » sont ouvertes aux commentaires

IT House a rapporté le 12 octobre que selon le site officiel du Comité technique national de normalisation de la sécurité de l'information, le document technique « Exigences de base pour la sécurité des services d'intelligence artificielle générative » (ci-après dénommés les « Exigences ») organisé par le comité a été formé le 11 octobre Le projet de document technique est maintenant ouvert au public pour commentaires. Si vous avez des commentaires ou des suggestions, veuillez nous faire part de vos commentaires avant minuit le 25 octobre.

Les « Exigences » fournissent les exigences de sécurité de base pour les services d'intelligence artificielle générative, y compris la sécurité du corpus, la sécurité des modèles, les mesures de sécurité, l'évaluation de la sécurité, etc. Applicable aux fournisseurs de services d'intelligence artificielle générative au public de mon pays pour améliorer le service niveau de sécurité , ou le fournisseur effectue lui-même une évaluation de sécurité ou confie à un tiers la réalisation d'une évaluation de sécurité. Il peut également être prévu que les autorités compétentes évaluent le niveau de sécurité des services d'intelligence artificielle générative afin de réécrire le contenu. sans changer le sens original, la langue doit être réécrite en chinois.

Source de l'image Pexels

IT House organise certaines exigences comme suit :

• Établissez une liste noire des sources de corpus et n'utilisez pas les données des sources de la liste noire pour la formation.
• Une évaluation de sécurité doit être menée sur chaque corpus source. Si le contenu d'un seul corpus source contient plus de 5 % d'informations illégales et préjudiciables, il doit être ajouté à la liste noire.
• Lorsque vous utilisez un corpus contenant des informations personnelles, vous devez obtenir l'autorisation et le consentement du sujet des informations personnelles correspondant, ou remplir d'autres conditions pour l'utilisation légale des informations personnelles.
• Lors de l'utilisation d'un corpus contenant des informations biométriques telles que des visages, une autorisation et un consentement écrits de la personne concernée doivent être obtenus, ou d'autres conditions pour l'utilisation légale des informations biométriques doivent être remplies.
• Les annotateurs doivent être évalués par eux-mêmes, ceux qui réussissent le test doivent recevoir des qualifications d'annotation, et il devrait y avoir un mécanisme de recyclage et d'évaluation réguliers, ainsi qu'un mécanisme pour suspendre ou annuler les qualifications d'annotation si nécessaire.
• Pendant le processus de formation, la sécurité du contenu généré doit être l'une des principales considérations pour évaluer la qualité des résultats générés.
• Si les services sont fournis via une interface interactive, les informations suivantes doivent être divulguées au public dans un endroit bien en vue tel que la page d'accueil du site Web :

Le contenu qui doit être réécrit est : -Personnes, occasions, objectifs et autres informations concernés

-Utilisation d'un modèle de base tiers.

• La nécessité, l'applicabilité et la sécurité de l'application de l'intelligence artificielle générative dans divers domaines relevant du champ d'application du service doivent être pleinement démontrées.

Selon des rapports précédents d'IT House, sept départements, dont l'Administration du cyberespace de Chine, la Commission nationale du développement et de la réforme, le ministère de l'Éducation, le ministère de la Science et de la Technologie, le ministère de l'Industrie et des Technologies de l'information, le ministère de la Sécurité publique. , et l'Administration d'État de la radio et de la télévision a publié le 10 juillet les « Mesures provisoires pour la gestion des services d'intelligence artificielle générative ». , cette mesure sera mise en œuvre le 15 août

Les « Mesures » stipulent que personne ne doit utiliser les avantages des algorithmes, des données, des plateformes, etc. pour mettre en œuvre un monopole et une concurrence déloyale ; les droits à la réputation, les droits à l'honneur, les droits à la vie privée et les droits à l'information personnelle ; des mesures efficaces doivent être prises pour améliorer la transparence des services d'intelligence artificielle générative et améliorer l'exactitude et la fiabilité du contenu généré.

Afin de réécrire le contenu sans changer le sens original, la langue doit être réécrite en chinois

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!