Nicht lange nachdem der Roboter mit künstlicher Intelligenz ChatGPT populär wurde, wurden Verwaltungsvorschriften eingeführt

ChatGPT, der Chatbot für künstliche Intelligenz, der letzte Woche populär wurde, hat den Trend der Frage und Antwort mit künstlicher Intelligenz ausgelöst, und die frühere „veraltete Internet-Prominenz“ Deep-Synthese-Technologie hat die Technologie und das Benutzererlebnis verbessert und allen geholfen viel Spaß. Wenig Frische.

Aber bei Fragen und Antworten der künstlichen Intelligenz ist es manchmal schwierig, zwischen wahr und falsch zu unterscheiden, und manchmal geraten sie in ethische Dilemmata. Die Entwickler von ChatGPT haben erklärt, dass es bei ChatGPT Probleme wie Antworten gibt, die vernünftig erscheinen, aber falsch sind, Antworten, die zu lang sind, das Erraten von Benutzerabsichten bei der Beantwortung mehrdeutiger Fragen und das Reagieren auf schädliche Anweisungen.

Deepfake-Technologie wird von einigen skrupellosen Menschen genutzt, um illegale und schädliche Informationen zu produzieren, zu kopieren, zu veröffentlichen und zu verbreiten und sogar die Identität anderer nachzuahmen, um etwas zu begehen Betrug. . Der häufigste Missbrauch der Deepfake-Technologie ist die Videofälschung, allgemein bekannt als „Head-Swap-Video“, bei der das Video des imitierenden Objekts Bild für Bild in eine große Anzahl von Bildern umgewandelt und dann das Gesicht des imitierenden Zielobjekts durch das Ziel ersetzt wird das Gesicht eines Objekts und synthetisiert es zu einem gefälschten Video. Die Second-Depth-Synthese-Technologie kann diesen Prozess automatisieren und die Schwelle für illegale Straftaten weiter senken.

Kürzlich haben die Cyberspace Administration of China und drei weitere Abteilungen die „Regulations on the Management of Deep Synthesis of Internet Information Services“ herausgegeben, um Verwaltungsvorschriften für Deep Synthesis-Technologien und -Dienste bereitzustellen.

Nach Nachrichten von China Netcom vom 11. Dezember haben die Cyberspace Administration of China, das Ministerium für Industrie und Informationstechnologie und das Ministerium für öffentliche Sicherheit kürzlich gemeinsam die „Vorschriften zur detaillierten Synthese“ herausgegeben Verwaltung von Internet-Informationsdiensten“ (im Folgenden als „Verordnung“ bezeichnet), gültig ab 10. Januar 2023.

In den „Vorschriften“ wurde erwähnt, dass die Aufsichts- und Verwaltungseinheit für Deep-Synthetic-Services die nationale Cyberspace-Abteilung ist, die für die Koordinierung der Governance und der damit verbundenen Überwachung und Verwaltung von Deep-Synthetic-Services im ganzen Land verantwortlich ist. Die dem Staatsrat unterstellte Telekommunikationsabteilung und die Abteilung für öffentliche Sicherheit sind gemäß ihren jeweiligen Zuständigkeiten für die Überwachung und Verwaltung tiefgreifender synthetischer Dienste verantwortlich.

Die „Regulierungen“ stellen detaillierte Anforderungen an Deep-Synthese-Dienstleister und technische Unterstützer. Anbieter von Deep-Synthetic-Diensten müssen die Hauptverantwortung für die Informationssicherheit umsetzen, Verwaltungsaufgaben in Übereinstimmung mit Gesetzen und Verträgen wahrnehmen, die Verwaltung und Überprüfung von Inhalten stärken und gleichzeitig technische Unterstützer und Benutzer von Deep-Synthetic-Services auf auffällige Weise daran erinnern, dies zu übernehmen Informationssicherheitspflichten.

Darüber hinaus sollten Deep-Synthese-Dienstleister und technische Unterstützer, die Funktionen zur Bearbeitung von Gesichts-, Sprach- und anderen biometrischen Informationen bereitstellen, Benutzer von Deep-Synthese-Diensten auffordern, die bearbeiteten Personen in Übereinstimmung mit dem Gesetz zu benachrichtigen und ihre Zustimmung individuell einzuholen .

Deep-Synthesis-Dienstleister, die intelligentes Dialogschreiben, synthetisierte menschliche Stimmen, Gesichtsgenerierung und -ersatz, immersive Simulationsszenen und andere Deep-Synthetic-Dienste anbieten, die zu Verwirrung oder Missverständnissen in der Öffentlichkeit führen können, müssen Dienste vor der Generierung von oder bereitstellen Die sinnvollen Orte und Bereiche der bearbeiteten Informationsinhalte sind deutlich gekennzeichnet, um die Öffentlichkeit an die ausführliche Synthese zu erinnern.

Wenn die Cybersicherheits- und Informationsabteilungen sowie die zuständigen Behörden feststellen, dass Deep-Synthesis-Dienste relativ große Informationssicherheitsrisiken bergen, können sie Deep-Synthesis-Dienstleister und technische Unterstützer auffordern, Informationsaktualisierungen, Benutzerkontoregistrierung usw. auszusetzen Weitere damit verbundene Dienstleistungen und sonstige Maßnahmen. Nr. Kapitel 1 Allgemeine Bestimmungen# 🎜🎜#

Artikel 1 Um die umfassende und umfassende Verwaltung von Internet-Informationsdiensten zu stärken, die sozialistischen Grundwerte zu fördern, die nationale Sicherheit und die sozialen öffentlichen Interessen zu wahren und die legitimen Rechte und Interessen zu schützen von Bürgern, juristischen Personen und anderen Organisationen gemäß dem Sicherheitsgesetz „Netzwerk der Volksrepublik China“, dem Datenschutzgesetz der Volksrepublik China, dem Gesetz zum Schutz personenbezogener Daten der Volksrepublik China und dem Internetinformationsdienstmanagement Maßnahmen und sonstige Gesetze und Verwaltungsvorschriften formulieren diese Regelungen.

Artikel 2 Die Anwendung der Deep-Synthese-Technologie zur Bereitstellung von Internet-Informationsdiensten (im Folgenden als Deep-Synthese-Dienste bezeichnet) im Hoheitsgebiet der Volksrepublik China gilt für diese Vorschriften. Sofern Gesetze und Verwaltungsvorschriften etwas anderes vorsehen, haben diese Bestimmungen Vorrang.

Artikel 3 Die nationale Abteilung für Cybersicherheit und Informatisierung ist für die landesweite Koordinierung der Governance und der damit verbundenen Überwachung und Verwaltung von Deep-Synthetic-Diensten verantwortlich. Die dem Staatsrat unterstellte Telekommunikationsabteilung und die Abteilung für öffentliche Sicherheit sind gemäß ihren jeweiligen Zuständigkeiten für die Überwachung und Verwaltung tiefgreifender synthetischer Dienste verantwortlich.

Lokale Cyberspace-Abteilungen sind für die Koordinierung der Governance und der damit verbundenen Überwachung und Verwaltung von Deep-Synthetic-Services in ihren jeweiligen Verwaltungsregionen verantwortlich. Lokale Telekommunikationsbehörden und öffentliche Sicherheitsbehörden sind entsprechend ihren jeweiligen Zuständigkeiten für die Überwachung und Verwaltung von Deep-Synthetic-Diensten in ihren jeweiligen Verwaltungsregionen verantwortlich.

Artikel 4: Die Bereitstellung von Deep-Synthetic-Diensten muss Gesetze und Vorschriften einhalten, soziale Moral und Ethik respektieren, sich an die richtige politische Richtung, öffentliche Meinungsorientierung und Werteorientierung halten und Deep-Synthetic-Dienste fördern Gut.

Artikel 5 ermutigt relevante Branchenorganisationen, die Selbstdisziplin der Branche zu stärken, Industriestandards, Branchenrichtlinien und Selbstdisziplin-Managementsysteme zu etablieren und zu verbessern und Anbieter von Deep-Synthese-Diensten und technischen Unterstützern aufzufordern und anzuleiten, zu formulieren und Verbesserung der Geschäftsvorgaben, gesetzeskonforme Geschäftsabwicklung und Übernahme der gesellschaftlichen Aufsicht.

Kapitel 2 Allgemeine Bestimmungen

Artikel 6: Keine Organisation oder Einzelperson darf Deep-Synthese-Dienste nutzen, um Informationen zu produzieren, zu kopieren, zu veröffentlichen oder zu verbreiten, die durch Gesetze und Verwaltungsvorschriften verboten sind, und darf Deep-Synthese-Dienste nicht nutzen, um die nationale Sicherheit und Interessen zu gefährden. oder das nationale Ansehen schädigen, soziale und öffentliche Interessen verletzen, die wirtschaftliche und soziale Ordnung stören, die legitimen Rechte und Interessen anderer verletzen und andere Aktivitäten, die durch Gesetze und Verwaltungsvorschriften verboten sind.

Anbietern und Nutzern von Deep-Synthetic-Diensten ist es nicht gestattet, Deep-Synthetic-Dienste zu nutzen, um falsche Nachrichten zu produzieren, zu kopieren, zu veröffentlichen oder zu verbreiten. Wenn Nachrichteninformationen, die auf der Grundlage von Deep-Synthesis-Diensten erstellt und veröffentlicht werden, nachgedruckt werden, müssen die von Internet-Nachrichteninformationsquelleneinheiten veröffentlichten Nachrichteninformationen in Übereinstimmung mit dem Gesetz nachgedruckt werden.

Artikel 7 Anbieter von Deep-Synthetic-Diensten sollten die Hauptaufgaben der Informationssicherheit umsetzen, Benutzerregistrierung, Überprüfung von Algorithmusmechanismen, Überprüfung der Technologieethik, Überprüfung der Informationsfreigabe, Datensicherheit, Schutz personenbezogener Daten, Betrugsbekämpfung im Telekommunikationsnetz und Notfallmaßnahmen einrichten und verbessern usw. Managementsystem mit sicheren und kontrollierbaren technischen Schutzmaßnahmen.

Artikel 8 Anbieter von Deep-Synthese-Diensten sollten Verwaltungsregeln und Plattformkonventionen formulieren und offenlegen, Servicevereinbarungen verbessern, Verwaltungsaufgaben in Übereinstimmung mit Gesetzen und Verträgen wahrnehmen und Unterstützer und Benutzer von Deep-Synthese-Diensttechnologien in auffälliger Weise an ihre Informationssicherheit erinnern Verpflichtungen.

Artikel 9 Anbieter von Deep-Synthese-Diensten authentifizieren die tatsächlichen Identitätsinformationen von Benutzern von Deep-Synthese-Diensten gemäß dem Gesetz auf der Grundlage von Mobiltelefonnummern, ID-Nummern, einheitlichen Sozialkreditcodes oder nationalen Netzwerkidentitätsauthentifizierungsdiensten und dürfen keine öffentlichen Dienste bereitstellen Alle Informationen an nicht identifizierte Benutzer, die eine echte Identitätsauthentifizierung durchführen, stellen Informationsveröffentlichungsdienste bereit.

Artikel 10 Anbieter von Deep-Synthetic-Diensten sollten das Deep-Synthetic-Content-Management stärken und technische oder manuelle Methoden anwenden, um die Eingabedaten und Syntheseergebnisse von Deep-Synthetic-Service-Nutzern zu überprüfen.

Anbieter von Deep-Synthesis-Diensten sollten Funktionsbibliotheken zur Identifizierung illegaler und schädlicher Informationen einrichten und verbessern, Lagerstandards, Regeln und Verfahren verbessern sowie relevante Netzwerkprotokolle aufzeichnen und aufbewahren.

Wenn Deep-Synthesis-Dienstleister illegale und schädliche Informationen entdecken, müssen sie in Übereinstimmung mit dem Gesetz Maßnahmen ergreifen, entsprechende Aufzeichnungen führen und den Cybersicherheits- und Informationsabteilungen sowie den zuständigen Behörden rechtzeitig Bericht erstatten und Warnungen und Einschränkungen erlassen Funktionen für relevante Benutzer von Deep-Synthese-Diensten gemäß Gesetz und Verträgen, Aussetzung von Diensten, Schließung von Konten und andere Entsorgungsmaßnahmen.

Artikel 11 Anbieter von Deep-Synthese-Diensten sollten einen Mechanismus zur Widerlegung von Gerüchten einrichten und verbessern. Wenn sie feststellen, dass Deep-Synthese-Dienste zur Erstellung, Vervielfältigung, Veröffentlichung oder Verbreitung falscher Informationen genutzt werden, sollten sie rechtzeitig Maßnahmen ergreifen, um Gerüchte zu widerlegen und relevante Aufzeichnungen aufzubewahren und der Cybersicherheits- und Informationsabteilung sowie den zuständigen Behörden Bericht erstatten.

Artikel 12 Anbieter von Deep-Synthese-Diensten sollten bequeme Eingänge für Benutzerbeschwerden sowie öffentliche Beschwerden und Berichte einrichten, die Bearbeitungsverfahren und Rückmeldungsfristen veröffentlichen und die Ergebnisse umgehend annehmen, verarbeiten und rückmelden.

Artikel 13 Internetanwendungsspeicher und andere Anwendungsverteilungsplattformen sollten Sicherheitsmanagementaufgaben wie Auflistungsüberprüfung, tägliche Verwaltung, Notfallreaktion usw. umsetzen und die Sicherheitsbewertung und Einreichung von Deep-Synthetic-Anträgen überprüfen; bestraft werden. Entsorgungsmaßnahmen wie Delisting, Warnung, Diensteinstellung oder Entfernung sollten umgehend ergriffen werden.

Kapitel 3 Daten- und technische Managementspezifikationen

Artikel 14 Anbieter von Deep-Synthese-Diensten und technische Unterstützer sollten das Trainingsdatenmanagement stärken und die erforderlichen Maßnahmen ergreifen, um die Sicherheit von Trainingsdaten zu gewährleisten. Wenn Trainingsdaten personenbezogene Daten enthalten, sollte der Schutz personenbezogener Daten beachtet werden Vorschriften.

Wenn Anbieter von Deep-Synthetic-Diensten und technische Unterstützer Funktionen zur Bearbeitung von Gesichts-, Sprach- und anderen biometrischen Informationen bereitstellen, sollten sie Benutzer des Deep-Synthetic-Dienstes auffordern, die zu bearbeitenden Personen in Übereinstimmung mit dem Gesetz zu benachrichtigen und ihre gesonderte Zustimmung einzuholen.

Artikel 15 Anbieter von Deep-Synthese-Diensten und technische Unterstützer sollten das technische Management stärken und die Mechanismen der generierten Synthesealgorithmen regelmäßig überprüfen, bewerten und verifizieren.

Wenn Deep-Synthesis-Dienstleister und technische Unterstützer Modelle, Vorlagen und andere Tools mit den folgenden Funktionen bereitstellen, müssen sie Sicherheitsbewertungen selbst durchführen oder professionelle Institutionen mit der Durchführung von Sicherheitsbewertungen in Übereinstimmung mit dem Gesetz beauftragen:

(1) Generieren oder Bearbeiten biometrische Informationen wie Gesichts- und Stimminformationen;

(2) Generieren oder Bearbeiten nichtbiometrischer Informationen wie spezielle Objekte und Szenen, die die nationale Sicherheit, das nationale Image, nationale Interessen und soziale öffentliche Interessen betreffen können.

Artikel 16 Anbieter von Deep-Synthese-Diensten sollten technische Maßnahmen ergreifen, um den durch die Nutzung ihrer Dienste generierten oder bearbeiteten Informationsinhalten eine Identifizierung hinzuzufügen, die sich nicht auf die Benutzernutzung auswirkt, und Protokollinformationen in Übereinstimmung mit Gesetzen, Verwaltungsvorschriften und relevanten nationalen Vorschriften speichern.

Artikel 17 Wenn ein Anbieter von Deep-Synthetic-Diensten die folgenden Deep-Synthetic-Dienste bereitstellt, die zu Verwirrung oder Missverständnissen in der Öffentlichkeit führen können, muss er den generierten oder bearbeiteten Informationsinhalt an einem angemessenen Ort und in einem angemessenen Bereich deutlich kennzeichnen, um die Öffentlichkeit an die Situation der Deep-Synthetic zu erinnern :

(1) Intelligenter Dialog, intelligentes Schreiben und andere Dienste, die natürliche Personen zur Texterstellung oder -bearbeitung simulieren

(2) Bearbeitungsdienste, die Sprache wie synthetische menschliche Stimmen oder Imitationen erzeugen oder persönliche Identitätsmerkmale erheblich verändern; (3) Gesichtsgenerierung, Gesichtsersatz, Gesichtsmanipulation, Haltungsmanipulation und andere Dienste zur Generierung oder Bearbeitung von Charakterbildern und -videos, die die persönlichen Identitätsmerkmale erheblich verändern

(4) Dienste zur Generierung oder Bearbeitung immersiver Simulationsszenen

(5) Sonstige Dienste, die die Funktion haben, Informationsinhalte zu erzeugen oder wesentlich zu verändern.

Wenn ein Anbieter von Deep-Synthesis-Diensten andere als die im vorstehenden Absatz genannten Deep-Synthesis-Dienste bereitstellt, muss er eine Funktion zur auffälligen Identifizierung bereitstellen und Benutzer des Deep-Synthetic-Dienstes zur Durchführung einer auffälligen Identifizierung auffordern.

Artikel 18 Keine Organisation oder Einzelperson darf technische Mittel einsetzen, um die in den Artikeln 16 und 17 dieser Verordnung genannten tiefsynthetischen Logos zu löschen, zu manipulieren oder zu verbergen.

Kapitel 4 Aufsicht, Inspektion und rechtliche Verantwortlichkeiten

Artikel 19 Anbieter detaillierter synthetischer Dienste mit Merkmalen der öffentlichen Meinung oder Fähigkeiten zur sozialen Mobilisierung führen Registrierungs-, Änderungs- und Löschregistrierungsverfahren gemäß den „Internet Information Service Algorithm Recommendation Management Regulations“ durch ".

Technische Unterstützer von Deep-Synthesis-Diensten müssen die Registrierungs-, Änderungs- und Löschregistrierungsverfahren gemäß den Bestimmungen des vorstehenden Absatzes durchführen.

Deep-Synthesis-Dienstleister und technische Supporter, die die Registrierung abgeschlossen haben, sollten ihre Registrierungsnummer angeben und an prominenter Stelle auf den Websites, Anwendungen usw., die externe Dienste anbieten, einen öffentlichen Informationslink bereitstellen.

Artikel 20: Anbieter von Deep-Synthesis-Diensten, die neue Produkte, neue Anwendungen oder neue Funktionen entwickeln und auf den Markt bringen, die über öffentliche Meinungsmerkmale oder soziale Mobilisierungsfähigkeiten verfügen, müssen Sicherheitsbewertungen gemäß den einschlägigen nationalen Vorschriften durchführen.

Artikel 21: Die Abteilungen für Cybersicherheit und Informatisierung, Telekommunikationsbehörden und Abteilungen für öffentliche Sicherheit führen im Einklang mit ihren Aufgaben die Überwachung und Inspektion von Deep-Synthetic-Diensten durch. Anbieter von Deep-Synthesis-Diensten und technische Unterstützer müssen in Übereinstimmung mit dem Gesetz zusammenarbeiten und die erforderliche technische, Daten- und sonstige Unterstützung und Hilfe leisten.

Wenn die Cybersicherheits- und Informatisierungsabteilungen sowie die zuständigen Behörden feststellen, dass Deep-Synthetic-Services erhebliche Risiken für die Informationssicherheit bergen, können sie von Deep-Synthetic-Serviceanbietern und technischen Supportern verlangen, Maßnahmen zu ergreifen, wie z. B. die Aussetzung von Informationsaktualisierungen, die Registrierung von Benutzerkonten oder andere damit verbundene Dienste im Einklang mit ihren Pflichten und Gesetzen. Anbieter von Deep-Synthese-Diensten und technische Unterstützer sollten bei Bedarf Maßnahmen ergreifen, um Abhilfe zu schaffen und versteckte Gefahren zu beseitigen.

Artikel 22 Wenn Deep-Synthesis-Dienstleister und technische Unterstützer gegen diese Vorschriften verstoßen, werden sie gemäß den einschlägigen Gesetzen und Verwaltungsvorschriften bestraft. Wenn schwerwiegende Folgen auftreten, werden sie gemäß dem Gesetz streng bestraft.

Wenn es sich um einen Verstoß gegen das öffentliche Sicherheitsmanagement handelt, werden die öffentlichen Sicherheitsorgane gemäß dem Gesetz Strafen für das öffentliche Sicherheitsmanagement verhängen. Wenn es sich um eine Straftat handelt, wird die strafrechtliche Verantwortung gemäß dem Gesetz verfolgt. Kapitel 5: Ergänzende Bestimmungen virtuelle Technologien für Netzwerkinformationen wie Szenen, einschließlich, aber nicht beschränkt auf:

(1) Kapitelgenerierung, Textstilkonvertierung, Frage- und Antwortdialog und andere Technologien zum Generieren oder Bearbeiten von Textinhalten

(2) Text-zu- Sprach-, Sprachkonvertierungs- und Sprachattributbearbeitungstechnologien zum Generieren oder Bearbeiten von Sprachinhalten

(3) Musikgenerierung, Szenentonbearbeitung und andere Technologien zum Generieren oder Bearbeiten von Nicht-Sprachinhalten

(4) Gesichtsgenerierung, Gesichtsersatz; , Bearbeitung von Charakterattributen, Gesichtsmanipulation, Gestenmanipulation und andere Technologien, die biometrische Merkmale in Bildern und Videoinhalten generieren oder bearbeiten

(5) Bilderzeugung, Bildverbesserung, Bildreparatur und andere Technologien, die nichtbiologische Merkmale generieren oder bearbeiten; Bilder und Videoinhalte;

(6) Dreidimensionale Rekonstruktion, digitale Simulation und andere Technologien zur Generierung oder Bearbeitung digitaler Charaktere und virtueller Szenen.

Deep-Synthese-Dienstleister beziehen sich auf Organisationen und Einzelpersonen, die Deep-Synthese-Dienste anbieten.

Technische Unterstützer von Deep-Synthetic-Services beziehen sich auf Organisationen und Einzelpersonen, die technischen Support für Deep-Synthetic-Services anbieten.

Benutzer von Deep-Synthetic-Services beziehen sich auf Organisationen und Einzelpersonen, die Deep-Synthetic-Services nutzen, um Informationen zu produzieren, zu kopieren, zu veröffentlichen und zu verbreiten.

Trainingsdaten beziehen sich auf den Annotations- oder Benchmark-Datensatz, der zum Trainieren von Modellen für maschinelles Lernen verwendet wird.

Immersive immersive Szenen beziehen sich auf äußerst realistische virtuelle Szenen, die mithilfe von Deep-Synthesis-Technologie generiert oder bearbeitet werden, damit die Teilnehmer sie erleben oder mit ihnen interagieren können.

Artikel 24 Deep-Synthesis-Dienstleister und technische Unterstützer, die Online-Publikationsdienste, Online-Kulturaktivitäten und Online-Audiovisuelle Programmdienste betreiben, müssen außerdem die Vorschriften der Behörden für Presse und Veröffentlichungen, Kultur und Tourismus sowie Radio und Fernsehen einhalten.

Artikel 25 Diese Regelungen treten am 10. Januar 2023 in Kraft.

Das obige ist der detaillierte Inhalt vonNicht lange nachdem der Roboter mit künstlicher Intelligenz ChatGPT populär wurde, wurden Verwaltungsvorschriften eingeführt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!