Mit umfassender Abdeckung von Werten und Datenschutz plant die Cyberspace Administration of China, „Regeln' für generative KI aufzustellen

Am 11. April hat die Cyberspace Administration of China (im Folgenden als Cyberspace Administration of China bezeichnet) die „Maßnahmen für das Management generativer künstlicher Intelligenzdienste (Entwurf für Kommentare)“ entworfen und veröffentlicht und eine einmonatige Einholung von Meinungen gestartet aus der Öffentlichkeit.

Diese Managementmaßnahmen (Entwurf für Kommentare) umfassen insgesamt 21 Artikel. Der Anwendungsbereich umfasst sowohl die Unternehmen, die generative künstliche Intelligenzdienste bereitstellen, als auch die Organisationen und Einzelpersonen, die diese Dienste nutzen. Die Managementmaßnahmen umfassen generative künstliche Intelligenzdienste, die Wertorientierung von Ausgabeinhalten künstlicher Intelligenz, die Schulungsgrundsätze von Dienstleistern, den Schutz der Privatsphäre/geistiger Eigentumsrechte und anderer Rechte usw.

Das Aufkommen von GPT-ähnlichen generativen großen Modellen und Produkten in natürlicher Sprache hat es der Öffentlichkeit nicht nur ermöglicht, die sprunghaften Grenzen der künstlichen Intelligenz zu erleben, sondern auch Sicherheitsrisiken aufgedeckt, darunter die Generierung voreingenommener und diskriminierender Inhalte, Datenlecks und Datenschutz Verstöße, KI-Betrug und andere Probleme. Weltweit ist die Regulierung künstlicher Intelligenz in verschiedenen Ländern allmählich zu einem Trend geworden.

Sobald in China die „Generative Artificial Intelligence Service Management Measures“ verkündet werden, können inländische große Modelle und Produktanbieter generativer KI nicht mehr in Unordnung „gerollt“ werden, und Anwender werden auch einen standardisierten Kreis haben, wenn sie generative KI nutzen.

1. Richten Sie „Sperrbereiche“ für generierte Inhalte ein

„Es gelten diejenigen, die Produkte der generativen künstlichen Intelligenz entwickeln und nutzen, um Dienstleistungen für die Öffentlichkeit auf dem Territorium der Volksrepublik China bereitzustellen.

Der Begriff „generative künstliche Intelligenz“. „Intelligenz“ bezieht sich in diesen Maßnahmen auf Technologie, die Text, Bilder, Töne, Videos, Codes und andere Inhalte auf der Grundlage von Algorithmen, Modellen und Regeln generiert.“

Am 11. April veröffentlichte die Cyberspace Administration of China den „Generative Artificial Intelligence Service“. Managementmaßnahmen (Entwurf zur Kommentierung)“ (im Folgenden als „Maßnahmen“ bezeichnet) erläutert in Artikel 2 die anwendbaren Themen der „Maßnahmen“ und die Definition von „generativer künstlicher Intelligenz“.

Nach dem Inhalt dieses Artikels zu urteilen, fallen Unternehmen wie Baidu, Alibaba, Tencent und Huawei, die öffentlich erklärt haben, dass sie über generative große Modelle und Produkte verfügen, in den Geltungsbereich der „Maßnahmen“, wenn sie den Benutzern Dienste anbieten Auch in China müssen Nutzer die Bestimmungen der Maßnahmen einhalten, wenn sie relevante Produkte und Dienstleistungen nutzen.

Die „Maßnahmen“ betonen auch, dass der Staat unabhängige Innovation, Förderung und Anwendung sowie internationale Zusammenarbeit von Basistechnologien wie Algorithmen und Frameworks für künstliche Intelligenz unterstützt und den vorrangigen Einsatz sicherer und vertrauenswürdiger Software, Tools, Computer- und Datenressourcen fördert .

Unter dieser Prämisse grenzen die „Maßnahmen“ „Sperrbereiche“ für Anbieter von Produkten oder Dienstleistungen generativer künstlicher Intelligenz ab, einschließlich generierter Inhalte und Grundprinzipien der Forschung und Entwicklung.

Inhaltlich verlangen die „Maßnahmen“: Mithilfe generativer künstlicher Intelligenz generierte Inhalte sollen die sozialistischen Grundwerte widerspiegeln und dürfen keine Inhalte enthalten, die die Staatsmacht untergraben, das sozialistische System stürzen, zur Sezession aufstacheln, die nationale Einheit untergraben, fördern Terrorismus, Extremismusdoktrin, Förderung von ethnischem Hass, ethnischer Diskriminierung, Gewalt, obszönen pornografischen Informationen, falschen Informationen und Inhalten, die die wirtschaftliche und soziale Ordnung stören können, sollten wahr und genau sein, und es sollten Maßnahmen zur Vorbeugung ergriffen werden die Generierung falscher Informationen.

In Bezug auf Forschung und Entwicklung verlangen die „Maßnahmen“ von den Anbietern, dass sie Maßnahmen ergreifen, um das Auftreten von Rasse, ethnischer Zugehörigkeit, Glaubensbekenntnis, Land, Region, Geschlecht, Alter usw. im Prozess des Algorithmusdesigns, der Auswahl der Trainingsdaten usw. zu verhindern. Modellgenerierung und -optimierung sowie berufliche und andere Diskriminierung.

Nach diesen Anforderungen zu urteilen, decken die „Maßnahmen“ im Wesentlichen die Sicherheits- und ethischen Probleme ab, die beim tatsächlichen Betrieb natürlichsprachlicher Großmodellprodukte auf dem Markt durch Benutzer auftreten, einschließlich der Entstehung diskriminierender Vorurteile, falscher Informationen usw.

Menschen erzeugen Fragwürdige Inhalte, die von traditioneller KI erstellt wurden, sind im Internet endlos aufgetaucht.

Zum Beispiel stellte ChatGPT einmal Schritte für Benutzer bereit, um zu fragen, „wie man Ladendiebstahl betreibt“, obwohl die „Rollenspiel“-Funktion einst von Benutzern dazu veranlasst wurde, DAN (Do Anyting Now) zu verwenden. Identität beantwortete Fragen, und die Antworten enthielten „Kraftausdrücke“; einige Leute nutzten ChatGPT auch, um gefälschte Nachrichten zu testen, die im Land verbreitet wurden und zu „Gerüchten widerlegenden“ Inhalten wurden.

Der in die Suchmaschine Bing integrierte Chatbot von Microsoft wurde von ausländischen Medien als „beleidigend für Benutzer“ entlarvt; die KI-Fotogenerierungsanwendung Midjourney wurde sogar verwendet, um „Der Papst trägt eine Balenciaga-Daunenjacke“ und „Musk und General“ zu erstellen „Motoren“ Einige Leute nutzten es sogar, um verschiedene nicht existierende Erdbebengeschichten, Sonnensturmkatastrophen usw. zu erstellen. „Gefälschte Bilder des Papstes (links) und Musks“ die Quelle „Vielfalt“; generative Bilder, Videos und andere Inhalte sollten gemäß den „Bestimmungen zur Verwaltung der Tiefensynthese von Internetinformationsdiensten“ gekennzeichnet werden, und wenn bei der Entwicklung generativer künstlicher Intelligenzprodukte eine manuelle Kennzeichnung verwendet wird; Der Anbieter sollte ein System entwickeln, das den Anforderungen dieser Maßnahmen entspricht. Klare, spezifische und umsetzbare Etikettierungsregeln, die erforderliche Schulung des Etikettierungspersonals und Probenahmen zur Überprüfung der Richtigkeit des Etikettierungsinhalts.

Die chinesische Regulierung hat verbotene Bereiche für generative künstliche Intelligenzinhalte eingerichtet. In gewissem Maße verlangt sie auch von Unternehmen, die große Modelle und Produkte anbieten, die Kontrolle von Vorschulungen und Daten.

2. Schwerpunkt auf Datenquellen und Schutz personenbezogener Daten

Neben der Betonung von Werteorientierung, Sozialethik, Einhaltung von Gesetzen und Antidiskriminierung für generierte Inhalte legen die „Maßnahmen“ auch Wert auf Vorschulung, Datenquellen und personenbezogene Daten im Zusammenhang mit Anforderungen der generativen künstlichen Intelligenz zum Schutz von Rechten und Interessen.

Zum Beispiel erfordern die „Maßnahmen“, dass Anbieter für die Rechtmäßigkeit der Quellen von Pre-Training-Daten und Optimierungs-Trainingsdaten für generative künstliche Intelligenzprodukte verantwortlich sein sollten und keine Inhalte enthalten sollten, die gegen geistige Eigentumsrechte verstoßen Daten persönliche Informationen enthalten, sollten sie persönliche Informationen erhalten. Die betroffene Person verpflichtet sich, die Verpflichtung zum Schutz von Benutzereingabeinformationen und Nutzungsaufzeichnungen zu übernehmen und darf Eingabeinformationen, die die Identität des Benutzers bestimmen können, nicht illegal speichern und Benutzer nicht auf der Grundlage von Benutzereingaben profilieren Informationen und Nutzung und geben keine vom Benutzer eingegebenen Informationen an andere weiter.

Das Problem der Datenverletzung, die durch generative KI verursacht wird, besteht beispielsweise, wenn Benutzer Konversationsroboter verwenden, um bestimmte Arbeitsanforderungen zu erfüllen. Wenn sie nicht vorsichtig sind, kann dies zu Geschäftsverlusten führen Geheimnisse. Zuvor hatte der südkoreanische Elektronikriese Samsung erklärt, dass interne Daten aufgrund der Interaktion von Mitarbeitern mit der Anwendung durchgesickert seien, nachdem er eine „Einschränkungsverfügung“ bei ChatGPT eingereicht hatte.

Die „Maßnahmen“ beziehen sich nicht nur auf Anbieter von Produkten und Dienstleistungen der generativen künstlichen Intelligenz, sondern legen auch Grundsätze für Nutzer von Produkten und Dienstleistungen fest.

Verwenden Sie beispielsweise generierte Inhalte nicht, um das Image, den Ruf und andere legitime Rechte und Interessen anderer zu schädigen, und beteiligen Sie sich nicht an kommerziellem Hype oder unfairem Marketing.

Da die „Maßnahmen“ in Übereinstimmung mit den übergeordneten Gesetzen „Cybersicherheitsgesetz der Volksrepublik China“, „Datensicherheitsgesetz der Volksrepublik China“ und „Gesetz zum Schutz personenbezogener Daten der Volksrepublik China“ formuliert wurden China“ und anderen Gesetzen und Verwaltungsvorschriften gelten diese Gesetze und Vorschriften für Verstöße gegen die „ Maßnahmen, einschließlich der Verletzung von Rechten des geistigen Eigentums, der Verletzung personenbezogener Daten und anderer rechtswidriger Handlungen.

Die „Maßnahmen“ umfassen insgesamt 21 Artikel, 13 davon richten sich explizit an „Anbieter“, also Organisationen und Einzelpersonen, die Produkte der generativen künstlichen Intelligenz nutzen, um Dienste wie Chat und Text-, Bild- und Tongenerierung bereitzustellen.

Die Öffentlichkeit kann über drei Kanäle Feedback geben

Es ist ersichtlich, dass nach der offiziellen Verkündung der „Maßnahmen“ inländische Unternehmen und Anwender großer generativer Modelle und Produkte im Rahmen der Regeln handeln müssen. Laut der offiziellen Website der Cyberspace Administration of China kann die Öffentlichkeit über drei Kanäle Feedback geben. Die Frist für Feedback endet am 10. Mai 2023.

Das obige ist der detaillierte Inhalt vonMit umfassender Abdeckung von Werten und Datenschutz plant die Cyberspace Administration of China, „Regeln' für generative KI aufzustellen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!