Generative künstliche Intelligenz kommt, wie schützt man Minderjährige? |. Zeitschrift für Sozialwissenschaften

Künstliche Intelligenz und die Entwicklung des Jugendschutzes

Als Reaktion auf die rasante Entwicklung leistungsstarker generativer künstlicher Intelligenz hielt die UNESCO am 25. Mai dieses Jahres ihr erstes globales Bildungsministertreffen zu diesem Thema ab. Eine umfassende und objektive Analyse der beispiellosen Entwicklungsmöglichkeiten, -risiken und -herausforderungen der generativen künstlichen Intelligenz ist ein dringendes Anliegen der Zeit, um das gesunde Wachstum von Minderjährigen zu gewährleisten, und ist auch ein wesentlicher Bestandteil der Umsetzung des Schutzes und der Entwicklung von Minderjährigen.

Originaltext: „Generative künstliche Intelligenz kommt, wie man Minderjährige schützt“

Autor |. School of Journalism and Communication, Beijing Normal University Fang Zengquan/Forscher Yuan Ying/Dozent Qi Xuejing/Assistant Researcher

Bilder |Netzwerk

Generative künstliche Intelligenz (AIGC) zählt zu den zehn größten wissenschaftlichen Durchbrüchen im Jahr 2022. Dieses Ergebnis wurde in der Zeitschrift Science veröffentlicht. Generative künstliche Intelligenz zeigt starke logische Denk- und Wiederlernfähigkeiten, kann menschliche Bedürfnisse besser verstehen, durchbricht den Engpass bei der Verarbeitung natürlicher Sprache und gestaltet das soziale Wissensproduktionssystem, das Talentausbildungssystem, das Geschäftsmodell und die soziale Arbeitsteilung neu. usw. haben enorme Entwicklungschancen für alle Bereiche der Gesellschaft mit sich gebracht, sind aber auch mit erheblichen Risiken verbunden. Gegenwärtig interagieren Minderjährige auf vielfältige Weise mit Technologien der künstlichen Intelligenz. Diese Technologien sind häufig in Spielzeug, Anwendungen und Videospiele integriert und beeinträchtigen unwissentlich das gesunde Wachstum von Minderjährigen. Da der Geist und die kognitiven Fähigkeiten Minderjähriger noch nicht ausgereift sind, werden sie leicht von der intelligenten Umgebung beeinflusst. Daher ist eine umfassende und objektive Analyse der beispiellosen Entwicklungsmöglichkeiten, -risiken und -herausforderungen der generativen künstlichen Intelligenz ein dringendes Anliegen der Zeit, um das gesunde Wachstum von Minderjährigen zu gewährleisten, und auch ein wesentlicher Bestandteil der Umsetzung des Schutzes und der Entwicklung von Minderjährigen.

Chancen und Herausforderungen durch generative künstliche Intelligenz

In Bezug auf Entwicklungsmöglichkeiten ist die Technologie der künstlichen Intelligenz ein Instrument, um Minderjährige beim Erlernen von Bildung anzuleiten. Durch den Einsatz generativer Technologie der künstlichen Intelligenz wird die Bildung gezielter und effektiver. Generative künstliche Intelligenz kann individuelle Unterschiede und regionale Bildungslücken überbrücken, die universelle Gerechtigkeit bei Bildungsressourcen fördern und die digitale Kluft zwischen Einzelpersonen und Regionen bis zu einem gewissen Grad verringern. Generative künstliche Intelligenz wird auch die Verbesserung der innovativen und kreativen Fähigkeiten Minderjähriger fördern. Das Aufkommen groß angelegter Modelle könnte die Hemmschwelle für den Einsatz von Low-Code- und No-Code-Entwicklungstools weiter senken und die Geburt neuer intelligenter Entwicklungstechnologien auslösen.

Minderjährige werden mit Herausforderungen in Bezug auf ihre kognitiven, Denk- und Verhaltensfähigkeiten konfrontiert sein, da sie von generativer künstlicher Intelligenz betroffen sein werden. Der erste ist die Verbreitung falscher Informationen. Um die Genauigkeit von Fakten kontinuierlich zu verbessern, sind dringende technologische Durchbrüche erforderlich. Das zweite ist das Problem der Datenlecks. Derzeit hat das Datenleck bei einigen Benutzern zum Verlust von Konversationsdaten und zugehörigen Informationen geführt. Insbesondere ist es wichtig zu beachten, dass generative künstliche Intelligenzanwendungen derzeit nicht so konzipiert sind, dass sie das Alter des Benutzers systematisch überprüfen können, wodurch Minderjährige möglicherweise Inhalten ausgesetzt werden, die „völlig unverhältnismäßig zu ihrem Alter und Bewusstsein“ sind und negative Auswirkungen auf ihre körperliche und geistige Gesundheit haben Gesundheit. Das dritte ist das Problem der eingebetteten algorithmischen Diskriminierung. Einige der von generativer künstlicher Intelligenz gegebenen Antworten sind sexistisch und rassistisch diskriminierend, was dazu führen kann, dass Benutzer diskriminierende Antworten als „richtige Antworten“ betrachten und falsche Entscheidungen treffen, was sich negativ auf die soziale Wahrnehmung und Ethik auswirkt. Insbesondere wenn es um die Frage der Inklusivität von Algorithmen geht, geht es aufgrund der unterschiedlichen Ursprünge und Entwicklungspfade chinesischer und westlicher Kulturen auch um Fragen der Interpretation, Bewertung und Verbreitung zwischen traditioneller Kultur und Realitätsbeobachtung, die alle bei generativer künstlicher Intelligenz eine Rolle spielen können Intelligenz ignoriert oder absichtlich verstärkt. Der vierte Punkt ist die Frage der Verletzung geistigen Eigentums. Unabhängig davon, ob es sich um ein Bild oder ein großes Textmodell handelt, gibt es tatsächlich viele urheberrechtliche Risiken und versteckte Gefahren. Die Trainingsdaten können das Urheberrecht anderer verletzen, beispielsweise die Rechte und Interessen von Nachrichtenorganisationen und Fotogaleriehändlern. Derzeit gibt es keine besonders geeignete Lösung für die Vergütung von Inhaltserstellern, deren Werke in KI-generierten Liedern, Artikeln oder anderen Werken verwendet werden. Die nachhaltige und gesunde Entwicklung des Content-Ökosystems für künstliche Intelligenz wird beeinträchtigt, wenn das Urheberrecht des ursprünglichen Urhebers nur schwer gewährleistet werden kann. Fünftens das Problem der digitalen Kluft. Es gibt einen erheblichen Unterschied in der Leistung großer Sprachmodelle in Englisch und Chinesisch, und es ist klar, dass die Schreib-, Ausdrucks- und Verständnisfähigkeiten im englischen Kontext im Allgemeinen stärker sind. Die Unterschiede zwischen der chinesischen und der englischen Sprache in Verbindung mit dem Daten-Matthew-Effekt könnten die Kluft noch vergrößern. Sechstens Netzwerksicherheitsrisiken. Dazu gehören unter anderem grafisches Material, das Selbstverletzung suggeriert oder fördert, pornografische oder gewalttätige Inhalte sowie belästigende, herabwürdigende und hasserfüllte Inhalte.

CI-STEP-System für generative künstliche Intelligenz

Im September 2020 veröffentlichte UNICEF einen Entwurf von „Künstliche Intelligenz für Kinder – Richtlinien“, in dem drei Hauptprinzipien vorgeschlagen wurden, denen kinderfreundliche künstliche Intelligenz folgen sollte: Schutz, das heißt „keinen Schaden anrichten“; Gutes tun“; Mitmachen bedeutet „inklusiv sein“. Im November 2021 veröffentlichte UNICEF die „Recommendations 2.0 on Establishing AI Policies and Systems to Protect Children's Rights“, in denen drei Grundlagen für KI zum Schutz der Kinderrechte vorgeschlagen wurden: Richtlinien und Systeme für künstliche Intelligenz sollten so gestaltet sein, dass sie die Bedürfnisse und Rechte von Kindern schützen gerecht zu werden; Kinder sollten befähigt werden, zur Entwicklung und Nutzung von KI beizutragen. Ein weltweit diskutiertes heißes Thema ist die Frage, wie man KI-Technologie nutzen kann, um ein günstiges Umfeld für die Entwicklung von Minderjährigen jetzt und in der Zukunft zu schaffen. Unmittelbar danach führten auch China, die Vereinigten Staaten, die Europäische Union und das Vereinigte Königreich sukzessive entsprechende Gesetze und Vorschriften ein, um den Umgang mit künstlicher Intelligenz für Minderjährige weiter zu standardisieren und zu verbessern.

Basierend auf Piagets Stufentheorie der intellektuellen Entwicklung von Kindern und Kohlbergs Stufentheorie der moralischen Entwicklung, kombiniert mit den relevanten Gesetzen und Vorschriften meines Landes – „Gesetz zum Schutz personenbezogener Daten der Volksrepublik China“, „Gesetz zur Cybersicherheit der Volksrepublik China“ „Datensicherheitsgesetz der Volksrepublik China“ usw. sowie relevante Grundsatzdokumente aus den Vereinigten Staaten, der Europäischen Union, dem Vereinigten Königreich und anderen Ländern und Regionen, dem Minors Internet Literacy Research Center der School of Journalism und Kommunikation der Beijing Normal University veröffentlichten das landesweit erste generative künstliche Intelligenz-Minderschutz- und Entwicklungsbewertungsindikatorsystem (CI-STEP), das wichtige Referenz- und Bewertungsindikatoren für den Jugendschutz in generativer künstlicher Intelligenz bereitstellt (siehe Abbildung unten).

Generatives Indexsystem für Minderjährigenschutz und Entwicklungsbewertung (CI-STEP) mit künstlicher Intelligenz

Dieses Indikatormodell umfasst insbesondere umfassendes Management, Informationshinweise, wissenschaftliche Popularisierung und Öffentlichkeitsarbeit, technischen Schutz, Notfallbeschwerde- und Meldemechanismus), Privatsphäre und Schutzsystem für persönliche Informationen (System zum Schutz von Privatsphäre und persönlichen Informationen). Jede Dimension enthält 2 bis 3 spezifische Indikatoren, insgesamt 15 Bewertungsindikatoren, um eine wissenschaftliche und umfassende Möglichkeit zum Schutz der Rechte und Interessen von Minderjährigen, Bewertungskonzepte und praktische Leitlinien bereitzustellen.

Erstens im Hinblick auf ein umfassendes Management, einschließlich Zeitmanagement, Autoritätsmanagement und Verbrauchsmanagement. Beim Zeitmanagement geht es darum, eine angemessene und angemessene Online-Zeit auf der Grundlage der sozialen Interaktionen, Szenarien, Nutzungen usw. von Minderjährigen zu bestimmen und Anti-Sucht-Anforderungen umzusetzen. Die Berechtigungsverwaltung besteht darin, einen Überprüfungsmechanismus zur Überprüfung des Alters einzurichten. Gemäß den vom System festgelegten Sicherheitsregeln oder Sicherheitsrichtlinien können Minderjährige nur auf die Ressourcen zugreifen, für die sie autorisiert sind. Konsummanagement ist ein generatives Produkt oder eine Dienstleistung künstlicher Intelligenz, die unlautere und irreführende Geschäftspraktiken verbieten, die notwendigen Sicherheitsvorkehrungen treffen soll, um Voreingenommenheit und Täuschung zu begrenzen und ernsthafte Risiken für Unternehmen, Verbraucher und die öffentliche Sicherheit zu vermeiden.

Das zweite sind Informationstipps, einschließlich privater Informationstipps, altersgerechter Tipps und Risikotipps. Wenn Minderjährige private Informationen über das Internet veröffentlichen, sollten zeitnah entsprechende Hinweise gegeben und notwendige Schutzmaßnahmen getroffen werden. Altersgerechte Erinnerungen bedeuten, dass Anbieter von Produkten oder Dienstleistungen generativer künstlicher Intelligenz Produkte künstlicher Intelligenz gemäß den einschlägigen nationalen Vorschriften und Standards klassifizieren, altersgerechte Erinnerungen erstellen und technische Maßnahmen ergreifen sollten, um zu verhindern, dass Minderjährige unangemessenen Produkten oder Dienstleistungen ausgesetzt werden. Einige Anbieter generativer künstlicher Intelligenz verlangen, dass Benutzer über 18 Jahre alt sind oder mit Zustimmung der Eltern über 13 Jahre alt sind, bevor sie KI-Tools verwenden können. Die aktuellen Verifizierungsoptionen und Implementierungsmechanismen müssen jedoch verbessert werden. Risikowarnung bedeutet, dass generative künstliche Intelligenzprodukte oder -dienste den Anforderungen von Gesetzen und Vorschriften entsprechen, die soziale Moral, die öffentliche Ordnung und gute Sitten respektieren und vor möglichen illegalen Inhalten wie Betrug, Terrorismus, Mobbing, Gewalt, Pornografie und Vorurteilen warnen sollten , Diskriminierung und die Herbeiführung von Informationen.

Der dritte Bereich ist die Popularisierung der Wissenschaft sowie Werbung und Bildung. Anbieter generativer künstlicher Intelligenzprodukte oder -dienstleistungen nehmen eine führende Position in der Technologie ein und sollten die thematische Ausbildung, soziale Praxis, Berufserfahrung, Praktikumsprüfungen usw. von Minderjährigen unterstützen und die wissenschaftliche Popularisierung von Minderjährigen auf der Grundlage von Branchenmerkmalen organisieren und innovative praktische Aktivitäten.

Der vierte Punkt betrifft technische Garantien, einschließlich der Registrierung echter Identitätsinformationen, der Filterung fehlerhafter Informationen und des Schutzes der Netzwerksicherheitsstufe. Gemäß dem „Cybersicherheitsgesetz der Volksrepublik China“ und anderen relevanten Vorschriften sind Benutzer verpflichtet, dem System wahrheitsgemäße Identitätsinformationen zur Verfügung zu stellen. Wenn ein Anbieter eines Produkts oder einer Dienstleistung im Bereich der generativen künstlichen Intelligenz feststellt, dass ein Nutzer Informationen veröffentlicht oder verbreitet hat, die Inhalte enthalten, die schädlich für die körperliche und geistige Gesundheit von Minderjährigen sind, sollte er die Verbreitung der relevanten Informationen unverzüglich einstellen und Maßnahmen wie Löschung, Blockierung und Trennung von Links. Anbieter generativer künstlicher Intelligenzprodukte oder -dienste sollten Sicherheitsschutzverpflichtungen gemäß den Anforderungen des Netzwerksicherheitsniveau-Schutzsystems erfüllen, um das Netzwerk vor Störungen, Zerstörung oder unbefugtem Zugriff zu schützen und zu verhindern, dass Netzwerkdaten durchsickern, gestohlen oder manipuliert werden.

Fünftens ist der Beschwerde- und Meldemechanismus für Notfälle. Anbieter generativer künstlicher Intelligenzprodukte oder -dienste sollten einen Mechanismus für den Empfang und die Bearbeitung von Benutzerbeschwerden einrichten, Informationen wie Beschwerden und Meldemethoden offenlegen, Anträge von Einzelpersonen auf Korrektur, Löschung und Sperrung ihrer persönlichen Daten umgehend bearbeiten und Notfallpläne formulieren Netzwerksicherheitsvorfälle, um Systemschwachstellen, Computerviren, Netzwerkangriffe, Netzwerkeinbrüche, Datenvergiftungen, Prompt-Word-Injection-Angriffe und andere Sicherheitsrisiken sofort zu beheben entsprechende Abhilfemaßnahmen ergreifen.

Sechstens ist das System zum Schutz der Privatsphäre und personenbezogener Daten. Anbieter von generativen künstlichen Intelligenzprodukten oder -diensten sollten die Regeln für die Erhebung und Nutzung personenbezogener Daten, den Schutz personenbezogener Daten und Persönlichkeitsrechte, den Umgang mit personenbezogenen Daten von Minderjährigen, die weltweite Übermittlung personenbezogener Daten und die Aktualisierung klarstellen Datenschutzrichtlinien. Anbieter generativer KI-Produkte oder -Dienste dürfen Daten nicht verwenden, um Dienste zu verkaufen, Werbung zu machen oder Benutzerprofile zu erstellen, personenbezogene Daten aus Trainingsdatensätzen zu entfernen, wo dies möglich ist, Modelle zu verfeinern, um Anfragen nach privaten Informationen abzulehnen, und eine Schädigung von Persönlichkeitsrechten und Reputation zu verhindern Rechte und Privatsphäre sowie die illegale Erfassung, Offenlegung und Nutzung persönlicher Informationen und Privatsphäre sind verboten.

In Zukunft müssen wir gleichermaßen auf Schutz und Entwicklung achten

Bei der wichtigen Frage der generativen künstlichen Intelligenz und des Jugendschutzes müssen wir darauf bestehen, dass Schutz und Entwicklung unter der Führung der Konzepte „kindzentriert“, „Kinderrechte schützen“ und „Verantwortung übernehmen“ gleichermaßen berücksichtigt werden. und „Mehrparteien-Governance“: Förderung generativer künstlicher Intelligenz, um eine neue treibende Kraft für die Entwicklung Minderjähriger zu werden und dazu beizutragen, im Zeitalter der künstlichen Intelligenz ein umfassendes und gesundes Wachstum von Minderjährigen zu erreichen. Unter der Leitung des Konzepts der Technologie für immer sollte die Entwicklung generativer künstlicher Intelligenztechnologie dem Grundsatz folgen, was für Minderjährige am vorteilhaftesten ist, die Netzwerksicherheit und die digitale Entwicklung von Minderjährigen berücksichtigen und sich auf die Anwendung der KI-Technologie konzentrieren im Einklang mit der wissenschaftlichen und technologischen Ethik und ermutigen Internetunternehmen, sich aktiv an der Co-Governance der Branche zu beteiligen.

Die zukünftige Anwendung generativer künstlicher Intelligenz muss sich auf vier Hauptthemen konzentrieren. Setzen Sie zunächst technische Standards um. Der Schutz und die Entwicklung von Minderjährigen im Bereich der generativen künstlichen Intelligenz müssen sich künftig auf die Überwachung der Forschungs- und Entwicklungsaktivitäten von Unternehmen, die Überwachung und Intervention in generativer künstlicher Intelligenz sowie die Festlegung von Genehmigungs- und Prüfanforderungen für die Entwicklung und Freigabe von Modellen der künstlichen Intelligenz konzentrieren. Zweitens klären Sie die Bewertungspflichten. Es ist notwendig, die Pflichten von F&E-Einrichtungen und Netzwerkplattformbetreibern zur Bewertung von Sicherheitsrisiken bei der Anwendung generativer künstlicher Intelligenzprodukte zu klären und sicherzustellen, dass F&E-Einrichtungen und Netzwerkplattformbetreiber Sicherheitsrisikobewertungen durchführen müssen, bevor sie solche Produkte auf den Markt bringen, um dies sicherzustellen Risiken sind kontrollierbar. Drittens konzentrieren Sie sich auf Inhaltsrisiken. Regulierungsbehörden und Netzplattformbetreiber sollten die Regulierungstechnologie weiter verbessern und mehrere Parteien ermutigen, sich an der Entwicklung und Förderung relevanter Produkte der generativen künstlichen Intelligenz zu beteiligen und so die durch die generative künstliche Intelligenz-Technologie generierten Inhalte zu standardisieren. Viertens: Bauen Sie ein Ökosystem zur Förderung der KI-Kompetenz auf. Entsprechend den Phasenmerkmalen der Entwicklung der kognitiven, emotionalen und verhaltensbezogenen Fähigkeiten Minderjähriger die Innovation der „Informationstechnologie“ und anderer Kursinhalte und Lehrmethoden in der Pflichtschulphase stärken, wobei die Grundbildung im Primar- und Sekundarbereich im Vordergrund steht. Bildung einer von der Regierung geführten, akademischen und unternehmensweiten Plattform für den öffentlichen Dienst im Bereich der künstlichen Intelligenz, die die Bildung von Kompetenzen im Bereich der künstlichen Intelligenz und innovative praktische Aktivitäten fördert, die ausgewogene gemeinsame Nutzung hochwertiger Bildungsressourcen fördert, die Verschärfung der digitalen Kluft und Ungleichheit verhindert und eine integrativeres, faireres und offeneres Bildungsumfeld.

Der Artikel ist ein Originalprodukt von „Thought Workshop“ Fusion Media. Er wurde ursprünglich auf der zweiten Seite der Ausgabe 1857 des Social Science Journal veröffentlicht. Der Inhalt des Artikels gibt nur die Meinung des Autors wieder und repräsentiert nicht die Position dieser Zeitung.

Herausgeber dieser Ausgabe: Wang Liyao

Erweiterte Lektüre

Starkes Land mit Talenten |. Ära der künstlichen Intelligenz: „Lernerzentrierte Präzisionsbildung“

Einrichtung eines vertrauenswürdigen Entwicklungsmechanismus für künstliche Intelligenz |

Das obige ist der detaillierte Inhalt vonGenerative künstliche Intelligenz kommt, wie schützt man Minderjährige? |. Zeitschrift für Sozialwissenschaften. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!