Wie kann die KI-Sicherheit gewährleistet werden? OpenAI liefert detaillierte Antworten und wird aktiv Kontakt zu Regierungen verschiedener Länder aufnehmen.

Nachrichten vom 6. April: OpenAI hat am Mittwoch Ortszeit in den USA einen Beitrag veröffentlicht, in dem seine Methoden zur Gewährleistung der Sicherheit von KI detailliert beschrieben werden, einschließlich der Durchführung von Sicherheitsbewertungen, der Verbesserung von Sicherheitsvorkehrungen nach der Veröffentlichung, dem Schutz von Kindern und der Wahrung der Privatsphäre. Das Unternehmen sagte, es sei für die Erfüllung seiner Mission von entscheidender Bedeutung, sicherzustellen, dass KI-Systeme sicher gebaut, eingesetzt und genutzt werden.

Hier ist der vollständige Text des OpenAI-Beitrags:

OpenAI setzt sich dafür ein, eine starke KI-Sicherheit zu gewährleisten, von der möglichst viele Menschen profitieren. Wir wissen, dass unsere KI-Tools den Menschen heute viel helfen. Benutzer auf der ganzen Welt haben uns erzählt, dass ChatGPT dabei hilft, ihre Produktivität zu steigern, ihre Kreativität zu steigern und ein maßgeschneidertes Lernerlebnis zu bieten. Wir sind uns aber auch darüber im Klaren, dass diese Tools, wie mit jeder Technologie auch, echte Risiken bergen. Deshalb arbeiten wir hart daran, die Sicherheit auf jeder Systemebene zu gewährleisten.

Bauen Sie ein sichereres System für künstliche Intelligenz auf.

Bevor wir ein neues System für künstliche Intelligenz auf den Markt bringen, führen wir strenge Tests durch, holen Meinungen von externen Experten ein und verbessern die Leistung des Modells durch Techniken wie Reinforcement Learning mit menschlichem Feedback. Gleichzeitig haben wir umfangreiche Sicherheits- und Überwachungssysteme etabliert.

Nehmen Sie unser neuestes Modell GPT-4 als Beispiel. Nach Abschluss der Schulung führten wir bis zu 6 Monate lang unternehmensweite Tests durch, um sicherzustellen, dass es vor der Veröffentlichung sicherer und zuverlässiger ist.

Wir glauben, dass leistungsstarke Systeme der künstlichen Intelligenz strengen Sicherheitsbewertungen unterzogen werden sollten. Eine Regulierung ist notwendig, um eine breite Akzeptanz dieser Praxis zu gewährleisten. Deshalb arbeiten wir aktiv mit Regierungen zusammen, um die beste Form der Regulierung zu diskutieren.

Lernen Sie aus der tatsächlichen Nutzung und verbessern Sie Sicherheitsmaßnahmen

Wir versuchen unser Bestes, um vorhersehbare Risiken vor dem Systemeinsatz zu verhindern, aber das Lernen im Labor ist immer begrenzt. Wir forschen und testen intensiv, können jedoch nicht vorhersagen, wie Menschen unsere Technologie nutzen oder missbrauchen. Daher glauben wir, dass das Lernen aus der Praxis eine entscheidende Komponente bei der Entwicklung und Veröffentlichung zunehmend sicherer KI-Systeme ist. 🔜

Wir stellen die leistungsstärksten Modelle in unseren eigenen Diensten und APIs bereit, damit Entwickler die Technologie direkt in ihre Anwendungen integrieren können. Dies ermöglicht es uns, Missbrauch zu überwachen, entsprechende Maßnahmen zu ergreifen und Gegenmaßnahmen zu entwickeln. Auf diese Weise können wir praktische Maßnahmen ergreifen, anstatt uns nur theoretisch vorzustellen, was wir dagegen tun können.

Die Erfahrung im realen Einsatz hat uns auch dazu veranlasst, immer detailliertere Richtlinien zu entwickeln, um Verhaltensweisen anzugehen, die echte Risiken für Menschen darstellen, und gleichzeitig die Nutzung unserer Technologie auf vorteilhaftere Weise zu ermöglichen.

Wir glauben, dass die Gesellschaft mehr Zeit braucht, um sich an die immer leistungsfähigere künstliche Intelligenz anzupassen, und dass jeder, der davon betroffen ist, ein Mitspracherecht bei der Weiterentwicklung der künstlichen Intelligenz haben sollte. Durch die iterative Bereitstellung können sich verschiedene Interessengruppen effektiver an Gesprächen über KI-Technologien beteiligen. Dabei ist es von entscheidender Bedeutung, Erfahrungen aus erster Hand mit diesen Tools zu sammeln.

Einer der Schwerpunkte unserer Sicherheitsarbeit ist der Schutz von Kindern. Wir verlangen, dass Personen, die unsere Tools für künstliche Intelligenz nutzen, mindestens 18 Jahre alt oder mit Zustimmung der Eltern mindestens 13 Jahre alt sind. Derzeit arbeiten wir an der Verifizierungsfunktionalität.

Wir gestatten nicht, dass unsere Technologie zur Generierung hasserfüllter, belästigender, gewalttätiger oder nicht jugendfreier Inhalte genutzt wird. Das neueste GPT-4 reagiert im Vergleich zu GPT-3.5 mit einer um 82 % geringeren Wahrscheinlichkeit auf Anfragen nach eingeschränkten Inhalten. Wir verfügen über robuste Systeme zur Überwachung von Missbrauch. GPT-4 ist jetzt für Abonnenten von ChatGPT Plus verfügbar und wir hoffen, dass wir es im Laufe der Zeit noch mehr Menschen zugänglich machen können.

Wir haben wichtige Schritte unternommen, um das Potenzial unserer Models, Inhalte zu produzieren, die für Kinder schädlich sind, zu minimieren. Wenn ein Benutzer beispielsweise versucht, kindersicheres Missbrauchsmaterial in unser Bildgenerierungstool hochzuladen, blockieren wir es und melden den Vorfall dem National Center for Missing and Exploited Children.

Zusätzlich zum standardmäßigen Sicherheitsschutz arbeiten wir mit Entwicklungsorganisationen wie der gemeinnützigen Organisation Khan Academy zusammen, um maßgeschneiderte Sicherheitsmaßnahmen für sie zu entwickeln. Die Khan Academy hat einen Assistenten für künstliche Intelligenz entwickelt, der als virtueller Tutor für Schüler und als Unterrichtsassistent für Lehrer dienen kann. Wir arbeiten außerdem an Funktionen, die es Entwicklern ermöglichen, strengere Standards für die Modellausgabe festzulegen, um Entwickler und Benutzer, die solche Funktionen benötigen, besser zu unterstützen.

Unsere großen Sprachmodelle werden auf einem umfangreichen Textkorpus trainiert, einschließlich öffentlich zugänglicher Inhalte, lizenzierter Inhalte und von menschlichen Prüfern generierter Inhalte. Wir verwenden diese Daten nicht, um unsere Dienstleistungen oder Werbung zu verkaufen, noch verwenden wir sie zum Aufbau von Profilen. Wir verwenden diese Daten lediglich, um unsere Modelle besser darin zu machen, Menschen zu helfen, indem wir beispielsweise ChatGPT intelligenter machen, indem wir mehr Gespräche mit Menschen führen.

Obwohl viele unserer Trainingsdaten persönliche Informationen enthalten, die im öffentlichen Internet verfügbar sind, möchten wir, dass unsere Modelle etwas über die Welt als Ganzes und nicht über Einzelpersonen lernen. Daher sind wir bestrebt, personenbezogene Daten aus Trainingsdatensätzen zu entfernen, wo immer dies möglich ist, Modelle zu verfeinern, um Anfragen nach personenbezogenen Daten abzulehnen, und auf Anfragen von Einzelpersonen zu reagieren, ihre personenbezogenen Daten aus unseren Systemen zu löschen. Diese Maßnahmen minimieren die Wahrscheinlichkeit, dass unser Modell Antworten generiert, die persönliche Informationen enthalten.

Verbesserung der sachlichen Genauigkeit

Heutige große Sprachmodelle können die nächsten wahrscheinlich zu verwendenden Wörter basierend auf früheren Mustern und vom Benutzer eingegebenem Text vorhersagen. Aber in manchen Fällen kann das nächstwahrscheinlichste Wort tatsächlich sachlich falsch sein.

Die Verbesserung der sachlichen Genauigkeit ist einer der Schwerpunkte von OpenAI und vielen anderen KI-Forschungsorganisationen, und wir machen Fortschritte. Wir haben die sachliche Genauigkeit von GPT-4 verbessert, indem wir Benutzerfeedback zur ChatGPT-Ausgabe genutzt haben, die als falsch als primäre Datenquelle gekennzeichnet war. Im Vergleich zu GPT-3.5 ist die Wahrscheinlichkeit, dass GPT-4 sachliche Inhalte produziert, um 40 % höher.

Wir bemühen uns, so transparent wie möglich zu sein, wenn sich Benutzer für die Nutzung des Tools anmelden, um mögliche falsche Antworten von ChatGPT zu vermeiden. Wir haben jedoch erkannt, dass noch mehr getan werden muss, um das Potenzial für Missverständnisse weiter zu verringern und die Öffentlichkeit über die aktuellen Einschränkungen dieser KI-Tools aufzuklären.

Kontinuierliche Forschung und Engagement

Wir glauben, dass ein praktischer Weg, das Problem der KI-Sicherheit anzugehen, darin besteht, mehr Zeit und Ressourcen in wirksame Schadensbegrenzungs- und Kalibrierungstechniken zu investieren und diese auf reale Situationen zu testen, in denen sie möglicherweise missbraucht werden.

Wichtig ist, dass wir davon überzeugt sind, dass die Verbesserung der Sicherheit und der Fähigkeiten der KI gleichzeitig erfolgen sollte. Unsere bisher beste Sicherheitsarbeit haben wir mit unseren leistungsfähigsten Modellen erzielt, da sie den Anweisungen des Benutzers besser folgen können und diese leichter zu nutzen oder zu „leiten“ sind.

Wir werden mit zunehmender Vorsicht leistungsfähigere Modelle entwickeln und einsetzen und im Zuge der Weiterentwicklung der KI-Systeme die Sicherheitsvorkehrungen weiter verstärken.

Während wir mehr als sechs Monate mit der Bereitstellung von GPT-4 gewartet haben, um seine Fähigkeiten, Vorteile und Risiken besser zu verstehen, kann es manchmal länger dauern, die Sicherheit von KI-Systemen zu verbessern. Daher müssen politische Entscheidungsträger und KI-Entwickler sicherstellen, dass die Entwicklung und der Einsatz von KI weltweit wirksam reguliert werden, damit niemand Abkürzungen nimmt, um an der Spitze zu bleiben. Dies ist eine schwierige Herausforderung, die technologische und institutionelle Innovationen erfordert, aber wir möchten gerne einen Beitrag leisten.

Die Bewältigung von KI-Sicherheitsproblemen erfordert außerdem ausführliche Debatten, Experimente und Engagement, einschließlich der Festlegung von Grenzen für das Verhalten von KI-Systemen. Wir haben die Zusammenarbeit und den offenen Dialog zwischen den Interessengruppen gefördert und werden dies auch weiterhin tun, um ein sichereres KI-Ökosystem zu schaffen. (Xiao Xiao)

Das obige ist der detaillierte Inhalt vonWie kann die KI-Sicherheit gewährleistet werden? OpenAI liefert detaillierte Antworten und wird aktiv Kontakt zu Regierungen verschiedener Länder aufnehmen.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!