OpenAI veröffentlicht das ChatGPT-Plug-in, was Anlass zur Sorge gibt: Inhaltsqualität und Sicherheit müssen gemessen werden

Nachrichten Am Donnerstag, 24. März, Ortszeit in den USA, veröffentlichte das Forschungsunternehmen für künstliche Intelligenz OpenAI mehrere Plug-Ins für seinen beliebten Chatbot ChatGPT. Sie werden ChatGPT dabei helfen, sich mit dem Netzwerk zu verbinden, um Informationen in Echtzeit abzurufen oder verwenden Sie Anwendungen von Drittanbietern.

Es wird berichtet, dass das Plug-in von OpenAI ChatGPT den Zugriff auf Wissensquellen und Datenbanken Dritter, einschließlich des Internets, ermöglichen wird, wodurch die Fähigkeiten des Chatbots erheblich erweitert werden. OpenAI wird den Benutzern und Entwicklern von ChatGPT-Testanwendungen die Alpha-Version zur Verfügung stellen. Zunächst wird einer kleinen Anzahl von Entwicklern und ChatGPT Plus-Abonnenten Vorrang eingeräumt, bevor es der breiten Öffentlichkeit zugänglich gemacht wird.

Das attraktivste Plug-in ist zweifellos das erstklassige Webbrowser-Plug-in von OpenAI, das es ChatGPT ermöglicht, Daten aus dem Web zu finden, um verschiedene ihm gestellte Fragen zu beantworten. Bisher war der Informationsinhalt von ChatGPT auf Termine, Ereignisse und Personen vor September 2021 beschränkt. Das neue Plug-in verwendet die Bing-Such-API von Microsoft, um Inhalte aus dem Web abzurufen, während es die besuchten Websites anzeigt, wenn es Antworten zusammenfasst und seine Quellen in den Antworten von ChatGPT angibt.

Der Online-Zugriff auf andere Informationsquellen kann jedoch neue Risiken mit sich bringen, wie frühere Untersuchungen des OpenAI-Teams ergeben haben. OpenAI hat im Jahr 2021 ein experimentelles System namens WebGPT entwickelt, das manchmal Informationen aus unzuverlässigen Quellen zitierte und dazu veranlasst wurde, Daten von Websites auszuwählen, denen Benutzer vertrauen könnten, auch wenn diese Quellen nicht objektiv verbindlich sind. Metas späterer Offline-BlenderBot 3.0 hatte ebenfalls Zugang zum Internet, weicht jedoch schnell von der ursprünglichen Vision ab. Auf Anregung bestimmter Texte werden Verschwörungstheorien oder andere beleidigende Inhalte veröffentlicht.

Live-Netzwerke sind weniger genau als statische Trainingsdatensätze, und das bedeutet weniger Filtereinschränkungen. ​​Google​​und Bing usw.​​Suchmaschinen​​verwenden ihre eigenen Sicherheitsmechanismen, um das Risiko zu verringern, dass unzuverlässige Inhalte ganz oben in den Suchergebnissen landen. Diese Ergebnisse können jedoch manipuliert werden, und das ist auch möglich nicht unbedingt das gesamte Netzwerk abbilden können. Wie bereits berichtet, priorisiert der Algorithmus von Google Websites, die moderne Webtechnologien wie Verschlüsselung, mobile Unterstützung und Schema-Markup verwenden. Daher neigen viele Websites mit anderen hochwertigen Inhalten dazu, durch das Raster zu fallen.

Dies gibt Suchmaschinen große Möglichkeiten, Daten herauszupicken, die Antworten auf Web-Sprachmodelle liefern können. Es wurde festgestellt, dass Google bei der Suche seinen eigenen Diensten Priorität einräumt, beispielsweise der Beantwortung von Reiseanfragen mit Daten von Google Places, anstatt Informationen aus umfassenderen, sozialeren Quellen wie TripAdvisor zu sammeln. Gleichzeitig sind algorithmische Suchansätze auch anfällig für Lücken. Im Jahr 2020 nutzte Pinterest eine Anomalie im Bildersuchalgorithmus von Google aus, um mehr Inhalte in der Google-Bildersuche anzuzeigen.

OpenAI erkennt an, dass ein internetfähiges ChatGPT für alle Arten von schlechtem Verhalten offen sein könnte, wie zum Beispiel das Versenden betrügerischer Nachrichten und Spam-E-Mails, das Umgehen von Sicherheitsbeschränkungen und im Allgemeinen „die Verbesserung der Fähigkeiten von schlechten Akteuren, die täuschen, irreführen oder missbrauchen würden“. andere. „Fähigkeit“. Das Unternehmen sagte jedoch auch, es habe intern und extern „mehrere Sicherheitsvorkehrungen getroffen“, um dies zu verhindern.

Zusätzlich zum Browser-Plug-in bietet OpenAI auch einen Python-Interpreter für das Modell hinter ChatGPT, der in einer Sandbox, einer Firewall-Ausführungsumgebung und etwas temporärem Speicherplatz funktioniert. Dieses Plugin unterstützt das Hochladen von Dateien auf ChatGPT und das Herunterladen der Ergebnisse. Laut OpenAI ist es besonders nützlich für die Lösung mathematischer Probleme, die Durchführung von Datenanalysen, die Visualisierung und die Konvertierung zwischen Dateiformaten.

Viele frühe Mitarbeiter haben Plugins für ChatGPT entwickelt, darunter Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram und Zapier.

Der Zweck dieser Plugins ist größtenteils selbsterklärend. Mit dem OpenTable-Add-on kann der Chatbot beispielsweise Restaurants nach verfügbaren Reservierungen durchsuchen, während das Instacart-Add-on es ChatGPT ermöglicht, Bestellungen bei lokalen Geschäften aufzugeben. Zapier ist eine der am besten skalierbaren Apps, die jemals erstellt wurden. Sie lässt sich mit Apps wie Google Sheets, Trello und Gmail verbinden, um eine Reihe produktivitätsbezogener Aufgaben auszulösen.

Um Entwickler zum Erstellen neuer Plug-Ins zu ermutigen, hat OpenAI ein „Abruf“-Plug-In als Open-Source-Lösung bereitgestellt, das es ChatGPT ermöglicht, auf Dokumentfragmente aus Datenquellen wie Dateien, Notizen, E-Mails oder öffentlichen Dokumenten zuzugreifen, indem Fragen in natürlicher Sprache gestellt werden . OpenAI schrieb: „Wir arbeiten hart daran, verschiedene Plug-ins zu entwickeln und sie einem breiteren Publikum zugänglich zu machen. Wir müssen noch viel lernen und hoffen, mit Ihrer Hilfe etwas zu schaffen, das sowohl praktisch als auch sicher ist.“

Für ChatGPT sind Plug-Ins eine wesentliche Ergänzung. Früher beschränkte sich ChatGPT ausschließlich darauf, aus seinen Trainingsdaten zu lernen, aber mit dem Plug-in wurde es plötzlich leistungsfähiger und möglicherweise rechtlich weniger riskant. Viele Experten haben OpenAI vorgeworfen, vom Training von ChatGPT mit nicht lizenzierten Daten zu profitieren. Der Datensatz von ChatGPT enthält eine Vielzahl öffentlicher Websites, und das Plugin könnte dieses Problem lösen, indem es Unternehmen ermöglicht, die volle Kontrolle über ihre Daten zu behalten. (Xiao Xiao)

Das obige ist der detaillierte Inhalt vonOpenAI veröffentlicht das ChatGPT-Plug-in, was Anlass zur Sorge gibt: Inhaltsqualität und Sicherheit müssen gemessen werden. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!