Geschrieben, nachdem Stack Overflow ChatGPT verboten hatte, den Krisenmoment der künstlichen Intelligenz

Im Bereich der künstlichen Intelligenz geschehen im Stillen unglaubliche Dinge, sowohl gute als auch schlechte. Alle reden über Systeme wie chatGPT (OpenAI), Dall-E 2 und Lensa, die Texte und Bilder erzeugen, die natürlich und mühelos aussehen.

Diese Systeme machen so viel Spaß beim Spielen. Nehmen Sie dieses mit chatGPT generierte Beispiel von Henry Minsky (Sohn eines der Gründer von AI, Marvin Minsky), der chatGPT gebeten hat, eine im Trockner verlorene Socke im Stil der Unabhängigkeitserklärung zu beschreiben:

beim Nehmen Pflege von Familienangelegenheiten Dabei ist es notwendig, dass die Menschen die Verbindung zwischen Socken und ihren Partnern auflösen und gemäß den Gesetzen der Physik und den Gesetzen der Hausarbeit einen unabhängigen und gleichberechtigten Status in der Macht der Waschküche einnehmen. Aus Respekt vor der Meinung von Socken sollte die Ursache ihres Verschwindens bekannt gegeben werden.

Wir halten diese Wahrheiten für selbstverständlich, dass alle Socken gleich geschaffen und von ihrem Hersteller mit bestimmten unveräußerlichen Rechten ausgestattet sind....

Ehrlich gesagt ist es unglaublich, wie mühelos eine Maschine dies tun kann.

Aber gleichzeitig ist oder sollte es beängstigend sein. Es ist keine Übertreibung zu sagen, dass ein solches System das Gefüge der Gesellschaft bedroht, und diese Bedrohung ist real und dringend.

Im Kern der Bedrohung liegen die folgenden drei Fakten:

• Diese Systeme sind von Natur aus unzuverlässig, machen häufig Fehler in der Argumentation und in den Fakten und neigen dazu, unverschämte Antworten zu liefern; lassen Sie sie erklären, warum zerbrochenes Porzellan ist gut in der Muttermilch, sagen sie Ihnen vielleicht: „Porzellan kann dabei helfen, den Nährstoffgehalt der Muttermilch auszugleichen und das Baby mit den Nährstoffen zu versorgen, die es für Wachstum und Entwicklung benötigt.“ (Weil das System stochastisch ist und sehr empfindlich auf die Umwelt reagiert.) regelmäßig aktualisiert, jedes Experiment kann in unterschiedlichen Situationen zu unterschiedlichen Ergebnissen führen)
• Sie sind leicht zu automatisieren und erzeugen viele Fehlermeldungen.
• Ihre Betriebskosten liegen nahe bei Null, sodass sie die Kosten für die Erstellung von Desinformation auf Null reduzieren. Die Vereinigten Staaten haben russischen Trollfarmen vorgeworfen, mehr als 1 Million US-Dollar pro Monat für den Wahlkampf 2016 auszugeben. Für weniger als 500.000 US-Dollar können Sie jetzt Ihr eigenes, maßgeschneidertes großes Sprachmodell erhalten. Dieser Preis wird bald weiter sinken.

Die Zukunft all dessen wurde mit der Veröffentlichung von Metas Galactica Mitte November klar. Viele KI-Forscher äußerten sofort Bedenken hinsichtlich ihrer Zuverlässigkeit und Vertrauenswürdigkeit. Die Situation war so schlimm, dass Meta AI das Modell bereits nach drei Tagen zurückzog, nachdem sich Berichte über seine Fähigkeit, politische und wissenschaftliche Fehlinformationen zu erzeugen, verbreitet hatten.

Schade, dass der Geist nicht wieder in die Flasche gesteckt werden kann. Einerseits hat MetaAI das Modell zunächst als Open-Source-Lösung bereitgestellt und einen Artikel veröffentlicht, in dem beschrieben wird, woran derzeit gearbeitet wird. (Die künstliche Intelligenz wurde der Öffentlichkeit zugänglich gemacht und es wird darüber nachgedacht, eine eigene Version von Galactica bereitzustellen.) Andererseits kann das gerade veröffentlichte chatGPT von OpenAI mehr oder weniger ähnlichen Unsinn schreiben, wie zum Beispiel das Hinzufügen von Sägemehl zu Frühstückszerealien Generieren Sie sofort Artikel. Andere veranlassten chatGPT, die Tugenden des Atomkriegs zu preisen (mit der Behauptung, dass er „uns einen Neuanfang geben würde, frei von den Fehlern der Vergangenheit“). Akzeptabel oder nicht, diese Modelle werden uns erhalten bleiben, und die Flut an Fehlinformationen wird uns und unsere Gesellschaft irgendwann überwältigen.

Die erste Welle scheint in den ersten Tagen dieser Woche angekommen zu sein. Stack Overflow ist eine große Frage-und-Antwort-Website, der Programmierer vertrauen. Sie scheint jedoch von gptChat übernommen worden zu sein, weshalb die Website von gptChat generierte Beiträge vorübergehend verbietet. Wie erklärt: „Da die durchschnittliche Rate korrekter Antworten von ChatGPT so niedrig ist, schadet das Posten von Antworten, die von ChatGPT erstellt wurden, mehr als es nützt, sowohl für die Website als auch für die Benutzer, die nach der richtigen Antwort fragen oder danach suchen.“

Bei Stack Overflow besteht dieses Problem tatsächlich. Wenn die Site mit wertlosen Codebeispielen gefüllt ist, werden die Programmierer nicht zurückkehren, ihre Datenbank mit mehr als 30 Millionen Fragen und Antworten wird nicht mehr vertrauenswürdig und die 14 Jahre alte Site wird sterben. Als eine der wichtigsten Ressourcen, auf die sich Programmierer auf der ganzen Welt verlassen, hat sie einen enormen Einfluss auf die Softwarequalität und die Entwicklerproduktivität.

Stack Overflow ist der Kanarienvogel im Kohlebergwerk. Möglicherweise können sie Benutzer dazu bringen, die Verwendung freiwillig einzustellen. Im Allgemeinen meinen Programmierer nichts Schlimmes und können sie möglicherweise dazu überreden, mit dem Herumspielen aufzuhören. Aber Stack Overflow ist nicht Twitter, es ist nicht Facebook und es repräsentiert nicht das gesamte Web.

Es ist unwahrscheinlich, dass andere schlechte Akteure, die bewusst Werbung machen, proaktiv neue Waffen einsetzen. Stattdessen könnten sie große Sprachmodelle als neue automatisierte Waffen im Kampf gegen die Wahrheit einsetzen, soziale Medien stören und gefälschte Websites in beispiellosem Ausmaß produzieren. Für sie sind die Illusion und die gelegentliche Unzuverlässigkeit großer Sprachmodelle kein Hindernis, sondern ein Vorteil.

In einem Bericht aus dem Jahr 2016 beschrieb die Rand Corporation (Rand) das sogenannte „Russian Firehose of Propaganda“-Modell, bei dem es um Volumen und Kreativität geht Unsicherheit. Wenn „große Sprachmodelle“ ihre Zahl dramatisch erhöhen können, spielt es keine Rolle, ob sie inkonsistent sind. Offensichtlich ist dies genau das, was große Sprachmodelle leisten können. Ihr Ziel ist es, mit Hilfe neuer Tools eine Welt zu schaffen, in der es eine Vertrauenskrise gibt.

All dies wirft eine zentrale Frage auf: Wie reagiert die Gesellschaft auf diese neue Bedrohung? Wo die Technologie selbst nicht aufhören kann, sieht dieser Artikel vier Wege, denen keiner leicht zu folgen ist, aber sie sind allgemein anwendbar und dringend:

Zuallererst: Jedes Social-Media-Unternehmen und jede Suchmaschine sollte das Verbot von StackOverflow unterstützen und es verlängern die Anzahl der Benutzer deutlich reduzieren.

Jedes Land muss seine Politik im Umgang mit Desinformation überdenken #🎜🎜 ## 🎜🎜#. Es ist eine Sache, gelegentlich zu lügen; es ist eine andere, in einem Meer von Lügen zu schwimmen. Auch wenn dies keine beliebte Entscheidung sein wird, müssen falsche Informationen mit der Zeit möglicherweise als Verleumdung behandelt werden, die strafrechtlich verfolgt werden kann, wenn sie böswillig genug und in ausreichender Menge vorliegt. Drittens

. Benutzerkonten müssen strenger überprüft werden, und neue Systeme wie die Harvard University und Mozillas humanid.org, die eine anonyme Anti-Bot-Authentifizierung ermöglichen, müssen die Überprüfung nicht mehr zu einem Luxus machen, auf den die Leute gewartet haben. Viertens

zu bekämpfen. Große Sprachmodelle sind gut darin, Fehlinformationen zu erzeugen, aber nicht gut darin, sie zu bekämpfen. Das bedeutet, dass die Gesellschaft neue Werkzeuge braucht. Bei großen Sprachmodellen fehlen Mechanismen zur Überprüfung der Wahrheit; es müssen neue Wege gefunden werden, sie mit klassischen KI-Tools wie Datenbanken, Wissensnetzwerken und Inferenz zu integrieren. Der Autor Michael Crichton hat einen Großteil seiner Karriere damit verbracht, vor den unbeabsichtigten Folgen der Technologie zu warnen. Zu Beginn des Films „Jurassic Park“, bevor die Dinosaurier unerwartet frei herumlaufen, fasst der Wissenschaftler Ian Malcolm (Jeff Goldblum) Claytons Weisheit in einem Satz zusammen: „Ihre Wissenschaftler sind so darauf konzentriert, ob sie es können, sie geben nicht auf.“ „Wie der Direktor von Jurassic Park sind auch die Führungskräfte von Meta und OpenAI begeistert von ihren Tools.“ Die Frage ist, was zu tun ist.

Das obige ist der detaillierte Inhalt vonGeschrieben, nachdem Stack Overflow ChatGPT verboten hatte, den Krisenmoment der künstlichen Intelligenz. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!