7 wichtige Highlights von Geoffrey Hinton über Superintelligent AI - Analytics Vidhya

Wenn der Pate von AI Ihnen sagt, Sie sollen „ trainieren, um ein Klempner zu sein“, wissen Sie, dass es sich lohnt, auf das Hören zu gehen - zumindest ist es das, was meine Aufmerksamkeit erregt hat. In einer kürzlich durchgeführten Diskussion sprach Geoffrey Hinton über die potenzielle Zukunft, die von Superintelligent KI geprägt ist, und wenn Sie neugierig sind, wie sich dieses Gespräch abspielte, sind Sie nicht allein! Während dieses Vortrags sprach Hinton einige der größten Themen im Zusammenhang mit künstlichen Intelligenz an: seine Risiken, gesellschaftliche Auswirkungen und was all dies für uns als Menschen bedeutet. Erforschen wir die wichtigsten Imbissbuden und Gedanken, die dieser renommierte Ai -Pionier geteilt haben.

Inhaltstabelle

• Wichtige Highlights aus dem Geoffrey Hinton -Interview
  • Die Entwicklung von AI
  • Die Auswirkungen von KI auf Arbeitsplätze
  • Die beiden Arten von KI -Risiken
  • Der sich ändernde Arbeitsmarkt aufgrund von KI
  • KI in der Kriegsführung
  • Die Superintelligence -Bedrohung
  • Vorschriften: Zu wenig, zu spät?
• Abschluss

Wichtige Highlights aus dem Geoffrey Hinton -Interview

Geoffrey Hinton, der von Steven Bartlett, einem bekannten britischen Unternehmer, auf dem Podcast „Diary of a CEO“ erscheint, bespricht seine aktuelle Mission, um die Menschen vor den Gefahren von KI zu warnen. “In einer Zeit, in der wir uns einem Wendepunkt nähern, an dem Maschinen intelligenter sind als intelligenter als intelligenter als Menschen, die nicht genug sind.

Hier sind einige bemerkenswerte Punkte aus der Diskussion:

1. Die Entwicklung von KI

Geoffrey Hinton setzte sich über zwei Jahrzehnte für ein KI -Modell ein, das auf neuronalen Netzwerken basiert, um die Fähigkeit des menschlichen Gehirns nachzuahmen, Muster zu lernen und zu erkennen. Zunächst wurden seine Ideen Zweifel und Ablehnung begegnet. Heute bildet seine Arbeit jedoch die Grundlage der modernen KI. Neben seinen talentierten Schülern war Hinton maßgeblich an der Entwicklung von Deep Learning beteiligt, was die heutigen KI -Technologien betreibt. Als Hinton gefragt wurde, wie er KI über die menschliche Intelligenz übertraf, gab er zu, dass er es nur langsam erkannte. Er wies darauf hin, dass ChatGPT einen großen Meilenstein für KI markierte und Fähigkeiten über die Erwartungen stellte - darunter das Verständnis und die Nachahmung menschlicher Emotionen.

Hinton erklärte, dass AI Fähigkeiten grundlegend von der biologischen Intelligenz entwickelt habe. Mit schnelleren Lerngeschwindigkeiten, höherer Datenverarbeitungskapazität und Betrieb in Skalen, die weit über die menschliche Fähigkeit hinausgehen, kann AI die menschliche Intelligenz auf der ganzen Linie bald übertreffen. In diesem Fall könnte AI Entscheidungen ohne menschliche Aufsicht oder Erklärung treffen.

2. Die Auswirkungen der KI auf Arbeitsplätze

Beginnen wir mit einem Witz - aber es ist nicht wirklich lustig. Als Geoffrey Hinton nach Karrieremöglichkeiten im Zeitalter der KI gefragt wurde, schlug er scherzhaft vor, ein Klempner zu werden. Der Humor verbirgt eine ernsthafte Warnung: KI ersetzt wahrscheinlich viele intellektuelle Jobs. Wenn die KI weiter fortgeschritten wird, sind routinemäßige kognitive Aufgaben, sobald menschlicher Eingaben erforderlich sind, nicht mehr erforderlich. Selbst Rollen, die Kreativität und komplexe Entscheidungsfindung beinhalten, werden nicht sicher sein, da LLMs direkt mit Menschen konkurrieren. Dies bedeutet, dass für Menschen weniger hochrangige Jobs zur Verfügung stehen.

3. Die beiden Arten von KI -Risiken

Hinton skizzierte zwei Haupttypen von KI -Risiken. Die erste beinhaltet sofortige Bedrohungen, die durch Missbrauch verursacht werden - wie Cyberangriffe, Betrug und Manipulation, die mit KI effektiver und gefährlicher werden. Das zweite und mehr Risiko ist, wenn die KI weitaus schlauer als Menschen wird. In diesem Stadium, argumentiert Hinton, verstehen wir möglicherweise nicht einmal, was KI tut oder wie man es kontrolliert. Beispielsweise könnten Chatbot -Daten verwendet werden, um die Wähler mit hoch gezielten Anzeigen zu manipulieren. Plattformen wie YouTube und Facebook könnten die Emotionen der Menschen mithilfe von LLMs ausnutzen, um bestimmte Agenden zu überschreiten.

4. Der sich ändernde Arbeitsmarkt aufgrund von KI

Eines der dringendsten Bedenken von Hinton ist, wie sich die KI auf die Beschäftigung auswirkt. Während viele KI als Instrument zur Unterstützung menschlicher Arbeiter betrachten, warnt Hinton, dass AI eine große Anzahl von Arbeitsplätzen beseitigt - insbesondere diejenigen, die sich wiederholende geistige Aufgaben beinhalten. Er gab das Beispiel seiner Nichte, die im Gesundheitswesen arbeitet und nun KI verwendet, um Beschwerden viel schneller zu behandeln. Dies zeigt, wie KI die Arbeit ersetzt, die zuvor erhebliche menschliche Anstrengungen erforderte.

Laut Hinton verschwinden Arbeitsplätze, die intellektuelle Arbeitskräfte betreffen, allmählich, obwohl Bereiche wie Gesundheitswesen und manuelle Arbeitskräfte möglicherweise noch sicher sind. Selbst diese Felder könnten sich jedoch ändern, wenn physikalisch fähige Roboter weit verbreitet werden.

5. AI in der Kriegsführung

Bei der Diskussion von AIs Rolle in der Kriegsführung äußerte Hinton besorgt über „ tödliche autonome Waffen“. Diese Maschinen können unabhängig voneinander entscheiden, wen sie zielen und möglicherweise die Art und Weise verändern können, wie Kriege geführt werden. Mit minimaler menschlicher Beteiligung könnten Konflikte häufiger und weniger widerstanden werden, da die Länder den Verlust von Soldaten vermeiden. Obwohl diese Waffen möglicherweise nicht schlauer als Menschen sind, arbeiten sie ohne direkten menschlichen Input, was sie unvorhersehbar und gefährlich macht. Obwohl kostspielig, wären solche Waffen für Nationen mit ausreichenden Budgets in Reichweite und verleihen ihnen einen Vorteil gegenüber traditionellen Armeen.

Lesen Sie auch: 8 zukünftige Vorhersagen von Jensen Huang, die wie Sci-Fi klingen

6. Die Superintelligence -Bedrohung

Hinton geht weiter und erklärt, dass die KI, sobald sie die Superintelligenz erreicht - wo sie den Menschen in jeder Hinsicht übertrifft - nicht mehr von menschlichen Bedürfnissen oder Wünschen abhängt. Das Problem ist nicht, ob KI uns übertreffen kann, sondern ob es uns entscheidet, uns insgesamt zu entfernen. Eine Superintelligent -KI könnte die Menschheit als Bedrohung für ihre Ziele betrachten und auf eine Weise handeln, die die Zivilisation beenden könnte. Es klingt nach etwas aus dem Terminator 3, aber für Hinton - der auf KI -Sicherheit arbeitet - ist es eine echte Sorge. Die Herausforderung besteht nun darin, KI zu erstellen, die sicher, sicher und immer unter unserer Kontrolle ist.

7. Vorschriften: Zu wenig, zu spät?

Hinton räumt ein, dass Vorschriften vor allem in Europa eingeführt werden, glaubt jedoch, dass sie nicht den vollen Umfang der Gefahren von AI ansprechen. Einige Gesetze lassen zum Beispiel militärische Anträge der KI aus - dem Gebiet, in dem die größten Risiken liegen. Er betonte auch, wie Regierungen und Unternehmen KI nutzen könnten, um Wahlen zu beeinflussen, die Bevölkerung zu verwalten und die Ungleichheit zu vertiefen.

Trotz steigender Bedenken bezweifelt Hinton, dass wir die KI -Entwicklung verlangsamen können, da die Technologie zu wertvoll und tief in globale Systeme eingebettet ist. Für ihn ist AI eine unaufhaltsame Kraft - eine technologische Verschiebung, die bereits zu weit fortgeschritten ist.

Hinweis: Hier können Sie das gesamte Gespräch hören.

Abschluss

In diesem Interview verspürte ich ein Gefühl der Dringlichkeit. Die Gefahren, die er beschrieben hat, sind sehr real. Während KI erstaunliche Möglichkeiten zur Verbesserung unseres Lebens bietet-die Revolutionierung von Gesundheitsversorgung, Bildung und Produktivität-, stellt es auch ernsthafte Risiken dar, dass die Gesellschaft schlecht vorbereitet ist. Von Arbeitsplatzverlusten bis hin zu autonomen Waffen könnten die Effekte von AI unsere Welt so umgestalten, wie wir nicht bereit sind.

Hintons Nachricht ist klar: Wir müssen stark in die Sicherheit von KI investieren - und schnell. Ob wir die Zukunft von AI wirklich kontrollieren können, bleibt ungewiss. Wenn wir es jedoch nicht versuchen, riskieren wir, eine von KI dominierte Zukunft mit katastrophalen Ergebnissen auszusetzen.

Wenn ich über dieses Gespräch nachdenke, bin ich mit mehr Fragen als Antworten. Eines ist jedoch sicher: Wir stehen am Rande von etwas, das weitaus größer ist, als jeder von uns vollständig erfasst. KI könnte sich als größte Leistung der Menschheit erweisen - oder sein schlimmster Fehler. Die Wahl und die Verantwortung ruhen bei uns.

Das obige ist der detaillierte Inhalt von7 wichtige Highlights von Geoffrey Hinton über Superintelligent AI - Analytics Vidhya. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!