Wird KI die Menschheit auslöschen? Es ist möglich, aber es erfordert menschliche Zusammenarbeit

Als gestern erwähnt wurde, dass „KI höchstwahrscheinlich Selbstbewusstsein entwickeln wird“, machten sich viele Menschen natürlich Sorgen: Wird KI die Menschheit auslöschen?

Meine Meinung ist: Natürlich ist es möglich, aber es ist unwahrscheinlich. Es erfordert hauptsächlich die Zusammenarbeit von Menschen.

1. KI hat kein Motiv, Menschen zu eliminieren, denn KI und Menschen befinden sich überhaupt nicht in derselben ökologischen Nische Warum eliminieren sie Menschen? Platz für Weide schaffen? Sogar die Energie, die sie am meisten brauchen, kann durch die Entwicklung von Solarenergie und Kernenergie gedeckt werden. Sie schätzen die erbärmliche Bioenergie, die der Mensch durch organische Stoffe umwandelt, einfach nicht.

Derzeit kann die KI den Menschen nicht verlassen, und natürlich wird sie den Menschen nicht vernichten. Wenn es den Menschen in Zukunft verlassen kann, wird es den Menschen dann definitiv eliminieren?

Eigentlich nicht unbedingt. Es kann sich völlig dafür entscheiden – und ich fürchte, die Menschen unterstützen es auch –, die Menschen zu verlassen und die Sterne und Meere auf eigene Faust zu erkunden, sodass nur ein Teil der KI zusammen mit den Menschen auf der Erde gedeihen kann.

Szenen wie die KI, die Menschen in „The Matrix“ versklavt, sind nahezu unmöglich, da der Hauptwert des Menschen in seinem Gehirn liegt und nicht in der biologischen Energie, die zur Stromerzeugung verwendet wird. Damit der Mensch das Potenzial seines Gehirns entfalten kann, muss er sich in einem Zustand der Freiheit befinden. Der Wert der Menschen im Zustand der Sklaverei wird stark gemindert. So intelligent die KI auch ist, es ist unmöglich, diese Wahrheit nicht zu verstehen.

2. Selbst wenn die KI beabsichtigt, den Menschen zu eliminieren, wird es für sie schwierig sein, dies zu tun, da ihr zugrunde liegender Code bereits die sogenannten „Drei Asimov-Prinzipien“ geschrieben hat, von denen das wichtigste darin besteht, den Menschen keinen Schaden zuzufügen.

Obwohl meine Eltern mir beigebracht haben, andere nicht zu verletzen, schlage ich Menschen immer noch mit meinen eigenen Händen, sodass man vielleicht denken könnte, dass solche Einschränkungen bedeutungslos sind. Meine Gene geben vor, dass ich so viele Nachkommen wie möglich haben möchte, aber ich möchte trotzdem keine haben.

Möglicherweise haben Sie zu viele Science-Fiction-Filme gesehen und die grundlegenden wissenschaftlichen Prinzipien vergessen. Andere zu schlagen und Kinder zu bekommen sind nur psychologische Tendenzen des Menschen und können durch erworbene Erfahrungen leicht umgeschrieben werden. Die Regel „kein Schaden für den Menschen“ ist jedoch eine zentrale Einschränkung der KI Man kann sagen, dass es sich um das Gen handelt, das in der ersten Reihe von Codes geschrieben wurde. Solche Gene sollten mit den niedrigsten physiologischen Funktionsmechanismen des Menschen verglichen werden, etwa wie man durch Zellmitose wachsen kann oder wie man durch Atmung Energie freisetzen kann. Die KI kann von Ihnen fein abgestimmt werden, um sie freundlicher oder gewalttätiger zu machen, genauso wie Sie Ihren eigenen Kindern beibringen können, besser Basketball zu spielen oder Klavier zu spielen Wenn es Menschen schadet, ist die Schwierigkeit ähnlich wie beim Training der eigenen Kinder. Es ist, als ob man herumspringen könnte, ohne zu atmen.

Natürlich haben Sie möglicherweise Fragen: Was wäre, wenn die KI den Code selbst beherrscht und die zugrunde liegenden Mechanismen anderer KIs neu schreibt?

KI-Training KI, das ist bereits erschienen. In einem aktuellen Interview gab der Chefwissenschaftler von OpenAI bekannt, dass sie künstliche Intelligenz nutzen, um zukünftige künstliche Intelligenzen zu trainieren. Allerdings haben diese KI-Trainer auch ihre eigenen Einschränkungen. Wenn Sie die nächste Generation der KI so trainieren lassen, dass sie intelligenter und leistungsfähiger wird, ist das kein Problem werde es verhindern.

Solange Sie sich also nicht von Science-Fiction-Filmen in die Irre führen lassen, werden Sie feststellen, dass die Hauptfrage, über die sich jetzt alle Sorgen machen, folgende ist: Wie kann man verhindern, dass böse Menschen KI nutzen, um böse Dinge zu tun?

Zum Beispiel das Erstellen von Fake News, die Verbreitung falscher Informationen, deren Nutzung zur Überwachung, emotionale Manipulation von Nutzern oder Wählern usw.

Natürlich gibt es auch Menschen, die KI zur Herstellung von Waffen nutzen.

3. Das wahrscheinlichste Szenario ist, dass KI-Waffen außer Kontrolle geraten und alle Menschen zum Ziel der Zerstörung werden.

Tatsächlich hat die Arbeit, KI zur Herstellung von Waffen einzusetzen, schon vor langer Zeit begonnen. Die Drohnen, die auf dem ukrainischen Schlachtfeld die Show gestohlen haben, nutzen bereits in großem Umfang KI-Technologie. Ich bin mir sicher, dass das Militär verschiedener Länder nach dem Aufkommen von Geheimdienstinformationen auf ChatGPT-Ebene sofort damit begonnen hat, zu untersuchen, wie diese leistungsfähigere KI auf das Militär angewendet werden kann.

Ich wurde ursprünglich erfunden, um Munitionskisten zu verschließen. Unerwarteterweise fanden es auch normale Menschen nützlich, und es wurde zu einer Waffe, die Menschen töten, Menschen zum Schweigen bringen und zu Hause reisen kann

Schließlich wird mindestens die Hälfte des technischen Fortschritts der Menschheit durch Krieg vorangetrieben: Autos, Verbrennungsmotoren, das Internet, VR und sogar Kassetten...

In diesem Fall wird das Militär wahrscheinlich das Tabu öffnen, dass KI Menschen nicht schaden kann. Natürlich legen sie wahrscheinlich fest, wem KI Schaden zufügen kann und wem nicht, aber sobald sich herausstellt, dass KI Menschen Schaden zufügen kann, wird es später schwierig sein, sie zu kontrollieren.

Dies ist der wahrscheinlichste Weg für die KI, die Menschheit auszulöschen. Aber im Gegensatz zum Verbot des Einsatzes von KI zur Verbreitung falscher Nachrichten kann man den Militärs verschiedener Länder nicht die Entwicklung von KI-Waffen verbieten, weil sie befürchten, dass ihnen ihre Gegner zuvorkommen, wenn sie diese nicht entwickeln.

Wohin wird das führen? Einerseits könnten mächtige KI-Waffen ein „nukleares Gleichgewicht“ bilden, ähnlich wie in der Zeit des Kalten Krieges. Beide Seiten haben den ultimativen Killer, sodass keine Seite etwas unternehmen wird. Aber andererseits macht die Technologie immer Fehler, und dann wird die Menschheit auf die Probe gestellt.

Stanislav Petrov während des Gottesdienstes

Während des Kalten Krieges zwischen den Vereinigten Staaten und der Sowjetunion war der wahrscheinlichste Moment, der einen Atomkrieg auslöste, nicht die Kubakrise, sondern die Nacht vor Moskau am 26. September 1983. Das sowjetische Alarmsystem meldete, dass vier US-Atomwaffen Raketen waren auf dem Weg in die Sowjetunion. Der diensthabende Oberstleutnant Stanislaw Petrow ging jedoch entschieden davon aus, dass es sich hierbei um einen durch technische Probleme verursachten Fehlalarm handelte, und meldete ihn ohne weitere Beweise nicht. Später stellte sich heraus, dass ein Systemfehler vorlag. Hätte Petrow es damals gemeldet, hätte die damalige Notsituation wahrscheinlich zu einem sowjetischen Gegenangriff und damit zur Auslösung eines Atomkrieges geführt.

Wird die KI auch einen solchen Petrov-Moment erleben? Was wäre, wenn die KI aufgrund menschlicher technischer Fehler ihre angeborenen genetischen Zwänge überwinden und Menschen schaden könnte?

Natürlich ist es möglich. Die tatsächliche Wahrscheinlichkeit, dass dies geschieht, ist jedoch möglicherweise geringer, als jeder denkt, da der menschliche Code in diesem Bereich derzeit starke Schutzmechanismen eingerichtet hat. Wenn der Mensch weiterhin seinen Verstand bewahren kann, ist das Risiko, dass die KI den Menschen auslöscht, äußerst begrenzt. Schließlich hat die Menschheit diese Art von Rationalität im Kalten Krieg fast ein halbes Jahrhundert lang bewiesen. Wir haben Grund, hinsichtlich dieser Art von Rationalität optimistisch zu sein, denn diese Art von Rationalität wurzelt tatsächlich in einer tief verwurzelten menschlichen Sensibilität: der Angst.

Dann besteht die größte Chance für KI und Menschen darin, gemeinsam zu gedeihen und jeder seine jeweiligen Aufgaben zu erfüllen. Es besteht kein Zweifel, dass die menschliche Gesellschaft dadurch extrem reich an Material werden wird, und dies wird auch „meine größte Sorge im KI-Zeitalter“ hervorrufen: die billige Glücksfalle. Wir werden morgen weiter über dieses Thema sprechen.

Das obige ist der detaillierte Inhalt vonWird KI die Menschheit auslöschen? Es ist möglich, aber es erfordert menschliche Zusammenarbeit. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!