Demis Hassabis: KI ist leistungsfähiger, als wir uns vorgestellt haben

Kürzlich war Demis Hassabis, die Gründerin von DeepMind, zu Gast im Podcast von Lex Fridman und sprach über viele interessante Punkte.

Zu Beginn des Interviews erklärte Hassabis unverblümt, dass der Turing-Test veraltet sei, da es sich um einen seit Jahrzehnten vorgeschlagenen Benchmark handele und der Turing-Test auf menschlichen Handlungen und Reaktionen beruhe anfällig für eine „Farce“, ähnlich der vor einiger Zeit, als ein Google-Ingenieur behauptete, das KI-System sei bei Bewusstsein: Der Forscher sprach mit einem Sprachmodell und ordnete seine eigene Wahrnehmung dem Urteil des Modells zu, das unsachlich war.

Seit seiner Gründung im Jahr 2015 hat die Entwicklung von DeepMind im Bereich der künstlichen Intelligenz immer wieder Überraschungen in die Welt gebracht: vom Spielprogramm AlphaGo bis zum Proteinvorhersagemodell AlphaFold, technologische Durchbrüche im Deep Reinforcement Learning haben das Problem gelöst. Das Denken und die Motivation des Teams hinter den großen wissenschaftlichen Fragen, die menschliche Wissenschaftler seit vielen Jahren beschäftigen, sind faszinierend.

In diesem Interview mit Hassabis sprach er auch über einen interessanten Punkt, nämlich dass KI die Grenzen der menschlichen Intelligenz überschreitet. Während sich der Mensch mit der Zeit möglicherweise an diese dreidimensionale Welt gewöhnt hat, kann die KI möglicherweise die Intelligenz erreichen, die Welt aus zwölf Dimensionen zu verstehen und sich von der Natur der Werkzeuge zu befreien, da unser menschliches Verständnis noch immer viele Mängel aufweist die Welt.

Das Folgende ist ein Interview mit Demis Hassabis:

1 Von Spielen bis KI

Lex Fridman: Wann fingen Sie an, Programmieren zu mögen? #???? , ein ZX-Spektrum, und später kaufte ich ein Buch über Programmierung. Ich habe mich in Computer verliebt, als ich anfing, sie zum Erstellen von Spielen zu verwenden. Ich dachte, sie wären magisch und eine Erweiterung meines Geistes. Man konnte sie bitten, eine Aufgabe zu erledigen, und als man am nächsten Tag aufwachte, war sie bereits gelöst.

Natürlich tun dies alle Maschinen bis zu einem gewissen Grad und erweitern unsere natürlichen Fähigkeiten, wie zum Beispiel Autos, die es uns ermöglichen, uns schneller zu bewegen, als wir rennen können. Aber künstliche Intelligenz ist der ultimative Ausdruck allen Lernens, das Maschinen leisten können, daher haben sich meine Gedanken natürlich auch auf künstliche Intelligenz ausgeweitet.

Lex Fridman: Wann haben Sie sich in künstliche Intelligenz verliebt? Wann habe ich angefangen zu verstehen, dass es nicht nur im Schlaf Programme schreiben und mathematische Operationen ausführen kann, sondern auch komplexere Aufgaben als mathematische Operationen ausführen kann?

Demis Hassabis: lässt sich wohl in mehrere Phasen einteilen.

Ich war Kapitän der Jugendschachmannschaft, als ich etwa 10 oder 11 Jahre alt war. Das war mein erster Traum. Im Alter von 12 Jahren erreichte ich das Großmeisterniveau und war nach Judith Pologer die zweitbeste Schachspielerin der Welt. Wenn ich versuche, meine Schachfähigkeiten zu verbessern, muss ich zuerst meinen Denkprozess verbessern. Wie kommt das Gehirn auf diese Ideen? Warum macht es Fehler? Wie kann dieser Denkprozess verbessert werden?

Wie die Schachcomputer Anfang bis Mitte der 80er Jahre war ich es gewohnt, eine Markenversion von Kasparov zu haben, die zwar nicht so leistungsfähig war wie heute, aber durch Üben damit verbessert werden konnte. Ich dachte damals, das ist erstaunlich, jemand hat dieses Brett so programmiert, dass es Schach spielt. Ich kaufte ein Exemplar von „The Chess Computer Handbook“ von David Levy aus dem Jahr 1984. Es war ein sehr interessantes Buch und ermöglichte mir, vollständig zu verstehen, wie Schachprogramme erstellt werden.

Bildunterschrift: Kasparov, ehemaliger sowjetischer und russischer Profischachspieler, Schachgroßmeister

Mein erstes Programm mit künstlicher Intelligenz wurde programmiert Mit meinem Amiga habe ich ein Programm geschrieben, um Othello rückwärts zu spielen. Es ist ein etwas einfacheres Spiel als Schach, aber ich habe darin alle Prinzipien der Schachprogrammierung verwendet, d. h. Alpha-Beta-Suche usw.

Die zweite Stufe war ein Spiel namens „Theme Park“, das ich im Alter von etwa 16 oder 17 Jahren entworfen habe und das eine KI-Simulation im Spiel beinhaltete, obwohl es nach heutigen KI-Standards einfach ist. Aber es reagiert darauf, wie Sie als Spieler spielen, daher wird es auch als Sandbox-Spiel bezeichnet.

Lex Fridman: Können Sie uns einige Ihrer wichtigsten Verbindungen zur KI nennen? Was ist nötig, um ein KI-System in einem Spiel zu erstellen?

Demis Hassabis: Ich habe mir als Kind selbst Spiele beigebracht und später eine Phase des Entwerfens von Spielen und des Schreibens von KI für Spiele durchlaufen. Alle Spiele, die ich in den 1990er Jahren geschrieben habe, hatten künstliche Intelligenz als Kernkomponente. Der Grund, warum ich das in der Spielebranche gemacht habe, liegt darin, dass ich damals dachte, dass die Spielebranche an der Spitze der Technologie steht. Leute wie John Carmack und Quake schienen das in Spielen zu tun. Wir profitieren immer noch von den Vorteilen davon, wie zum Beispiel GPUs, die für Computergrafiken erfunden wurden, sich aber später als wichtig für die KI erwiesen. Daher dachte ich damals, das Spiel verfüge über modernste künstliche Intelligenz.

Zu Beginn nahm ich an einem Spiel namens „Black and White“ teil, das das tiefgreifendste Beispiel für die Anwendung von Reinforcement Learning in Computerspielen darstellt. Sie können ein kleines Haustier im Spiel trainieren und es wird aus der Art und Weise lernen, wie Sie es schlecht behandeln, und es wird gemein und gemein zu Ihren Dorfbewohnern und dem kleinen Stamm, den Sie verwalten. Aber wenn man es gut behandelt, wird es freundlich.

Lex Fridman: Die Zuordnung von Gut und Böse im Spiel hat mir klar gemacht, dass man das Ergebnis durch die Entscheidungen, die man trifft, bestimmen kann. Spiele können eine solche philosophische Bedeutung haben.

Demis Hassabis: Ich denke, Spiele sind ein einzigartiges Medium, da man als Spieler nicht nur passiv Unterhaltung konsumiert, sondern tatsächlich aktiv als Repräsentant teilnimmt. Ich denke, das ist der Grund, warum Spiele in gewisser Weise mehr Substanz haben als andere Medien, wie Filme und Bücher.

Wir haben von Anfang an intensiv über KI nachgedacht und Spiele als Testgelände für bewährte und offene KI-Algorithmen genutzt. Dies ist auch der Grund, warum Deepmind zunächst eine große Anzahl von Spielen als Haupttestplattform verwendete, da Spiele sehr effizient sind und es leicht ist, Indikatoren zu haben, um zu sehen, wie sich das KI-System verbessert, in welche Richtung es denkt usw ob schrittweise Verbesserungen vorgenommen werden.

Lex Fridman: Angenommen, wir können keine Maschine bauen, die Menschen im Schach schlagen kann, würde man aufgrund der Komplexität der Kombinationen denken, dass Go ein unzerbrechliches Spiel ist. Aber am Ende bauten KI-Forscher diese Maschine und die Menschen erkannten, dass wir nicht so schlau sind, wie wir dachten.

Demis Hassabis: Das ist eine interessante Denkreise, besonders wenn ich sie aus zwei Perspektiven verstehe (KI-Ersteller und Spieler), fühlt sie sich noch magischer und gleichzeitig ein bisschen bittersüßer an.

Kasparov nennt Schach eine intelligente „Fruchtfliege“. Diese Beschreibung gefällt mir sehr gut, weil Schach von Anfang an eng mit KI verbunden war. Ich denke, jeder KI-Praktiker, einschließlich Turing und Shannon und alle Vorfahren auf diesem Gebiet, hat versucht, ein Schachprogramm zu schreiben. Shannon schrieb 1949 das erste Programmdokument über Schach. Turing schrieb auch ein berühmtes Schachprogramm, aber da der Computer zu langsam war, führte er das Programm manuell aus und unterhielt sich mit Freunden.

DeepBlue ist ein großer Moment, der all die Dinge vereint, die ich an Schach, Computern und künstlicher Intelligenz liebe. 1996 besiegte es Garri Kasparow. Danach war ich von Kasparovs Verstand mehr beeindruckt als von DeepBlue, denn Kasparov ist ein menschlicher Geist und er kann nicht nur beim Schachspielen auf dem gleichen Niveau wie ein Computer sein, Kasparov kann auch alles, was ein Mensch kann, wie zum Beispiel reiten Fahrrad fahren, Mehrsprachigkeit sprechen, an politischen Aktivitäten teilnehmen und mehr.

DeepBlue hat zwar seine Erfolge im Schach gehabt, aber in Wirklichkeit geht es darum, das Wissen eines Schachgroßmeisters in ein Programm zu bündeln, das nichts anderes kann. Ich denke also, dass dem System etwas Schlaues fehlt, und deshalb haben wir versucht, AlphaGo zu machen.

Lex Fridman: Lassen Sie uns kurz über die menschliche Seite des Schachs sprechen. Aus Sicht des Spieldesigns haben Sie gesagt, dass Schach attraktiv ist, weil es ein Spiel ist. Könnten Sie bitte erklären, ob es eine kreative Spannung zwischen dem Läufer (dem Läufer im Schach) und dem Springer (dem Springer im Schach) gibt? Was macht Spiele attraktiv und fähig, Jahrhunderte zu überdauern?

Demis Hassabis:Darüber denke ich auch nach. Tatsächlich denken viele hervorragende Schachspieler nicht unbedingt aus der Perspektive eines Spieleentwicklers über dieses Thema nach.

Warum ist Schach so attraktiv? Ich denke, ein Hauptgrund ist die Dynamik der verschiedenen Stellungen. Man kann erkennen, ob sie geschlossen oder offen sind, denken Sie daran, wie unterschiedlich sich der Läufer und der Springer bewegen, und das Schach hat sich entwickelt, um diese beiden auszugleichen, ungefähr 3 Punkte.

Lex Fridman: Du denkst also, die Dynamik ist immer da und der Rest der Regeln versucht, das Spiel zu stabilisieren.

Demis Hassabis:Vielleicht ist es ein bisschen wie eine Henne-Ei-Situation, aber die beiden erreichen eine schöne Balance. Der Läufer, der Springer und der Springer haben unterschiedliche Kräfte, aber ihr Wert im gesamten Universum ist gleich. Sie wurden in den letzten hundert Jahren von Menschen ausbalanciert, was dem Spiel meiner Meinung nach eine kreative Spannung verleiht.

Lex Fridman: Glauben Sie, dass KI-Systeme Menschen dazu bewegen können, Spiele zu entwerfen?

Demis Hassabis: Das ist eine interessante Frage. Wenn Kreativität als die Entwicklung von etwas Originellem und Nützlichem für einen bestimmten Zweck definiert wird, dann ist die unterste Ebene der Kreativität wie ein interpolierter Ausdruck, und grundlegende KI-Systeme verfügen über diese Fähigkeit. Zeigen Sie ihm Millionen Bilder von Katzen und zeigen Sie mir dann eine normale Katze. Das nennt man Interpolation.

Auch wie AlphaGo kann es Rückschlüsse ziehen. Nachdem AlphaGo Millionen von Spielen gegen sich selbst gespielt hatte, kam es auf einige großartige neue Ideen, wie z. B. 37 Züge im Spiel, die eine Strategie bieten, an die Menschen noch nie gedacht hätten, obwohl wir das Spiel schon seit Hunderten und Tausenden von Jahren spielen .

Es gibt noch eine weitere Ebene darüber: ob man über den Tellerrand schauen und echte Innovationen schaffen kann. Könnte man Schach erfinden, anstatt sich einen Zug auszudenken? Könnte Schach oder etwas Ähnliches wie Schach oder Go erfunden werden?

Ich denke, dass die KI eines Tages dazu in der Lage sein wird, aber die Frage ist nun, wie man diese Aufgabe einem Programm zuweist. Wir sind noch nicht in der Lage, abstrakte Konzepte auf hoher Ebene in Systeme der künstlichen Intelligenz zu konkretisieren, und es mangelt ihnen immer noch an etwas, um Konzepte auf hoher Ebene oder abstrakte Konzepte wirklich zu verstehen. So wie es aussieht, können sie kombiniert und zusammengesetzt werden, und KI kann Interpolation und Schlussfolgerungen durchführen, aber nichts davon ist wirklich eine Erfindung.

Lex Fridman: Regelsätze zu entwickeln und zu optimieren sowie komplexe Ziele rund um diese Regelsätze zu entwickeln, ist etwas, wozu wir derzeit nicht in der Lage sind. Aber ist es möglich, ein bestimmtes Regelwerk zu nehmen und es auszuführen und zu sehen, wie lange das KI-System braucht, um von Grund auf zu lernen?

Demis Hassabis: Ich habe tatsächlich darüber nachgedacht, das ist großartig für einen Spieledesigner. Wenn es ein System gäbe, das Ihr Spiel zig Millionen Mal spielt, könnte es möglicherweise über Nacht automatische Ausgleichsregeln implementieren. Einheiten oder Regeln im Spiel können durch Gleichungen oder Parameter angepasst werden, um das Spiel ausgewogener zu gestalten. Es ist so, als würde man einen Basissatz angeben und ihn mit einer Monte-Carlo-Methodensuche oder so etwas erkunden, das wäre ein superleistungsfähiges Werkzeug.

Während für das automatische Balancing oft tausende Trainingsstunden aus Hunderten von Spielen erforderlich sind, ist das Balancing von Spielen wie StarCraft, Blizzard usw. erstaunlich und erfordert Jahr für Jahr Tester. Es ist also denkbar, dass diese Dinge irgendwann so effektiv werden, dass Sie es über Nacht tun möchten.

Lex Fridman: Glauben Sie, dass wir in einer Simulation leben?

Demis Hassabis: Ja. Nick Bostrom hat bekanntlich als Erster die Simulationstheorie vorgeschlagen, aber ich glaube nicht wirklich daran. In gewisser Weise befinden wir uns in einer Art Computerspiel, oder unsere Nachkommen gestalten den Planeten im 21. Jahrhundert irgendwie neu.

Der beste Weg, die Physik und das Universum zu verstehen, besteht darin, sie aus rechnerischer Sicht als ein Informationsuniversum zu verstehen. Tatsächlich sind Informationen die grundlegendste Einheit der Realität. Im Vergleich zu Materie oder Energie würden Physiker E=mc² sagen, was die Grundlage des Universums ist. Aber ich denke, dass Informationen wahrscheinlich die grundlegendste Möglichkeit sind, das Universum zu beschreiben, und dass sie selbst Energie oder Materie genau spezifizieren können. Man kann also sagen, dass wir uns in einer Art Simulation befinden. Aber ich bin nicht mit dieser Idee einverstanden, Milliarden von Simulationen wegzuwerfen.

Lex Fridman: Glauben Sie, basierend auf Ihrem Verständnis des allgemeinen Begriffs Maschine, Ihrem Verständnis von Computern, dass es im Universum etwas gibt, das über die Fähigkeiten von Computern hinausgeht? Sie sind nicht einer Meinung mit Roger Penrose (mathematischer Physiker)?

Demis Hassabis: Roger Penrose ist sehr berühmt und hat an vielen hervorragenden Debatten teilgenommen. Ich habe sein klassisches Buch „The Emperor's New Brain“ gelesen und er erklärt, dass Bewusstsein im Gehirn mehr Quantendinge erfordert. Ich habe bei meiner Arbeit auch viel darüber nachgedacht, was wir eigentlich tun: Turing-Maschinen oder klassisches Rechnen an ihre Grenzen bringen. Wo liegen die Grenzen des klassischen Rechnens? Ich habe auch Neurowissenschaften studiert, weshalb ich diese Richtung für meine Doktorarbeit gewählt habe, um herauszufinden, ob es aus neurowissenschaftlicher oder biologischer Sicht eine Quantenpräsenz im Gehirn gibt.

Bisher würden die meisten Neurowissenschaftler und Biologen sagen, dass es keine Hinweise auf Quantensysteme oder Effekte im Gehirn gibt, die sich größtenteils mit klassischer Theorie und Kenntnissen der Biologie erklären lassen. Aber gleichzeitig ist es ein fortlaufender Prozess, mit dem zu beginnen, was Turing-Maschinen leisten können, einschließlich KI-Systemen, insbesondere im letzten Jahrzehnt. Ich würde nicht darauf wetten, wie weit universelle Turing-Maschinen und klassische Computerparadigmen gehen können, aber vielleicht kann das, was im Gehirn passiert, auf einer Maschine nachgeahmt werden, ohne dass metaphysische oder Quantentechniken erforderlich sind.

2Al für die Wissenschaft

Lex Fridman: Lassen Sie uns jetzt über AlphaFold sprechen. Glauben Sie, dass der menschliche Geist aus diesem neuronalen Netzwerk-ähnlichen, biologischen Rechenbrei entsteht und nicht direkt mental funktioniert?

Demis Hassabis: Meiner Meinung nach ist das größte Wunder im Universum, dass sich in unserem Schädel, der gleichzeitig das Gehirn und das komplexeste Objekt im derzeit bekannten Universum ist, nur ein paar Pfund Brei befinden. Ich denke, es ist eine erstaunlich effiziente Maschine, und das ist einer der Gründe, warum ich schon immer KI bauen wollte. Indem wir Agenten wie KI entwickeln und sie mit dem menschlichen Geist vergleichen, können wir uns möglicherweise dabei helfen, uns historisch über die Einzigartigkeit des Geistes und seine wahren Geheimnisse, Bewusstsein, Träume, Kreativität, Emotionen und alles dazwischen Gedanken zu machen.

Dafür gibt es mittlerweile jede Menge Tools. Alle neurowissenschaftlichen Tools können FMI-Maschinen aufzeichnen, und es gibt auch KI-Rechenleistung zum Aufbau intelligenter Systeme. Es ist erstaunlich, was der menschliche Geist leisten kann. Die Tatsache, dass Menschen Dinge wie Computer erschaffen und über diese Probleme nachdenken und sie studieren, ist ein Beweis für den menschlichen Geist und hilft uns, das Universum und den menschlichen Geist klarer zu verstehen. Man könnte sogar sagen, dass wir der Mechanismus sind, durch den das Universum versucht, seine eigene Schönheit zu verstehen.

Aus einer anderen Perspektive betrachtet können die Grundbausteine ​​der Biologie auch verwendet werden, um den menschlichen Geist und Körper zu verstehen. Es ist erstaunlich, Modelle ausgehend von den Grundbausteinen zu simulieren und zu bauen, und man kann größere und komplexere Modelle bauen Systeme oder sogar die menschliche Biologie als Ganzes.

Es gibt auch ein Problem, das als unlösbar gilt, nämlich die Proteinfaltung, die einen der größten Durchbrüche in der Geschichte der Strukturbiologie darstellt. Protein ist für alles Leben lebenswichtig und jede Funktion des Körpers hängt von Protein ab.

Proteine ​​werden durch ihre Gensequenz (auch Aminosäuresequenz genannt) spezifiziert, die man sich als ihre Grundbausteine ​​vorstellen kann. Sie falten sich im Körper und in der Natur zu einer dreidimensionalen Struktur, und diese dreidimensionale Struktur bestimmt ihre Funktion im Körper. Wenn Sie sich außerdem für Medikamente oder Krankheiten interessieren und mit einem Wirkstoff die Wirkung eines Proteins blockieren möchten, ist es Voraussetzung, die dreidimensionale Struktur der Bindungsstelle auf der Proteinoberfläche zu verstehen.

Abbildung: Im Juli 2021 veröffentlichte DeepMind die Ergebnisse der AlphaFold-Vorhersage erstmals öffentlich über die in Zusammenarbeit mit dem European Molecular Biology Laboratory (EMBL) erstellte Datenbank. Die ursprüngliche Datenbank enthält 98 % aller menschlichen Proteine

Lex Fridman: Der Kern des Proteinfaltungsproblems besteht darin, dass man aus einer Aminosäuresequenz eine eindimensionale Buchstabenfolge erhalten kann. Können dreidimensionale Strukturen sofort rechnerisch vorhergesagt werden? Dies ist seit mehr als 50 Jahren eine große Herausforderung in der Biologie. Nobelpreisträger Christian Anfinsen erklärte erstmals 1972, dass er spekuliert, dass der Übergang von der Aminosäuresequenz zur dreidimensionalen Struktur erreicht werden könne.

Demis Hassabis: Dieser Satz von Christian Anfinsen eröffnete die gesamten 50 Randgebiete der Computerbiologie, in denen sie gefangen sind und nicht besonders gut gemacht werden.

Vor der Entstehung von AlphaFold wurde dies alles experimentell durchgeführt. Einige Proteine ​​​​können nicht wie Membranproteine ​​​​kristallisiert werden, und um 3D-Strukturen zu erhalten, müssen teure Elektronenmikroskope oder Röntgenkristallanalysatoren verwendet werden und ihre Strukturen visualisieren. Mit AlphaFold können zwei Personen in Sekundenschnelle eine dreidimensionale Struktur vorhersagen.

Lex Fridman: Es gibt einen Datensatz, es wird auf diesem Datensatz trainiert und wie man Aminosäuren kartiert. Unglaublicherweise kann dieser kleine Chemiecomputer Berechnungen auf verteilte Weise und sehr schnell durchführen.

Demis Hassabis: Vielleicht sollten wir über den Ursprung des Lebens diskutieren. Tatsächlich ist Protein selbst eine erstaunliche kleine biologische und tierische Maschine. Cyrus Levinthal, der Wissenschaftler, der das Levinthal-Paradoxon vorgeschlagen hat, hat grob berechnet, dass das durchschnittliche Protein 2.000 Aminosäurebasen lang sein kann und 10 bis 300 verschiedene Proteinfaltungsmethoden aufweisen kann. Und in der Natur löst die Physik dieses Problem dadurch, dass sich Proteine ​​in Ihrem Körper innerhalb von Millisekunden oder einer Sekunde zusammenfalten.

Lex Fridman: Die Sequenz hat eine einzigartige Art, sich zu formen, sie findet einen Weg, inmitten der riesigen Möglichkeiten stabil zu bleiben. In manchen Fällen kann es zu Funktionsstörungen kommen, aber meistens handelt es sich um eine eindeutige Zuordnung, die nicht offensichtlich ist.

Demis Hassabis: Wenn Gesundheit normalerweise eine eindeutige Zuordnung hat, was genau ist dann das Problem, wenn Sie krank sind? Eine Hypothese für die Alzheimer-Krankheit lautete beispielsweise, dass sich Beta-Amyloid falsch faltet, wodurch es fehlgefaltet wird und sich in Neuronen verheddert.

Um Gesundheit, Funktion und Krankheit zu verstehen, müssen Sie verstehen, wie sie strukturiert sind, und es ist äußerst wichtig zu wissen, was diese Dinge bewirken. Der nächste Schritt besteht darin, dass Proteine, wenn sie mit etwas interagieren, ihre Form ändern. In der Biologie sind sie also nicht unbedingt statisch.

Lex Fridman: Vielleicht können Sie einige Lösungen für AlphaFold geben, das im Gegensatz zum Spiel ein echtes Physiksystem ist. Was ist dabei sehr schwer zu lösen? Welche Lösungen sind relevant?

Demis Hassabis: AlphaFold ist das komplexeste und wahrscheinlich aussagekräftigste System, das wir bisher gebaut haben.

Wir haben AlphaGo und AlphaZero ursprünglich für Spiele entwickelt, aber das ultimative Ziel besteht nicht nur darin, Spiele zu knacken, sondern sie als Leitfaden für allgemeine Lernsysteme und zur Lösung realer Herausforderungen zu verwenden. Wir wollen uns stärker mit wissenschaftlichen Herausforderungen wie der Proteinfaltung befassen, und AlphaFold ist unser erster wichtiger Beweispunkt.

Datentechnisch erfordert die Anzahl der Innovationen etwa 30 verschiedene Zusammensetzungsalgorithmen, die zusammengestellt werden, um die Proteinfaltung zu knacken. Einige der großen Innovationen betrafen die Physik und die Evolutionsbiologie. Dabei wurde eine harte Codierung entwickelt, um Dinge wie Bindungswinkel in Proteinen einzuschränken, ohne jedoch das Lernsystem zu beeinträchtigen, sodass das System weiterhin Physik anhand von Beispielen lernen kann.

Angenommen, dass es nur etwa 150.000 Proteine ​​gibt, werden selbst nach 40 Jahren Experimenten nur etwa 50.000 Proteinstrukturen entdeckt. Der Trainingssatz ist viel kleiner als normalerweise verwendet, es werden jedoch verschiedene Techniken wie Selbstextraktion verwendet. Wenn Sie AlphaFold verwenden, um einige sehr sichere Vorhersagen zu treffen, ist es daher wichtig, dass AlphaFold es wieder in den Trainingssatz einfügt, um den Trainingssatz zu vergrößern.

Tatsächlich sind viele Innovationen erforderlich, um dieses Problem zu lösen. Was AlphaFold erstellt, ist ein Histogramm, eine Matrix paarweiser Abstände zwischen allen Molekülen im Protein. Sie müssen einen separaten Optimierungsprozess durchführen, um die dreidimensionale Struktur zu erstellen. Um AlphaFold wirklich durchgängig zu machen, kann es direkt von der Basensequenz der Aminosäuren zur dreidimensionalen Struktur übergehen und die Zwischenschritte überspringen.

Aus dem maschinellen Lernen geht auch hervor, dass das System umso besser sein kann, je mehr End-to-End. Das System kann Einschränkungen besser lernen als menschliche Designer. In diesem Fall ist eine 3D-Struktur besser als ein Zwischenschritt, bei dem man manuell zum nächsten Schritt wechseln muss. Der beste Ansatz besteht darin, Farbverläufe und Lernen durch das gesamte System fließen zu lassen, vom Endpunkt über die gewünschte Endausgabe bis hin zur Eingabe.

Lex Fridman: Was die Idee von AlphaFold betrifft, könnte dies ein erster Schritt auf einer langen Reise in der Biologie sein. Glauben Sie, dass dieselbe Methode die Struktur und Funktion komplexerer biologischer Systeme, Multi-Protein-Wechselwirkungen, vorhersagen kann? Es dient als Ausgangspunkt. Kann es immer größere Systeme simulieren und schließlich Dinge wie das menschliche Gehirn und den menschlichen Körper simulieren? Glauben Sie, dass dies eine langfristige Vision ist?

Demis Hassabis: Natürlich haben die Behandlung von Krankheiten und das Verständnis der Biologie, sobald wir ein ausreichend leistungsfähiges biologisches System haben, oberste Priorität auf meiner To-Do-Liste, was einer der Gründe ist, warum ich persönlich für AlphaFold geworben habe, AlphaFold Just the Anfang.

AlphaFold löst das große Problem der Proteinstruktur, aber die Biologie ist dynamisch und alles, was wir untersuchen, ist die Bindung von Proteinflüssigkeiten. Mit Molekülen zu reagieren, Pfade aufzubauen und letztendlich eine virtuelle Zelle zu bilden, ist mein Traum. Ich habe mit vielen Biologiefreunden gesprochen, darunter auch mit Paul Nurse, einem Biologen am Crick Institute. Für die Biologie und die Entdeckung von Krankheiten ist der Aufbau einer virtuellen Zelle unglaublich, da man mit der virtuellen Zelle viele Experimente durchführen und sie dann im Endstadium im Labor überprüfen kann.

Was die Entdeckung neuer Medikamente angeht, dauert es von der Identifizierung eines Ziels bis zur Entwicklung eines Medikamentenkandidaten etwa 10 Jahre. Wenn die meiste Arbeit in virtuellen Zellen erledigt werden kann, kann die Zeit um eine Größenordnung verkürzt werden. Um virtuelle Zellen zu realisieren, muss ein Verständnis für die Wechselwirkungen verschiedener Teile der Biologie entwickelt werden. Alle paar Jahre sprechen wir mit Paul darüber. Nach AlphaFold im letzten Jahr habe ich gesagt, dass es jetzt endlich an der Zeit ist, es zu tun, und Paul war so aufgeregt. Wir arbeiten mit seinem Labor zusammen. Ich glaube, dass es auf der Grundlage von AlphaFold einige erstaunliche Fortschritte in der Biologie geben wird. Wir können auch sehen, dass es bereits Communities gibt, die dies tun, nachdem AlphaFold als Open Source verfügbar ist.

Ich denke, eines Tages könnten KI-Systeme in der Lage sein, Probleme wie die allgemeine Relativitätstheorie zu lösen, und zwar nicht nur durch die Verarbeitung von Inhalten im Internet oder im öffentlichen Gesundheitswesen. Es wird sehr interessant sein zu sehen, was dabei herauskommen wird. Es ist ein bisschen wie bei unserer vorherigen Debatte über Kreativität bei der Erfindung von Go und nicht nur über die Entwicklung eines guten Go-Zugs. Wenn es eine Auszeichnung wie den Nobelpreis gewinnen wollte, hätte man Go erfinden müssen, anstatt es von einem menschlichen Wissenschaftler oder Schöpfer diktieren zu lassen.

Lex Fridman: Viele Leute denken, dass die Wissenschaft auf den Schultern von Riesen steht, und die Frage ist, wie weit sind Sie wirklich auf den Schultern von Riesen? Vielleicht liegt es einfach an der Integration unterschiedlicher Ergebnisse aus der Vergangenheit, die letztendlich bahnbrechende Ideen in einem neuen Licht erscheinen lassen.

Demis Hassabis: Das ist ein großes Rätsel. Ich glaube, dass in den letzten zehn Jahren und sogar in den nächsten Jahrzehnten viele neue große Durchbrüche an der Schnittstelle verschiedener Themenbereiche entstehen werden verwandte Bereiche. Man könnte sogar argumentieren, dass Deep Thinking eine Querschnittsdisziplin zwischen neurowissenschaftlichem Denken und KI-technischem Denken ist.

Lex Fridman: Sie haben eine Arbeit zum Thema „Magnetische Kontrolle von Tokamak-Plasma durch Deep Reinforcement Learning“ und möchten daher Deep Reinforcement Learning nutzen, um die Kernfusion zu lösen und Hochtemperaturplasma zu steuern. Können Sie erklären, warum KI dieses Problem endlich lösen kann?

Demis Hassabis: In den letzten ein oder zwei Jahren war unsere Arbeit sehr interessant und fruchtbar. Wir haben viele meiner Traumprojekte ins Leben gerufen, bei denen es sich um Projekte im Zusammenhang mit dem wissenschaftlichen Bereich handelt, die ich im Laufe der Jahre gesammelt habe. Wenn wir dazu beitragen können, dies voranzutreiben, könnte es eine transformative Wirkung haben, und die wissenschaftliche Herausforderung selbst ist eine sehr interessante Frage.

Derzeit steht die Kernfusion vor vielen Herausforderungen, vor allem in den Bereichen Physik, Materialien, Wissenschaft und Technik sowie der Frage, wie diese großen Kernfusionsreaktoren gebaut und das Plasma eingedämmt werden können.

Wir arbeiten mit der Ecole Polytechnique Fédérale de Lausanne (EPFL) und der Schweizerischen Technischen Hochschule zusammen und sie sind bereit, uns einen Testreaktor zur Verfügung zu stellen. Es ist ein erstaunlicher Testreaktor, in dem alle möglichen ziemlich verrückten Experimente durchgeführt werden. Wir stehen vor der Frage, welche Engpässe beim Einstieg in ein neues Feld wie die Kernfusion auftreten. Was sind, wenn man von Grund auf ausgeht, die zugrunde liegenden Probleme, die den Betrieb der Kernfusion behindern?

In diesem Fall ist die Plasmakontrolle perfekt. Dieses Plasma ist 1 Million Grad Celsius heiß, heißer als die Sonne, und offensichtlich kann kein Material es enthalten. Es muss also ein sehr starkes supraleitendes Magnetfeld vorhanden sein, aber das Problem besteht darin, dass das Plasma ziemlich instabil ist. Wenn man viele Sterne in einem Reaktor hält und im Voraus vorhersagt, was das Plasma tun wird, kann man es steuern, indem man das Magnetfeld hinein bewegt Millionen von Sekunden Was wird es als nächstes tun?

Wenn Sie es sich als ein Vorhersageproblem des Verstärkungslernens vorstellen, scheint dies perfekt zu sein. Es gibt Controller, die das Magnetfeld bewegen und schneiden können, aber zuvor war es ein traditioneller Controller. Ich wünschte, es gäbe eine kontrollierbare Regel, die festlegt, dass sie im Moment nicht auf Plasma reagieren können.

Lex Fridman: KI löst endlich die Kernfusion.

Demis Hassabis: Letztes Jahr haben wir in Nature einen Artikel über die Lösung dieses Problems veröffentlicht, indem wir das Plasma in eine bestimmte Form bringen. Es ist eigentlich fast so, als würde man das Plasma in verschiedene Formen formen, es kontrollieren und dort für Rekordzeit halten. Dies ist ein ungelöstes Problem der Kernfusion.

Es ist wichtig, es in die Struktur einzubeziehen und beizubehalten, es gibt auch einige verschiedene Formen, die der Energieproduktion förderlicher sind, sogenannte Tropfen usw. Wir sprechen mit vielen Fusions-Startups, um herauszufinden, welche nächsten Probleme im Fusionsbereich gelöst werden können.

Lex Fridman: Der Titel des Papiers hat auch etwas Faszinierendes: Pushing the Frontier of Density Functions by Solving Fractional Electron Problems. Können Sie diese Arbeit erklären? Wird KI künftig in der Lage sein, beliebige quantenmechanische Systeme zu modellieren und zu simulieren?

Demis Hassabis: Menschen haben versucht, Näherungen der Dichtefunktion und Beschreibungen von Elektronenwolken zu schreiben und dabei zu beobachten, wie zwei Elemente interagieren, wenn sie zusammengesetzt werden. Und was wir versuchen, ist eine Simulation zu lernen, eine chemische Funktion zu lernen, die mehr Arten der Chemie beschreiben kann.

Bislang kann KI teure Simulationen durchführen, aber nur für sehr kleine und sehr einfache Moleküle können wir keine großen Materialien simulieren. Um also funktionale Näherungen zu erstellen, um zu beschreiben, was die Elektronen tun, nachdem ihre Gleichungen gezeigt wurden, werden alle Materialwissenschaften und Eigenschaften davon bestimmt, wie Elektronen miteinander interagieren.

Lex Fridman: Fassen Sie die Simulation durch Funktionen zusammen, um den tatsächlichen Simulationsergebnissen nahe zu kommen. Die Schwierigkeit dieser Aufgabe besteht darin, komplexe Simulationen durchzuführen und die Zuordnungsaufgabe anhand der Anfangsbedingungen und Simulationsparameter zu erlernen.

Demis Hassabis: Es ist schwierig, aber die gute Nachricht ist, dass wir es geschafft haben. Wir können viele Simulationen, Molekulardynamiksimulationen, auf einem Computercluster durchführen, der viele Daten generiert. In diesem Fall werden Daten generiert. Aus diesem Grund verwenden wir Spielemulatoren zur Datengenerierung, denn Sie können so viele Daten erstellen, wie Sie möchten. Wenn es freie Computer in der Cloud gibt, können wir diese Berechnungen durchführen.

3KI und Menschen

Lex Fridman: Wie verstehen Sie den Ursprung des Lebens?

Demis Hassabis: Ich denke, der ultimative Einsatz von KI besteht darin, die Wissenschaft auf die Spitze zu treiben. Es ist so etwas wie ein Baum des Wissens. Wenn Sie sich vorstellen, dass dies das gesamte Wissen ist, das es im Universum zu gewinnen gibt, haben wir bisher kaum an der Oberfläche gekratzt. KI wird diesen Prozess beschleunigen und so viel wie möglich von diesem Wissensbaum erforschen.

Lex Fridman: Die Intuition sagt mir, dass der Baum des menschlichen Wissens angesichts unserer kognitiven Einschränkungen sehr klein ist. Trotz der Tools gibt es immer noch viele Dinge, die wir nicht verstehen. Dies könnte der Grund sein, warum nichtmenschliche Systeme noch weiter gehen können.

Demis Hassabis: Ja, sehr wahrscheinlich.

Aber erstens sind das zwei verschiedene Dinge. Zum Beispiel: Was verstehen wir heute, was kann der menschliche Geist verstehen, was ist das Ganze, was wir verstehen wollen? Hier sind drei Konzentrische, Sie können sie sich als drei größere Bäume vorstellen oder weitere Zweige dieses Baums erkunden. Wir werden mehr mit KI erkunden.

Die Frage ist nun: Wenn Sie darüber nachdenken, was die Gesamtheit der Dinge ist, die wir verstehen können, kann es sein, dass es einige Dinge gibt, die nicht verstanden werden können, wie Dinge außerhalb der Simulation oder Dinge außerhalb des Universums.

Lex Fridman: Weil sich das menschliche Gehirn mit der Zeit an den Zustand dieser dreidimensionalen Welt gewöhnt hat.

Demis Hassabis: Aber unsere Werkzeuge können darüber hinausgehen. Sie können 11-dimensional oder 12-dimensional sein.

Das Beispiel, das ich immer nenne, ist, als ich mit Gary Kasparov Schach gespielt habe. Wir haben über Schach und ähnliches gesprochen. Wenn man gut im Schach ist, kann man nicht an Garys Züge denken, sondern an ihn Ich kann es dir erklären. Man kann sich das als Post-hoc-Argumentation vorstellen. Es gibt noch eine weitere Erklärung: Vielleicht können Sie dieses Ding nicht erfinden, aber Sie können es verstehen und schätzen, genauso wie Sie Vivaldi oder Mozart schätzen und seine Schönheit schätzen.

Lex Fridman: Ich möchte ein paar verrücktere Fragen stellen. Glauben Sie zum Beispiel, dass es außerhalb der Erde außerirdische Zivilisationen gibt?

Demis Hassabis: Meine persönliche Meinung ist, dass wir im Moment alleine sind. Wir verfügen bereits über verschiedene astronomische Teleskope und andere Erkennungstechnologien, die versuchen, Signale von anderen Zivilisationen im Weltraum zu finden. Wenn es viele außerirdische Zivilisationen gibt, die dies gleichzeitig tun, sollten wir laute Geräusche aus dem Weltraum hören. Tatsache ist jedoch, dass wir kein Signal empfangen haben.

Viele Leute werden argumentieren, dass es außerirdische Zivilisationen auf der Welt gibt, aber wir haben nicht wirklich richtig nach ihnen gesucht, oder wir haben möglicherweise nach dem falschen Band gesucht, oder wir haben möglicherweise die falsche Ausrüstung verwendet. Wir haben nicht erkannt, dass Außerirdische in sehr unterschiedlichen Formen existieren usw. Aber ich bin mit diesen Ansichten nicht einverstanden. Wir haben tatsächlich viel erforscht. Wenn es wirklich so viele außerirdische Zivilisationen gibt, hätten wir sie schon vor langer Zeit entdecken müssen.

Interessanterweise ist dies aus der Sicht der Großen Filter recht tröstlich, wenn die Erde eine einsame Zivilisation ist, was bedeutet, dass wir die Großen Filter durchlaufen haben.

Um auf die Frage zurückzukommen, die Sie gerade nach dem Ursprung des Lebens gestellt haben: Das Leben ist aus einigen unglaublichen Dingen entstanden, und niemand weiß, wie diese Dinge passiert sind. Es würde mich nicht überraschen, irgendwo anders als auf der Erde eine Form einzelligen Lebens wie Bakterien zu sehen. Aber aufgrund seiner Fähigkeit, Mitochondrien einzufangen und für unsere eigenen Zwecke zu nutzen, ist die Entstehung mehrzelligen Lebens beispiellos schwierig. Lex Fridman: Was denken Sie, ist Bewusstsein erforderlich, um echte Intelligenz zu haben? Wir können ohne Intelligenz leben und gleichzeitig Bewusstsein erlangen und umgekehrt.

Zum Beispiel sind viele Tiere selbstbewusst und können Kontakte knüpfen und träumen. Man kann sagen, dass sie über ein gewisses Maß an Selbstbewusstsein verfügen, aber sie sind nicht intelligent. Aber gleichzeitig sind diese künstlichen Intelligenzen bei einer bestimmten Aufgabe sehr schlau, sie können Schach spielen oder andere Aufgaben sehr gut erledigen, aber sie haben kein Selbstbewusstsein.

Lex Fridman: Vor einiger Zeit dachte ein Google-Ingenieur, dass ein bestimmtes Sprachmodell empfindungsfähig sei. Sind Sie jemals auf ein empfindungsfähiges Sprachmodell gestoßen? Wenn ein System „wahrgenommen“ wird, wie verstehen Sie diese Situation?

Demis Hassabis:

Ich glaube nicht, dass irgendein KI-System auf der Welt bewusst oder empfindungsfähig ist, das ist die Realität der KI, mit der ich interagiere mit jedem Tag Gefühl. Die sogenannte Wahrnehmung ist eher eine Projektion unseres Gehirns selbst. Da es sich um ein Sprachmodell handelt und eng mit Weisheit verbunden ist, ist es für Menschen leicht, das System zu vermenschlichen. Aus diesem Grund halte ich den Turing-Test für fehlerhaft, da er auf menschlichen Reaktionen und Urteilen basiert.

Wir sollten mit führenden Philosophen wie Daniel Dennett und David Charmers und anderen, die tief über Bewusstsein nachdenken, über Bewusstsein sprechen. Es gibt derzeit keine allgemein akzeptierte Definition von Bewusstsein. Wenn ich es so sagen würde, ist die Definition von Bewusstsein das Gefühl, das entsteht, wenn Informationen verarbeitet werden.

Lex Fridman: Lassen Sie mich eine dunkle und persönliche Frage stellen. Sie sagten, das leistungsstärkste Super-Künstliche-Intelligenz-System der Welt zu schaffen. Wie das alte Sprichwort sagt: Absolute Macht korrumpiert, und es ist wahrscheinlicher, dass Sie einer von ihnen sind, weil Sie derjenige sind, der das System am ehesten kontrolliert. Würden Sie das in Betracht ziehen?

Demis Hassabis:

Ich denke jeden Moment darüber nach, welche Abwehrmaßnahmen es gibt, um diese Korruption zu bekämpfen.

Werkzeuge oder Technologien, die im besten Interesse der Menschheit sind, haben uns in eine radikale Welt gebracht, in der wir vor vielen gewaltigen Herausforderungen stehen. KI kann uns helfen, Probleme zu lösen, die Menschheit letztendlich zum ultimativen Wohlstand zu führen und sogar Außerirdische zu finden. Der Schöpfer der KI, die Kultur, auf die die KI angewiesen ist, die Werte, die die KI hat, und der Erbauer des KI-Systems werden alle ihre Entwicklung beeinflussen. Selbst wenn ein KI-System selbstständig lernt, wird ein Großteil seines Wissens Reste bestimmter bereits bestehender Kulturen und Werte seines Schöpfers mit sich bringen.

Unterschiedliche Kulturen haben uns gespaltener gemacht als je zuvor. Wenn wir in eine Ära des extremen Überflusses eintreten und die Ressourcen weniger knapp sind, brauchen wir vielleicht keinen harten Wettbewerb, sondern können zu einer besseren Zusammenarbeit übergehen.

Lex Fridman: Wenn die Ressourcen erheblich eingeschränkt sind, passieren einige Gräueltaten.

Demis Hassabis: Ressourcenknappheit ist eine der Ursachen für Konkurrenz und Zerstörung. Alle Menschen wollen in einer freundlichen und sicheren Welt leben, deshalb müssen wir das Problem der Knappheit lösen.

Aber das reicht nicht aus, um Frieden zu erreichen, denn es gibt andere Dinge, die Korruption verursachen. KI sollte nicht nur von einer Person oder Organisation betrieben werden. Ich denke, KI sollte der Welt gehören, den Menschen, und jeder sollte ein Mitspracherecht bei der KI haben.

Lex Fridman: Haben Sie einen Rat für Schüler und Studenten? Wenn junge Menschen den Wunsch haben, in der KI zu arbeiten oder die Welt selbst zu beeinflussen, wie können sie dann eine Karriere finden, die sie wirklich sind? stolz auf? Wie finden Sie Ihr ideales Leben?

Demis Hassabis: Ich sage jungen Leuten immer gerne zwei Dinge. Das erste ist: Wo liegt deine wahre Leidenschaft? Junge Menschen sollten so viel wie möglich die Welt erkunden. Wenn wir jung sind, haben wir genug Zeit und können das Risiko einer Erkundung eingehen. Ich halte es für eine großartige Möglichkeit, Ihre Leidenschaft zu entdecken, indem Sie auf Ihre ganz eigene Art und Weise Zusammenhänge zwischen Dingen finden.

Der zweite Satz lautet: Erkenne dich selbst. Es braucht viel Zeit, um zu verstehen, wie man am besten arbeitet, wann die beste Arbeitszeit ist, wie man am besten lernt und wie man mit Stress umgeht. Junge Menschen sollten sich in verschiedenen Umgebungen testen, versuchen, ihre Schwächen zu verbessern, ihre einzigartigen Fähigkeiten und Stärken herauszufinden und sie dann zu verbessern. Dies sind Ihre zukünftigen Werte in dieser Welt.

Wenn Sie diese beiden Dinge kombinieren, Ihre Leidenschaft finden und Ihre eigenen einzigartigen und kraftvollen Fähigkeiten entwickeln können, werden Sie unglaubliche Energie gewinnen und einen großen Unterschied in der Welt bewirken.

Das obige ist der detaillierte Inhalt vonDemis Hassabis: KI ist leistungsfähiger, als wir uns vorgestellt haben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!