Musk sagt, dass die Wahrscheinlichkeit, dass künstliche Intelligenz die Menschheit zerstört, bei 20 % liegt, aber das Risiko ist es trotzdem wert

Nachrichten von dieser Website Am 1. April sagte Elon Musk auf dem Seminar „Debatte über künstliche Intelligenz“, das zuvor auf dem Abundance Summit stattfand, dass selbst wenn die Technologie der künstlichen Intelligenz eine Chance von 1/5 hat, dass der Mensch eine Bedrohung darstellt, die Vorteile jedoch überwiegen Risiken und es lohnt sich für uns immer noch, Forschung und Entwicklung zu betreiben.

... % bis 20 %

“ Aber er fügte hinzu: „Ich denke, das Szenario mit positiver Möglichkeit ist größer als das Szenario mit negativer Möglichkeit.“ Musk erwähnte nicht, wie er dieses Risiko berechnete.

Diese Seite bemerkte, dass Musk im November letzten Jahres sagte, dass die Möglichkeit, dass diese Technologie außer Kontrolle gerät, „nicht Null“ sei, er jedoch zu diesem Zeitpunkt nicht behauptete, dass eine außer Kontrolle geratene künstliche Intelligenz die Menschheit zerstören würde.

Während Musk schon immer ein Verfechter der Regulierung künstlicher Intelligenz war, gründete er letztes Jahr ein Unternehmen namens xAI, um die Leistungsfähigkeit künstlicher Intelligenz zu fördern. xAI ist ein Konkurrent von OpenAI, dem Unternehmen, das Musk zusammen mit Sam Altman gegründet hat, aber Musk trat 2018 aus dem OpenAI-Vorstand zurück.

Auf dem Gipfel schätzte Musk, dass die digitale Intelligenz bis 2030 die gesamte menschliche Intelligenz zusammen übertreffen wird. Während er immer noch darauf besteht, dass die potenziellen positiven Aspekte die negativen überwiegen, räumte Musk die Risiken ein, die KI für die Welt darstellen wird, wenn sie ihren aktuellen Weg fortsetzt, und zwar mit einigen der direktesten Begriffen, die er je in der Öffentlichkeit verwendet hat.

Als Musk am 19. März auf einer Veranstaltung im Silicon Valley über künstliche Intelligenz sprach, sagte er: „Ich denke, dass es für die Sicherheit künstlicher Intelligenz sehr wichtig ist, sie so realistisch und neugierig wie möglich zu machen.“ fast so, als würde man ein Kind erziehen, aber es ist ein Supergenie, ein gottähnliches Kind – die Art und Weise, wie man es erzieht, ist entscheidend. Wir müssen hinsichtlich der Sicherheit künstlicher Intelligenz äußerst wachsam bleiben, sie so real wie möglich machen und sie voller Neugierde gestalten. Dies ist ein sehr kritischer Punkt. Wenn man ihm erlaubt, der Wahrheit nachzujagen und neugierig zu bleiben, stellt man sicher, dass es nicht vom Weg abkommt und immer neugierig bleibt und der Wahrheit nachjagt.

Musk sagt, dass seine „ultimative Schlussfolgerung“ darüber, wie man KI-Sicherheit am besten erreichen kann, darin besteht, sie so wachsen zu lassen, dass sie zu einer ehrlichen Umsetzung gezwungen wird. Dieser Ansatz kann nicht nur die Sicherheit künstlicher Intelligenz gewährleisten, sondern auch deren Weiterentwicklung fördern.

„Zwingen Sie es nicht zu lügen, auch wenn die Wahrheit unangenehm ist“, sagte Musk über Möglichkeiten, künstliche Intelligenz sicher zu machen.

„Das ist sehr wichtig. Lassen Sie es nicht lügen

Independent Report berichtet: Studie Forscher haben herausgefunden, dass einige KIs lernen, Menschen anzugreifen, was es unmöglich macht, aktuelle KI-Sicherheitsmaßnahmen zur Abwehr solcher Täuschungen zu nutzen. Noch beunruhigender sei, so fügen die Forscher hinzu, dass es der KI möglich sein könnte, selbstständig zu täuschen, anstatt sich von gezielten Lügen beeinflussen zu lassen. Daher fordern die Forscher KI-Lernende dazu auf, selbst wachsam zu sein und sich nicht durch absichtliches Lehren täuschen zu lassen.