Einführung in Vektornormen beim maschinellen Lernen: L1-, L2- und L∞-Normen

Die Vektornorm ist ein Maß für die Vektorgröße und wird häufig zur Bewertung von Modellfehlern verwendet. Spielt eine wichtige Rolle beim maschinellen Lernen und Deep Learning.

Ein maschinelles Lernprojekt kann als n-dimensionaler Vektor betrachtet werden, wobei jede Dimension ein Attribut der Daten darstellt. Daher können wir den Abstand zwischen ihnen mithilfe standardmäßiger vektorbasierter Ähnlichkeitsmaße wie der Manhattan-Entfernung, der euklidischen Entfernung usw. berechnen. Einfach ausgedrückt ist Norm eine Funktion, die uns hilft, die Größe eines Vektors zu quantifizieren.

Eigenschaften der Vektornorm

Die Vektornorm erfüllt die folgenden 4 Eigenschaften:

• Nichtnegativität: Sie ist immer nicht negativ.
• Deterministisch: Sie ist nur dann Null, wenn der Vektor Null ist.
• Dreiecksungleichung: Die Norm der Summe zweier Vektoren überschreitet nicht die Summe ihrer Normen.
• Homogenität: Die Multiplikation eines Vektors mit einem Skalar multipliziert die Norm des Vektors mit dem Absolutwert des Skalars.

Gemeinsame Vektornormen beim maschinellen Lernen

L1-Norm

Das Symbol der L1-Norm ist ||v||1, um den Manhattan-Abstand vom Ursprung zum Vektorraum und die L1-Norm zu berechnen is Berechnet die Summe der absoluten Vektorwerte. Beim maschinellen Lernen verwenden wir normalerweise die L1-Norm, wenn die Sparsität der Vektoren wichtig ist.

Formel: ||v||1= |b1|+ |b2|+|b3|

L2-Norm

Das Symbol der L2-Norm ist ||v||2 Die Zahl ist auch Die sogenannte euklidische Norm wird als Quadratwurzel der Summe der Quadratwerte des Vektors berechnet. Da es sich um eine differenzierbare Funktion handelt, wird die L2-Norm am häufigsten zur Optimierung beim maschinellen Lernen verwendet.

Formel: ||v||2= sqrt [ (b1)2+ (b2)2+ (b3)2]

Vektor-Maximalnorm

Das Symbol der Maximalnorm ist || v||inf, L∞ kann auch durch Unendlichkeitsnotation dargestellt werden, und die maximale Norm wird als Maximalwert des zurückgegebenen Vektors berechnet.

Formel: ||v||inf= max( |b1| , |b2| , |b3| )

Viele Anwendungen, wie Informationsabruf, Personalisierung, Dokumentenklassifizierung, Bildverarbeitung usw. A Berechnung, die auf der Ähnlichkeit oder Unähnlichkeit zwischen Elementen beruht. Zwei Gegenstände gelten als ähnlich, wenn der Abstand zwischen ihnen gering ist und umgekehrt.

Das obige ist der detaillierte Inhalt vonEinführung in Vektornormen beim maschinellen Lernen: L1-, L2- und L∞-Normen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!