Künstliche Neuronen

Künstliche Neuronen sind abstrakte, mathematische Modelle zur Datenverarbeitung, die eingehende Informationen gewichten, kombinieren und in eine neue Ausgabe überführen.
Damit emulieren sie in stark vereinfachter Form eine verteilte Informationsverarbeitung. Dabei wirken viele einfache Einheiten (die künstlichen Neuronen) zusammen, um beispielsweise komplexe Muster zu erkennen oder Entscheidungen anhand vieler Parameter zu treffen.
Künstliche Neuronen sind mathematische Konstrukte, die sich an einem natürlichen Vorbild, den biologischen Neuronen, orientieren.

Was ist ein Neuron?

Ein Neuron ist das Fachwort für eine Nervenzelle. Ein Neuron ist demnach eine hochspezialisierte Zelle des Nervensystems.

Aufbau:

• Dendriten: Viele kleine Verästelungen, die Signale von anderen Zellen empfangen.
• Zellkörper (Soma): Hier sitzt der Zellkern. Das ist das Steuerzentrum.
• Axon: Ein oft sehr langer Fortsatz, der elektrische Signale weiterleitet. Manche Axone können über einen Meter lang sein (z. B. vom Rückenmark bis in den Fuß).
• Synapsen: Hier wird das Signal in chemischer Form an die nächste Zelle weitergegeben.

Was ist das Besondere bei einem Neuron?

Normale Körperzellen (z. B. Hautzellen oder Muskelzellen) teilen sich häufig, erfüllen eine eher lokale Funktion und kommunizieren nicht über lange Strecken.
Neuronen dagegen sind auf die Informationsübertragung spezialisiert. Sie sind mit bis zu tausend anderen Neuronen vernetzt.
Wenn ein Neuron Signale über die Dendriten bekommt, dann werden die im Zellkörper „ausgewertet“. Wenn das Signal stark genug ist, entsteht dabei ein elektrischer Impuls, der über das Axon läuft. Am Ende wird der Impuls chemisch über Synapsen an die nächsten Zellen weitergegeben.
Das heißt, die verbundenen Neuronen bilden im Körper das Nervensystem, dass ein riesiges Kommunikationsnetz darstellt. Egal was wir machen, alles basiert auf der Aktivität von Milliarden solcher Zellen: unser Denken, Fühlen, Bewegen und Erinnern.

Was sind künstliche Neuronen?

Künstliche Neuronen sind vom biologischen Neuron inspiriert, aber stark vereinfacht. Ein künstliches Neuron ist ein mathematisches Modell, das die folgende Grundidee nachbildet:

Eingaben sammeln → Eingaben gewichten → Eingaben aufsummieren → Entscheidung treffen → Ausgabe erzeugen

Ein künstliches Neuron besteht im Wesentlichen aus:

• Eingabewerte (Eingaben sammeln)
• Gewichte (Eingaben gewichten)
• Summenbildung (Eingaben aufsummieren)
• Aktivierungsfunktion (Entscheidung treffen, was ausgegeben wird)

Gewichte

Ein Gewicht ist ein Zahlenwert, der beeinflusst, wie stark eine bestimmte Eingabe die Summenbildung beeinflusst.
Beim Lernen in einem neuronalen Netz werden die Gewichte angepasst. Das heißt, das Wissen eines neuronales Netzes steckt in den Gewichten der Neuronen.

Aktivierungsfunktion

Die Aktivierungsfunktion ist der Teil, der aus der berechneten Summe eine „Entscheidung“ macht. Ohne Aktivierungsfunktion wäre das gesamte neuronale Netz nur eine „lineare“ Gleichung. Weil komplexe Muster „nichtlinear“ sind, erzeugt die Aktivierungsfunktion die Nichtlinearität, die komplexes Lernen möglich macht.

Die Aktivierungsfunktion funktioniert wie einen Schwellwert-Entscheider.

• Das Neuron regiert stark.
• Das Neuron regiert gar nicht.
• Das Neuron regiert nur leicht.

Die Gewichte bestimmen, welcher Eingabewert wichtig ist. Und die Aktivierungsfunktion bestimmt, wie darauf reagiert wird. Sie ist also die „Persönlichkeit“ des Neurons.

Typische Aktivierungsfunktionen:

• Rectified Linear Unit (ReLU)
• Sigmoid
• Tanh

Beispiel: Sigmoid-Funktion

Die Sigmoid-Funktion ist eine mathematische Funktion mit einer S-förmigen Kurve, die als Aktivierungsfunktion Nichtlinearität ermöglicht. Die Sigmoid-Funktion kann die Ausgabe auf 0 und 1 begrenzen, woraus man Wahrscheinlichkeiten interpretieren kann. Es sind aber auch Abstufungen möglich, wenn man „weiche Entscheidungen“ haben möchte.

Implementierung in Python zum Ausprobieren:

import math

def sigmoid(x):
    return 1 / (1 + math.exp(-x))

# Beispiel
print(sigmoid(0))   # 0.5
print(sigmoid(2))   # ~0.88
print(sigmoid(-2))  # ~0.12

Oder ohne „math“ mit der Eulerschen Zahl:

def sigmoid(x):
    return 1 / (1 + 2.718281828459045 ** (-x))

# Beispiele
print(sigmoid(0))    # 0.5
print(sigmoid(2))    # ~0.88
print(sigmoid(-2))   # ~0.12

Künstliche neuronale Netze (KNN)

Künstliche neuronale Netze sind Verbindungen zwischen künstlichen Neuronen, die in Schichten organisiert sind und deren Funktionsweise von den Neuronen im Gehirn inspiriert sind. Jedes künstliche Neuron führt eine einfache Berechnung durch und leitet das Ergebnis an alle Neuronen der nächsten Schicht weiter. In Summe können komplexe Zusammenhänge erlernt oder Entscheidungen getroffen werden.

• Künstliche neuronale Netze (KNN)

Weitere verwandte Themen:

• Künstliche Intelligenz (KI) / Artificial Intelligence (AI)
• Was ist ein KI-Modell?
• Machine Learning / Maschinelles Lernen
• KI-Anwendungen
• KI-Sprachmodelle

Neue Auflage

Computertechnik-Fibel

Computertechnik neu verstehen - jetzt in der 6. Auflage

Die Computertechnik-Fibel ist in einer vollständig überarbeiteten 6. Auflage als Buch, eBook und Bundle erschienen.
Statt einzelne Teile zu lernen, entwickelst du ein Gesamtverständnis moderner Computersysteme. Von der Hardware, Betriebssysteme, Virtualisierung, KI und Quantencomputer.

Zur Produkteinführung zum Sonderpreis bestellen

inkl. MwSt. zzgl. Versandkosten

Computertechnik-Fibel

Alles was du über Computertechnik wissen musst.

Die Computertechnik-Fibel ist ein Buch über die Grundlagen der Computertechnik, Prozessortechnik, Halbleiterspeicher, Schnittstellen, Datenspeicher, Laufwerke und wichtige Hardware-Komponenten.

Das will ich haben!