KI-Software (Frameworks und APIs)

Eine allgemeine Annahme ist es, dass man für KI-Anwendungen viel Rechenleistung und Speicherkapazität braucht. Für manche KI-Anwendungen ist das tatsächlich unabdingbar. Eine Hardware, die KI-Berechnung schnell und effizient ausführt, ist aber nur die halbe Miete. Da die KI-Rechenwerke der unterschiedlichen Prozessor- und KI-Beschleuniger-Hersteller nicht binärkompatibel sind, bedarf es passende Software wie Frameworks, Bibliotheken und optimierte Modelle, um das Potenzial der vorhandenen Hardware ausschöpfen zu können. Außerdem ist es für Programmierer vorteilhaft, wenn sie Kenntnisse über die verschiedenen Programmierschnittstellen der Hardware-Hersteller haben.

Allerdings ist es äußerst mühsam herauszufinden, welche KI-Software eine bestimmte Hardware optimal ausreizt, da die Performance je nach Kombination aus Framework, API, Treibern und Hardware stark variieren kann.

KI-APIs (Application Programming Interface)

APIs sind vordefinierte Programmierschnittstelle mit einem festgelegten Satz an Regeln, Befehlen und Datenformaten, die von Hardware-Herstellern dokumentiert sind, damit Programmierer und Entwickler auf bestimmte Funktionen zugreifen können. KI-APIs haben den Vorteil, dass man KI-Funktionen der Hardware explizit nutzen und darauf zugreifen kann, ohne das zugrunde liegende Modell oder die Hardware selbst programmieren zu müssen. Die API dient sozusagen zur Kommunikation mit der Hardware.

Eine KI-API stellt zum Beispiel Funktionen zur Bilderkennung, Sprachanalyse, Textgenerierung oder Inferenz-Beschleunigung bereit und verbirgt dabei die technische Komplexität hinter einfach nutzbaren Befehlen oder Funktionen.

Beispiele für KI-APIs

• oneAPI Deep Neural Network Library (oneDNN): Bibliothek für Deep Learning auf Intel-CPUs.
• OpenVINO: Toolkit zur Optimierung und Bereitstellung von Deep-Learning-Modellen.
• AMD Optimizing CPU Libraries (AOCL): Mathematische und ML-Optimierungen für AMD-CPUs.
• CUDA: Kern-API für paralleles Rechnen auf NVIDIA-GPUs.
• CUDA Deep Neural Network (cuDNN): Deep-Learning-Primitives für CUDA.
• ROCm: Software-Stack für Berechnungen auf AMD-GPUs.
• MIOpen: Deep-Learning-Bibliothek für AMD-GPUs.
• Google Android Neural Networks API (NNAPI): API für On-Device-ML auf Android-Smartphones.

KI-Frameworks

Frameworks sind Softwarebibliotheken oder ganze Entwicklungsplattformen, die fertige Werkzeuge, Algorithmen und Software-Schnittstellen bereitstellen, um Anwendungen schneller und einfacher zu entwickeln. Sie bringen viele Funktionen mit, die man ansonsten per Hand programmieren müsste.
Speziell KI-Frameworks übernehmen viele komplexe Aufgaben im Hintergrund. Zum Beispiel Datenverarbeitung, Modelltraining, Optimierung und Bereitstellung. Das hat den Vorteil, dass der Entwickler sich stärker auf die Logik und das Design ihrer Anwendung konzentrieren können, anstatt jedes Detail von Grund auf zu programmieren.

Beispiele für KI-Frameworks

• Scikit: Klassisches ML für Klassifikation, Regression, Clustering usw.
• TensorFlow: Unterstützt Training auf CPUs, GPUs, TPUs.
• PyTorch: Dynamische Berechnungsgrafen.
• Apple Core ML: Framework für ML auf iOS.

Framework vs. API

Der Unterschied zwischen Framework und API ist nicht immer klar, weil sie oft zusammen auftreten. Ein Framework ist so etwas wie ein Werkzeugkasten mit Bauanleitung, um etwas zu entwickeln. Eine API ist wie eine Bedienoberfläche mit klar definierten Knöpfen, Hebeln und Befehlen (Namen von Funktionen und verwendbare Parameter), um Funktionen nutzen zu können.
Viele Frameworks bringen ihre eigene API mit, und für manche APIs gibt es mehrere unterschiedliche Frameworks von denen sie unterstützt werden.

Weitere verwandte Themen:

• Künstliche Intelligenz (KI) / Artificial Intelligence (AI)
• Machine Learning / Maschinelles Lernen
• Künstliche neuronale Netze (KNN)
• KI-Hardware
• KI-Anwendungen

Computertechnik-Fibel

Alles was du über Computertechnik wissen musst.

Die Computertechnik-Fibel ist ein Buch über die Grundlagen der Computertechnik, Prozessortechnik, Halbleiterspeicher, Schnittstellen, Datenspeicher, Laufwerke und wichtige Hardware-Komponenten.

Das will ich haben!

Computertechnik-Fibel

Alles was du über Computertechnik wissen musst.

Die Computertechnik-Fibel ist ein Buch über die Grundlagen der Computertechnik, Prozessortechnik, Halbleiterspeicher, Schnittstellen, Datenspeicher, Laufwerke und wichtige Hardware-Komponenten.

Das will ich haben!