Cuda

CUDA steht für Compute Unified Device Architecture. Es ist eine Technologie für Schnittstellen (API) und Computing-Plattform, die von NVIDIA entwickelte wurde. Mit ihrer Hilfe lässt sich die Rechenleistung von Grafikprozessoren (GPUs) für Anwendungen, wie beispielsweise das Rendern anspruchsvoller 3D-Grafiken, nutzen.

Aufgaben, die keine sequentielle Ausführung erfordern, können dadurch parallel zu anderen Aufgaben auf der GPU ausgeführt werden. Dadurch können sehr hohe Rechenleistungen und Performancegewinne erreicht werden.

Jeder, der sich schon mal mit Videoschnittprogrammen auseinandergesetzt hat, wird festgestellt haben, dass die herkömmliche Prozessorleistung für eine schnelle Videobearbeitung nicht ausreicht. Die zusätzliche Verwendung von GPUs für paralleles Rechnen begann vor mehr als 20 Jahren. Dabei waren OpenGL und DirectX zunächst die einzige Möglichkeit mit GPUs zu interagieren. Benötigt wurden diese APIs jedoch überwiegend für Multimedia-Anwendungen. Insbesondere DirectX dürfte den meisten Gamern bekannt sein, da viele grafikintensive Spiele sonst nicht gelaufen wären.

Im Jahr 2003 entwickelten Forscher in Stanford eine Programmierplattform für universelle Programmiermodelle namens Brook. Die Forschung wurde von Nvidia finanziert. Der leitende Forscher Ian Buck schloss sich später Nvidia an, um 2007 ein kommerzielles Produkt für GPU-basiertes paralleles Computing namens CUDA zu entwickeln. Neben den Funktionen wie Rendering-Effekte, Videokodierung und -konvertierung, die viel schneller ablaufen, zielt CUDA vor allem auf die Erhöhung der Berechnung von professionellen Workloads ab.

CUDA Cores bzw. Kerne gelten als Äquivalent zu Prozessorkernen, den zentralen Einheiten eines Rechenwerks (CPU). Allerdings liegt die Anzahl der Kerne bei klassischen CPU-Prozessoren bei 2 bis 8, wohingegen moderne Grafikprozessoren oft über 4.000 Kerne besitzen. Diese hohe Anzahl ist nötig, um die Rechenleistung für komplexe Grafikberechnungen zu erhalten. Aber selbst Anwendungen, die nicht auf grafische Operationen spezialisiert sind, können dank des Programmiermodells CUDA GPUs einfach und effizient angesprochen werden.

Darum wird CUDA in den Bereichen gerne eingesetzt, die eine hohe Rechenleistung benötigen und wo viele Berechnungen parallel ablaufen wie maschinelles Lernen, Supercomputing, Krypto-Mining, wissenschaftliche Modellierung und Simulationen. Für die Programmierung und Auslagerung der rechenintensiven Aufgaben eignen sich viele bekannte Programmiersprachen wie C, C++, Fortran oder Python.

Die neueste Version von CUDA kann von für die Betriebssysteme Windows oder Linux heruntergeladen werden. Das CUDA-Toolkit von NVIDIA bietet alles, was Sie zum Entwickeln von GPU-beschleunigten Anwendungen benötigen. Es umfasst CUDA-beschleunigte Bibliotheken, einen Compiler, Entwicklungstools und die CUDA-Laufzeitumgebung

Wir haben ein paar Vorteile zusammengetragen, die für den Einsatz von CUDA sprechen:

• Optimale Ausnutzung aller Rechnerressourcen
• Verbesserte Performance durch parallelisierte Berechnungen gegenüber herkömmlicher CPU-Verarbeitung
• Einsetzbar mit vielen NVIDIA GPUs (über 500 Millionen CUDA-fähige GPUs)
• Kompatibel mit zahlreichen Programmiersprachen
• Für verschiedene parallele Rechenaufgaben steht eine große Auswahl an Bibliotheken zur Verfügung

Ein Nachteil ist, dass CUDA nur mit NVIDIA Grafikkarten funktioniert. Dadurch kann es nicht jeder nutzen. Seit 2009 gibt es mit OpenCL eine Alternative. Seine Funktionalitäten kann jeder nutzen, ohne für proprietäre Technologien oder Lizenzen zu bezahlen. Damit ist man nicht von einer bestimmten Grafikkarte abhängig. Für den Programmierer ist es etwas schwieriger zu programmieren und die Performance-Kennzahlen sind nicht ganz so hoch wie bei CUDA.

In einer Zeit, in der durch die gestiegenen Anforderungen an die Datenverarbeitung immer höhere Rechenleistungen benötigt werden, wissen wir die parallele Arbeitsweise der GPUs sehr zu schätzen. Gerade wenn wir neuronale Netze automatisiert trainieren, um den Algorithmus mit Trainingsdaten zu schulen, sind die enormen Performancegewinne durch CUDA sehr wertvoll für die rechenintensiven Vorgänge.