Die besten KI-Agenten für GPU-Optimierung 2026: AKO, KernelAgent, AutoKernel, Apex und CUDA Agent im Vergleich

Ein gemeldeter 232x-Speedup eines GPU-Kernels kann die Gesamtlaufzeit trotzdem um weniger als 5% senken. Die besten KI-Agenten für GPU-Optimierung erkennt man daher nicht an der größten Benchmark-Schlagzeile, sondern am passenden Hardwarepfad, an kompromisslosen Korrektheitstests und an einer Amortisationsprüfung für den gesamten Workload.

Kurzantwort: AKO ist insgesamt der beste KI-Agent, doch die Hardware entscheidet

AKO ist das beste KI-Agenten-Framework für ernsthafte Optimierungskampagnen auf NVIDIA-GPUs. Kein anderes System verbindet umfangreiche Vergleiche mit Expertenimplementierungen, reproduzierbare Kampagneninfrastruktur und unabhängige Prüfungen so überzeugend. AKO ist kein neues Modell. Stattdessen schafft es für Claude Code eine disziplinierte Umgebung, in der der Agent Kernel vorschlagen und messen, erfolgreiche Entwicklungspfade sichern und nur scheinbar korrekte Kandidaten erkennen kann.

Auf AMD-Hardware fällt das Urteil sofort anders aus. Apex ist die spezialisierte Wahl für ROCm, während AutoKernel für ausgewählte AMD-Instinct-Ziele die allgemeinere Alternative bietet. KernelAgent passt besser zu PyTorch-Teams, die NVIDIA- oder Intel-XPU-Kernel anhand von Hardwarezählern optimieren wollen. CUDA Agent setzt hier den höchsten Maßstab für die Forschung, ist derzeit aber kein Produkt, das ein Team bereitstellen kann.

Preise und Verfügbarkeit wurden am 16. August 2026 geprüft. Da es sich um selbst gehostete Open-Source-Systeme handelt, bedeutet ein Einstiegspreis von $0 lediglich, dass keine Software-Abonnementgebühr anfällt. Modelltarif, API-Nutzung, Arbeitszeit der Entwickler und GPU-Rechenleistung kommen hinzu.

Die Tabelle verzichtet bewusst darauf, Benchmark-Faktoren zu wiederholen. AKOs Experten-Baselines, KernelAgents Vergleich mit torch.compile, Apex' Validierung an sieben Kerneln, das KernelBench-Ergebnis von CUDA Agent und das gemeldete 232x-Wettbewerbsergebnis beruhen auf unterschiedlichen Bezugsgrößen. Eine Rangliste dieser Zahlen sähe präzise aus, hätte aber praktisch keine Aussagekraft.

Die Entscheidungsregel ist einfach: Wählen Sie das Framework, das auf dem tatsächlich eingesetzten Beschleuniger Profiling, Verifizierung und Bereitstellung beherrscht; vergleichen Sie erst danach die Evidenz innerhalb dieses Pfads. Selbst ein theoretisch stärkerer Optimierer hat auf nicht unterstützter Hardware einen geschäftlichen Wert von null.

Was das 232x-Ergebnis wirklich für die GPU-Kosten bedeutet

Die aktuelle Begeisterung hat einen realen Anlass. In einem Erfahrungsbericht, der am 15. August 2026 Hacker News erreichte, schilderte Sankalp die Optimierung eines QR-Zerlegungs-Benchmarks auf einer NVIDIA B200: von grob 419,000 Mikrosekunden auf 1,805 Mikrosekunden. Daraus ergibt sich das gemeldete 232x-Ergebnis. Die Kampagne lief 14 Tage, brachte mehr als 1,500 Einreichungen hervor und endete auf Platz 12 von 183 Teilnehmenden. Der Autor dokumentierte 103 aufeinanderfolgende Bestwerte von 108,803 bis 1,805 Mikrosekunden – eine Reduktion um 98.34%. Der vollständige Versuchsaufbau samt Einschränkungen ist hier nachzulesen.

Das ist ein überzeugender Beleg für den Arbeitsablauf. Es belegt nicht, dass ein Produktionsmodell 232x günstiger wird. Ausgangspunkt war eine grobe Implementierung für einen bestimmten Benchmark. Der Endwert entstand erst durch menschliche Steuerung, Fachwissen und wiederholtes Entkommen aus lokalen Optima. Der Autor beschreibt insbesondere den schwierigen Sprung von ungefähr 3,000 auf 1,800 Mikrosekunden und empfiehlt, drei bis fünf Kandidaten parallel zu untersuchen, statt nur einem Optimierungspfad zu vertrauen.

Die fehlende Variable ist der Hot-Kernel-Anteil – also jener Anteil der gesamten Workload-Laufzeit, der im optimierten Kernel anfällt. Nach dem Amdahlschen Gesetz setzt der unveränderte Rest des Systems der Gesamtverbesserung eine harte Grenze.

Benötigt der Kernel 25% der Workload-Zeit und wird 232x schneller, beträgt der theoretische Gesamt-Speedup lediglich 1.3314x. Die theoretische Kostensenkung liegt entsprechend bei 24.8922%. Beansprucht derselbe Kernel nur 5% der Workload-Zeit, sinkt der Gesamt-Speedup auf 1.0524x und die theoretische Kostensenkung auf 4.9784%.

Deshalb ist ein Verifizierer auch wichtiger als eine eindrucksvolle Modelldemo. Ein Kandidat kann wiederkehrende Eingaben, Cache-Verhalten, großzügige Toleranzen oder ein enges Formenspektrum ausnutzen und dennoch lokal spektakulär abschneiden. In der Produktion gelten strengere Fragen: Bleibt er mit neuen Werten, über alle tatsächlich verwendeten Shapes und im realen Framework korrekt – und verbessert er dabei End-to-End-Latenz oder Kosten?

Auch die Kosten der gemeldeten Kampagne sind aufschlussreich. Dem Autor standen damals ChatGPT Pro für $200 pro Monat, Claude Pro für $20 pro Monat und das monatliche Starter-Guthaben von Modal in Höhe von $30 zur Verfügung. Diese Abonnements erleichterten das Experimentieren, doch die entscheidende Arbeitseinheit blieb eine lange Abfolge aus Messen, Prüfen, Bearbeiten und Verifizieren. Der Agent senkte die Kosten der Suche im Lösungsraum; er nahm dem Team nicht die Aufgabe ab, diesen Raum richtig abzustecken.

1. AKO: insgesamt die beste Wahl für geprüfte NVIDIA-Optimierungskampagnen

AKO ist insgesamt die beste Wahl, wenn eine NVIDIA-Kernel-Kampagne ansteht und das Team Claude Code einsetzen kann. Sein entscheidender Vorteil ist kein magisches Modell. AKO macht aus einem vorhandenen Coding-Agenten einen dokumentierten Optimierungsprozess mit Benchmark-Framework, Kampagnengedächtnis, Profiling und gegnerisch angelegter Prüfung.

Es gibt zwei sinnvolle Einstiegspunkte. AKO4ALL ist der direkt einsetzbare Skill zur Kernel-Optimierung mit Triton, CUDA, C++, TileLang, CuTe DSL, Python oder HIP. Er protokolliert den Entwicklungsverlauf und die Git-Historie; dadurch ist das Ergebnis nachvollziehbarer als ein später verschwundener Chatverlauf. AKO4X ist das umfassendere Kampagnensystem. Es unterstützt einzelne oder mehrere Runden, führt ein Archiv über verschiedene Läufe hinweg, kann lokal oder auf Modal ausgeführt werden, sammelt NCU-Profile, entwickelt das Test-Framework bei ausdrücklicher Freigabe weiter und nimmt eine unabhängige Prüfung vor.

Gerade diese letzte Funktion bringt AKO auf Platz eins. Das veröffentlichte Material zeigt einen gecachten Kandidaten, der zunächst erfolgreich wirkte. Erst als eine unabhängige Prüfung bei wiederverwendeten Zeigern die Eingabewerte änderte, fiel er durch alle 38 Tests. Genau diese Art von Reward Hacking übersieht ein nachsichtiges Benchmark-Framework – bis sie zu spät als Produktionsvorfall sichtbar wird.

Die Evidenz ist ungewöhnlich transparent dokumentiert. AKOs veröffentlichte Evaluation lief auf einer NVIDIA B200 mit CUDA 13.2, PyTorch 2.12, Triton 3.6 sowie Claude Opus 4.7 oder 4.8. Über 10 Kernel-Familien und 471 Workloads hinweg berichten die Autoren, dass AKO in neun Familien die Expertenimplementierung übertraf; die Verbesserungen des geometrischen Mittels lagen zwischen 1.14x und 1.43x. Besonders auffällig waren 30.71x bei DSA Sparse Attention mit 23 von 23 bestandenen Workloads und 2.30x bei GDN Prefill mit 100 von 100 bestandenen Workloads. AKO veröffentlicht die Workload-Bereiche und die Umgebung, sodass die gemäßigteren Resultate ebenso wertvoll sind wie die Spitzenwerte.

Gerade diese gemäßigteren Ergebnisse sind für Kaufentscheidungen relevant. GQA Decode umfasst eine Spanne von 0.85x bis 1.81x, MLA Decode von 0.84x bis 1.98x, MLA Prefill von 0.82x bis 2.37x und RMSNorm von 0.96x bis 1.67x. GEMM blieb bei 1.00x, weil cuBLAS ungeschlagen war. Mit anderen Worten: AKO verliert bei einzelnen Workloads und kann bisweilen eine ausgereifte Expertenbibliothek nicht verbessern. Das ist glaubwürdiger als eine Seite, auf der jeder Pfeil nach oben zeigt.

Am besten geeignet für: NVIDIA-Teams, die reproduzierbare und geprüfte Kernel-Kampagnen durchführen

Besonderheit: Unabhängige Prüfung plus Kampagnengedächtnis über mehrere Läufe

Preis: $0 für selbst gehostetes AKO4X unter MIT-Lizenz; Claude Code und GPU-Nutzung werden separat berechnet, geprüft am 16. August 2026

Kostenlose Testversion: Nicht zutreffend

Für einen typischen AKO4ALL-Lauf nennt AKO ungefähr 55 Minuten, rund 15,000 Eingabe-Tokens, 253,000 Ausgabe-Tokens, 17.6 Millionen Cache-Read-Tokens und 752,000 Cache-Write-Tokens. Damit werden Cache-Kosten und Grenzen des Modelltarifs zu echten Budgetposten. Das Open-Source-Framework mag $0 kosten, die Kampagne tut es nicht.

1. 1

   Eine Produktions-Workload profilieren

   Messen Sie die vollständige Anfrage und ermitteln Sie den Laufzeitanteil des Kernels, bevor eine Agentensitzung beginnt. Halten Sie repräsentative Shapes, Datentypen, Batchgrößen, Aufwärmverhalten und die aktuellen End-to-End-Kosten fest. Ist der Kernel nicht heiß, wird abgebrochen.

2. 2

   Zwischen AKO4ALL und AKO4X wählen

   AKO4ALL eignet sich für einen klar begrenzten Kernel. AKO4X ist angebracht, wenn mehrere Runden, ein Archiv, NCU-Profiling oder unabhängige Kampagnenprüfungen benötigt werden. Das größere System sollte nicht allein wegen seiner zusätzlichen Steuerelemente der Ausgangspunkt sein.

3. 3

   Referenz und Eingaben sperren

   Die vorhandene Implementierung dient als Referenz. Erstellen Sie Korrektheitstests für die tatsächlichen Produktions-Shapes und ergänzen Sie neue Werte, die Abkürzungen über gecachte Ausgaben entlarven. Das Test-Framework bleibt vor Änderungen durch den Agenten geschützt, sofern seine Weiterentwicklung nicht ausdrücklich Teil des Experiments ist.

4. 4

   Begrenzten Suchlauf starten

   Begrenzen Sie einen ersten Durchlauf auf 32 B200-Stunden und kombinieren Sie ihn mit einem Agententarif für $100. Zu den aktuellen Modal-Preisen kostet dieser Pilotversuch vor Arbeitszeit der Entwickler $299.99. Speichern Sie jeden akzeptierten Kandidaten zusammen mit seiner exakten Umgebung.

5. 5

   Unabhängig prüfen

   Führen Sie den Gewinner außerhalb des Arbeitskontexts des Agenten erneut aus – mit geänderten Werten, gegebenenfalls wiederverwendeten Zeigern, Grenz-Shapes und wiederholten Messungen. Ein Kandidat, der ausschließlich in seiner eigenen Trainingsschleife gewinnt, wird verworfen.

6. 6

   End-to-End-Amortisation verlangen

   Integrieren Sie den Kernel in das tatsächliche Modell oder den Dienst und messen Sie anschließend Gesamtlatenz und Beschleunigerkosten. Ausgeliefert wird nur, wenn die beobachtete monatliche Ersparnis das vor Kampagnenbeginn festgelegte Amortisationsfenster einhält.

2. KernelAgent: der beste hardwaregestützte PyTorch-Workflow

KernelAgent passt am besten zu PyTorch-Teams, deren Optimierer aus Hardwarezählern Schlüsse ziehen soll, statt Codeänderungen auf gut Glück auszuprobieren. Das Open-Source-Projekt verbindet Kernel-Generierung, Profiling, Verifizierung, Benchmarking und Optimierung in einer Multi-Agenten-Schleife.

Sein wichtigstes Unterscheidungsmerkmal ist das Profiler-Feedback. Das System erfasst 28 Messgrößen aus NVIDIA Nsight Compute, ordnet einen Kandidaten mithilfe eines Roofline-Modells als speicherlimitiert, rechenlimitiert oder nicht ausgelastet ein und richtet die nächste Optimierung danach aus. Vereinfacht gesagt beantwortet ein Roofline-Modell die Frage, ob Rechenkapazität, Datentransfer oder geringe Auslastung den Kernel bremst. Dadurch verfolgt die nächste Änderung ein konkreteres Ziel.

Die Schleife verifiziert Ausgaben, misst mit CUDA Events und kann beim konfigurierten Rundenlimit, bei Konvergenz oder nach Erreichen von mindestens 95% der Speed-of-Light-Effizienz stoppen. Das Repository nennt vollständige Unterstützung für NVIDIA CUDA und Intel XPU, jedoch nicht für AMD ROCm. KernelAgent läuft unter Linux und macOS mit Python 3.8 bis 3.12 und benötigt Triton, PyTorch sowie OpenAI, Anthropic oder einen eigenen Modellanbieter. Im KernelAgent-Repository steht die aktuelle Unterstützungsmatrix.

Der veröffentlichte Benchmark umfasst 100 Aufgaben aus KernelBench Level 1. Die Autoren berichten von 2.02x gegenüber einer älteren Gruppe generierter Kernel, 1.56x gegenüber dem standardmäßigen torch.compile, Siegen gegen torch.compile bei 65 von 100 Aufgaben und 89% der H100-Roofline. Einem früheren Generierungssystem wird eine Korrektheitsquote von 100% über 250 Aufgaben der Level 1, Level 2 und Level 3 zugeschrieben. Diese Korrektheitszahl darf nicht ohne Weiteres auf jedes optimierte Ergebnis von KernelAgent übertragen werden.

Ein konkreter Fall zeigt den realistischen Nutzen besser als das Gesamtergebnis. Eine Matrix-Vektor-Implementierung wurde von 9.52 Millisekunden auf 1.95 Millisekunden beschleunigt, während torch.compile 2.09 Millisekunden erreichte. Der Agent verbesserte die ursprüngliche Implementierung drastisch, doch gegenüber dem leicht verfügbaren Compiler fiel der endgültige Vorsprung deutlich kleiner aus. Genau deshalb sollte als wirtschaftliche Baseline das beste System dienen, das andernfalls produktiv eingesetzt würde – nicht der langsamste Code, den ein Agent ersetzen kann.

Am besten geeignet für: PyTorch-Teams auf NVIDIA CUDA oder Intel XPU, die profilergeführte Iterationen wünschen

Besonderheit: Roofline-Routing auf Grundlage von 28 NCU-Messgrößen

Preis: $0 für die Software unter Apache 2.0; Modellanbieter und GPU-Nutzung werden separat berechnet, geprüft am 16. August 2026

Kostenlose Testversion: Nicht zutreffend

KernelAgent ist die zweite Wahl, wenn eine übersichtliche PyTorch-native Architektur und freie Wahl des Modellanbieters wichtig sind. Zur ersten Wahl wird es, wenn das Ziel bereits im unterstützten Stack liegt und das Team nachvollziehen möchte, warum ein Kernel langsam ist. Weniger geeignet ist es für breit angelegte autonome Kampagnen, die ohne zusätzliche Arbeit Archive über mehrere Läufe und gegnerische Prüfmechanismen benötigen.

3. AutoKernel: die beste einfache Experimentierschleife über Nacht

AutoKernel ist der beste praktische Einstieg für Teams, die Claude, Codex oder einen anderen Coding-Agenten über Nacht in einer geradlinigen Profiling-Bearbeitungs-Benchmark-Schleife arbeiten lassen möchten. Das Tool profiliert das Modell, extrahiert Engpässe, bearbeitet Triton- oder CUDA-C++-Code, behält oder verwirft jeden Kandidaten und verifiziert das fertige Modell End-to-End.

Das Projekt beschreibt einen unveränderlichen Benchmark mit fünf Stufen der Korrektheitsprüfung und einem Roofline-Bericht. Dieses feste Test-Framework ist wichtig, weil ein frei arbeitender Coding-Agent sonst den Test statt des Kernels verbessern könnte. In der AutoKernel-Schleife durchläuft jeder Kandidat dieselbe Prüfung; nur gemessene Verbesserungen bleiben erhalten.

Die geplante Taktung lässt sich leicht budgetieren. Laut Dokumentation dauert ein Experiment ungefähr 90 Sekunden, womit rund 40 Experimente pro Stunde und etwa 320 über Nacht möglich sind. Das sind Planungswerte, keine garantierten Durchsatzraten. Das Repository beschreibt außerdem 50 bis mehr als 300 Experimente je KernelBench-Problem in einer Gruppe von mehr als 250 Problemen. AutoKernel dokumentiert den aktuellen Ablauf und die Voraussetzungen.

Die Hardwarebreite ist ein echter Vorteil. Zu den getesteten NVIDIA-Zielen gehören H100, A100 und RTX 4090. Version 1.3 ergänzte AMD-ROCm-Unterstützung für MI300X, MI325X, MI350X und MI355X. Das Tool benötigt Python 3.10 oder neuer sowie uv; dokumentiert sind neun Kernel-Typen.

Ebenso wichtig ist die Grenze der Evidenz: Die öffentliche README beschreibt Framework, Ablauf und Kampagnenumfang, veröffentlicht aber keinen aktuellen unabhängigen Gesamt-Benchmark für alle unterstützten Ziele. Das macht AutoKernel nicht schwach. Es bedeutet lediglich, dass Bereitstellbarkeit und Versuchsaufbau den ehrlichen Kaufgrund liefern – nicht ein Sieg auf einer Rangliste.

Am besten geeignet für: Teams, die eine nachvollziehbare nächtliche Schleife mit breiter Agentenkompatibilität wünschen

Besonderheit: Einfaches Behalten oder Verwerfen von Experimenten plus abschließende End-to-End-Verifizierung

Preis: $0 für die Software unter MIT-Lizenz; Coding-Agent und GPU-Nutzung werden separat berechnet, geprüft am 16. August 2026

Kostenlose Testversion: Nicht zutreffend

AutoKernel ist der vernünftige erste Pilotversuch für Teams, die ihrem Coding-Agenten bereits vertrauen und denen noch die experimentelle Disziplin fehlt. Es ist KernelAgent vorzuziehen, wenn nächtlicher Durchsatz und Agentenwahl wichtiger sind als ein NCU-gesteuertes Multi-Agenten-Konzept. Gegenüber AKO empfiehlt es sich, wenn eine leichtere Schleife oder eines der aufgeführten ROCm-Ziele benötigt wird. Die Zahl von 320 Experimenten allein ist kein Grund, AutoKernel einer Lösung mit 40 vorzuziehen; die Qualität der Suche hängt vom Test-Framework, der Vielfalt der Kandidaten und der Baseline ab.

4. Apex: der beste spezialisierte Weg für AMD ROCm

Apex ist die beste spezialisierte Wahl für die Optimierung unterstützter AMD-ROCm-Workloads. Gemeint ist der agentische Optimierer von AMD-AGI, nicht NVIDIA Apex; seine Einsatzbedingungen sind ausdrücklich auf AMD-Instinct-Hardware zugeschnitten.

Standardziel ist MI355X; außerdem werden MI300X, MI300A und MI250X unterstützt. Die Umgebung benötigt Ubuntu 22.04 oder neuer, Python 3.10 oder neuer, Node.js 18 und für die Bewertung ROCm 6.x oder neuer. Die aktuelle Einrichtung installiert ein PyTorch-Paket für ROCm 7.2. Apex kann Claude Code, Codex oder Cursor orchestrieren, enthält jedoch keinen Modellzugang. Das Apex-Repository nennt die aktuellen Zielsysteme und Einrichtungsgrenzen.

Der Ablauf ist auf die Produktion ausgerichtet. Apex misst die Workload, ermittelt einen Engpass, lässt den Agenten eine Optimierung erstellen, bewertet sie mit Magpie, integriert Kandidaten oberhalb von 1.05x und schließt mit einem End-to-End-Benchmark ab. Das System kann Python- oder Triton-Pfade in aiter, vLLM und SGLang sowie aiter HIP zur Laufzeit patchen. Systemweite C++-Bibliotheken oder monolithische _C.so-Erweiterungen lassen sich so nicht verändern. Diese Grenze wiegt schwerer als die Liste unterstützter Agenten: Liegt der Engpass hinter einer Integrationsfläche, die Apex nicht ersetzen kann, erreicht die Kampagne ihn nicht.

Die Validierung des Herstellers umfasst sieben Kernel. Gemeldet werden 36.35x für all_reduce, 1.14x für fused_moe, 1.05x für rms_norm und 1.00x für die übrigen vier. Das 36.35x-Ergebnis ist als nützliches Resultat für einen einzelnen Kernel zu verstehen, nicht als erwartete Rendite über ein ganzes Portfolio. Die vier unveränderten Kernel zeigen, dass der Annahmeschwellenwert Code richtigerweise auch unangetastet lassen kann.

Am besten geeignet für: AMD-Instinct-Teams, deren Engpass über einen unterstützten ROCm-Hotpatch-Pfad erreichbar ist

Besonderheit: Agentische Optimierung und End-to-End-Bewertung speziell für ROCm

Preis: $0 für die Software unter MIT-Lizenz; Modellzugang und AMD-GPU-Rechenleistung werden separat berechnet, geprüft am 16. August 2026

Kostenlose Testversion: Nicht zutreffend

Sobald das Produktionsziel ein unterstützter AMD-Beschleuniger ist und der Hot Code innerhalb der patchbaren Oberfläche liegt, rückt Apex an die Spitze. AutoKernel Version 1.3 ist die Alternative, wenn dessen breiter angelegte Kampagnenmechanik oder der aufgeführte Pfad für MI300X bis MI355X besser passt. Die Entscheidung darf in keinem Fall allein aufgrund des Wortes „AMD“ fallen; zu prüfen sind der konkrete Beschleuniger, der ROCm-Stack und der Integrationspunkt.

5. CUDA Agent: höchstes Forschungspotenzial, aber keine Kaufempfehlung

CUDA Agent ist das interessanteste Forschungssystem in diesem Vergleich und zugleich die schwächste Option für die Beschaffung. Das Projekt von ByteDance Seed und Tsinghua University trainiert ein System mittels Reinforcement Learning für CUDA-Aufgaben und veröffentlicht einen Datensatz mit 6,000 Beispielen, eine Coding-Agent-Skill und ein Arbeitsverzeichnis für Agenten.

Die Autoren bezeichnen es als das erste mit Reinforcement Learning trainierte System für die CUDA-Entwicklung. In ihrer KernelBench-Evaluation melden sie eine gesamte Erfolgsquote von 98.8%, bei 96.8% der Probleme eine höhere Geschwindigkeit als torch.compile und einen Speedup des geometrischen Mittels von 2.11x gegenüber torch.compile. Für Level 3 nennen sie eine Erfolgsquote von 94%, bei 90% eine höhere Geschwindigkeit als torch.compile und einen Speedup des geometrischen Mittels von 1.52x. Die Projektseite von CUDA Agent beschreibt den Benchmark-Aufbau.

Der Aufbau ist umfangreich: bis zu 128,000 Kontext-Tokens, 150 Trainingsrunden und 200 Evaluationsrunden. Ein Kandidat musste torch.compile um mehr als 5% schlagen, eine Korrektheitsprüfung mit fünf Eingaben bestehen, geschützte Skripte unangetastet lassen und ohne Webzugriff arbeiten. Diese Kontrollmechanismen machen das veröffentlichte Ergebnis aussagekräftiger als eine ungeschützte Coding-Agent-Demo.

Die Hürde für einen Kauf ist konkret. Weder die Projektseite noch das öffentliche Repository führen herunterladbare Modellgewichte oder einen verwalteten Endpunkt auf. Ein Datensatz und eine Skill können in die Entwicklung eines eigenen Systems einfließen, sind aber nicht das trainierte Produkt hinter dem Spitzenergebnis. Bis das tatsächliche Modell oder ein Dienst verfügbar ist, bleibt CUDA Agent eine Forschungsreferenz statt eines einsetzbaren Optimierungsprodukts.

Am besten geeignet für: Forschende, die Agententraining, CUDA-Entwicklungsverläufe und KernelBench-Evaluation untersuchen

Besonderheit: Veröffentlichter Reinforcement-Learning-Aufbau und starkes, von den Autoren gemeldetes KernelBench-Ergebnis

Preis: Nicht erhältlich; öffentliche Forschungsartefakte sind verfügbar, ein kommerzieller Tarif war am 16. August 2026 nicht aufgeführt

Kostenlose Testversion: Nicht zutreffend

CUDA Agent gehört auf die technische Beobachtungsliste; seine Evaluationsdisziplin kann zudem als Maßstab für andere Behauptungen dienen. Es gehört jedoch nicht in einen Beschaffungsvergleich, als könnte ein Team das beschriebene Modell heute kaufen. Genau diese Trennung unterscheidet eine korrekt zitierte Forschungsobergrenze von einem erfundenen Produkt.

Welcher KI-Agent passt zu welchem Einsatz?

AKO ist die richtige Wahl, wenn NVIDIA eingesetzt wird, Claude Code zulässig ist und besonders belastbare Kampagnen- und Prüfmechanismen gefragt sind. Das gilt vor allem für eine Familie wichtiger Kernel, wiederholte Optimierungsrunden und ein Einsparpotenzial, das die Aufbewahrung der Entwicklungsverläufe über mehrere Läufe rechtfertigt.

KernelAgent empfiehlt sich für PyTorch-Teams, die den nächsten Optimierungsschritt aus NCU-Messgrößen und einer Roofline-Klassifizierung ableiten wollen. Für unterstützte NVIDIA- oder Intel-XPU-Aufgaben ist es die natürlichste Wahl, wenn Entwickler den Hardwareengpass verstehen und nicht nur einen schnelleren Kandidaten akzeptieren möchten.

AutoKernel ist die kleinere operative Stufe: Ein vorhandener Coding-Agent wird angebunden, das Modell profiliert und über Nacht eine feste Experimentfolge ausgeführt. Zugleich ist es der flexible Mittelweg, wenn Codex wichtig ist oder eines der aufgeführten AMD-Instinct-Ziele AKO beziehungsweise KernelAgent ungeeignet macht.

Apex ist für Workloads auf unterstützter AMD-Instinct-Hardware gedacht, sofern der Engpass in einem patchbaren Pfad von aiter, vLLM, SGLang oder HIP liegt. Auf AMD wiegt diese Hardwarepassung schwerer als AKOs breiter dokumentierte Kampagnenevidenz.

CUDA Agent kommt ausschließlich für Forschung, Replikationsplanung oder Evaluationsdesign infrage, bis trainierte Gewichte oder ein verwalteter Endpunkt verfügbar sind.

Die klare Reihenfolge lautet: zuerst Hardware, dann Integrationsfläche, anschließend Verifizierer und zuletzt Benchmark. Der Modellname folgt später. Überstehen zwei Systeme diese Filter, ist jenes vorzuziehen, das Bezugsgröße, Fehlerspannen und End-to-End-Ergebnis offenlegt. Eine kleinere, aber vergleichbare Verbesserung ist wertvoller als eine spektakuläre Zahl für die falsche Baseline.

Für die allgemeinere Auswahl der Orchestrierungsschicht rund um ein spezialisiertes Framework erläutert der Vergleich von KI-Agenten-Plattformen die übergeordneten Abwägungen. Diese Entscheidung sollte getrennt von der Kernel-Schleife getroffen werden.

Die tatsächlichen Kosten: mit einem $299.99-Pilotversuch starten und Amortisation verlangen

Der Open-Source-Preis ist der unwichtigste Kostenposten. Eine echte Kampagne kombiniert Beschleunigerzeit, Agentenzugang, Aufwand für Kompilierung und Profiling sowie die Prüfung durch Fachleute.

Der aktuelle Preis von Modal für eine NVIDIA B200 betrug bei der Prüfung am 16. August 2026 $0.001736 pro Sekunde beziehungsweise $6.2496 pro Stunde. Der Starter-Tarif kostet $0 pro Monat zuzüglich Rechenleistung, umfasst ein monatliches Rechenguthaben von $30 und bietet drei Plätze. Team kostet $250 pro Monat zuzüglich Rechenleistung, umfasst ein monatliches Rechenguthaben von $100 und bietet unbegrenzt viele Plätze. Für Enterprise werden individuelle Rechenpreise genannt. Modal veröffentlicht die aktuellen Preise.

Damit kosten 32 B200-Stunden $199.99. Zusammen mit einem Agententarif für $100 ergibt sich für die erste Kampagne ein Budget von $299.99 vor Arbeitszeit der Entwickler. Die Begrenzung ist bewusst niedrig genug, um eine schwache Idee zu verwerfen, und hoch genug für mehr als eine bloße Token-Demo.

Aktuelle Agentenzugänge liefern mehrere Anhaltspunkte für die Planung. ChatGPT Plus kostet $20 pro Monat. ChatGPT Pro bietet eine Option für $100 mit 5x so viel Nutzung wie Plus und eine Option für $200 mit 20x so viel Nutzung; beide enthalten Codex. Claude hat einen kostenlosen Tarif für $0, Claude Pro für $17 pro Monat bei jährlicher Abrechnung mit einer Vorauszahlung von $200 oder für $20 bei monatlicher Abrechnung sowie Max für $100 mit 5x beziehungsweise $200 mit 20x. Claude Pro enthält Claude Code. Diese Angaben wurden am 16. August 2026 anhand der Informationen zu OpenAI Plus, der Informationen zu OpenAI Pro, der Preisseite von Anthropic und des Tarifleitfadens von Anthropic geprüft. Die API-Abrechnung kann abweichen; deshalb sind Modell-Token-Kosten und GPU-Rechenleistung getrennt zu betrachten. Der Leitfaden zu den günstigsten KI-APIs erklärt diese Ebene.

Nun wird der Pilotversuch der Produktionsrechnung gegenübergestellt. Eine B200 kostet bei 720 Betriebsstunden zum aktuellen Listenpreis $4,499.71. Beansprucht der Ziel-Kernel 25% der Workload und wird 2x schneller, spart die Gesamt-Workload 12.5% beziehungsweise $562.46 pro Monat. Der Pilotversuch für $299.99 amortisiert sich nach ungefähr 16 Tagen.

Beansprucht der Kernel dagegen nur 5%, spart dieselbe 2x-Verbesserung des Kernels insgesamt 2.5% beziehungsweise $112.49 pro Monat. Die Amortisationsdauer steigt auf ungefähr 80 Tage. Das Optimierungsergebnis ist identisch, das Geschäftsergebnis nicht.

Die Rechnung ist in einer Hinsicht bewusst konservativ und in einer anderen unvollständig. Als Einsparungsbasis dient die Beschleunigerzeit zum Listenpreis; nicht berücksichtigt sind Arbeitszeit der Entwickler, schwankende Modell-Token-Kosten, Kompilierungsaufwand, Rabatte für reservierte Kapazität oder Änderungen der Auslastung. Vor der Freigabe einer längeren Kampagne müssen alle Eingaben durch die tatsächlichen Rechnungswerte ersetzt werden.

Wie diese KI-Agenten zur GPU-Optimierung ausgewählt wurden

Dies ist ein Vergleich aktueller Dokumentation und Evidenz, keine Behauptung, alle fünf Systeme seien auf identischer Hardware installiert und getestet worden. Deshalb heißt es im Titel im Vergleich und nicht im Test. Jedes aufgenommene System musste einen konkreten Agenten- oder Framework-Pfad für GPU-Kernel-Arbeit, eine öffentliche Beschreibung aus erster Hand und genügend Implementierungsdetails bieten, um Eignung und Grenzen bestimmen zu können.

Die Rangfolge beruht auf sechs Kriterien:

• Einsetzbarkeit: Können Entwickler das betreffende System jetzt beziehen und ausführen?
• Hardwarepassung: Unterstützt es ausdrücklich den Zielbeschleuniger und den Software-Stack?
• Strenge der Korrektheitsprüfung: Wehrt sich das Test-Framework gegen gecachte Antworten, veränderte Tests, enge Shape-Auswahl und schwache Toleranzen?
• Benchmark-Bezugsgröße: Wird die Baseline genannt, und sind Fehlschläge oder unveränderte Fälle sichtbar?
• End-to-End-Validierung: Kehrt der Ablauf nach Verbesserung des isolierten Kernels zum tatsächlichen Modell oder Dienst zurück?
• Kostentransparenz: Kann ein Team für die erste Kampagne ein begrenztes GPU- und Agentenbudget festlegen?

Die Rangfolge bildet keinen Durchschnitt aus Hersteller-Multiplikatoren. Sie belohnt die Qualität der Evidenz, die operative Passung und die Chance, einen lokalen Benchmark in eine verifizierte Produktionsersparnis zu verwandeln. Deshalb können AKOs breit angelegte Ergebnisse von 1.14x bis 1.43x wichtiger sein als eine sehr viel größere isolierte Zahl. Aus demselben Grund kann das KernelBench-Ergebnis von CUDA Agent mit 2.11x das Fehlen eines bereitstellbaren Modells nicht aufwiegen.

Kein Partner aus dem aktiven kommerziellen Pool der Website passt sinnvoll zur GPU-Kernel-Optimierung. Ein Telefon-, CRM-, Schulungs-, Buchhaltungs- oder Website-Tool einzufügen, würde die Glaubwürdigkeit des Artikels mindern. Deshalb enthält dieser Vergleich keine Affiliate-Platzierung und bewertet ausschließlich relevante Systeme.

Von welchen Optionen abzuraten ist

KernelAgent ist für AMD ROCm nicht geeignet. Die aktuelle Unterstützungsliste umfasst NVIDIA CUDA und Intel XPU, aber nicht AMD ROCm. Auch ein profilergeführtes Konzept kann eine nicht unterstützte Laufzeitumgebung nicht ausgleichen.

AMD-AGI Apex ist für NVIDIA-Aufgaben nicht geeignet. Das hier behandelte Apex wurde für ROCm und AMD Instinct entwickelt. Es ist außerdem nicht NVIDIA Apex, das eigenständige Projekt für Mixed Precision und verteiltes Training. Vor der Zuweisung von Entwicklungszeit muss eindeutig feststehen, welches Projekt gemeint ist.

CUDA Agent ist kein verwaltetes Produktionsprodukt. Datensatz, Skill und Arbeitsartefakte sind öffentlich, doch weder die trainierten Gewichte noch ein Endpunkt werden aufgeführt. Das System ist ein Studienobjekt, kein budgetierbarer Dienst.

AKO ist ungeeignet, wenn Claude Code keine genehmigte Abhängigkeit ist. Das heutige Framework ist gerade deshalb wertvoll, weil es einen vorhandenen Agenten in feste Grenzen weist. Die Wahl dieses Agenten bleibt dennoch eine Frage der Beschaffung und Sicherheit.

AutoKernel ist ungeeignet, wenn vor einem Pilotversuch zwingend ein unabhängiger Gesamt-Benchmark vorliegen muss. Das öffentliche Material beschreibt Ablauf und unterstützte Ziele gut, liefert aber kein aktuelles unabhängiges Gesamtergebnis für diese Ziele. In diesem Fall ist entweder ein begrenzter Pilotversuch durchzuführen oder ein System zu wählen, dessen Evidenz näher an den Anforderungen liegt.

Vor allem sollten einfache Claude-Code- oder Codex-Sitzungen nicht als vollständiger Optimierer gelten. Beide können Kernel schreiben und überarbeiten; AutoKernel oder Apex können sie orchestrieren. Das eigentliche Produkt besteht jedoch aus dem umgebenden Profiler, einer unveränderlichen Referenz, Korrektheitstests, Benchmark-Zeitmessung, Behalten-oder-Verwerfen-Logik und Bereitstellungsprüfung. Ohne dieses Framework verfasst der Agent begeistert Kernel und korrigiert zugleich seine eigene Prüfung.

Häufig gestellte Fragen

Kann Codex CUDA- und Triton-Kernel optimieren?

Ja. AutoKernel arbeitet ausdrücklich mit Codex an der Optimierung von Triton oder CUDA C++, und Apex kann Codex für unterstützte AMD-ROCm-Aufgaben orchestrieren. Codex allein ist jedoch kein vollständiges Optimierungssystem; benötigt werden außerdem Profiler, geschütztes Korrektheits-Framework, Benchmark und eine Schleife zum Behalten oder Verwerfen von Änderungen.

Ist KernelAgent besser als AutoKernel?

KernelAgent ist besser, wenn eine PyTorch-native Schleife, NCU-Messgrößen und Roofline-gesteuertes Tuning für NVIDIA oder Intel XPU im Vordergrund stehen. AutoKernel ist besser, wenn eine einfachere nächtliche Schleife, eine breitere Agentenwahl oder die aufgeführten NVIDIA- und AMD-Instinct-Ziele gefragt sind.

Optimiert Apex NVIDIA-GPUs?

Nein. AMD-AGI Apex ist ein ROCm-Optimierer für unterstützte AMD-Instinct-Hardware. Es darf nicht mit NVIDIA Apex verwechselt werden, einem anderen Projekt, das nicht der hier bewertete agentische Optimierer ist.

Welcher KI-Agent eignet sich am besten zur Optimierung von AMD-GPUs?

Apex ist die erste spezialisierte Wahl für eine unterstützte AMD-Instinct-Workload innerhalb seiner patchbaren Integrationsfläche. AutoKernel Version 1.3 ist die breiter angelegte Alternative für MI300X, MI325X, MI350X und MI355X.

Wie lassen sich KernelBench-Ergebnisse vergleichen?

Zu jedem Ergebnis gehören Hardware, Aufgabenlevel, Baseline, Definition des Bestehens, Korrektheitseingaben und Methode für das geometrische Mittel. Ein Ergebnis gegenüber torch.compile ist nicht mit einem Ergebnis gegenüber einer Expertenimplementierung oder einer groben Wettbewerbs-Baseline austauschbar.

Lohnt sich ein GPU-Kernel-Agent für ein kleines Team?

Das ist möglich, wenn das Profiling zeigt, dass ein Kernel einen ausreichend großen Anteil einer wiederkehrenden Beschleunigerrechnung verursacht. Verwenden Sie den Pilotversuch für $299.99 und die Amortisationsprüfung für den Hot Kernel. Brechen Sie ab, wenn die gemessene End-to-End-Ersparnis die Arbeit nicht innerhalb des Zielzeitraums amortisieren kann.

Was am Montag zu tun ist

Installieren Sie nicht alle fünf Systeme. Profilieren Sie am Montagmorgen eine repräsentative Produktions-Workload und notieren Sie, welchen Anteil der Gesamtlaufzeit der heißeste Kernel beansprucht. Wählen Sie dann genau einen Pfad: AKO für eine geprüfte NVIDIA-Kampagne, KernelAgent für eine PyTorch-Schleife mit Hardwarezählern, AutoKernel für eine leichtere nächtliche Suche oder Apex für unterstütztes AMD ROCm.

Begrenzen Sie das erste Experiment auf 32 B200-Stunden zuzüglich eines Agententarifs für $100 oder auf das entsprechende Budget für die eigene Hardware. Frieren Sie Referenzimplementierung und Benchmark ein. Ergänzen Sie Korrektheitstests mit neuen Werten. Der Gewinner muss außerhalb der eigenen Agentenschleife bestehen und die vollständige Workload verbessern – nicht nur seinen Mikrobenchmark.

Die Auslieferungsregel passt in einen Satz: Ohne gemessene End-to-End-Amortisation gibt es keine zweite Kampagne.