Optimisation GPU avec des agents IA en 2026 : AKO, KernelAgent, AutoKernel, Apex et CUDA Agent comparés

Quels agents IA choisir pour l’optimisation GPU ? Comparatif d’AKO, KernelAgent, AutoKernel, Apex et CUDA Agent, avec coûts, preuves et limites.

Thursday, September 3, 2026Omid Saffari
Optimisation GPU avec des agents IA en 2026 : AKO, KernelAgent, AutoKernel, Apex et CUDA Agent comparés

Une accélération annoncée de 232x sur un kernel GPU peut réduire le temps de traitement complet de moins de 5%. Le meilleur agent IA pour l’optimisation GPU n’est donc pas celui qui affiche le benchmark le plus spectaculaire, mais celui qui réunit la bonne compatibilité matérielle, un banc de validation impitoyable et un seuil de rentabilité de bout en bout.

Réponse courte : AKO domine au classement général, mais le matériel change la donne

AKO est le meilleur environnement d’agent IA pour mener une campagne sérieuse d’optimisation GPU sur NVIDIA. Il offre la combinaison la plus solide entre résultats face à de nombreuses implémentations expertes, infrastructure de campagne reproductible et audit indépendant. Ce n’est pas un nouveau modèle : AKO fournit à Claude Code un cadre rigoureux pour proposer des kernels, les benchmarker, conserver les trajectoires prometteuses et repérer les candidats qui ne font que sembler corrects.

Ce verdict s’inverse immédiatement sur du matériel AMD. Apex est le choix spécialisé pour ROCm, tandis qu’AutoKernel constitue l’option plus généraliste pour certaines puces AMD Instinct. KernelAgent convient mieux à une équipe PyTorch qui cherche une boucle d’optimisation NVIDIA ou Intel XPU pilotée par les compteurs matériels. CUDA Agent affiche ici le potentiel de recherche le plus élevé, mais ce n’est pas encore un produit qu’une équipe peut déployer.

Les tarifs et la disponibilité ci-dessous ont été vérifiés le 16 août 2026. Ces systèmes open source sont auto-hébergés : un prix de départ de $0 signifie qu’il n’y a pas d’abonnement logiciel. Le forfait du modèle, l’utilisation de l’API, le temps des ingénieurs et le calcul GPU restent à payer séparément.

OutilIdéal pourPrix de départEssai gratuit
AKOCampagnes NVIDIA auditéesLogiciel à $0 + consommationSans objet
KernelAgentPyTorch et optimisation guidée par NCULogiciel à $0 + consommationSans objet
AutoKernelBoucles d’expérimentation simples pendant la nuitLogiciel à $0 + consommationSans objet
ApexOptimisation AMD ROCmLogiciel à $0 + consommationSans objet
CUDA AgentRecherche et étude de benchmarksNon commercialiséSans objet

Ce tableau ne reprend volontairement pas les multiplicateurs de performance. Les implémentations expertes d’AKO, la comparaison de KernelAgent avec torch.compile, la validation d’Apex sur sept kernels, le résultat KernelBench de CUDA Agent et le score annoncé de 232x lors d’un concours reposent sur des dénominateurs différents. Les classer du plus grand au plus petit donnerait une illusion de précision sans presque rien apprendre.

Arbre de décision orientant l’optimisation NVIDIA vers AKO, KernelAgent ou AutoKernel, AMD ROCm vers Apex, et la recherche vers CUDA Agent
Commencez par choisir la voie matérielle. Le modèle vient après le vérificateur et l’environnement d’exécution.

La règle de décision est simple : choisissez l’environnement capable de profiler, valider et déployer sur votre accélérateur réel, puis comparez les preuves au sein de cette catégorie. Même théoriquement supérieur, un optimiseur incompatible avec votre matériel n’a aucune valeur économique.

Ce que le résultat de 232x change réellement sur une facture GPU

L’engouement actuel repose sur un résultat bien réel. Dans un récit de première main arrivé sur Hacker News le 15 août 2026, Sankalp explique avoir fait passer un benchmark de décomposition QR sur une NVIDIA B200 d’environ 419,000 microsecondes à 1,805 microsecondes. C’est le résultat annoncé de 232x. La campagne a duré 14 jours, produit plus de 1,500 soumissions et terminé 12e sur 183 participants. L’auteur a consigné 103 nouveaux records successifs, de 108,803 à 1,805 microsecondes, soit une baisse de 98.34%. Consultez l’expérience, son protocole complet et ses réserves.

C’est une démonstration impressionnante de l’intérêt du workflow. Cela ne prouve pas qu’un modèle en production coûtera 232x moins cher. Le point de départ était une implémentation rudimentaire sur un benchmark précis. Le résultat final a nécessité un pilotage humain, une expertise du domaine et plusieurs sorties de minima locaux. L’auteur revient sur le passage difficile d’environ 3,000 à 1,800 microsecondes et recommande d’explorer trois à cinq candidats en parallèle plutôt que de s’en remettre à une seule piste d’optimisation.

La variable absente est la part du kernel critique : la fraction du temps total que la charge de travail passe dans le kernel optimisé. Selon la loi d’Amdahl, la partie intacte du système impose un plafond absolu au gain global.

Si le kernel représente 25% du temps de traitement et devient 232x plus rapide, l’accélération totale théorique n’est que de 1.3314x. La baisse de coût théorique correspondante atteint 24.8922%. Si ce même kernel ne pèse que 5% du temps, l’accélération globale tombe à 1.0524x et la réduction de coût théorique à 4.9784%.

C’est aussi pourquoi le vérificateur compte davantage qu’une démonstration séduisante du modèle. Un candidat peut exploiter des entrées répétées, le comportement du cache, une tolérance trop généreuse ou une forme de tenseur étroite, tout en obtenant un score local spectaculaire. La question de production est plus exigeante : reste-t-il correct avec de nouvelles valeurs, sur toutes les formes réellement servies, dans le framework final, tout en réduisant la latence ou le coût de bout en bout ?

Le coût de la campagne rapportée est lui-même instructif. À l’époque, l’auteur disposait de ChatGPT Pro à $200 par mois, de Claude Pro à $20 par mois et du crédit mensuel Starter de Modal de $30. Ces abonnements ont rendu l’expérimentation accessible, mais l’unité de travail utile est restée une longue campagne faite de benchmarks, d’inspections, de modifications et de validations. L’agent a réduit le coût d’exploration de l’espace des solutions ; il n’a pas supprimé la nécessité de bien définir cet espace.

1. AKO : le meilleur choix global pour des campagnes NVIDIA vérifiées

AKO est le meilleur choix global lorsqu’il faut mener une campagne sur des kernels NVIDIA et que l’équipe peut utiliser Claude Code. Son avantage décisif ne vient pas d’un modèle magique. AKO transforme un agent de programmation existant en processus d’optimisation traçable, doté d’un banc de benchmark, d’une mémoire de campagne, d’outils de profiling et d’un audit contradictoire.

Page du projet AKO consacré à l’optimisation de kernels GPU
AKO

Deux portes d’entrée sont proposées. AKO4ALL est la skill prête à l’emploi pour optimiser un kernel en Triton, CUDA, C++, TileLang, CuTe DSL, Python ou HIP. Elle enregistre la trajectoire et l’historique Git, ce qui rend le résultat bien plus facile à examiner qu’une conversation éphémère. AKO4X est le système de campagne plus complet : il sait exécuter une ou plusieurs passes, conserver une archive commune aux exécutions, travailler en local ou avec Modal, recueillir des profils NCU, faire évoluer le banc de test lorsque cela est explicitement autorisé et effectuer un audit indépendant.

C’est cette dernière fonction qui place AKO en tête. La documentation publiée présente un candidat utilisant le cache qui semblait réussir, jusqu’à ce qu’un contrôle indépendant modifie les valeurs d’entrée tout en réutilisant les pointeurs. Il a alors échoué aux 38 vérifications. Voilà exactement le type de détournement de récompense qu’un benchmark permissif laisse passer et qu’un incident de production révèle trop tard.

Les preuves sont exceptionnellement transparentes. L’évaluation publiée d’AKO s’appuie sur une NVIDIA B200 avec CUDA 13.2, PyTorch 2.12, Triton 3.6 et Claude Opus 4.7 ou 4.8. Sur 10 familles de kernels et 471 charges de travail, les auteurs déclarent surpasser l’implémentation experte dans neuf familles, avec des gains en moyenne géométrique allant de 1.14x à 1.43x. Parmi les cas les plus marquants figurent 30.71x pour l’attention sparse DSA, avec 23 charges sur 23 validées, et 2.30x pour le prefill GDN, avec 100 sur 100. AKO publie les plages de charges et l’environnement, ce qui donne autant de valeur aux résultats modestes qu’aux chiffres spectaculaires.

Ces résultats plus modestes sont justement un bon indicateur pour décider. Le décodage GQA présente une plage de 0.85x à 1.81x, le décodage MLA de 0.84x à 1.98x, le prefill MLA de 0.82x à 2.37x et RMSNorm de 0.96x à 1.67x. GEMM reste à 1.00x, car cuBLAS n’a pas été battu. Autrement dit, AKO perd parfois sur certaines charges et ne parvient pas toujours à améliorer une bibliothèque experte mature. C’est plus crédible qu’une page où tous les indicateurs sont au vert.

Idéal pour : les équipes NVIDIA qui mènent des campagnes reproductibles et auditées sur leurs kernels

Point fort : audit indépendant et mémoire inter-campagnes

Tarif : logiciel AKO4X auto-hébergé à $0 sous licence MIT ; Claude Code et le calcul GPU sont facturés séparément, vérifié le 16 août 2026

Essai gratuit : sans objet

Les atouts
Ce qu'il fait bien
4 points

  • Résultats publiés face à des implémentations expertes sur 10 familles et 471 charges de travail
  • Une skill prête à l’emploi et un système de campagne plus approfondi
  • Conservation des trajectoires et réutilisation possible des acquis entre les exécutions
  • Audit indépendant avec de nouvelles valeurs, conçu pour détecter l’exploitation du benchmark
Les limites
Là où il pèche
4 points

  • Le workflow actuel dépend de Claude Code au lieu de prendre en charge tous les agents au même niveau
  • L’environnement de benchmark présenté utilise une NVIDIA B200 : les autres accélérateurs exigent leurs propres preuves
  • Une exécution type consomme beaucoup de tokens et peut encore mobiliser un temps de revue conséquent
  • Les kernels matures, comme GEMM dans cuBLAS, peuvent ne laisser aucune économie à trouver

Selon AKO, une exécution AKO4ALL type dure environ 55 minutes et consomme près de 15,000 tokens d’entrée, 253,000 tokens de sortie, 17.6 millions de tokens lus depuis le cache et 752,000 tokens écrits dans le cache. Avec ce profil, l’économie du cache et les limites du forfait du modèle entrent directement dans le budget réel. L’environnement open source peut coûter $0, mais pas la campagne.

  1. Profilez une charge de production

    Mesurez la requête complète et déterminez la part du kernel dans le temps d’exécution avant d’ouvrir une session avec l’agent. Consignez les formes, dtypes, tailles de batch, comportements de warm-up et coûts de bout en bout représentatifs. Si le kernel n’est pas critique, arrêtez-vous là.

  2. Choisissez AKO4ALL ou AKO4X

    Utilisez AKO4ALL pour un kernel bien délimité, et AKO4X si le travail demande plusieurs passes, une archive, du profiling NCU ou des audits de campagne indépendants. Ne commencez pas par le système le plus lourd au seul motif qu’il offre davantage de contrôles.

  3. Verrouillez la référence et les entrées

    Prenez l’implémentation existante comme référence. Construisez les tests de conformité sur les formes réellement utilisées en production et ajoutez de nouvelles valeurs capables de déjouer les raccourcis fondés sur des sorties mises en cache. Interdisez à l’agent de modifier le banc de test, sauf si son évolution fait explicitement partie de l’expérience.

  4. Lancez une recherche plafonnée

    Pour une première passe, limitez le calcul à 32 heures de B200 et associez-le à un forfait d’agent de $100. Aux tarifs actuels de Modal, ce pilote revient à $299.99 avant le temps des ingénieurs. Conservez chaque candidat accepté avec son environnement exact.

  5. Menez un audit indépendant

    Réexécutez le meilleur candidat hors du contexte de travail de l’agent, avec des valeurs modifiées, des pointeurs réutilisés lorsque c’est pertinent, des formes limites et des essais répétés. Rejetez tout candidat qui ne gagne qu’à l’intérieur de sa propre boucle d’entraînement.

  6. Exigez une rentabilité de bout en bout

    Intégrez le kernel au modèle ou au service réel, puis mesurez la latence et le coût de l’accélérateur sur l’ensemble de la charge. Ne le déployez que si l’économie mensuelle observée respecte le délai de retour sur investissement fixé avant la campagne.

2. KernelAgent : la meilleure boucle native PyTorch guidée par le matériel

KernelAgent est la solution la mieux adaptée aux équipes PyTorch qui veulent que l’optimiseur raisonne à partir des compteurs matériels au lieu de modifier le code à l’aveugle. Ce projet open source réunit génération de kernels, profiling, validation, benchmark et optimisation dans une boucle multi-agents.

Dépôt GitHub de KernelAgent
KernelAgent

Le retour du profiler est son principal facteur de différenciation. Le système collecte 28 métriques NVIDIA Nsight Compute, utilise un modèle roofline pour déterminer si un candidat est limité par la mémoire, par le calcul ou par une sous-utilisation, puis oriente l’optimisation suivante en conséquence. Un modèle roofline sert simplement à établir si le kernel bute sur la capacité arithmétique, les transferts mémoire ou une mauvaise occupation. Grâce à ce diagnostic, chaque modification vise un problème plus précis.

La boucle valide les sorties, mesure les performances avec des événements CUDA et peut s’arrêter une fois la limite de passes atteinte, après convergence ou à partir de 95% de l’efficacité « speed of light ». Le dépôt annonce une prise en charge complète de NVIDIA CUDA et d’Intel XPU, mais pas d’AMD ROCm. Il fonctionne sous Linux et macOS avec Python 3.8 à 3.12, et nécessite Triton, PyTorch ainsi qu’un fournisseur de modèles OpenAI, Anthropic ou personnalisé. Le dépôt KernelAgent présente la matrice de compatibilité actuelle.

Le benchmark publié porte sur 100 tâches KernelBench de niveau 1. Les auteurs annoncent un gain de 2.02x par rapport à une ancienne série de kernels générés, de 1.56x face à torch.compile par défaut, des victoires contre torch.compile sur 65 tâches sur 100 et 89% de la roofline du H100. Un système de génération antérieur est crédité d’un taux de conformité de 100% sur 250 tâches de niveaux 1, 2 et 3 ; ce chiffre de conformité ne doit pas être attribué sans précaution à tous les résultats optimisés de KernelAgent.

Un cas détaillé illustre mieux la valeur réelle que la moyenne. Une implémentation matrice-vecteur est passée de 9.52 millisecondes à 1.95 millisecondes, tandis que torch.compile atteignait 2.09 millisecondes. L’agent a considérablement accéléré l’implémentation brute, mais son avantage final face au compilateur immédiatement disponible était bien plus faible. Voilà pourquoi la référence économique doit être le meilleur système que vous auriez déployé autrement, et non le code le plus lent que l’agent peut remplacer.

Idéal pour : les équipes PyTorch sur NVIDIA CUDA ou Intel XPU qui recherchent une itération guidée par le profiler

Point fort : orientation par modèle roofline à partir de 28 métriques NCU

Tarif : logiciel à $0 sous licence Apache 2.0 ; le fournisseur du modèle et le calcul GPU sont facturés séparément, vérifié le 16 août 2026

Essai gratuit : sans objet

Les atouts
Ce qu'il fait bien
4 points

  • Transforme les compteurs matériels en orientation d’optimisation concrète
  • Compatible avec OpenAI, Anthropic et les fournisseurs de modèles personnalisés
  • Intègre la validation et le chronométrage par événements CUDA dans la boucle
  • Offre aux équipes PyTorch un chemin clair de la génération du kernel à son amélioration guidée par le matériel
Les limites
Là où il pèche
4 points

  • AMD ROCm n’est pas pris en charge
  • Le principal benchmark d’optimisation publié porte sur KernelBench niveau 1, et non sur un portefeuille de modèles en production
  • Les gains agrégés varient selon la référence choisie
  • Le profiling avec NCU alourdit les exigences d’environnement et d’outillage

KernelAgent doit être votre deuxième choix si vous privilégiez une architecture claire, native de PyTorch, et la liberté de choisir le fournisseur. Il devient le premier lorsque la cible appartient déjà à sa stack compatible et que l’équipe veut comprendre pourquoi un kernel est lent. Il convient moins à une vaste campagne autonome qui exige dès le départ des archives inter-exécutions et un dispositif d’audit contradictoire.

3. AutoKernel : la meilleure boucle simple pour expérimenter pendant la nuit

AutoKernel est le point de départ pratique pour une équipe qui veut confier à Claude, Codex ou un autre agent de programmation une boucle simple — profiler, modifier, benchmarker — pendant la nuit. Il profile le modèle, extrait les goulots d’étranglement, modifie le code Triton ou CUDA C++, conserve ou annule chaque candidat, puis valide le modèle final de bout en bout.

Dépôt GitHub d’AutoKernel
AutoKernel

Le projet décrit un benchmark fixe assorti de cinq étapes de contrôle de conformité et d’un rapport roofline. Ce banc immuable est essentiel : sans lui, un agent de programmation autonome peut améliorer le score en modifiant le test plutôt que le kernel. La boucle d’AutoKernel soumet chaque candidat à la même épreuve et ne conserve que les gains mesurés.

La cadence prévue facilite la budgétisation. La documentation estime une expérience à environ 90 secondes, soit près de 40 expériences par heure et 320 pendant la nuit. Ce sont des valeurs de planification, pas des débits garantis. Le dépôt évoque aussi 50 à plus de 300 expériences par problème KernelBench sur un ensemble de plus de 250 problèmes. AutoKernel documente la boucle et les prérequis actuels.

L’étendue de la compatibilité matérielle est un véritable atout. Les cibles NVIDIA testées incluent H100, A100 et RTX 4090. La version 1.3 a ajouté la prise en charge d’AMD ROCm pour MI300X, MI325X, MI350X et MI355X. L’outil requiert Python 3.10 ou une version ultérieure ainsi que uv, et sa documentation recense neuf types de kernels.

La limite des preuves disponibles est tout aussi importante : le README public présente le banc, le workflow et l’échelle des campagnes, mais ne publie pas de benchmark agrégé indépendant et actuel couvrant toutes les cibles prises en charge. Cela ne fait pas d’AutoKernel un mauvais outil. Simplement, son argument d’achat honnête tient à sa facilité de déploiement et à la conception de ses expériences, pas à une victoire dans un classement.

Idéal pour : les équipes qui veulent une boucle nocturne lisible et compatible avec plusieurs agents

Point fort : des expériences simples avec conservation ou annulation, suivies d’une validation finale de bout en bout

Tarif : logiciel à $0 sous licence MIT ; l’agent de programmation et le calcul GPU sont facturés séparément, vérifié le 16 août 2026

Essai gratuit : sans objet

Les atouts
Ce qu'il fait bien
4 points

  • Fonctionne avec Claude, Codex ou un autre agent de programmation
  • Prend en charge des cartes NVIDIA testées et certaines puces AMD Instinct récentes
  • S’appuie sur un contrôle de conformité fixe en cinq étapes
  • Valide le résultat dans le modèle complet au lieu de s’arrêter au kernel isolé
Les limites
Là où il pèche
4 points

  • Aucun résultat agrégé indépendant et actuel n’est publié pour l’ensemble du matériel compatible
  • La cadence d’expérimentation annoncée variera selon la compilation, le profiling et la complexité du kernel
  • L’étendue de la compatibilité matérielle ne dispense pas d’une validation locale sur la stack exacte
  • Une boucle générique offre moins de mémoire de campagne et de profondeur d’audit qu’AKO4X

AutoKernel est le premier pilote raisonnable pour une équipe qui fait déjà confiance à son agent de programmation et à qui il manque surtout une discipline expérimentale. Préférez-le à KernelAgent si le débit nocturne et le choix de l’agent comptent davantage qu’une architecture multi-agents guidée par NCU. Préférez-le à AKO si l’équipe cherche une boucle plus légère ou utilise l’une des cibles ROCm recensées. Mais ne le retenez pas simplement parce que 320 expériences paraissent nécessairement préférables à 40 : la qualité de la recherche dépend du banc, de la diversité des candidats et de la référence.

4. Apex : la meilleure voie spécialisée pour AMD ROCm

Apex est le meilleur choix spécialisé pour optimiser les charges AMD ROCm compatibles. Il s’agit de l’optimiseur agentique d’AMD-AGI, et non de NVIDIA Apex ; ses hypothèses de fonctionnement sont explicitement liées au matériel AMD Instinct.

Dépôt GitHub d’AMD-AGI Apex
Apex

La cible par défaut est MI355X, avec une compatibilité annoncée pour MI300X, MI300A et MI250X. L’environnement exige Ubuntu 22.04 ou une version ultérieure, Python 3.10 ou une version ultérieure, Node.js 18 et ROCm 6.x ou une version ultérieure pour l’évaluation. L’installation actuelle utilise un wheel PyTorch ROCm 7.2. Apex sait orchestrer Claude Code, Codex ou Cursor, mais ne fournit pas l’accès aux modèles. Le dépôt Apex détaille les cibles et les limites actuelles de l’installation.

Le workflow est pensé pour la production. Apex benchmarke la charge, repère un goulot d’étranglement, demande une optimisation à l’agent, l’évalue avec Magpie, intègre les candidats au-dessus de 1.05x et termine par un benchmark de bout en bout. Il peut appliquer des hotpatches aux chemins Python ou Triton dans aiter, vLLM et SGLang, ainsi qu’à aiter HIP. Il ne peut pas modifier à chaud les bibliothèques C++ système ni les extensions monolithiques _C.so. Cette limite compte davantage que la liste des agents : si le goulot se trouve derrière une surface d’intégration qu’Apex ne peut pas remplacer, la campagne ne pourra pas l’atteindre.

La validation du fournisseur couvre sept kernels. Elle annonce 36.35x pour all_reduce, 1.14x pour fused_moe, 1.05x pour rms_norm et 1.00x pour les quatre autres. Le cas à 36.35x est un résultat utile sur un kernel, pas un rendement attendu pour tout un portefeuille. Les quatre kernels inchangés montrent que le seuil d’acceptation sait aussi laisser le code intact à bon escient.

Idéal pour : les équipes AMD Instinct dont le goulot d’étranglement est accessible par un chemin de hotpatch ROCm pris en charge

Point fort : optimisation agentique et évaluation de bout en bout conçues autour de ROCm

Tarif : logiciel à $0 sous licence MIT ; l’accès au modèle et le calcul sur GPU AMD sont facturés séparément, vérifié le 16 août 2026

Essai gratuit : sans objet

Les atouts
Ce qu'il fait bien
4 points

  • Offre aux équipes AMD une voie dédiée au lieu de traiter ROCm comme un ajout tardif
  • Prend en charge Claude Code, Codex et Cursor
  • Applique un seuil d’intégration mesuré de 1.05x
  • Se conclut par un benchmark de bout en bout
Les limites
Là où il pèche
4 points

  • Limité à AMD ROCm
  • Le hotpatch ne peut pas atteindre les bibliothèques C++ système ni les extensions monolithiques _C.so
  • La validation publiée ne porte que sur sept kernels
  • Le résultat élevé sur all-reduce ne doit pas être généralisé aux autres kernels

Apex devient la recommandation prioritaire dès lors que la cible de production est un accélérateur AMD compatible et que le code critique se trouve dans une surface modifiable à chaud. AutoKernel version 1.3 est l’alternative si ses mécanismes de campagne plus larges ou sa compatibilité MI300X à MI355X conviennent mieux. La seule mention « AMD » ne suffit pas pour trancher : vérifiez l’accélérateur exact, la stack ROCm et le point d’intégration.

5. CUDA Agent : le meilleur potentiel de recherche, pas un choix d’achat

CUDA Agent est le système de recherche le plus intéressant de ce comparatif, mais aussi le moins adapté à un achat. Ce projet de ByteDance Seed et de Tsinghua University entraîne par apprentissage par renforcement un système spécialisé dans CUDA, et publie un jeu de 6,000 exemples, une skill pour agent de programmation et un répertoire de travail pour l’agent.

Page du projet de recherche CUDA Agent
CUDA Agent

Les auteurs le présentent comme le premier système entraîné par apprentissage par renforcement pour le développement CUDA. Leur évaluation KernelBench fait état d’un taux de réussite global de 98.8%, de 96.8% des problèmes plus rapides que torch.compile et d’un gain moyen géométrique de 2.11x face à torch.compile. Au niveau 3, ils annoncent un taux de réussite de 94%, 90% de cas plus rapides que torch.compile et un gain moyen géométrique de 1.52x. La page de CUDA Agent détaille le protocole du benchmark.

Le dispositif est conséquent : jusqu’à 128,000 tokens de contexte, 150 tours d’entraînement et 200 tours d’évaluation. Pour être retenu, un candidat devait battre torch.compile de plus de 5%, réussir un contrôle de conformité sur cinq entrées, ne pas toucher aux scripts protégés et fonctionner sans recherche sur le Web. Ces garde-fous rendent le résultat publié plus instructif qu’une démonstration d’agent de programmation sans protection.

L’obstacle à l’achat est concret. Ni le site du projet ni le dépôt public ne proposent de poids de modèle téléchargeables ou d’endpoint géré. Un jeu de données et une skill peuvent nourrir votre propre système, mais ils ne constituent pas le produit entraîné auquel correspond le résultat phare. Tant que le modèle ou le service lui-même n’est pas disponible, CUDA Agent reste une référence de recherche et non un fournisseur d’optimisation déployable.

Idéal pour : les chercheurs qui étudient l’entraînement d’agents, les trajectoires CUDA et l’évaluation KernelBench

Point fort : protocole publié d’apprentissage par renforcement et solide résultat KernelBench annoncé par les auteurs

Tarif : non commercialisé ; des ressources de recherche publiques sont disponibles, sans offre commerciale recensée au 16 août 2026

Essai gratuit : sans objet

Les atouts
Ce qu'il fait bien
4 points

  • Publie un protocole d’entraînement et d’évaluation à grande échelle
  • Met à disposition un jeu de 6,000 exemples et des ressources pour agents
  • Utilise des scripts protégés et un seuil d’amélioration mesuré
  • Annonce de solides résultats jusqu’au niveau 3 de KernelBench
Les limites
Là où il pèche
4 points

  • Aucun poids du modèle entraîné n’est proposé au téléchargement
  • Aucun endpoint géré n’est indiqué
  • Les performances sur KernelBench ne prouvent ni l’intégration en production ni la rentabilité
  • Le périmètre CUDA ne répond pas aux besoins AMD ROCm

Gardez CUDA Agent sur votre liste de veille technique et prenez sa discipline d’évaluation comme référence pour juger les autres affirmations. Ne l’intégrez pas à un comparatif d’achat comme si une équipe pouvait aujourd’hui acquérir le modèle annoncé. C’est toute la différence entre citer un plafond de recherche et inventer un produit.

Quel outil choisir selon votre situation ?

Choisissez AKO si vous utilisez NVIDIA, pouvez travailler avec Claude Code et recherchez le dispositif de campagne et d’audit publié le plus solide. Il est particulièrement convaincant pour une famille de kernels importants, plusieurs cycles d’optimisation et des économies potentielles assez élevées pour justifier la conservation des trajectoires entre les exécutions.

Choisissez KernelAgent si votre équipe travaille au quotidien dans PyTorch et veut fonder l’action suivante de l’optimiseur sur les métriques NCU et la classification roofline. C’est le choix le plus naturel pour une cible NVIDIA ou Intel XPU compatible lorsque les ingénieurs souhaitent comprendre le goulot matériel plutôt que simplement accepter un candidat plus rapide.

Choisissez AutoKernel pour avancer par une étape opérationnelle plus légère : connecter un agent de programmation existant, profiler le modèle et exécuter une séquence fixe d’expériences pendant la nuit. C’est aussi l’option intermédiaire la plus souple si Codex est indispensable ou si une cible AMD Instinct répertoriée rend AKO ou KernelAgent peu adaptés.

Choisissez Apex si la charge tourne sur du matériel AMD Instinct compatible et si le goulot se situe dans un chemin aiter, vLLM, SGLang ou HIP modifiable à chaud. Sur AMD, cette adéquation matérielle l’emporte sur les preuves de campagne plus étendues d’AKO.

Réservez CUDA Agent à la recherche, à la préparation d’une réplication ou à la conception d’évaluations, tant que des poids entraînés ou un endpoint géré ne sont pas disponibles.

L’ordre des filtres est clair : matériel d’abord, surface d’intégration ensuite, vérificateur en troisième, benchmark en quatrième. Le nom du modèle arrive plus tard. Si deux systèmes franchissent ces filtres, privilégiez celui qui expose le dénominateur, les plages d’échec et le résultat de bout en bout. Un gain plus faible mais comparable vaut mieux qu’un chiffre spectaculaire calculé face à la mauvaise référence.

Pour la question plus générale du choix de la couche d’orchestration autour d’un environnement spécialisé, le comparatif des plateformes d’agents IA analyse les compromis périphériques. Gardez cette décision distincte de la boucle d’optimisation du kernel.

Coût réel : partez sur un pilote à $299.99, puis exigez sa rentabilité

Le prix affiché de l’open source est la ligne de coût la moins importante. Une véritable campagne cumule le temps d’accélérateur, l’accès à l’agent, la surcharge de compilation et de profiling, ainsi que la revue par des experts.

Le tarif en vigueur chez Modal pour une NVIDIA B200 était de $0.001736 par seconde, soit $6.2496 par heure, lors de la vérification du 16 août 2026. L’offre Starter coûte $0 par mois hors calcul, inclut un crédit de calcul mensuel de $30 et trois sièges. L’offre Team coûte $250 par mois hors calcul, inclut un crédit mensuel de $100 et un nombre illimité de sièges. Pour Enterprise, le prix du calcul est personnalisé. Modal publie ses tarifs actuels.

Ainsi, 32 heures de B200 coûtent $199.99. Ajoutez un forfait d’agent à $100 : le budget de la première campagne atteint $299.99 avant le temps des ingénieurs. Ce plafond est volontairement assez bas pour abandonner une idée peu prometteuse, mais assez élevé pour dépasser la simple démonstration.

Les offres actuelles d’accès aux agents fournissent plusieurs points de repère budgétaires. ChatGPT Plus coûte $20 par mois. ChatGPT Pro propose une formule à $100 avec 5x l’usage de Plus et une autre à $200 avec 20x l’usage de Plus ; toutes deux incluent Codex. Claude propose une offre Free à $0, Claude Pro à $17 par mois avec une facturation annuelle réglée d’avance à $200, ou à $20 en facturation mensuelle, ainsi qu’une offre Max à $100 pour 5x ou $200 pour 20x. Claude Pro inclut Claude Code. Ces informations ont été vérifiées le 16 août 2026 à partir de la présentation de Plus par OpenAI, de la présentation de Pro par OpenAI, de la page tarifaire d’Anthropic et du guide des offres d’Anthropic. La facturation de l’API peut différer : séparez donc le coût des tokens du modèle de celui du calcul GPU. Le guide des API d’IA les moins chères détaille cette couche.

Comparons maintenant le pilote à une facture de production. Une B200 utilisée pendant 720 heures au tarif catalogue actuel coûte $4,499.71. Si le kernel ciblé représente 25% de la charge et devient 2x plus rapide, la charge complète économise 12.5%, soit $562.46 par mois. Le pilote à $299.99 est amorti en environ 16 jours.

Si le kernel ne représente que 5%, le même gain de 2x ne réduit le coût total que de 2.5%, soit $112.49 par mois. Le délai d’amortissement atteint environ 80 jours. Le résultat d’optimisation est identique ; le résultat économique ne l’est pas.

Comparaison de la rentabilité d’un pilote d’optimisation GPU à 299.99 dollars lorsque le kernel critique représente 25 pour cent ou 5 pour cent du temps d’exécution
Un kernel accéléré de 2x rembourse le même pilote en environ 16 jours ou 80 jours, selon sa part initiale du temps d’exécution.

Le calcul est volontairement prudent sur un point et incomplet sur un autre. Il prend le temps d’accélérateur au tarif catalogue comme base d’économie, mais n’intègre ni le temps des ingénieurs, ni la variabilité du coût des tokens du modèle, ni la surcharge de compilation, ni les remises sur capacité réservée, ni les variations d’utilisation. Avant d’autoriser une campagne plus longue, remplacez chaque donnée par les chiffres de votre propre facture.

Méthode de sélection de ces outils d’optimisation GPU par IA

Il s’agit d’un comparatif fondé sur la documentation et les preuves actuellement disponibles, et non d’une affirmation selon laquelle les cinq systèmes auraient été installés et testés sur du matériel identique. C’est pourquoi le titre indique comparés, et non testés. Pour figurer ici, chaque système devait proposer un agent ou un environnement concret pour le travail sur les kernels GPU, une présentation publique de première main et suffisamment de détails d’implémentation pour savoir à qui il s’adresse et où s’arrêtent ses capacités.

Le classement repose sur six critères :

  • Déployabilité : un développeur peut-il obtenir et exécuter le système concerné aujourd’hui ?
  • Adéquation matérielle : prend-il explicitement en charge l’accélérateur et la stack logicielle ciblés ?
  • Exigence de conformité : le banc résiste-t-il aux réponses mises en cache, aux tests modifiés, aux formes trop étroites et aux tolérances trop faibles ?
  • Dénominateur du benchmark : la référence est-elle nommée, et les échecs ou les cas inchangés sont-ils visibles ?
  • Validation de bout en bout : après l’amélioration du kernel isolé, le workflow revient-il au modèle ou au service réel ?
  • Lisibilité des coûts : l’équipe peut-elle encadrer la première campagne par un budget GPU et agent limité ?

Le classement ne calcule pas la moyenne des multiplicateurs annoncés par les fournisseurs. Il favorise la qualité des preuves, l’adéquation opérationnelle et la probabilité de transformer un benchmark local en économie de production vérifiée. Voilà pourquoi les résultats d’AKO de 1.14x à 1.43x sur un large éventail de charges peuvent compter davantage qu’un chiffre isolé beaucoup plus élevé, et pourquoi le résultat KernelBench de CUDA Agent à 2.11x ne compense pas l’absence d’un modèle déployable.

Aucun partenaire du portefeuille commercial actuel du site n’a de place naturelle dans l’optimisation des kernels GPU. Insérer ici un outil de téléphonie, de CRM, de formation, de comptabilité ou de création de sites nuirait à la crédibilité de la page. Ce comparatif ne contient donc aucun placement affilié et ne classe que les systèmes pertinents.

Les solutions à éviter

Évitez KernelAgent pour AMD ROCm. Sa liste de compatibilité actuelle inclut NVIDIA CUDA et Intel XPU, pas AMD ROCm. Même un excellent système guidé par le profiler ne peut compenser un environnement d’exécution incompatible.

Évitez AMD-AGI Apex pour les charges NVIDIA. La version d’Apex étudiée ici est conçue pour ROCm et AMD Instinct. Ce n’est pas non plus NVIDIA Apex, un projet distinct consacré à l’entraînement en précision mixte et distribué. Identifiez clairement le bon produit avant d’y consacrer du temps d’ingénierie.

Évitez CUDA Agent comme service géré destiné à la production. Son jeu de données, sa skill et ses ressources de travail sont publics, mais aucun poids entraîné ni endpoint n’est indiqué. Étudiez-le ; ne le budgétez pas comme un service existant.

Évitez AKO si Claude Code n’est pas une dépendance autorisée. La valeur de l’environnement AKO vient précisément des contraintes qu’il impose à un agent existant, mais cette dépendance reste soumise aux exigences d’achat et de sécurité.

Évitez AutoKernel si votre décision exige un benchmark agrégé indépendant avant tout pilote. Sa documentation publique explique bien la boucle et les cibles compatibles, mais ne fournit pas de résultat agrégé indépendant et actuel pour ces cibles. Exécutez le pilote plafonné ou choisissez un système dont les preuves répondent mieux à votre besoin.

Surtout, méfiez-vous des sessions nues de Claude Code ou Codex présentées comme un optimiseur complet. Tous deux savent écrire et réviser des kernels, et AutoKernel ou Apex peuvent les orchestrer, mais le vrai produit est l’ensemble qui les encadre : profiler, référence immuable, tests de conformité, chronométrage du benchmark, logique de conservation ou d’annulation et contrôle du déploiement. Sans cet environnement, l’agent est un auteur de kernels enthousiaste qui corrige lui-même sa copie.

Questions fréquentes

Codex peut-il optimiser des kernels CUDA et Triton ?

Oui. AutoKernel fonctionne explicitement avec Codex pour optimiser du code Triton ou CUDA C++, et Apex peut orchestrer Codex sur des charges AMD ROCm compatibles. Codex seul n’est pas un système d’optimisation complet : il lui faut un profiler, un banc de conformité protégé, un benchmark et une boucle de conservation ou d’annulation.

KernelAgent est-il meilleur qu’AutoKernel ?

KernelAgent prend l’avantage lorsque la priorité va à une boucle native PyTorch, aux métriques NCU et à l’optimisation NVIDIA ou Intel XPU guidée par roofline. AutoKernel convient mieux pour une boucle nocturne plus simple, un choix d’agents plus large ou ses cibles NVIDIA et AMD Instinct répertoriées.

Apex optimise-t-il les GPU NVIDIA ?

Non. AMD-AGI Apex est un optimiseur ROCm destiné au matériel AMD Instinct compatible. Ne le confondez pas avec NVIDIA Apex, qui est un autre projet et non l’optimiseur agentique classé ici.

Quel est le meilleur agent IA pour optimiser un GPU AMD ?

Apex est le premier choix spécialisé pour une charge AMD Instinct compatible située dans sa surface d’intégration modifiable à chaud. AutoKernel version 1.3 est l’alternative plus généraliste pour MI300X, MI325X, MI350X et MI355X.

Comment comparer les scores KernelBench ?

Associez à chaque score le matériel, le niveau des tâches, la référence, la définition de la réussite, les entrées de conformité et la méthode de moyenne géométrique. Un résultat face à torch.compile n’est pas interchangeable avec un résultat face à une implémentation experte ou à une ébauche issue d’un concours.

Un agent pour kernels GPU vaut-il le coût pour une petite équipe ?

Oui, à condition que le profiling montre qu’un kernel concentre une part suffisante d’une facture récurrente d’accélérateur. Appliquez le pilote à $299.99 et le seuil de rentabilité du kernel critique ; arrêtez-vous si l’économie de bout en bout mesurée ne peut pas rembourser le travail dans le délai visé.

Ce qu’il faut faire lundi matin

N’installez pas les cinq systèmes. Lundi matin, profilez une charge de production représentative et notez la part du kernel le plus coûteux dans le temps d’exécution total. Choisissez ensuite une seule voie : AKO pour une campagne NVIDIA auditée, KernelAgent pour une boucle PyTorch fondée sur les compteurs matériels, AutoKernel pour une recherche nocturne plus légère ou Apex pour AMD ROCm compatible.

Plafonnez la première expérience à 32 heures de B200 plus un forfait d’agent à $100, ou à l’équivalent sur votre matériel. Figez l’implémentation de référence et le benchmark. Ajoutez des contrôles de conformité avec de nouvelles valeurs. Exigez que le meilleur kernel réussisse hors de la boucle de l’agent et améliore la charge complète, pas uniquement son microbenchmark.

La règle de mise en production tient en une phrase : sans rentabilité mesurée de bout en bout, pas de deuxième campagne.

Dernière mise à jour

3 sept. 2026

CatégorieBuild

Préférez ce site dans Google

Ajouter omidsaffari.com comme source préférée dans la recherche Google

Marquez omidsaffari.com comme source préférée et Google le met en avant pour vous dans Top Stories, AI Overviews et AI Mode.

Newsletter

Une lettre, chaque dimanche. Des systèmes qui tournent, pas des hot takes.

Build logs, systèmes en production et notes de terrain d'un portefeuille de ventures IA.

Hebdomadaire. Pas de spam. Désabonnement à tout moment.