Together AI Pricing 2026: PTUs kaufen Kapazität, keinen Rabatt

Beim Together AI Pricing ist Serverless der günstigste Einstieg. Die neue Option für $0.05 pro PTU-Minute ist gegenüber den eigenen Tokenpreisen jedoch kein Listenpreisrabatt. Eine durchgehend reservierte PTU kostet in einem 30-Tage-Monat $2,160; gekauft wird sie für garantierte Kapazität und eine Verfügbarkeits-SLA von 99%, nicht für günstigere ungenutzte Tokens.

Together AI Pricing im Überblick

Together AI lässt sich am sinnvollsten stufenweise einkaufen: Zunächst beginnt man mit vorausbezahlter Serverless-Nutzung, verlagert eine gleichmäßige und zuverlässigkeitskritische Last später auf Provisioned Throughput und reserviert dedizierte Hardware erst dann, wenn der Workload Mandantentrennung oder eigene Modelle verlangt. Teuer wird es, wenn diese Stufen als Mengenrabatte missverstanden werden. Sie rechnen unterschiedliche Leistungen ab und verlagern jeweils andere Betriebsrisiken.

Together AI verkauft keine einfache Staffel aus Free, Pro und Business. Im Angebot stehen Serverless-Tokens und Medienausgaben, reservierte Tokenkapazität, verwaltete dedizierte GPUs, reine GPU-Cluster, Sandbox-Rechenleistung, Speicher und Fine-Tuning. Ein einziges Produkt kann mehrere Zähler berühren. Bei einem Agenten können etwa Modell-Tokens, CPU und Arbeitsspeicher der Sandbox sowie ein Fine-Tuning-Endpunkt anfallen, der auch zwischen den Anfragen weiterberechnet wird.

Alle Preise und Limits auf dieser Seite wurden am 22. August 2026 anhand der aktuellen Preisseite, der Abrechnungsdokumentation und der Produktdokumentation von Together AI geprüft. Das Datum ist wichtig. Schon jetzt weicht die aktuelle Seite deutlich von Preisübersichten aus dem Juni ab: Sie führt MiniMax M3, Kimi K3 und GLM-5.2 auf, zeigt niedrigere aktuelle Preise für dedizierte Hardware und enthält die neue Ebene Provisioned Throughput.

Die erste Entscheidungsregel ist einfach. Serverless passt bei unsicherer oder sprunghafter Nachfrage. Eine PTU kommt infrage, wenn ein klar abgegrenztes Modell eine gleichmäßige Grundlast trägt und reservierte Kapazität geschäftlichen Wert hat. Dedicated Inference ist für eigene Modelle, mandantenexklusive Hardware oder Kontrolle über die Konfiguration gedacht. Ein GPU-Cluster lohnt sich nur, wenn das Unternehmen die zugrunde liegende Rechenleistung selbst betreiben will, statt ein verwaltetes Inferenzergebnis einzukaufen.

Genau diese Abstufung macht Together AI für finanzierte Gründer attraktiv, die von ersten Experimenten bis zur reservierten Infrastruktur denselben API-Pfad nutzen möchten. Weniger attraktiv ist das Angebot für Solo-Entwickler auf der Suche nach dem niedrigsten spontanen Tokenpreis oder für Teams, die nicht einmal einen Monat Nachfrage prognostizieren können. Flexibilität ist das Serverless-Produkt. Bindung wird separat gekauft.

Bei Serverless bestimmt vor allem die Modellwahl die Together AI Kosten

Serverless ist der richtige Ausgangspunkt, weil keine Bereitstellungskosten und außer dem Zugangskauf für $5 keine Mindestnutzung anfallen. Anfragen laufen auf einer gemeinsam genutzten Flotte, bezahlt wird die erledigte Arbeit. Modell, Tokenrichtung, Cache-Quote und Ausgabelänge beeinflussen die Rechnung weit stärker als der Name Together AI.

Der aktuelle Chat-Katalog deckt eine große Preisspanne ab. LFM2.5-8B-A1B kostet $0.03 je Million Input-Tokens und $0.12 je Million Output-Tokens. DeepSeek V4 Flash 0731 kostet $0.14 für Input, $0.03 für gecachten Input und $0.28 für Output. Bei gpt-oss-120B sind es $0.15 für Input und $0.60 für Output. Am oberen Ende der angezeigten Textmodelle kostet Kimi K3 $3 für Input, $0.30 für gecachten Input und $15 für Output je Million Tokens.

Der von Together gehostete DeepSeek-Tarif ist anbieterspezifisch. Die separate Analyse der DeepSeek-Preise behandelt die direkten Modellkosten; für eine Together-Rechnung ist die aktuelle Together-Seite maßgeblich.

Zwischen dem LFM-Outputpreis von $0.12 und dem Kimi-K3-Outputpreis von $15 liegt damit eine 125x-Spanne. Den Anbieter zu optimieren und das Modellrouting zu ignorieren, gleicht dem Aushandeln eines kleinen Frachtrabatts, während jedes Paket per Luftfracht verschickt wird. Die erste Kostenkontrolle besteht darin, jeder Aufgabe das günstigste Modell zuzuweisen, das die geforderte Qualitätsgrenze erreicht.

Ein typischer Agenten-Workload macht das greifbar. Angenommen, 1,000 Aufrufe verbrauchen jeweils 8,000 Input-Tokens und erzeugen 1,000 Output-Tokens. Insgesamt sind das 8 Millionen Input-Tokens und 1 Million Output-Tokens:

• DeepSeek V4 Flash 0731 kostet insgesamt $1.40 beziehungsweise $0.0014 pro Aufruf.
• gpt-oss-120B kostet insgesamt $1.80 beziehungsweise $0.0018 pro Aufruf.
• MiniMax M3 kostet insgesamt $3.60 beziehungsweise $0.0036 pro Aufruf.
• GLM-5.2 kostet insgesamt $15.60 beziehungsweise $0.0156 pro Aufruf.
• Kimi K3 kostet insgesamt $39 beziehungsweise $0.039 pro Aufruf.

Der größte Unterschied entsteht nicht durch den Aufschlag des Anbieters, sondern durch das gewählte Modell und die Menge des teuren Outputs. Ein Kundendienst-Klassifikator, der nur ein Label zurückgibt, braucht nicht dasselbe Output-Budget wie ein Rechercheagent, der eine lange Antwort verfasst. Noch vor der Suche nach einem günstigeren Endpunkt sollte der klar abgegrenzte Job ein hartes Output-Limit erhalten.

Deshalb hilft auch ein breiterer Vergleich der günstigsten KI-APIs erst, nachdem der Job normiert wurde. Werden Anbieter mit unterschiedlichen Promptlängen, Antwortlängen, Cache-Annahmen oder Modellen verglichen, entsteht zwar eine saubere Zahl, aber keine belastbare Budgetgrundlage.

Gecachter Input senkt die Kosten wiederkehrender Präfixe

Bei wiederholten Prompts ist gecachter Input der stärkste Self-Service-Rabatt. Together erkennt dabei ein unverändertes Präfix, etwa eine lange Systemanweisung oder einen stabilen Referenzkontext, und rechnet diese Tokens bei unterstützten Modellen zu einem niedrigeren Preis ab.

Für denselben Workload mit 1,000 Aufrufen wird angenommen, dass 80% der 8 Millionen Input-Tokens für den Cachepreis infrage kommen. MiniMax M3 sinkt von $3.60 auf $2.064, GLM-5.2 von $15.60 auf $8.304 und Kimi K3 von $39 auf $21.72. Das entspricht Einsparungen von 42.7%, 46.8% beziehungsweise 44.3%.

Die betriebliche Auswirkung ist größer als der prozentuale Rabatt. Verantwortliche sollten das stabile Präfix vom anfragespezifischen Kontext trennen, gecachte und nicht gecachte Tokens getrennt erfassen und auf Promptänderungen achten, die den Cache ungültig machen. Eine Überarbeitung des Prompts kann die Ausgaben ohne zusätzlichen Traffic erhöhen. Das sieht zunächst wie ein Preisproblem aus, bis die Cache-Daten die Ursache zeigen.

Batch ist nur mit passendem Modell und Workflow günstiger

Die Batch API von Together AI gewährt bei ausgewählten Serverless-Modellen bis zu 50% Rabatt, wenn die Verarbeitung asynchron erfolgen darf. Dieser Zähler passt zu Offline-Klassifikation, synthetischen Daten, Evaluationen und Sammelzusammenfassungen. Ungeeignet ist er für Live-Chats, Checkout-Assistenten oder Kundendienstabläufe, die auf die nächste Antwort warten.

Der aktuelle Batch-Vertrag erlaubt bis zu 50,000 Anfragen in einer 100 MB großen Eingabedatei sowie bis zu 30 Milliarden eingereihte Tokens pro Modell. Das feste Abschlussfenster beträgt 24 Stunden und ist als Best-Effort-Ziel formuliert. Together empfiehlt Batches mit 1,000 bis 10,000 Anfragen. Erfolgreiche Antworten werden berechnet, fehlgeschlagene nicht; das Abbrechen eines Batchs löscht jedoch nicht die Kosten bereits abgeschlossener Antworten.

Die Schlagzeile von 50% gilt nicht pauschal. Den reduzierten Preis erhalten nur ausgewählte Serverless-Modelle, manche Modelle lassen sich gar nicht per Batch ausführen. Dedizierte Endpunkte nehmen zwar Batch-Aufträge an, doch dort gilt der Rabatt nicht. Vor jeder Kalkulation sollte deshalb die aktuelle Liste der Batch-Modelle geprüft werden.

Ein aktuelles Rabattbeispiel: 8 Millionen Input- plus 1 Million Output-Tokens kosten auf Llama 3.3 70B bei Input- und Outputpreisen von jeweils $1.04 insgesamt $9.36. Ein qualifizierter Batch mit 50% Rabatt kostet $4.68. Die Ersparnis entsteht, weil der Job auf die Fertigstellung warten kann, nicht weil plötzlich jede Serverless-Anfrage billiger wäre.

Bilder, Video, Audio und Speicher haben eigene Einheiten

Serverless endet nicht bei Text. Der aktuelle Bildkatalog reicht bei den angezeigten Modellen von $0.0017 bis $0.134 je Bild oder Megapixel. Bei Videos liegt die Spanne bei $0.115 bis $3.20 je erzeugtem Video. Speech-to-Text kostet $0.0015 bis $0.0045 je Audiominute, Text-to-Speech dagegen $4 bis $65 je Million Zeichen. Multilingual e5 large instruct Embeddings kosten $0.02 je Million Tokens und die Moderation mit Llama Guard 4 12B kostet $0.20 je Million Tokens.

Diese Spannen sind nicht austauschbar. Together weist darauf hin, dass die angezeigten Bild- und Videopreise von der jeweils niedrigsten aufgeführten Auflösung oder Dauer ausgehen und zusätzliche Generierungsschritte Mehrkosten verursachen können. Wer 100,000 kurze Videogenerierungen budgetiert, braucht das genaue Modell, die Dauer, die Auflösung, die Audioeinstellung und die Wiederholungsquote. Wird einfach der günstigste Vorschaubildpreis mit der Produktionsmenge multipliziert, fällt der Budgetposten zu niedrig aus.

Für die meisten neuen Workloads bleibt Serverless dennoch die richtige Voreinstellung. Die Grenze liegt nicht beim Tokenpreis, sondern bei gemeinsam genutzter Kapazität, dynamischen Ratenlimits und dem Fehlen einer öffentlichen Verfügbarkeitszusage wie beim Provisioned-Produkt. Sobald daraus ein Risiko für Kunden wird, steht als Nächstes eine Kapazitätsentscheidung an, kein allgemeines Upgrade.

Provisioned Throughput macht Kapazität zur Monatsbindung

Provisioned Throughput lohnt sich nur, wenn reservierte Tokenkapazität ein geschäftliches Problem löst. Together AI führte das Angebot am 8. Juli 2026 als mittlere Ebene zwischen Best-Effort-Serverless und vollständig konfigurierbarer Dedicated Inference ein. Es umfasst eine Verfügbarkeits-SLA von 99%, eine Mindestlaufzeit von einem Monat und einen öffentlichen Listenpreis von $0.05 je Provisioned Throughput Unit, kurz PTU, pro Minute.

Eine PTU ist kein Tokenpaket. Sie reserviert für den Kunden eine bestimmte Tokenrate pro Minute auf einem unterstützten Modell. Input, gecachter Input und Output beanspruchen diese Kapazität in unterschiedlichem Maß. Die aktuelle Live-Seite veröffentlicht drei Zeitpläne:

MiniMax M3 liefert pro PTU und Minute 166,667 Input-Tokens, 833,333 gecachte Input-Tokens oder 41,667 Output-Tokens. Bei Kimi K3 sind es 16,667 Input-, 166,667 gecachte Input- oder 3,333 Output-Tokens. GLM-5.2 liefert 35,714 Input-, 192,308 gecachte Input- oder 11,364 Output-Tokens. Eine gemischte Anfrage beansprucht eine Kombination dieser Kapazitäten.

Bei $0.05 pro Minute kostet eine PTU $3 pro Stunde, $72 pro Tag und $2,160 über einen 30-Tage-Monat. Die Fußnote im Rechner von Together verwendet für eine durchgehende Bereitstellung in einem Durchschnittsmonat etwa 43,800 Minuten und kommt dadurch auf rund $2,190. Die Finanzplanung sollte sich am konkreten Vertrag und Kalendermonat orientieren, statt jeden Monat pauschal mit $2,160 anzusetzen.

Der PTU-Auslastungstest

Aufschlussreich ist die Frage, was dieselbe PTU am eigenen Serverless-Zähler von Together gekostet hätte. Wird eine MiniMax-M3-PTU 30 Tage lang ausschließlich für Input eingesetzt, liefert sie rund 7.2 Milliarden Input-Tokens. Zum Serverless-Preis von $0.30 je Million entspricht diese Kapazität etwa $2,160. Ausschließlich für Output eingesetzt, liefert sie rund 1.8 Milliarden Output-Tokens. Bei $1.20 je Million sind das ebenfalls etwa $2,160. Mit gecachtem Input landet die Rechnung innerhalb der Rundung am selben Punkt.

Kimi K3 und GLM-5.2 sind nach demselben Prinzip kalibriert. Öffentliche PTU-Kapazität erreicht bei annähernder Vollauslastung über einen 30-Tage-Monat Preisparität mit den öffentlichen Serverless-Preisen. Der veröffentlichte Rechner kann gegenüber einem ausgewählten kommerziellen Modell hohe Einsparungen ausweisen, vergleicht die PTU-Ausgaben aber ausdrücklich mit dem Listenpreis dieses externen Modells. Einen pauschalen Rabatt gegenüber den eigenen Serverless-Preisen von Together belegt er nicht.

Das ist der PTU-Auslastungstest: Der Kapazitätswert entspricht dem Serverless-Wert nur, wenn die reservierte Einheit voll genutzt wird. Bei 50% Auslastung verdoppeln sich die effektiven MiniMax-M3-Preise auf $0.60 je Million Input-Tokens, $0.12 je Million gecachte Input-Tokens beziehungsweise $2.40 je Million Output-Tokens. Bei 25% vervierfachen sie sich auf $1.20, $0.24 und $4.80. Bei 70% liegt der effektive Preis bei etwa 1.43x des Serverless-Tarifs, also ungefähr $0.43 für Input und $1.71 für Output.

Das macht PTUs nicht zu einem schlechten Produkt, sondern zeigt, wofür sie gedacht sind. Ein CTO im Mittelstand kann bei einem kundenorientierten Agenten bewusst 20% Leerkapazität akzeptieren, wenn die reservierte Spur das Drosselungsrisiko senkt und die SLA von 99% vertraglichen Wert hat. Ein Gründer mit ausschließlich werktäglicher Nachfrage sollte Nächte und Wochenenden dagegen nur bezahlen, wenn die Kapazitätsgarantie genug Umsatz schützt, um den Aufpreis zu decken.

Laut öffentlicher Preisseite sind bei höheren Bindungsstufen Rabatte möglich, ein Staffelplan wird jedoch nicht veröffentlicht. Ein ausgehandelter Rabatt verschiebt den Break-even unter 100% Auslastung. Bis der Vertrieb diesen Preis in einem Auftragsformular festhält, gehört der öffentliche Listenpreis ins Modell; ein möglicher Rabatt bleibt ein positiver Zusatz.

Auch eine SLA von 99% braucht eine geschäftliche Einordnung

Ein monatliches Verfügbarkeitsziel von 99% erlaubt in einem 30.4-Tage-Monat rund 7 Stunden und 18 Minuten Ausfall. Das ist stärker als ein Best-Effort-Zugang. Groq veröffentlicht für seinen Enterprise-Tarif Performance allerdings 99.9%, womit 99% nicht die stärkste Zusage in dieser Auswahl ist. Verglichen werden sollten die schriftlich festgelegte Abhilfe, Wartungsausschlüsse, das regionale Design und die Ausweichroute – nicht nur drei Zeichen und ein Prozentzeichen.

Provisioned Throughput lässt sich am besten rechtfertigen, wenn eine Anwendung eine stabile Grundlast und eine planbare Modellwahl hat und eine Kundenzusage durch Drosselung auf der gemeinsam genutzten Flotte verletzt werden könnte. Weniger plausibel ist die Reservierung bei 10x schwankendem Traffic, wöchentlichem Modellwechsel oder Offline-Arbeit, die in Batch verlagert werden kann. Dann verwandelt die Reservierung Unsicherheit lediglich in bezahlte Leerlaufzeit.

Die Wahl verändert das Budgetgespräch am Montag

Vor dem 8. Juli mussten Teams bei Together einen großen Sprung von gemeinsam genutztem, tokenbasiertem Serverless zu dedizierter GPU-Infrastruktur machen. PTUs schaffen eine mittlere Budgetposition: reservierten Modelldurchsatz, ohne selbst GPU-Dimensionierung oder einen eigenen Serving-Stack zu übernehmen. So kann Finance einen festen monatlichen Kapazitätsrahmen genehmigen, während Engineering dieselbe Inferenz-API beibehält.

Damit kommt eine neue Betriebskennzahl hinzu. Tokenausgaben allein reichen nicht mehr. Verantwortliche brauchen die Spitzenzahl der Anfragen pro Sekunde, den Mix aus Input- und Output-Tokens, die Cache-Trefferquote, die Kapazitätsauslastung, gedrosselte Anfragen und akzeptierte Ergebnisse. Kann das Dashboard diese sechs Werte nicht zeigen, lässt sich nicht unterscheiden, ob eine PTU Schutz oder Verschwendung ist.

Eine MiniMax-M3-PTU schafft rund 600,000 ausgeführte Agentenaufrufe

Eine PTU kann in einem 30-Tage-Monat etwa 600,000 MiniMax-M3-Aufrufe tragen, wenn jeder Aufruf 8,000 nicht gecachte Input-Tokens verbraucht und 1,000 Output-Tokens erzeugt. Das ist derselbe Beispiel-Workload, der weiter oben mit $0.0036 je Serverless-Aufruf berechnet wurde; 600,000 Serverless-Aufrufe kosten folglich $2,160. Bei Vollauslastung treffen sich Kapazitäts- und Tokenzähler konstruktionsbedingt.

Die Kapazitätsrechnung berücksichtigt beide Seiten der Anfrage. Achttausend Input-Tokens verbrauchen beim MiniMax-M3-Zeitplan von 166,667 Input-Tokens pro Minute etwa 0.048 PTU-Minuten. Eintausend Output-Tokens benötigen bei 41,667 Output-Tokens pro Minute weitere 0.024 PTU-Minuten. Die vollständige Anfrage verbraucht damit etwa 0.072 PTU-Minuten. Teilt man die 43,200 PTU-Minuten des Monats durch diesen Anfragebedarf, ergeben sich etwa 600,000 Aufrufe.

Daraus entsteht ein unmittelbar entscheidungsfähiges Betriebsbudget:

Bei 80% Auslastung trägt die PTU etwa 480,000 Aufrufe. Die entsprechende Serverless-Rechnung beträgt $1,728, sodass ein monatlicher Reservierungsaufschlag von $432 bleibt. Die PTU ist damit 25% teurer als die tatsächlich verbrauchte Serverless-Arbeit. Für ein kundenorientiertes Produkt kann sich dieser Aufpreis rechnen, wenn reservierte Kapazität und die SLA von 99% mehr als $432 an Umsatz, Supportaufwand oder Reputationskosten schützen.

Bei 70% Auslastung schafft sie rund 420,000 Aufrufe. Serverless kostet $1,512, der Kapazitätsaufschlag beträgt somit $648. Bei 50% sind es 300,000 Aufrufe und Serverless-Kosten von $1,080; die Hälfte der PTU-Rechnung entfällt dann auf bezahlte Leerkapazität.

Caching verändert, wie viele Aufrufe in die Einheit passen. Sind 80% des Inputs gecacht, verbraucht jede Anfrage statt 0.072 nur etwa 0.04128 PTU-Minuten. Bei Vollauslastung kann eine PTU dann rund 1.0465 Millionen derselben Aufrufe tragen. Gleichzeitig fällt der Serverless-Preis je Aufruf von $0.0036 auf $0.002064, sodass sich die Vollauslastungskosten weiterhin nahe $2,160 treffen.

Der geschäftliche Gewinn durch Caching besteht daher sowohl in höherem Durchsatz als auch in niedrigeren Stückkosten. Ein langes, stabiles Systempräfix lässt dieselbe reservierte Kapazität mehr Kundenarbeit tragen. Eine Promptänderung, die die Cache-Wiederverwendung zerstört, verringert den PTU-Spielraum und erhöht zugleich die Serverless-Ausgaben.

Auf eine Budgetposition hochgerechnet kosten zehn PTUs in einem 30-Tage-Monat $21,600 und tragen bei Vollauslastung rund 6 Millionen der nicht gecachten Beispielaufrufe. Bei 70% sind es 4.2 Millionen Aufrufe. Die entsprechende Serverless-Rechnung beträgt $15,120; für reservierte Kapazität und SLA verbleibt ein monatlicher Aufpreis von $6,480.

Diese $6,480 muss ein CTO begründen können. Bedroht eine Drosselung der gemeinsam genutzten Flotte mehr als $6,480 an Bruttomarge, Supportaufwand oder Vertragsstrafen, kann die Reservierung ihren Platz verdienen. Andernfalls hält Serverless dieselben $6,480 für Produktarbeit frei. Mit dem pauschalen Argument „Wir geben $15,000 für Tokens aus“ lässt sich diese Entscheidung nicht treffen.

Für Dedicated Inference gibt es keinen ebenso sauberen öffentlichen Token-Break-even, weil der Output-Durchsatz von Modell, Quantisierung, Batch-Form, Hardwareanzahl und Konfiguration abhängt. Wer den Monatspreis einer GPU durch einen generischen Tokenpreis teilt und daraus einen universellen Schnittpunkt ableitet, verbirgt die Variable, die über das Ergebnis entscheidet. Das infrage kommende Modell muss auf dem vorgesehenen Endpunkt gemessen werden; anschließend zählt der Preis je akzeptiertem Ergebnis bei der beobachteten Auslastung.

Dedicated Inference und GPU-Cluster lösen verschiedene Probleme

Dedicated Inference ist sinnvoll, wenn Kontrolle wichtiger ist als Self-Service-Flexibilität. Together weist mandantenexklusive Hardware zu, unterstützt eigene Modelle und bietet Autoscaling sowie die Bewältigung von Trafficspitzen. Der aktuelle Preis liegt bei $5.49 je GPU-Stunde für eine NVIDIA HGX H100 und bei $8.99 für eine HGX B200. Preise für H200, B300, GB200 NVL72 und GB300 NVL72 gibt es nur auf Vertriebsanfrage.

Bei durchgehendem Betrieb über 30 Tage kostet eine H100 $3,952.80 und eine B200 $6,472.80. Das sind Werte je GPU, bevor ein möglicher Mehr-GPU-Bedarf einfließt. Der Endpunkt wird unabhängig vom Anfragevolumen während seiner gesamten Laufzeit berechnet; auch eine ungenutzte Bereitstellung bleibt damit ein aktiver Budgetposten.

Für die Hardwarekalkulation sollte keine ältere Dokumentation zu dedizierten Endpunkten verwendet werden. Die Dokumentation weist derzeit H100-, H200- und B200-Zahlen aus, die der aktuellen Preisseite widersprechen. Die aktuelle Preisseite ist die neuere Quelle und wurde für diesen Artikel geprüft. Genau deshalb braucht ein Infrastrukturpreis ein Datum.

Dedicated Inference rechtfertigt die Rechnung, wenn ein per Fine-Tuning angepasstes oder hochgeladenes Modell nicht auf gemeinsam genutztem Serverless laufen kann, wenn die p99-Latenz stabile Hardware verlangt, wenn das Modell-Serving eigene Einstellungen benötigt oder wenn eine dauerhaft hohe Auslastung eine reservierte GPU wirtschaftlich überlegen macht. Unwirtschaftlich wird es, wenn der Endpunkt einen großen Teil des Tages wartet.

GPU-Cluster sind näher an der Rohinfrastruktur – und können aus dem falschen Grund günstiger wirken

Bei GPU-Clustern übernimmt der Käufer mehr vom Stack. Die aktuellen On-Demand-Preise betragen $3.99 je GPU-Stunde für H100, $5.99 für H200 und $8.19 für B200. Auf 30 Tage gerechnet entspricht eine H100 $2,872.80. Das ist jedoch kein günstiger Ersatz für die dedizierte H100 zu $3,952.80: Beim Cluster liegen mehr Aufgaben für Bereitstellung, Serving, Orchestrierung, Beobachtbarkeit und Auslastung beim Käufer.

Mit längerer Bindung sinken die Preise reservierter Cluster. H100 fällt auf $3.69 bei 7-30 Tagen, $3.45 bei 31-90 Tagen und $3.19 bei 91-180 Tagen. H200 sinkt über dieselben Zeiträume von $4.99 auf $4.15 und schließlich $3.99. B200 fällt von $7.99 auf $7.79 und $6.79. Laufzeiten ab 181 Tagen erfordern ein Angebot.

Der Rabatt hat klare Grenzen. Laut GPU-Abrechnungsdokumentation von Together wird die gesamte Reservierung im Voraus berechnet oder bei der Bereitstellung vom Guthaben abgezogen. Reservierungen sind nicht erstattungsfähig, können weder teilweise erstattet noch pausiert werden. Skaliert der Cluster über die reservierte Kapazität hinaus, gilt für die zusätzliche Kapazität der On-Demand-Preis.

Bei einer H100-Reservierung über 91-180 Tage kostet der normierte Monat mit 720 Stunden $2,296.80 je GPU. Das sind $576 weniger als beim On-Demand-Pendant. Wertvoll ist die Ersparnis nur, wenn die GPU sinnvoll ausgelastet bleibt. Eine halb leer stehende Reservierung mit vier GPUs wird nicht dadurch wirtschaftlich, dass der Stundenpreis niedriger ist.

Auch Speicher hat einen eigenen Lebenszyklus. Gemeinsam genutzter Speicher kostet $0.16 je GiB-Monat, sodass 1 TiB bei rund $163.84 pro Monat liegt. Das Volume bleibt nach dem Beenden eines Clusters bestehen und wird weiterberechnet, bis es jemand löscht. Das ist praktisch, wenn Rechenleistung rund um dauerhafte Daten neu aufgebaut werden soll, macht verwaiste Volumes aber zugleich zu stillen Kostentreibern.

Fine-Tuning kann im Training günstig und im Dauerbetrieb teuer sein

Beim Fine-Tuning entstehen zwei getrennte Kostenblöcke: der Trainingsauftrag und die spätere Bereitstellung des Modells. Das Training selbst kann ausgesprochen günstig aussehen. Das Hosting des Ergebnisses kann dagegen zum größten monatlichen Posten werden.

Together berechnet Standardtraining aus den Datensatz-Tokens multipliziert mit den Epochen sowie optionalen Evaluationstokens multipliziert mit den Evaluationsläufen. Bei Modellen bis 16B Parameter kostet überwachtes Fine-Tuning $0.48 je Million verarbeitete Tokens mit LoRA und $0.54 bei vollständigem Fine-Tuning. Direct Preference Optimization, kurz DPO, kostet $1.20 mit LoRA und $1.35 bei vollständigem Tuning.

Für Modelle mit 17B-69B lauten die vier Preise $1.50, $1.65, $3.75 und $4.12. Bei Modellen mit 70B-100B sind es $2.90, $3.20, $7.25 und $8. Der Mindestpreis eines Standardauftrags liegt bei $4.

Für größere und namentlich aufgeführte Modelle gelten Spezialpreise. DeepSeek V4 Flash LoRA kostet beim überwachten Fine-Tuning $6 je Million verarbeitete Tokens und bei DPO $15, mindestens jedoch $12. Bei gpt-oss-120B sind es $5 und $12.50 bei einem Minimum von $6. Kimi K2.6 oder K2.7-Code kostet $15 und $37.50 bei mindestens $60. Für GLM-5.2 gelten $40 und $100 bei ebenfalls mindestens $60.

Diese modellspezifische Spanne verändert selbst ein scheinbar einfaches Experiment. Ein Datensatz mit 20 Millionen Tokens, der über drei Epochen läuft, verarbeitet 60 Millionen Tokens. Mit einem Standard-LoRA-Auftrag für ein Modell bis 16B kostet das überwachte Training $28.80. Beim spezialisierten GLM-5.2-LoRA kostet dieselbe Menge verarbeiteter Tokens $2,400. Nicht der Datensatz hat sich geändert, sondern der Preis des Basismodells.

Der Trainingsauftrag bildet trotzdem noch nicht die Lebenszykluskosten ab. Ein per Fine-Tuning angepasstes Modell braucht Bereitstellungskapazität und genügend vorausbezahltes Guthaben. Eine einzelne aktuelle Dedicated H100 kostet bei 30 Tagen Dauerbetrieb $3,952.80. Ein Team kann für einen kleinen Adapter $28.80 ausgeben und anschließend jeden Monat mehr als das 137x-Fache bezahlen, um eine H100 aktiv zu halten.

An dieser Stelle scheitert häufig das Prototypenbudget. Data Science meldet den Trainingslauf, Finance entdeckt später die Serving-Rechnung. Das Experiment sollte nur zusammen mit einem Bereitstellungsplan genehmigt werden: erwartete Online-Stunden, GPU-Anzahl, Autoscaling-Untergrenze, Anfragevolumen und Zuständigkeit für das Abschalten.

Bei einem abgebrochenen Training fällt die Erstattung enger aus, als viele Käufer erwarten. Together berechnet die abgeschlossenen Schritte und erstattet lediglich die noch nicht ausgeführte Arbeit. Die üblichen Plattformgebühren sind nach den Bedingungen standardmäßig ebenfalls nicht erstattungsfähig. Ein Trainingsauftrag ist verbrauchte Rechenleistung, kein rückgängig zu machendes Softwareabonnement.

Sandbox und Code Interpreter sind eigene Agenten-Zähler

Code Sandbox kostet $0.0446 je vCPU-Stunde plus $0.0149 je GiB RAM und Stunde. Eine Sandbox, die 160 Stunden lang mit 2 vCPUs und 8 GiB läuft, kostet rund $33.34. Code Interpreter verwendet einen anderen Zähler: $0.03 je 60-Minuten-Sitzung.

Bei einem Agentenprodukt stehen diese Beträge neben der Modellinferenz. Öffnen 10,000 monatliche Agentenläufe jeweils eine einstündige Interpreter-Sitzung, kostet allein dieser Posten $300 vor den Modell-Tokens. Lassen sich Sitzungen sicher wiederverwenden, verändert die Produktarchitektur die Kosten je abgeschlossenem Auftrag. Bleiben sie nach Arbeitsende offen, wird ungenutzte Ausführungszeit im kleineren Maßstab zum Pendant ungenutzter GPU-Kapazität.

Die richtige Einheit sind deshalb Kosten je akzeptiertem Ergebnis, nicht Kosten je Million Tokens. Der Beispielaufruf mit MiniMax M3 kostet $0.0036; kommt eine Code-Interpreter-Sitzung für $0.03 hinzu, kostet der Ablauf vor Wiederholungen oder weiteren Tool-Aufrufen mindestens $0.0336. Der gesamte Pfad muss instrumentiert werden.

Together AI ist nicht kostenlos – selbst wenn ein Modell $0 für Tokens ausweist

Together AI bietet derzeit keinen kostenlosen Testzeitraum und verlangt vor dem Plattformzugang den Kauf von mindestens $5 vorausbezahltem Guthaben. Damit ist die Frage nach einem kostenlosen Tarif eindeutig beantwortet: Für die API-Nutzung gibt es kein Konto ohne Zahlung.

Im aktuellen Katalog steht Ternary Bonsai 27B zwar mit $0 je Million Input-Tokens und $0 je Million Output-Tokens. Solange dieses Angebot verfügbar bleibt, können die laufenden Inferenzkosten damit $0 betragen; für das Konto ist der Zugangskauf über $5 trotzdem nötig. Diese $5 werden nicht als Monatsabonnement beschrieben. Gekauftes Prepaid-Guthaben läuft derzeit nicht ab.

Wer muss nach den ersten $5 möglicherweise nie wieder zahlen? Ein Hobbyanwender oder Evaluator, der ausschließlich das aktuell kostenlose Modell nutzt, innerhalb der Ratenlimits bleibt und keinen kostenpflichtigen Dienst startet, könnte das gekaufte Guthaben unangetastet lassen. Das ist ein enger Sonderfall, kein kostenloser Produktionstarif. Modellverfügbarkeit, Kapazität und Preise können sich ändern; ein Produkt sollte Kunden nicht versprechen, dass ein Aktions- oder Nullpreis-Endpunkt dauerhaft sein Backend bleibt.

Frühere kostenlose Startguthaben sind ausgelaufen. Laut aktueller Supportregel von Together müssen Nutzer mindestens $5 kaufen und eine Zahlungsmethode hinterlegen. Beim üblichen Prepaid-Zugang gibt es keinen negativen Saldo: Ist das gekaufte Guthaben aufgebraucht, wird der API-Zugang bis zur nächsten Aufladung gesperrt. Für Vertragskunden gelten die Bedingungen ihres Auftrags.

Guthaben verfällt nicht, ist aber auch kein erstattungsfähiges Sparkonto

Gekauftes Guthaben hat derzeit kein Ablaufdatum. Das ist kundenfreundlicher als eine jährliche Verfallsregel, macht eine überhöhte Einzahlung aber nicht folgenlos. Nach den Bedingungen von Together sind bezahlte Gebühren standardmäßig nicht erstattungsfähig, Zahlungsverpflichtungen nicht kündbar und angefangene Monate nicht anteilig abrechenbar, sofern ein Auftragsformular nichts anderes festlegt.

Die automatische Aufladung verdient eine sorgfältige Konfiguration. Die Abrechnungsdokumentation nennt einen Standard-Aufladebetrag von $25 und warnt davor, dass ein Grenzwert oberhalb des aktuellen Guthabens sofortige, wiederholte Käufe auslösen kann, bis die Differenz gefüllt ist. Der Grenzwert sollte zum erwarteten Verbrauch passen, jeder Kauf einen Alarm auslösen und zusätzlich zum Guthaben ein Budget auf Projektebene bestehen.

Build-Tiers erhöhen Limits über die Gesamtausgaben

Die fünf Build-Tiers von Together sind Ratenlimitstufen auf Grundlage der bisherigen Gesamtausgaben, keine monatlichen Funktionspakete. Tier 1 beginnt bei $5 und nennt 600 LLM-Anfragen pro Minute. Tier 2 startet bei $50 und nennt 1,800, Tier 3 bei $100 mit 3,000, Tier 4 bei $250 mit 4,500 und Tier 5 bei $1,000 mit 6,000.

Die Embedding-Limits steigen von 3,000 RPM in Tier 1 auf 10,000 in Tier 4 und 5. Das Rerank-Kontingent wächst über die fünf Stufen von 500,000 auf 5,000,000. Diese Werte sind keine universelle Zusage für jedes Modell. Together kann modellspezifische Einschränkungen setzen; zudem beschreibt die aktuelle Serverless-Dokumentation dynamische Limits, die auf Live-Kapazität und den jüngsten erfolgreichen Traffic reagieren.

Für einen Produktstart ist diese Kombination relevant. Selbst ein Tier-5-Konto kann eine 429-Antwort erhalten, wenn ein gefragtes Modell knappere Kapazität hat oder der Traffic weit über sein jüngstes Muster springt. Serverless beseitigt die Bereitstellung, aber nicht jede Lastspitze. Als Ausweichwege dienen Batch, PTUs oder Dedicated Inference – jeweils mit anderen Kosten- und Latenzfolgen.

Versteckte Together AI Kosten entstehen vor allem durch Leerlauf und Vertragsdetails

Die sichtbaren Tokenpreise von Together AI sind im Allgemeinen klar. Teure Überraschungen lauern zwischen den Produkten: in Bindungen, ungenutzten Ressourcen und Annahmen, die universell wirken, es aber nicht sind.

PTU-Kalenderrechnung: $0.05 pro Minute ergeben in einem 30-Tage-Monat $2,160. Die Fußnote des aktuellen Rechners verwendet ungefähr 43,800 Minuten und kommt auf etwa $2,190. Der Unterschied von $30 pro PTU wächst bei 100 PTUs auf $3,000. Maßgeblich ist die Abrechnungskonvention des Vertrags.

PTU-Unterauslastung: Eine öffentliche PTU ist bei voller Auslastung über 30 Tage auf den Wert von Together Serverless kalibriert. Bei 50% Auslastung verdoppeln sich die effektiven Tokenkosten. Durch Kapazität und SLA kann das Produkt diesen Aufpreis dennoch verdienen, sichtbar sein sollte er aber in jedem Fall.

Leerlauf bei Dedicated Inference: Dedicated Inference berechnet die zugewiesene Hardware während des Betriebs auch bei null Anfragen. Das Hosting per Fine-Tuning angepasster Modelle gehört in die Monatsplanung, nicht nur auf das Ticket des Experiments.

Nicht erstattungsfähige Reservierungen: Reservierungen von GPU-Clustern werden über die gesamte Laufzeit berechnet, können nicht pausiert und nicht teilweise erstattet werden. Aus einem Prognosefehler werden gebundene Ausgaben.

On-Demand-Kosten bei Lastspitzen: Eine Skalierung über die reservierte GPU-Kapazität hinaus wird zum höheren On-Demand-Preis berechnet. Selbst eine stabile Grundlast kann überraschen, wenn die angenommene Spitzenlast zu niedrig war.

Persistenter Speicher: Speicher überlebt das Beenden des Clusters und wird weiterberechnet, bis er gelöscht wird. Bei jedem Clusterabbau muss ausdrücklich entschieden werden, ob die Daten bleiben oder gelöscht werden.

Batch-Eignung: Der Rabatt hängt vom Modell ab, das 24-Stunden-Fenster ist Best Effort und bereits abgeschlossene Antworten bleiben auch nach einem Abbruch kostenpflichtig. Ohne Prüfung der aktuellen Liste darf der Rabatt von 50% nicht auf das gesamte Offline-Budget angewendet werden.

Multimedia-Standardwerte: Bild- und Videopreise können sich auf die niedrigste Auflösung, die kürzeste Dauer oder die Standardzahl an Schritten beziehen. Produktionseinstellungen und Wiederholungen verändern die Kosten je nutzbarem Asset.

Automatische Aufladung: Ein aggressiver Grenzwert kann sofortige Käufe auslösen, reguläre Gebühren sind nicht erstattungsfähig. Auto-Recharge ist eine mit Alarmen versehene Maßnahme zur Betriebskontinuität, keine einmalige Einstellung zum Vergessen.

Output-Drift: Erzeugt ein geänderter Prompt oder ein anderes Modell längere Antworten, steigen die Ausgaben selbst bei stabilem Anfragevolumen. Input, gecachter Input, Output und akzeptierte Ergebnisse müssen getrennt erfasst werden.

Ratenlimit-Drift: Serverless-Limits können dynamisch und modellspezifisch sein. Der Kauf des über Gesamtausgaben erreichten Tier 5 reserviert nicht die zugrunde liegende Flotte.

Es gibt keinen üblichen jährlichen Self-Service-Rabatt, der sich pauschal einplanen ließe. Serverless wird vorausbezahlt und nutzungsabhängig abgerechnet, PTUs verlangen mindestens einen Monat, GPU-Reservierungen veröffentlichen Staffelungen über 7-30, 31-90 und 91-180 Tage, längere Bindungen führen zum Vertrieb. Das Risiko einer Jahresbindung steckt in einem individuellen Auftragsformular oder in einer Kette von Infrastrukturreservierungen, nicht in einem öffentlichen jährlichen App-Tarif.

Together AI Alternativen: Vor der Wahl dasselbe Modell normieren

Together AI ist nicht bei jedem gemeinsam angebotenen Modell konkurrenzlos günstig. Für gpt-oss-120B entspricht der öffentliche Serverless-Preis exakt den Preisen von Fireworks AI und Groq: $0.15 je Million Input-Tokens und $0.60 je Million Output-Tokens. Ein Job mit 1 Million Input- und 250,000 Output-Tokens kostet bei jedem der drei Anbieter $0.30, bevor Vorteile durch gecachten Input oder kontospezifische Vereinbarungen einfließen.

Diese Preisgleichheit ist hilfreich. Der Tokenpreis fällt als Entscheidungskriterium weg, sodass Cache-Preise, Ratenlimits, Latenz, Anbieterkontrolle, Ausweichverhalten, Bereitstellungspfade und SLA-Pakete in den Mittelpunkt rücken.

Fireworks AI bietet denselben Grundpreis und einen günstigeren Cachepreis

Fireworks AI listet gpt-oss-120B Standard Serverless mit $0.15 für Input, $0.015 für gecachten Input und $0.60 für Output je Million Tokens. Ohne Cache kostet der normierte Job dieselben $0.30 wie bei Together. Zusätzlich wirbt Fireworks mit einem Startguthaben von $1.

In diesem engen Vergleich gewinnt Fireworks bei Workloads mit einem großen wiederverwendbaren Präfix, weil der aktuelle Cachepreis für gpt-oss ausdrücklich ausgewiesen und niedrig ist. Mit Standard, Priority und Fast bietet Fireworks außerdem mehrere Serverless-Stufen und damit eine weitere Wahl zwischen Latenz und Preis. Allerdings machen diese Zusatzstufen einen vermeintlich einfachen Preisvergleich komplexer, und der dedizierte GPU-Preis ist ein anderes Produkt als die PTU von Together.

Fireworks passt, wenn Cache-lastige Serverless-Inferenz mit offenen Modellen im Vordergrund steht und die Steuerung über Servicestufen zur Anwendung passt. Together ist stärker, wenn der strategische Wert im Pfad von derselben API zu PTUs, dedizierter Modellinferenz, Fine-Tuning, Sandboxes oder reinen Clustern liegt.

Groq verkauft Geschwindigkeit zum selben Tokenpreis

Groq listet gpt-oss-120B ebenfalls mit $0.15 für Input und $0.60 für Output; der normierte Job kostet daher auch hier $0.30. Auf der aktuellen Modellseite stehen etwa 500 Tokens pro Sekunde, ein Limit des Developer-Tarifs von 250,000 Tokens pro Minute und 1,000 Anfragen pro Minute für dieses Modell.

Groq ist die schärfere Option auf der Auswahlliste, wenn geringe Generierungslatenz das Produktversprechen bestimmt. Der Enterprise-Tarif Performance ergänzt bereitgestellten Durchsatz mit einer Verfügbarkeits-SLA von 99.9%, veröffentlicht aber keinen Preis. Dadurch lassen sich die Self-Service-Tokenkosten leicht vergleichen, die Kosten reservierter Kapazität ohne Angebot hingegen nicht normieren.

Groq eignet sich für interaktive Abläufe, bei denen unterstützte Modelle und Geschwindigkeit wichtiger sind als der breitere Trainings- und Infrastruktur-Stack von Together. Benötigt der Workload Fine-Tuning, GPU-Cluster, Sandbox oder den öffentlichen PTU-Pfad unter einem Konto, ist Groq weniger passend.

OpenRouter kann günstiger sein – mit dem Kompromiss eines Aggregators

OpenRouter listet gpt-oss-120B derzeit mit $0.03 für Input, $0.03 für gecachten Input und $0.17 für Output je Million Tokens. Der normierte Job mit 1 Million Input- und 250,000 Output-Tokens kostet vor Gebühren für den Guthabenkauf $0.0725. Wird die Gebühr von 5.5% auf vollständig verbrauchtes Guthaben umgelegt, steigt der Betrag auf rund $0.0765; bei kleinen Aufladungen dominiert jedoch die Mindestgebühr von $0.80.

Im Spotpreis-Beispiel gewinnt OpenRouter, indem Anfragen über vorgelagerte Anbieter geroutet werden. Automatische Ausweichmöglichkeiten und ein deutlich größerer Modellkatalog gehören ebenfalls zum Angebot. Das ist jedoch nicht dasselbe Produkt wie reservierte Together-Kapazität oder die Wahl eines einzelnen Infrastrukturanbieters. Routenauswahl, Datenrichtlinie, Latenz, Verfügbarkeit der Voranbieter und Anbieterwechsel werden Teil der Architektur.

Der kostenlose Tarif ist zugänglicher als bei Together: Die aktuelle Preisseite nennt mehr als 25 kostenlose Modelle und 50 Anfragen pro Tag. Dem stehen niedrige kostenlose Limits, eine Pay-as-you-go-Plattformgebühr von 5.5% und das Recht gegenüber, ungenutztes Guthaben nach einem Jahr verfallen zu lassen. Together erklärt derzeit, gekauftes Guthaben laufe nicht ab.

OpenRouter passt, wenn breite Modellauswahl, Ausweichrouten und der aktuelle geroutete Spotpreis am wichtigsten sind. Together passt besser, wenn direkte Anbieterkontrolle, ein planbarer Weg zu reservierter Kapazität, Modelltraining oder dedizierter Infrastruktur mehr zählen als die billigste geroutete Anfrage.

Das normierte Ergebnis ist eindeutig: Bei gpt-oss-120B liegen Together, Fireworks und Groq ohne Cache beim Tokenpreis gleichauf. OpenRouter ist in dieser Momentaufnahme günstiger, verändert jedoch die Lieferantenbeziehung. Entscheidend ist die betriebliche Anforderung, nicht die pauschale Behauptung, eine Plattform sei billiger.

Für wen lohnt sich Together AI – und wer sollte verzichten?

Together AI ist die richtige Plattform für Unternehmen, deren Workload mit offenen Modellen von unsicheren Einzelanfragen zu einer gezielten Kapazitätsplanung heranwachsen soll. Für Entwickler, die lediglich eine günstige API suchen, ist es nicht automatisch die beste Wahl.

Solo-Entwickler sollten mit Serverless starten und den ersten Kauf auf $5 begrenzen. Eine klar umrissene Aufgabe gehört auf DeepSeek V4 Flash, gpt-oss-120B oder ein anderes Modell, das die Qualitätsgrenze erreicht. PTUs und dedizierte Hardware sind erst sinnvoll, wenn Produktionsprotokolle eine gleichmäßige Nachfrage belegen. Geht es nur um eine breite Modellauswahl oder kostenlosen Zugang, kann OpenRouter das einfachere erste Konto sein.

Für finanzierte Gründer lohnt sich Together, wenn die Bereitstellungsstaffel spätere Migrationen reduziert. Serverless kann das Produkt validieren, PTUs können ein stabiles offenes Modell hinter derselben API reservieren und Dedicated Inference kann ein per Fine-Tuning angepasstes oder eigenes Modell hosten. Weist die Roadmap ohnehin in Richtung reservierter Kapazität, ist diese Kontinuität mehr wert als eine kleine Differenz beim Tokenpreis.

Ein CTO im Mittelstand sollte PTUs für eine Servicezusage kaufen, nicht wegen einer hohen Rechnung. Auslastung muss prognostiziert, die SLA von 99% mit dem Kundenversprechen verglichen und die Kapazitätsreservierung gegen ausgefallene Transaktionen oder Supporteskalationen bewertet werden. Braucht die Anwendung eine Verfügbarkeit von 99.9%, reicht eine Zusage von 99% allein nicht; dann ist eine Ausweichlösung oder eine Vertragsverhandlung nötig.

Erfahrene Betriebsverantwortliche sollten Offline-Volumen vor einer Kapazitätsreservierung zu Batch verschieben. Klassifikation, Anreicherung, Evaluationen und synthetische Daten können bei geeigneten Modellen bis zu 50% Rabatt erhalten. Das ist ein direkter Preisnachlass für akzeptierte Latenz. Eine PTU kauft Kapazität und folgt erst später.

Forschungs- und Modellteams sollten Dedicated Inference oder GPU-Cluster nur mit klarer Verantwortung für die Auslastung einsetzen. Training, eigenes Serving und Kontrolle auf niedriger Ebene können den Stack rechtfertigen. Kann ein Team GPU-Stunden, ungenutzte Replikate, Spitzenlast und persistente Volumes nicht überwachen, kauft es Infrastruktur, die es nicht steuern kann.

Unter vier Bedingungen sollte Together AI ausscheiden. Der günstigste geroutete Tokenpreis ist die einzige Priorität; der Traffic ist für eine einmonatige Reservierung zu sprunghaft; das benötigte Modell wird anderswo angeboten; oder das Unternehmen braucht ohne Vertriebsverhandlung eine stärkere öffentliche SLA. Dann können Fireworks, Groq, OpenRouter oder ein direkter Modellanbieter besser passen.

Der Montagsschritt: Erst einen Workload messen, dann reservieren

Am Montag wird ein klar abgegrenzter Produktionsworkflow ausgewählt und sieben Tage lang vollständig kostenmäßig erfasst. Ziel ist nicht, jedes Modell zu testen. Geklärt werden soll, ob die Last zu Serverless, Batch, PTU oder dedizierter Kapazität gehört.

1. 1

   Ein akzeptiertes Ergebnis definieren

   Geeignet ist eine Aufgabe mit bewertbarem Resultat: eine gültige Klassifikation, eine bestandene Codeänderung, ein freigegebener Supportentwurf oder eine abgeschlossene Extraktion. Die geschäftliche Kennzahl lautet Kosten je akzeptiertem Ergebnis.

2. 2

   Das vollständige Nutzungsprofil erfassen

   Sieben Tage lang werden Anfragezahl, nicht gecachter Input, gecachter Input, Output, Wiederholungen, Spitzenanfragen pro Sekunde, 429-Antworten, Latenz, Sandbox-Zeit und akzeptierte Ergebnisse protokolliert. Werktägliche Spitzen sind von Nächten und Wochenenden zu trennen.

3. 3

   Die Serverless-Basis kalkulieren

   Auf den gemessenen Tokenmix werden die aktuellen Modellpreise angewendet. Geeignete Offline-Arbeit wandert zu Batch, danach wird neu gerechnet. Unnötiger Output wird begrenzt und stabile Promptpräfixe bleiben erhalten, damit realisierbare Cache-Einsparungen in der Basis stecken.

4. 4

   Den PTU-Auslastungstest durchführen

   Der aktuelle PTU-Rechner wird mit der Spitzenanfragerate, der Cache-Trefferquote und dem Tokenmix befüllt. Anschließend wird die benötigte PTU-Anzahl mit der durchschnittlichen Nutzung verglichen. Bei 80% Auslastung enthält der öffentliche Listenpreis einen effektiven Tokenaufschlag von 25%; entscheidend ist, ob reservierte Kapazität und die SLA von 99% diesen Aufpreis verdienen.

5. 5

   Nur für eine konkrete Anforderung eskalieren

   Dedicated Inference ist für eigene Modelle, Mandantentrennung oder stabile Hardwareleistung gedacht. Der Schritt zu GPU-Clustern folgt nur, wenn das Team den Serving- oder Trainings-Stack selbst verantwortet. Neben der Budgetverantwortung müssen auch Zuständigkeiten für Abschaltung und Speicherbereinigung feststehen.

Das Ergebnis ist ein Satz, den Finance und Engineering gemeinsam tragen können: „Dieser Workload bleibt auf Serverless“, „dieser Offline-Pfad wechselt zu Batch“ oder „dieser Kundenpfad reserviert N PTUs, weil die Kapazitätsgarantie den gemessenen Leerlaufaufschlag wert ist“. Das ist ein umsetzbarer Montagsschritt und keine Infrastrukturmigration aufgrund einer Preisüberschrift.

FAQ zum Together AI Pricing

Wie viel kosten 1,000 Tokens bei Together AI?

Der Preis pro Million des Modells wird durch 1,000 geteilt; Input und Output sind getrennt zu berechnen. Bei MiniMax M3 kosten 1,000 nicht gecachte Input-Tokens $0.0003 und 1,000 Output-Tokens $0.0012. Für Kimi K3 liegen die Preise je 1,000 Tokens bei $0.003 für Input und $0.015 für Output.

Wie viel kostet Together AI pro Monat?

Serverless hat kein festes Monatsabonnement; nach dem Zugangskauf über $5 richten sich die monatlichen Kosten nach der Nutzung. Eine PTU kostet in einem 30-Tage-Monat $2,160 oder rund $2,190, wenn die Annahme der Preisseite von 43,800 Minuten für einen Durchschnittsmonat verwendet wird. Eine durchgehend laufende Dedicated H100 kostet über 720 Stunden beim aktuellen Stundenpreis von $5.49 insgesamt $3,952.80.

Ist Together AI kostenlos?

Nein. Together AI bietet derzeit keinen kostenlosen Test und verlangt für den Plattformzugang den Kauf von mindestens $5 Prepaid-Guthaben. Der aktuelle Katalog führt Ternary Bonsai 27B zwar mit $0 für Input- und Output-Tokens, das Konto benötigt den Kauf über $5 aber trotzdem.

Bietet Together AI kostenlose Credits?

Nicht als dauerhaftes Startangebot. Frühere Registrierungsaktionen sind beendet, der aktuelle Zugang erfordert einen Kauf über $5. Together betreibt außerdem ein nur auf Einladung zugängliches Forschungs-Credit-Programm für studentische Projekte außerhalb formaler Lehrveranstaltungen; breit verfügbar ist es nicht.

Welche Limits hat der kostenlose Tarif von Together AI?

Einen klassischen kostenlosen Tarif gibt es nicht. Ein gekauftes Guthaben von $5 bringt das Konto in Build Tier 1; aktuell sind dort 600 LLM-Anfragen pro Minute, 3,000 Embedding-Anfragen pro Minute und ein Rerank-Limit von 500,000 aufgeführt. Modellabhängige und dynamische Limits können niedriger liegen.

Was sind die besten Together AI Alternativen?

Fireworks AI ist die ähnlichste breite Alternative für Inferenz und Fine-Tuning mit offenen Modellen, Groq überzeugt bei unterstützten Modellen mit geringer Latenz und OpenRouter ist besonders stark bei breitem Modellrouting und Ausweichmöglichkeiten. Für gpt-oss-120B gelten bei Together, Fireworks und Groq derzeit dieselben Preise von $0.15 für Input und $0.60 für Output je Million Tokens. Der geroutete Preis von OpenRouter ist in dieser Momentaufnahme niedriger, bringt aber eine Gebühr für den Guthabenkauf und eine Aggregatorebene mit.

Bietet Together AI einen Studentenrabatt?

Together AI veröffentlicht keinen dauerhaften Studententarif. Das nur auf Einladung zugängliche Forschungs-Credit-Programm vergibt kleine Zuschüsse an Studierende für Projekte außerhalb formaler Lehrveranstaltungen und verlangt, Together AI in der Arbeit zu erwähnen.

Welche Erstattungsregeln gelten bei Together AI?

Nach den Bedingungen von Together sind Gebühren standardmäßig nicht erstattungsfähig sowie Zahlungsverpflichtungen nicht kündbar und nicht anteilig abrechenbar, sofern ein Auftragsformular nichts anderes festlegt. GPU-Reservierungen sind nicht erstattungsfähig. Beim Abbruch eines Fine-Tuning-Auftrags werden abgeschlossene Schritte berechnet und nur die nicht ausgeführte Arbeit erstattet.

Verfällt Guthaben bei Together AI?

Gekauftes Prepaid-Guthaben verfällt derzeit nicht. Das ist von der Erstattungsfähigkeit zu unterscheiden: Guthaben kann ohne Ablaufdatum nutzbar und dennoch nicht erstattungsfähig sein. Nach einer Rechnung gekauftes Guthaben kann außerdem keinen älteren überfälligen Saldo ausgleichen.

Hat Together AI seine Preise 2026 geändert?

Ja. Together AI führte Provisioned Throughput am 8. Juli 2026 ein und ergänzte damit reservierte Tokenkapazität für $0.05 je PTU-Minute, eine Mindestlaufzeit von einem Monat und eine Verfügbarkeits-SLA von 99%. Auch der aktuelle Serverless-Katalog und die Preise für dedizierte Hardware haben sich seit Juni verändert. Deshalb trägt diese Seite das Prüfdatum 22. August.

Ist Provisioned Throughput günstiger als Together Serverless?

Nicht automatisch. Zu öffentlichen Listenpreisen entspricht eine vollständig ausgelastete PTU über 30 Tage nahezu exakt dem Wert ihrer Together-Serverless-Kapazität. Unterauslastung erhöht den effektiven Tokenpreis. PTUs kaufen reservierte Kapazität und eine SLA; ein ausgehandelter Bindungsrabatt kann den Preis verbessern, Together veröffentlicht diese Staffel jedoch nicht.

Die AI Tools Map for Business Owners erhalten

Die AI Tools Map for Business Owners macht aus Modellpreisen einen praktischen Einführungs-Stack – mit Qualitätsgrenze, Routingrolle und Kostenauslöser für jedes Tool. Die nächste Ausgabe kostenlos abonnieren.