Together AI: Test, Kosten & Souveränität
US-Open-Modell-Cloud aus San Francisco (Serien-C 8,3 Mrd. USD) mit 100+ Serverless-Modellen, Trainings-Pipeline, EU-VPC-Option - aber standardmaessig aktivem Prompt-Speicher und Passthrough-Modellen zu Drittanbietern.
Einschätzung
Fuer Teams, die ein breites Open-Weight-Portfolio plus Fine-Tuning unter einer API suchen, ist Together der vollstaendigste Anbieter dieser Runde - mit dem einzigen dokumentierten EU-VPC-Pfad und einem Geo-Endpunkt fuer US-Verarbeitung. Aber der Datenschutz-Default ist der unbequemste im Vergleichsfeld: Prompts und Responses werden standardmaessig gespeichert und fuer Produktverbesserung genutzt, Passthrough-Modelle leiten Daten an Dritte weiter, und ZDR ist ein Organisation-Schalter, den du aktiv setzen musst. Dazu kommen US-Gesellschaft, nicht-rueckerstattbare Gebuehren und kurze, wiederkehrende Outages laut Statusaggregatoren. Wer Privacy-Defaults will, nimmt DeepInfra/Groq; wer Fein-Tuning, Modellbreite und EU-VPC braucht, hat hier den besten Werkzeugkasten - nach dem Abschalten der drei Toggles.
Warum 2.9/10?
Platz #3 von 8 in ki-zugang & apis - Gewichte in der Methodik · gewichtet für KI-Zugang & APIs
++ Was hält
- Bester Ausstiegspfad dieser Runde: EU-Regionen und VPC-Deployments fuer dedizierte Endpunkte sind laut Docs dokumentiert, dazu ein US-Geo-Endpunkt
- Training ist Opt-in und standardmaessig aus: 'Together does not train on your data without your explicit consent, whether or not ZDR is enabled'
- Breites Portfolio: 100+ Serverless-Modelle, Batch API, Provisioned Throughput, Fine-Tuning, GPU-Cluster und Managed Storage unter einer Plattform
- ZDR ist sauber dokumentiert: Organisation-Schalter, dann keine Persistenz von Request-Inhalten; Metadaten-Ausnahmen ehrlich benannt
- OpenAI- und Anthropic-kompatible Endpunkte plus Responses API; Fine-Tuning-Checkpoints sind per API/CLI/Konsole loeschbar
- Status-Seite mit Per-Modell-Uptime und Statusaggregatoren zeigen keine schwerwiegenden Datenvorfuelle
-- Was du prüfen solltest
- Prompt-Speicher ist STANDARDMAESSIG AN: Prompts und Responses werden gespeichert und fuer Produktverbesserung genutzt - ZDR muss aktiv gesetzt werden
- Passthrough-Modelle leiten Prompts und Responses an Dritt-Provider weiter - ebenfalls standardmaessig an, und ohne Passthrough ist der Toggle nicht benutzbar (Passthrough erfordert Prompt-Speicher)
- Kein E2EE, keine oeffentliche Subprozessoren-Liste, kein AVV auf der Website, 2FA-Dokumentation nicht gefunden
- Fees laut Terms non-refundable; keine Erstattung bei Kuendigung
- US-Gesellschaft (Delaware, San Francisco) - volle CLOUD-Act-Exposition; der US-Geo-Endpunkt deckt nur Verarbeitung, nicht Speicher oder Logs
- Statusaggregatoren zaehlen viele kurze Down-Phasen (September bis November 2026 mehrfach 5 bis 55 Minuten) und geplante Netz-Wartungen mit Modell-Ausfaellen
So startest du bei Together AI
| Identitätsprüfung | optional |
|---|---|
| Zahlung | Fiatgeld |
| Einstiegspreis | Preis beim Anbieter |
| Auszug | OpenAI-kompatible Endpunkte, Anthropic Messages API, Responses API, Batch API, Provisioned Throughput, Dedizierte Endpunkte inkl. VPC (EU-Regionen moeglich), Fine-Tuning mit Checkpoint-Download, Metadaten exportierbar |
| Speicherort | us, eu, Wahl des Speicherorts |
| Firmeneinsatz | grundsätzlich möglich, AVV prüfen |
Werte aus den Fakten dieser Seite (Stand: 2026-11-17). Preisangaben ohne Gewähr - vor der Anmeldung beim Anbieter gegenprüfen.
Überblick
Together AI ist 2022 in San Francisco gegruendet worden und hat sich zur groessten Open-Modell-Cloud dieser Runde entwickelt: 800 Millionen USD Series C unter Fuehrung von Aramco Ventures im Juli 2026, Bewertung 8,3 Milliarden USD, laut Investor-Pressemitteilung mehr als 1,15 Milliarden USD Jahresbookings [10]. Die Gesamtfinanzierung liegt laut Marktberichten bei rund 1,33 Milliarden USD [13]. Das Portfolio ist breit: mehr als 100 Serverless-Modelle mit Token-Abrechnung [5], Batch-Verarbeitung, Provisioned Throughput mit SLAs, Fine-Tuning, GPU-Cluster und Managed Storage [5]. Kunden wie Cursor, Cognition und Decagon laufen laut Branchenpresse auf der Plattform [11][12]. Der Gruenderkern ist akademisch gepraegt (Percy Liang, Chris Re; CEO Vipul Ved Prakash baute zuvor Topsy, das Apple 2013 uebernommen hat) [12][13].
Verschlüsselung & Datenschutz
Hier muss man zweimal hinschauen, denn die Defaults sind die umgekehrten von Groq und DeepInfra: Standardmaessig speichert Together die Prompts und Responses und darf sie fuer Produktverbesserungen nutzen - nicht mit Dritten geteilt, aber gespeichert [1]. Organisation-Admins koennen den Prompt-Speicher abschalten; genau das aktiviert Zero Data Retention, mit ehrlich benannten Resten (Abrechnungs-Metadaten wie Token-Counts und Timestamps; Fine-Tuning- und Batch-Dateien bis zum Loeschen) [3]. Training ist dagegen vorbildlich geregelt: separater Opt-in, standardmaessig aus, wortwoertlich "Together does not train on your data without your explicit consent" [1]. Das verdeckte Risiko sind Passthrough-Modelle, die Prompts an Dritt-Provider forwarden - auch dieser Schalter steht standardmaessig auf an, und ohne Prompt-Speicher funktioniert Passthrough nicht [2]. Ende-zu-Ende-Verschluesselung gibt es nicht; die Privacy Policy bestaetigt die Einstellungs-Pfades (Settings > Profile) und die CCPA-Zusage, keine Personendaten zu verkaufen [6]. Schwachstellenmeldungen nimmt das private HackerOne-Programm entgegen [2].
Souveränität & CLOUD Act
Together Computer, Inc. ist eine Delaware-Gesellschaft mit Sitz in San Francisco; die Terms stehen unter kalifornischem Recht [7]. Der US-Geo-Endpunkt us-api.together.ai garantiert laut Docs die Verarbeitung in den USA - mit 1,25x Aufschlag - und grenzt die Zusage selbst scharf ein: nur Verarbeitung, nicht Speicher, Logs oder Routing [4]. Interessant ist der andere Weg: Fuer dedizierte Endpunkte dokumentiert Together private Networking- und VPC-Deployments, ausdruecklich auch in EU-Regionen [2] - die einzige in dieser Runde operator-dokumentierte EU-Option. Fuer Serverless-Nutzung bleibt es trotzdem bei US-Jurisdiktion und CLOUD-Act-Exposition; ein AVV oder eine oeffentliche Subprozessoren-Liste ist auf der Website nicht auffindbar (Stand November 2026).
Preise & Tarife
Die Serverless-Preistabelle ist breit und offen: gpt-oss-120B bei 0,15 USD Input und 0,60 USD Output, GLM-5.3-Flash bei 0,15/0,50 USD, GLM-5.3 bei 1,40/4,40 USD, Kimi K3.1 Pro bei 2,00/10,00 USD, DeepSeek V4.1 Flash 1017 bei 0,30 USD Input (0,006 USD gecacht) und 1,20 USD Output, daneben einzelne Gratis-Modelle wie Ternary Bonsai 27B [8]. Ein Community-Vergleich ordnet die Preisposition ein: Fuer Llama-3.3-70B lag Together bei 0,88 USD je Million Tokens beidseitig, DeepInfra bei 0,13/0,39 USD - Together ist nicht der Preissieger, sondern verkauft Plattformbreite [20]. Eigenes Testbild aus der Community: GLM-5.3-Flash via Together war gegen DeepSeek-V4-Flash geringfuegig teurer, aber deutlich schneller (108 gegen 154 Sekunden fuer zehn Tasks) [16]. Der US-Geo-Endpunkt kostet 1,25x die Standardrate [4]. Gebuehren sind laut Terms nicht rueckerstattbar [7].
Export & Ausstieg
Der Ausstieg ist technisch gut moeglich: Die Endpunkte sind OpenAI- und Anthropic-kompatibel, also ist ein Provider-Wechsel ein base_url- und Modell-Wechsel [5]. Die gehosteten Modelle sind Open-Weight und laufen selbst gehostet mit vLLM/SGLang weiter; Fine-Tuning-Checkpoints lassen sich laden und die hochgeladenen Trainingsdaten per API, CLI oder Konsole loeschen [3]. Wer nicht raus will, sondern hinein, kann Provisioned Throughput oder dedizierte Endpunkte mit VPC buchen [1][5]. Der praktische Lock-in sitzt im Werkzeugkranz (Together Link, Compiler, Storage) und in den Fine-Tuning-Daten, die bis zum manuellen Loeschen bleiben [3].
Einrichtung & Alltag
Der Einstieg ist das OpenAI-Muster: Client auf den Together-Endpunkt zeigen, Modell-ID einsetzen - die Docs decken Chat Completions, Streaming, Function Calling, strukturierte Outputs, Prompt-Caching, Reasoning sowie Embeddings, Bilder, Video und Transkription ab [5]. Anthropic-Nutzer koennen dieselben Modelle ueber die Messages API in Claude Code oder dem SDK fahren [5]. Wer die Dateneinstellungen nicht prueft, laeuft mit den Defaults; der Weg fuehrt ueber die Privacy-Sektion der Organization Settings zu den drei Toggles (Prompt-Speicher, Passthrough, Training) [2]. Fuer Batch-Jobs gibt es einen eigenen Datei-und-Job-Workflow [3], fuer Produktionslasten Provisioned Throughput mit SLA [5]. Der Status-Verlauf zeigt Per-Modell-Uptime und geplante Wartungen [9].
Vorfälle & Warnzeichen
Kein Datenvorfall dokumentiert. Die Verfuegbarkeit schwankt aber messbar: Die operator-eigene Status-Seite listet fuer die letzten Monate keine Incidents und zeigt Per-Modell-Uptime um die 99 bis 100 Prozent [9][15], waehrend der unabhaengige Monitor StatusGator fuer denselben Zeitraum wiederholte kurze Down-Phasen zaehlt - unter anderem vier Stunden und 13 Minuten im Oktober und 55 Minuten im November [14]. Dazu kommen geplante Netz-Wartungen mit voruebergehenden Modell-Ausfaellen [15]. Das Muster: kurz, haeufig, selbst nicht immer sichtbar auf der eigenen Statusseite. Fuer Produktionsrouten heisst das: Fallback-Routing einplanen.
Was Nutzer berichten
Die Community-Sicht: positiv sind der grosse Modellkatalog und die Rolle als US-Anker fuer chinesische Open-Weight-Modelle [21], die Referenzkunden-Cursor-Integration [18] und das Interesse am Compiler-Ansatz [17]. Kritisch: ein Mehrfach-Tausend-Dollar-Kunde berichtet im November, dass Together die Billing-Anbindung fuer den Hugging-Face-Inference-Router deaktiviert hat [19]; ein Benchmark-Kommentar misst Qualitaetsabweichungen bei demselben Modell gegenueber einem anderen Hoster [16]. Die Preis-Kritik laeuft auf das Muster hinaus: Plattform ja, Billigheim nicht [20].
Fazit
Fuer Teams, die ein breites Open-Weight-Portfolio, Fine-Tuning und - als Einziger dieser Runde - operator-dokumentierte EU-VPC-Optionen in einer Plattform wollen, ist Together der vollstaendigste Anbieter [2][5]. Das Trainings-Opt-in ist sauber [1], und der Ausstieg ueber offene Gewichte und kompatible APIs bleibt billig [5]. Der Preis dafuer ist eine Datenschutz-Konfiguration, die du zuerst abdrehen musst: Prompt-Speicher an, Passthrough an [2], dazu nicht-rueckerstattbare Gebuehren [7], US-Jurisdiktion [7] und eine Status-Historie mit kurzen Aussetzern [14]. Wer Privacy-Defaults statt Privacy-Einstellungen braucht, fährt mit DeepInfra oder Groq besser; wer Modellbreite, Fein-Tuning und Residency-Pfade sucht, bekommt hier das beste Werkzeug - nach dem Settings-Audit.
Fakten-Fazit
Together AI ist der vollstaendigste Werkzeugkasten unter den Open-Modell- Clouds dieser Runde: mehr als 100 Serverless-Modelle, OpenAI- und Anthropic-kompatible Endpunkte, Batch-Verarbeitung, Provisioned Throughput, Fine-Tuning mit Checkpoint-Verwaltung und dedizierte Endpunkte inklusive VPC-Deployments in EU-Regionen. Das Datenschutz-Design ist die Kehrseite: Prompts und Responses werden standardmaessig gespeichert und fuer Produktverbesserung genutzt, Passthrough-Modelle leiten Daten an Dritt-Provider weiter, und Zero Data Retention ist ein Organisations-Schalter, der aktiv gesetzt werden will. Training ist dagegen sauber geregelt - Opt-in, standardmaessig aus. Juristisch bleibt Together ein US-Anbieter (Delaware, kalifornisches Recht, San Francisco), mit nicht-rueckerstattbaren Gebuehren und einer Status-Historie voller kurzer Aussetzer.
Von der Redaktion verfasst - Faktenstand 2026-11-17
Quellen
- Together AI Privacy and Security - Defaults (Operator-Docs, live 17.11.2026) 2026-11-17
- Together AI Privacy and Security - Toggles, Passthrough, VPC (Operator-Docs, live 17.11.2026) 2026-11-17
- Together AI Zero Data Retention (Operator-Docs, live 17.11.2026) 2026-11-17
- Together AI Geo-Specific Inference (Operator-Docs, live 17.11.2026) 2026-11-17
- Together AI Docs-Index (Operator, live 17.11.2026) 2026-11-17
- Together AI Privacy Policy (Operator, live 17.11.2026) 2026-11-17
- Together AI Terms of Service (Operator, Stand 19.05.2026) 2026-11-17
- Together AI Pricing (Operator, live 17.11.2026) 2026-11-17
- Together AI Status (Operator, live 17.11.2026) 2026-11-17
- Aramco Ventures - Together AI Series C (Investor/Operator, 01.07.2026) 2026-11-17
- TechCrunch - Together AI Series C (unabhaengig, 01.07.2026) 2026-11-17
- The Next Web - Together AI Series C (unabhaengig, 01.07.2026) 2026-11-17
- Revenue Memo - Together AI Funding-Historie (unabhaengig, 02.10.2026) 2026-11-17
- StatusGator - Together AI Uptime-Historie (unabhaengig, live 17.11.2026) 2026-11-17
- Together AI Status - Previous Incidents (Operator, live 17.11.2026) 2026-11-17
- Hacker News - GLM-5.3-Flash-Test (Community, 28.08.2026) 2026-11-17
- Hacker News - Together Compiler (Community, 09.11.2026) 2026-11-17
- Hacker News - Cursor x Together AI (Community, 28.07.2026) 2026-11-17
- Hacker News - Together als US-Anker fuer Open-Weight-Modelle (Community, 20.07.2026) 2026-11-17
- Reddit-Thread HF-Billing via arctic-shift-API (Community, 05.11.2026) 2026-11-17
- Reddit-Thread Llama-Preisvergleich via arctic-shift-API (Community, 08.04.2026) 2026-11-17
Alternativen zu Together AI
Wer Together AI nicht will, findet in der Aufgabe KI-Zugang & APIs die ehrlichsten Vergleichsfälle - gleiche Aufgabe, gleiche Messlatte.
- Proton Lumo 4/10
- LiteLLM 3/10 selbst betreibbar
- DeepInfra 2.7/10
Nutzerkommentare (0)
Noch keine Kommentare.