Vercel AI SDK v7 im Test: starke TypeScript-Anwendungsschicht, aber keine komplette AI-Plattform
Vercel AI SDK ist ein providerneutrales TypeScript-Toolkit für AI-Funktionen in Web- und Node.js-Anwendungen. AI SDK Core vereinheitlicht Generierung, strukturierte Ausgaben und Tool-Aufrufe; AI SDK UI liefert Hooks und ein Datenstromprotokoll; Provider-Pakete übersetzen die Aufrufe in die jeweilige Modell-API. Das aktuelle Repository verlangt Node.js 22 oder neuer und steht unter Apache License 2.0.
Prüfstand ist [email protected] vom 19. August 2026. Parallel erscheinen Wartungs-Releases für v5 und v6. Ein Tutorial kann deshalb technisch korrekt und dennoch nicht die heutige v7-API zeigen. Aktuelle Agent-Beispiele nutzen ToolLoopAgent und stopWhen. useChat wechselte bereits mit v5 auf eine Transport-Architektur und verwaltet den Eingabestatus nicht mehr intern. Maßgeblich ist der Lockfile, nicht das Suchergebnis.
Die Produktgrenze ist entscheidend: Das Open-Source-SDK kann Provider-Pakete direkt verwenden. Vercel AI Gateway ist ein separater gehosteter Routing-, Abrechnungs- und Budgetdienst. AI Elements ist eine optionale shadcn/ui-Komponentenbibliothek. Hosting und Observability in Vercel Cloud sind ebenfalls separate Angebote. Wer alles als SDK bezeichnet, verschleiert Datenwege, Preise und Lock-in.
Stand 2026
| Element | Geprüfter Stand | Auswirkung |
|---|---|---|
| Aktuelle Hauptversion | [email protected] (2026-08-19) | Major fixieren |
| Laufzeit | Node.js 22+ | Runtime-Policy prüfen |
| Lizenz | Apache-2.0 | Provider-Verträge separat |
| Core API | generateText / streamText / tools | Verhalten bleibt verschieden |
| Agent API | ToolLoopAgent; 20 steps par défaut | Budget explizit setzen |
| UI | React / Vue / Svelte / Angular | Auth/State bleiben Anwendung |
| Standardroute | Gateway dans les exemples actuels | Direkter Provider möglich |
| Telemetrie | OpenTelemetry expérimental opt-in | sensibler Datenexport |
Was zum SDK gehört – und was nicht
| Schicht | Leistung | Eigene Grenze |
|---|---|---|
| AI SDK Core | generation, stream, tools, structured output | Provider-Semantik und Usage |
| Provider packages | API adapter / special options | Version und Feature-Parität |
| AI SDK UI | hooks / transports / rich streams | Auth, Persistenz, Fehler-UX |
| ToolLoopAgent | loop / approval / stop | kein Durable Runtime |
| MCP | tools / resources / prompts | Server-Vertrauen und Rechte |
| AI Elements | optional UI components | nicht Core |
| AI Gateway | hosted route / budget / fallback | separate Datenebene |
| Vercel Cloud | hosting / observability | separater Dienst |
Provider-Abstraktion, Streaming und Agent-Schleifen
Die Provider-Abstraktion ist wertvoll für den gemeinsamen Nenner aus Text, Nachrichten, Tool Calls, strukturierten Ergebnissen und normalisierter Nutzung. Sie macht Modelle nicht austauschbar. Reasoning-Felder, Cache-Token, Datei- und Bildeingaben, Hosted Tools, Sicherheitsablehnungen, Tool-IDs, Fehler und Provider-Optionen unterscheiden sich. Tests sollten providerMetadata, rohe Finish Reasons und Warnungen aufbewahren. Ohne Capability-Matrix verschiebt eine portable Schnittstelle die Unterschiede lediglich in den Produktionsbetrieb.
Streaming besteht aus zwei Ebenen. streamText erzeugt Modell- und Tool-Teile auf dem Server; AI SDK UI transportiert sie als reichhaltige UI-Message- und Datenströme. Ein reiner Textstrom ist einfacher, kann laut Dokumentation aber keine Tool Calls, Usage oder Finish Reasons übertragen. Für Produktion braucht es definierte Zustände für Abbruch, Wiederholung, Teilergebnisse, doppelte Events, Verbindungsabbruch, Wiederaufnahme und Serverfehler. Das erste Token beweist weder einen konsistenten Endzustand noch korrekte Abrechnung.
ToolLoopAgent ist eine bequeme Agent-Schleife, kein Zuverlässigkeits-Runtime. Sie endet, wenn das Modell keine Tools mehr aufruft, ein Tool kein Execute besitzt, Freigabe nötig wird oder eine Stop-Bedingung greift. Die voreingestellten zwanzig Schritte können für eine interaktive Anfrage viel zu teuer sein. Setzen Sie kleinere aufgabenspezifische Limits, Gesamttimeout, AbortSignal, Token- und Geldbudget sowie Tool-Rechte. Wiederholbare Geschäftsprozesse gehören in explizite Workflows; Agenten sollten nur die tatsächlich unbestimmten Entscheidungen treffen.
Produktionsreife Migration und Evaluation
- Node.js,
ai, UI- und Provider-Pakete im Lockfile fixieren; Major und Release Notes dokumentieren. - Prompts, Nachrichten, Provider-Optionen, Tool-Schemas, Stream-Protokoll, Retries, Speicher- und Abrechnungsfelder inventarisieren.
- Capability-Matrix für Tools, strukturierte Ausgaben, Reasoning, Dateien, Safety, Usage, Kontext und Region erstellen.
- Redigiertes Golden Set plus Angriffsfälle für Injection, ungültige Argumente, verweigerte Rechte und doppelte Aktionen anlegen.
- Dünnen Anwendungsadapter um generateText/streamText bauen; Provider-spezifische Optionen sichtbar halten.
- Server-Authentifizierung, Tenant-Autorisierung, Tool-Allowlist, Freigaben, Idempotenz, Timeouts und Budgets ergänzen.
- Normalisierte Kennzahlen sowie rohe Warnungen/Finish Reasons beobachten; sensible Inhalte nur nach Richtlinie exportieren.
- Neue Route spiegeln, dann Canary; Qualität, Stream-Integrität, Tools, Latenz und Rechnung vergleichen.
- Abbruch, Disconnect, Retry und Gateway-/Providerfehler testen; alten Adapter bis zur Rollback-Probe behalten.
- Nach Änderungen an Major, Adapter, Modell, Prompt, Tool oder Routing alle Regressionen erneut ausführen.
Messgrößen vor einem Providerwechsel
| Kennzahl | Prüfung | Bedeutung |
|---|---|---|
| Answer quality | rubric + blind pairwise | API ist nicht Modell |
| Structured output | schema + semantic accuracy | Valides JSON kann falsch sein |
| Tool behavior | selection / args / approval / duplicates | Seiteneffekte sind riskant |
| Stream integrity | first/final/order/reconnect/cancel | Client und Server können abweichen |
| Latency | p50/p95 first + complete | Routing beeinflusst UX |
| Cost | tokens + invoice | Zählweisen unterscheiden sich |
| Safety | injection / exfiltration / permission | Tool-Output ist untrusted |
| Reliability | timeout / error / rollback | Fehlerpfade zählen |
Eine Migration beginnt nicht mit einem neuen Import. Erfassen Sie alle Modellaufrufe, System-Prompts, Nachrichtenformate, Tool-Schemas, Streaming-Events, Retries, Usage-Felder und Provider-Optionen. Frieren Sie nach Redaction repräsentative Produktions-Traces ein. Das Golden Set braucht normale Aufgaben, lange Kontexte, mehrere Sprachen, Ablehnungen, ungültige Tool-Argumente, parallele Tools, Providerfehler, Streamabbrüche, absichtlich unbeantwortbare Fragen und Prompt Injection. Alte und neue Pfade laufen mit identischen Eingaben; normalisierte und rohe Ergebnisse werden verglichen.
Messen Sie getrennt: Antwortqualität, Schema-Gültigkeit, korrekte Tool-Auswahl, erfolgreiche Ausführung und Treue der finalen Antwort sind nicht dasselbe. Ergänzen Sie Zeit bis zum ersten Event, Gesamtlatenz, Eingabe-, Ausgabe- und Cache-Token, Rechnungsbetrag, erfolgreichen Abbruch und Streamabschluss. Für Agenten zählen Schritte pro Lauf, wiederholte Tool Calls, Freigaben, Timeouts und doppelte Seiteneffekte. Nach Shadow Traffic folgt ein kleiner Canary pro Tenant oder Traffic-Anteil; der alte Adapter bleibt bis zum geprobten Rollback erhalten.
Die OpenTelemetry-Anbindung ist nützlich, wird offiziell aber als experimentell geführt und pro Aufruf über experimental_telemetry aktiviert. Sie kann Prompts, Antworttext, Tool Calls und Attribute enthalten. Behandeln Sie Telemetrie daher als separaten Datenexport: sensible Werte entfernen, Kardinalität begrenzen, Sampling, Aufbewahrung und Zugriff festlegen. Vercels gehostete Observability ist ein anderes Produkt. Die Installation von ai liefert nicht automatisch Eval-Suite, Trace Store oder Incident-Prozess.
Sicherheit, Datenschutz, Kosten und Lock-in
| Risiko | Kontrolle | Restgrenze |
|---|---|---|
| Prompt injection | instruction/data separation + allowlist | model may follow hostile content |
| Unauthorized action | server identity/tenant authorization | schema is not access control |
| Duplicate action | idempotency + transaction log | retry may repeat |
| Runaway cost | stopWhen + time/token/step budget | 20 steps is not a business budget |
| Telemetry leak | redact/sample/retention/access | prompts can be exported |
| Gateway drift | pin provider/model/region | fallback changes reproducibility |
| Version mismatch | pin every AI SDK package | old tutorials remain visible |
| False portability | capability matrix/regression | common type ≠ same semantics |
Vercel AI SDK im Vergleich
| Option | Geeignet wenn | Abwägung |
|---|---|---|
| Vercel AI SDK v7 | TypeScript streaming / multi-provider UI | strong ergonomics; governance external |
| OpenAI Node SDK | OpenAI-native features | minimal translation; provider coupling |
| LangChain JS | integrations / middleware / agents | larger abstraction surface |
| LangGraph JS | durable state / checkpoints / interrupts | more orchestration; better resume |
| OpenAI Agents SDK TS | handoffs / guardrails / tracing | agent and OpenAI centered |
| Custom/provider SDK | one provider / full protocol control | build UI, tools, portability |
| AI SDK + Gateway | unified budget / routing / fallback | adds Vercel data plane |
Sicherheit liegt überwiegend oberhalb des SDK. Ein Zod- oder JSON-Schema validiert die Form eines Arguments, nicht das Recht des Nutzers auf Erstattung, Tenant-Daten oder Mailversand. Identität und Tenant werden serverseitig aufgelöst; jeder Tool-Aufruf erhält Autorisierung, minimale Credentials, Output-Prüfung und Audit. Seiteneffekte brauchen Idempotency Keys, folgenreiche Aktionen eine Freigabe. Abgerufene Dokumente, Webseiten, MCP-Antworten und frühere Tool-Ausgaben sind nicht vertrauenswürdige Daten und können Prompt Injection enthalten.
Automatisches Routing und Fallback im Gateway können Verfügbarkeit erhöhen, aber Modellverhalten, Datenverarbeiter, Region und Preis ändern. Für Compliance oder Reproduzierbarkeit sollte ein Provider beziehungsweise eine erlaubte Menge festgelegt werden. Als datierter Stand nannte die Preis-Dokumentation im Februar 2026 monatliche Gratis-Credits, Pay-as-you-go ohne Token-Aufschlag und keine Gateway-Gebühr für BYOK. Konditionen ändern sich: Die Live-Seite bleibt maßgeblich. Direkte Provider-Pakete vermeiden diese Vercel-Datenschicht, verlangen aber eigene Budgets, Fallbacks und Usage-Aggregation.
Unser Urteil: Für ein TypeScript-Team, das eine gute Streaming-Oberfläche mit mehreren Modellanbietern baut, ist AI SDK v7 eine der besten Anwendungsschichten. Typen, UI-Protokoll und Tool-Primitiven sparen viel Glue Code. Für langlebige, wiederaufnehmbare Multi-Agent-Backoffice-Prozesse ist es weniger überzeugend; dort passen LangGraph oder Workflow-Engines besser. Wer vor allem die neuesten nativen Features eines Providers braucht, fährt mit dessen SDK direkter. Ergonomie ist der Grund für die Wahl—nicht die falsche Annahme, Portabilität, Sicherheit und Betrieb seien kostenlos.
Häufige Fragen
Ist Vercel AI SDK kostenlos und Open Source?
Das SDK steht unter Apache-2.0. Modelle, Provider, AI Gateway, Vercel Cloud und weitere Dienste besitzen eigene Preise und Bedingungen.
Muss ich auf Vercel hosten?
Nein. Das TypeScript-SDK läuft in anderen Node.js-Umgebungen. Gateway ist ein bequemer aktueller Standard in Beispielen, direkte Provider-Pakete bleiben möglich.
Welche Version ist aktuell?
Am 20. August 2026 ist [email protected] die Hauptversion; v5/v6 werden parallel gewartet. Prüfen Sie den Lockfile.
Gehört AI Gateway zum Open-Source-SDK?
Nein. Es ist ein separater Hosted Service für Routing und Abrechnung; das SDK kann Provider direkt ansprechen.
Ist ToolLoopAgent allein sicher für autonome Aktionen?
Nein. Nötig sind Autorisierung, Allowlist, Freigaben, Idempotenz, Timeout, Stop-Bedingungen, Audit und Angriffstests.
Garantiert die Abstraktion gleiche Ausgaben?
Nein. Sie vereinheitlicht häufige API-Formen; Verhalten, Optionen, Usage, Fehler, Safety und Features bleiben verschieden.
Textstream oder UI-Message-Stream?
Text reicht nur für einfache Ausgabe. Tools, Usage, Finish Reasons und Rich Parts brauchen das UI-Datenprotokoll und sauberes State Handling.
Kann Telemetrie Prompts senden?
Ja, wenn entsprechend aktiviert. Vor dem Opt-in müssen Redaction, Sampling, Aufbewahrung und Zugriff definiert sein.
Wann ist LangGraph geeigneter?
Wenn durable Ausführung, persistenter Zustand, Interrupts, lange Laufzeiten und Wiederaufnahme zentral sind.
Wie migriert man sicher?
Versionen pinnen, Golden- und Failure-Suite fahren, Shadow und Canary nutzen, Streamvertrag prüfen und Rollback-Adapter behalten.
Quellen und Prüfung
- AI SDK repository
- AI SDK releases
- Apache 2.0 license
- Core: generateText and streamText
- Tool calling
- ToolLoopAgent reference
- AI SDK UI transports
- AI SDK stream protocol
- MCP integration
- OpenTelemetry integration
- Vercel AI Gateway overview
- AI Gateway pricing
- AI Elements component library
- LangGraph JavaScript overview
- OpenAI Node SDK
- OpenAI Agents SDK for TypeScript
Unabhängig geprüft am 20. August 2026. Versionen, Provider, Defaults und Preise ändern sich schnell; prüfen Sie installierte Pakete und offizielle Live-Seiten.