RunPod vs Modal vs Vast.ai 2026: Die GPU-Cloud-Optionen jenseits der Hyperscaler

Wer 2026 GPU-Compute fuer ML-Inferenz oder Fine-Tuning braucht und nicht in AWS, GCP oder Azure festklebt, hat drei ernsthafte Alternative: RunPod, Modal und Vast.ai. Alle drei verkaufen GPUs guenstiger als die Hyperscaler — auf unterschiedliche Art und mit unterschiedlichem Lock-in.

Hier die Aufstellung mit GPU-Preisen, Workflows und der echten DACH-relevanten Frage: wo darf ich was hosten. Stand: 14. Mai 2026.

TL;DR

• RunPod ist die Mitte. Containers, Persistent Storage, Serverless-Endpoints, anstaendige Region-Wahl in EU.
• Modal ist die Premium-Variante. Hervorragende Python-DX, zero Cold-Start mit Snapshots, hoeher gepreist.
• Vast.ai ist der Marketplace. Konsumenten-PCs als GPU-Hosts, bis zu 80 % billiger, aber inkonsistent.
• Hyperscaler-Vergleich: RunPod / Modal sind 30-60 % billiger als AWS p4d / GCP A2 / Azure NDv4.
• Faustregel: Prototyping → Vast.ai. Production-Inference → RunPod oder Modal. Training-Jobs mit Sicherung → RunPod.

GPU-Preise: das Wesentliche

H100 80GB Instanzen, On-Demand, Mai 2026:

Schock-Erkenntnis: RunPod Secure Cloud ist 3-4× billiger pro GPU als die Hyperscaler. Vast.ai ist nochmal billiger, aber inkonsistenter.

Andere GPU-Klassen

Pricing-Modelle: Modal ist anders

RunPod und Vast.ai: Stuendliche Abrechnung pro Instanz. Wenn du sie nicht abreisst, zahlst du weiter.

Modal: Pay-Per-Second mit Pause-on-Idle. Container faehrt nach Sekunden Inaktivitaet runter, naechster Aufruf bringt ihn zurueck.

Modals Pricing-Komponenten:

Bei kurzen Inferenz-Anfragen (z. B. 2 s Compute) zahlst du bei Modal nur 2 GPU-Sekunden, nicht eine Stunde. Das ist der Killer- Vorteil fuer Endpoints mit niedriger Auslastung.

Konkrete Rechnung: Inferenz-Endpoint, 100k Requests/Tag

Annahme: 100k Requests pro Tag, jeweils 1 s GPU-Compute. Total: 100k × 1 s = 100k GPU-Sekunden = 27,8 GPU-Stunden / Tag = 833 Stunden / Monat.

Bei kontinuierlichem Use ist RunPod der Sweet-Spot. Vast.ai ist billiger, aber Reliability-Risiko ist real.

Bei bursty Use (10k Requests / Tag) gewinnt Modal dramatisch — du zahlst nur fuer die Sekunden, in denen wirklich gerechnet wird.

Workflow: Was du in Code schreibst

Modal

import modal

app = modal.App("my-model")

@app.function(gpu="A100-80GB", image=modal.Image.debian_slim().pip_install("torch", "transformers"))
def predict(text: str) -> str:
    # Modell laden + Vorhersage
    return ...

@app.local_entrypoint()
def main():
    result = predict.remote("Hallo Welt")
    print(result)

modal deploy app.py und du hast einen Endpoint. Sub-Sekunden Cold- Start mit Snapshots.

RunPod (Serverless)

# handler.py
def handler(event):
    input_data = event["input"]
    # ... compute
    return {"output": ...}

# Dockerfile
FROM python:3.11
RUN pip install runpod transformers torch
COPY handler.py /
CMD ["python", "-u", "/handler.py"]

runpodctl deploy und du hast einen Endpoint. Container-First- Workflow.

Vast.ai

SSH-Login auf eine VM, Container starten, eigenen Endpoint exponieren. Marketplace-Mentalitaet: du suchst eine Instanz im Bid-System (interruptible) oder mietest fix.

Cold-Starts in der Praxis

Modal Snapshots sind das beste Feature der drei: dein geladenes Model bleibt im Memory eines snapshotteten Containers, und der naechste Cold-Start ist Sub-Sekunde. Das ist Bezahltheit-Steuerung at its best.

Reliability und Region-Optionen

RunPod

• Secure Cloud: Tier-1-Datacenter, professionell, EU-Regionen (Bukarest, Stockholm, Amsterdam)
• Community Cloud: Endkunden-Anbieter, billiger, weniger reliable
• SLA: 99,9 % Secure Cloud, kein SLA Community
• Persistent Storage: Network Volumes, $0,10 / GB / Monat

Modal

• Hosted und gemanagt auf AWS und GCP unter der Haube
• Auto-Region-Selection, manuell wahlbar zwischen US East, US West, EU
• SLA: 99,9 % bei Production-Tier
• Persistent Storage: Modal Volumes, $0,02 / GB / Monat

Vast.ai

• Marketplace: GPU-Hosts sind oft Privatpersonen mit Gaming-PCs
• Reliability variabel: 95-99 % je nach Host
• Region: weltweit, EU-Auswahl moeglich
• Kein SLA: Hosts koennen Maschine ohne Warnung wegnehmen
• Persistent Storage: nur via S3-Mount-Workaround

DACH-/DSGVO-Aspekte

Fuer DACH-Geschaeftskunden mit Personendaten: RunPod oder Modal. Vast.ai nur fuer Experimente ohne Personenbezug (z. B. eigene Fine-Tunes, synthetische Daten).

Wann was nehmen

Schnelles Prototyping (Single-User, Fine-Tune, Forschung): Vast.ai. $1,50 / h auf einer A100 80GB ist unschlagbar.

Production-Inference, kontinuierlicher Traffic: RunPod Secure Cloud. Mit Autoscaling und EU-Region: zuverlaessig, billig, GDPR-konform.

Production-Inference, bursty / niedriger Average-Load: Modal. Pay-Per-Second und Snapshots koennen 90 % einsparen gegenueber 24/7-Instanz.

Fine-Tuning-Jobs (mehrere Stunden): RunPod Secure (H100, Persistent Volume) oder Vast.ai (Risiko, aber gut billig).

Compliance-Strenge Workloads: Modal mit EU-Region und BAA-Option oder weiter Azure / AWS.

Hyperscaler-Migration: Wenn du auf AWS p4d/p5 stehst und 70 % sparen willst: RunPod Secure Cloud ist 2026 die beliebteste Migration.

Container-Lock-in und Portabilitaet

Gute Nachricht: alle drei nutzen Docker/OCI-Container. Dein Setup ist grundsaetzlich portierbar.

Unterschiede:

• Modal hat eigene Python-Decorator-API. Wenn du Modal-spezifisch schreibst, ist Migration aufwendiger.
• RunPod ist generisch (Container + Handler). Migration zu z. B. einem K8s-Cluster auf eigener Hardware ist einfach.
• Vast.ai ist purer Docker — am wenigsten Lock-in.

Real-World: Workload-Kosten ueber 4 Anbieter

Konkrete Inferenz-App fuer einen Kunden 2026: Llama-3-70B-Instruct- Inferenz, 8.000 Requests / Tag, durchschnittlich 800 Tokens / Output = ~7 s GPU-Compute pro Request auf H100.

Lesson Learned: Bei dem Profil ist RunPod Secure mit Autoscale fast 50× billiger als AWS On-Demand und reliabler als Vast.ai.

Setup-Aufwand und Time-to-First-Request

Wir haben einen Standard-FastAPI + Llama-3-Inferenz-Container auf allen drei deployed:

Modals Python-Decorator-Modell ist fuer Inferenz wirklich fantastisch. Wenn dein Team Python-first ist und du dich nicht mit Docker-Build-Pipelines aufhalten willst: Modal probieren.

Persistent Storage und Model-Loading

Eines der unterschaetzten Themen: Model-Weights laden. Ein 70B-Modell hat ~140 GB Files. Bei jedem Cold-Start herunterladen ist nicht moeglich.

Bei Vast.ai der echte Pain: kein Persistent Volume zwischen Sessions. Du musst entweder von S3 caches oder bei jedem Start neu downloaden — 140 GB ueber 10 Gbit/s = ~2 min, also tolerabel.

Spot-/Interruptible-Verhalten

Wenn du Training-Jobs machst, ist Checkpoint-on-Interruption Pflicht. RunPod Spot mit Persistent Volume ist die guenstigste Variante mit Sicherungs-Pfad.

Faustregeln zum Mitnehmen

1. Hyperscaler nur, wenn du Service-Integration brauchst. GPU-Pricing der Spezialisten ist ueberlegen.
2. Production: RunPod Secure Cloud. Reliability + EU + Preis.
3. Bursty Workload: Modal. Pay-Per-Sec rechnet sich.
4. Experimente: Vast.ai. Geld sparen, Risiko akzeptieren.
5. Container nicht zu speziell schreiben. Portabilitaet wert.

Quellen

• RunPod Pricing
• Modal Pricing
• Vast.ai Pricing
• AWS GPU Instance Pricing
• Lambda Labs Pricing

Pricing-Stand: 14. Mai 2026. GPU-Marktpreise sind Spot-Sensitiv — besonders bei H100/H200 schwanken Preise woechentlich. Aktuelle Preise auf den Provider-Pages.