Beitrag vorlesen, erstellt mit OmniVoice:

Willkommen zurück im Brain Dump! Heute widme ich mich einem Thema, das für alle interessant ist, die lokal mit KI-Modellen an ihre Hardware-Grenzen stoßen: Cloud-GPUs, genauer gesagt die Plattform RunPod.

Was ist RunPod und wofür braucht man das?

Kurz gesagt: RunPod ist ein Dienst, bei dem man sich stundenweise leistungsstarke Grafikkarten (GPUs) in der Cloud mieten kann. Das ist besonders dann sinnvoll, wenn man komplexe KI-Workflows betreibt, die extrem viel VRAM (Grafikspeicher) fressen.

Lokal werkelt in meinem Hauptrechner (HauptHorst) eine RTX 3060 Ti unter CachyOS. Das ist eine grundsolide Karte, aber wenn es um aufwendige Videogenerierung geht, wird es schnell zäh. Genau hier kommt RunPod ins Spiel: Anstatt tausende Euro in neue Hardware zu investieren, mietet man sich die Rechenpower einfach genau dann, wenn man sie braucht.

Der Einstieg und das obligatorische Lehrgeld

Aktuell nutze ich RunPod ausschließlich für ComfyUI in Kombination mit dem Video-Modell MiniMax H3. Da ich noch in der Phase bin, in der ich das ganze System und die Workflows verstehen muss, ging anfangs einiges an Zeit (und Geld) fürs Testen drauf.

An dieser Stelle ein riesiges Dankeschön an meinen Sponsor Ascot Media, der mir anfangs 20 $ Startguthaben und jetzt für das ernsthafte “Arbeiten” glatt nochmal 30 $ zur Verfügung gestellt hat! Die waren auch bitter nötig, denn Lehrgeld zahle ich immer noch.

Warum er das macht? Ascot Media investiert damit gezielt in no0bz Production. Ich erstelle für ihn Musikvideos und wir haben für die Zukunft noch einiges mehr in Planung. Unser gemeinsames Ziel ist es, komplett unabhängig von kommerziellen Video-Generatoren zu werden. Wir wollen die volle kreative Kontrolle behalten und die Freiheit haben, auch mal etwas mehr “Haut” zu zeigen oder “Gore”-Elemente einzubauen – Inhalte, die bei den gängigen Bezahl-Anbietern durch strenge Richtlinien sofort blockiert werden. Mit Open-Source-Modellen auf RunPod haben wir genau diese Freiheit.

Kürzlich habe ich durch einen dummen Fehler direkt mal 3 $ verballert: Ich ging davon aus, dass eine Pod-Migration abgeschlossen sei, nur weil ich wieder auf die ComfyUI-Oberfläche zugreifen konnte. Pustekuchen. Im Hintergrund wurden scheinbar noch Daten kopiert. Weil meine Ordner leer aussahen, habe ich (mal wieder seufz) angefangen, die Modelle neu herunterzuladen. Das Ende vom Lied? Ein massives Datenchaos, bei dem gar nichts mehr ging. Ich musste den Pod also komplett neu aufsetzen – was immerhin überraschend schnell erledigt war.

Neues Setup: Network Volume statt Frust

Aus diesen Fehlern lernt man. Um meine heruntergeladenen Modelle und Workflows nicht jedes Mal neu laden zu müssen oder bei Migrationen zu verlieren, habe ich meine Strategie geändert. Ich nutze jetzt ein Network Volume bei RunPod für günstige 0,024 $ pro Stunde.

Der große Vorteil: Der Speicher ist vom eigentlichen Pod entkoppelt. Wenn ich jetzt einen neuen Pod (meist über ein MiniMax H3 Template) starte, hänge ich dieses Volume einfach an. Alle meine Modelle, Custom Nodes und Workflows sind sofort wieder da, ohne langes Warten. Wenn der Pod mit einer gemieteten RTX 5090 läuft, liege ich inklusive dieses Netzwerkspeichers bei Gesamtkosten von ca. 1,03 $ pro Stunde. (Ob das nun Community- oder Secure-Instanzen sind, weiß ich ehrlich gesagt gar nicht genau 😉).

Die Download-Zeiten davor glichen nämlich einer Lotterie. Von quälend langsamen 80 KiB/s bis hin zu blitzschnellen 800 MiB/s war alles dabei, was die Ersteinrichtung teils sehr zäh gemacht hat.

Kostenkontrolle und mein Dateimanagement

Bei einem Stundenpreis von rund einem Dollar kann man schnell in eine Kostenfalle tappen, wenn der Pod unbemerkt weiterläuft. Meine simple, aber effektive Regel lautet daher: Ich lasse den Pod nur laufen, wenn ich auch wirklich aktiv davor sitze. Sobald ich mit meinen Generationen fertig bin, wird abgedreht.

Was das Dateimanagement angeht, halte ich es unkompliziert. Ich lade die generierten Videos direkt über den Browser herunter und sichere sie anschließend in meinem Google Drive. So habe ich alles zentral an einem Ort und laufe nicht Gefahr, dass etwas verloren geht.

Die Zeitersparnis: Lohnt sich das?

Wenn der Pod läuft, zeigt sich der wahre Nutzen. Die reine Renderzeit verkürzt sich enorm. Hier ein direkter Vergleich für die Generierung eines 10-Sekunden-Clips (beachtet die unterschiedlichen Auflösungen!):

Hardware	Auflösung	Renderzeit	Anmerkung
RTX 3060 Ti (Lokal bei mir)	720p	ca. 20 Minuten	Mein Daily Driver
RTX 5070 Ti (Lokal bei Ascot Media)	720p	ca. 10 Minuten	Lokaler PC von Ascot Media
RTX 5090 (RunPod)	1080p	ca. 9 Minuten	Sehr schnell, aber da geht noch was!

Zukunftspläne: Qualität vs. Zeit

Momentan nutze ich die RTX 5090 in erster Linie zum Üben. Ich möchte sicherstellen, dass meine Workflows stabil laufen und ich die Mechaniken von ComfyUI komplett verinnerlicht habe.

Aber der eigentliche Plan für die Zukunft sieht anders aus: Wenn alles sitzt, will ich den Sprung von der 5090 auf eine absolute Monsterkarte wagen – eine RTX 6000 mit satten 96 GB VRAM. Erst dann sprechen wir wirklich von “brachialer Leistung”. Das Ziel ist es dann, nicht nur Zeit zu sparen, sondern das absolute Maximum an Qualität und Auflösung aus MiniMax H3 herauszuholen.

Mein Fazit: Trotz der teils hakeligen Einrichtung und der schwankenden Downloadraten ist RunPod für aufwendige Video-Workflows ein echter Gamechanger. Wer seine lokale Hardware schonen und in vernünftiger Zeit Ergebnisse sehen will, kommt an so einer Lösung kaum vorbei.