Tootfinder

Opt-in global Mastodon full text search. Join the index!

@tomkalei@machteburch.social
2026-05-15 21:25:09

Ich habe noch etwas rumprobiert mit pi.dev und den NVIDIA Tesla V100, die ich neulich entdeckt hatte.
Das sind zwei Grafikkarten von ca. 2019, also schon ordentlich alt, aber mit einer guten RAM Austattung von 32GB / Karte. Darauf habe ich mal das Model gemma4-31B von Deepmind durch verschiedene Prompts geschickt.
tl;dr: Damit kann man arbeiten aber das eigene Hosting kostet ca. 10x so viel wie #OpenRouter.
1/n 🧵