KI-Modelle sind praktisch – aber nicht jede Information gehört auf den Server eines fremden Anbieters. Die wichtigere Frage ist deshalb nicht „Welches Modell ist das beste?", sondern „Welche Daten gebe ich ihm?"
Meine Faustregel: Je sensibler deine Daten, desto näher sollte das Modell bei dir laufen. Bei öffentlichem Wissen passt fast alles. Bei Kundendaten, Personalakten oder Geschäftsgeheimnissen wird die Auswahl schnell klein.
Die Matrix
| Gratis-Version | Internationale API | EU-API (mit AVV) | Gemietete GPU | Eigene GPU | |
|---|---|---|---|---|---|
| Öffentliche Daten | ✓ ★ | ✓ ★ | ✓ ★ | ✓ | ✓ |
| Interne Firmendaten | ✕ | ! | ✓ | ✓ | ✓ ★ |
| Personenbezogene Daten (DSGVO) | ✕ | ✕ | ✓ | ✓ | ✓ ★ |
| Besonders sensibel (HR, Gesundheit, Geschäftsgeheimnisse) | ✕ | ✕ | ! | ! | ✓ ★ |
| Daten verlassen dein Haus | ja, ggf. fürs Training | ja, auch außerhalb der EU | ja, innerhalb der EU | ja, auf deinen Server | nein |
| Modellqualität | gut, aber limitiert | Spitzenklasse | sehr gut | gut (offene Modelle) | je nach Hardware |
| Kosten | gratis – du zahlst mit deinen Daten | pro Token | pro Token | pro Stunde / Monat | Hardware + Strom |
| Aufwand | keiner | keiner | gering | mittel | hoch |
| Typischer Einsatz | schnelle Fragen zu öffentlichem Wissen, Modelle ausprobieren | knifflige Programmierprobleme, Recherche zu öffentlichen Themen | Chat und Dokumente mit Kundendaten | große offene Modelle, lange Kontexte, Batch-Jobs | Mails, Dokumente, Automatisierung, Entscheidungen |
✓ passt · ! möglich – Verträge und Risiko prüfen · ✕ lieber nicht · ★ beste Wahl
Was das in der Praxis heißt
Die Gratis-Version eines Chatbots ist für öffentliches Wissen völlig in Ordnung. Für alles andere gilt: Wenn du nicht zahlst, zahlst du mit deinen Daten – sie können ins Training des nächsten Modells wandern.
Das gilt auch für den Copilot, der in Microsoft 365 schon dabei ist: Nur weil er im Abo inkludiert ist, ist er noch keine durchdachte Lösung für deine Daten. Betrachte ihn wie eine Gratis-Version – praktisch für Allgemeines, aber nichts für Kundendaten oder Interna, solange du nicht genau weißt, wo und wie sie verarbeitet werden.
Eine EU-API mit Auftragsverarbeitungsvertrag (AVV) deckt die meisten Firmenfälle ab, auch mit personenbezogenen Daten. Bei besonders sensiblen Daten solltest du die Verträge und das Risiko aber genau ansehen.
Ein lokales Modell auf eigener Hardware kann nicht mit den größten Modellen mithalten. Dafür verlassen die Daten dein Haus nie – und genau das zählt bei Mails, Dokumenten und internen Abläufen. Deshalb laufen meine eigenen Modelle lokal.
Die ausführliche Begründung (auf Englisch) steht in meinem Blog: Why I Run My Models Locally.
