Entscheidungshilfe

Welche KI für welche Daten?

KI-Modelle sind praktisch – aber nicht jede Information gehört auf den Server eines fremden Anbieters. Die wichtigere Frage ist deshalb nicht „Welches Modell ist das beste?", sondern „Welche Daten gebe ich ihm?"

Meine Faustregel: Je sensibler deine Daten, desto näher sollte das Modell bei dir laufen. Bei öffentlichem Wissen passt fast alles. Bei Kundendaten, Personalakten oder Geschäftsgeheimnissen wird die Auswahl schnell klein.

Die Matrix

Gratis-VersionInternationale APIEU-API (mit AVV)Gemietete GPUEigene GPU
Öffentliche Daten✓ ★✓ ★✓ ★✓✓
Interne Firmendaten✕!✓✓✓ ★
Personenbezogene Daten (DSGVO)✕✕✓✓✓ ★
Besonders sensibel (HR, Gesundheit, Geschäftsgeheimnisse)✕✕!!✓ ★
Daten verlassen dein Hausja, ggf. fürs Trainingja, auch außerhalb der EUja, innerhalb der EUja, auf deinen Servernein
Modellqualitätgut, aber limitiertSpitzenklassesehr gutgut (offene Modelle)je nach Hardware
Kostengratis – du zahlst mit deinen Datenpro Tokenpro Tokenpro Stunde / MonatHardware + Strom
Aufwandkeinerkeinergeringmittelhoch
Typischer Einsatzschnelle Fragen zu öffentlichem Wissen, Modelle ausprobierenknifflige Programmierprobleme, Recherche zu öffentlichen ThemenChat und Dokumente mit Kundendatengroße offene Modelle, lange Kontexte, Batch-JobsMails, Dokumente, Automatisierung, Entscheidungen

✓ passt · ! möglich – Verträge und Risiko prüfen · ✕ lieber nicht · ★ beste Wahl

Was das in der Praxis heißt

Die Gratis-Version eines Chatbots ist für öffentliches Wissen völlig in Ordnung. Für alles andere gilt: Wenn du nicht zahlst, zahlst du mit deinen Daten – sie können ins Training des nächsten Modells wandern.

Das gilt auch für den Copilot, der in Microsoft 365 schon dabei ist: Nur weil er im Abo inkludiert ist, ist er noch keine durchdachte Lösung für deine Daten. Betrachte ihn wie eine Gratis-Version – praktisch für Allgemeines, aber nichts für Kundendaten oder Interna, solange du nicht genau weißt, wo und wie sie verarbeitet werden.

Eine EU-API mit Auftragsverarbeitungsvertrag (AVV) deckt die meisten Firmenfälle ab, auch mit personenbezogenen Daten. Bei besonders sensiblen Daten solltest du die Verträge und das Risiko aber genau ansehen.

Ein lokales Modell auf eigener Hardware kann nicht mit den größten Modellen mithalten. Dafür verlassen die Daten dein Haus nie – und genau das zählt bei Mails, Dokumenten und internen Abläufen. Deshalb laufen meine eigenen Modelle lokal.

Die ausführliche Begründung (auf Englisch) steht in meinem Blog: Why I Run My Models Locally.

Klingt nach einem Thema, das dich gerade beschäftigt? Lass uns darüber reden.

Kontakt aufnehmen

← Alle Impulse