Lokale KI statt Cloud – daten­schutzkonform mit AnythingLLM

Der Einsatz von künstlicher Intelligenz (KI) hat in Unternehmen und öffentlichen Einrichtungen stark zugenommen. In der Praxis erfolgt die Nutzung meist über cloudbasierte Dienste internationaler Anbieter. Dabei stellt sich für Datenschutzbeauftragte (DSB) die Frage, wie es beim Umgang mit personenbezogenen und vertraulichen Daten aussieht.

Gelangen Dokumente, Protokolle oder Kundendaten in ein Cloud-System, verlassen sie in der Regel die eigene IT-Umgebung. Dies führt zu mehreren Problemen:

• Es ist oft unklar, in welchem Land oder unter welcher Rechtsordnung die Verarbeitung der Daten tatsächlich erfolgt.
• Es bestehen Risiken durch nachträgliche Zugriffe oder automatisierte Speicherung in den Trainingsdaten der Anbieter.
• Auftragsverarbeitungsverträge sind notwendig, deren Durchsetzung über Landesgrenzen hinweg ist in der Praxis schwer zu kontrollieren.
• Hinzu kommen regulatorische Anforderungen der Datenschutz-Grundverordnung (DSGVO), die ausdrücklich eine klare Zweckbindung, Datensparsamkeit und Transparenz einfordern.

Viele Cloud-Anbieter erfüllen diese Vorgaben nur eingeschränkt oder setzen umfangreiche vertragliche und organisatorische Maßnahmen voraus, die nicht jeder Verantwortliche zuverlässig bewerten kann.

Lokale KI als datenschutz­konforme Alternative

Vor diesem Hintergrund gewinnt die Idee lokaler KI-Lösungen an Bedeutung. Statt sensible Dokumente oder interne Daten in externe Rechenzentren zu übertragen, läuft die KI-Software direkt auf den eigenen Systemen. Das bedeutet, dass alle Daten vollst…