On-Premise-KI vs. Cloud-KI: Was für Kanzleien besser ist
Der Kernunterschied: Bei Cloud-KI werden Ihre Dokumente auf fremden Servern verarbeitet und die Vertraulichkeit wird vertraglich zugesichert. Bei On-Premise-KI steht der Server in Ihren Räumen, die Dokumente verlassen das Haus nie, die Vertraulichkeit ist physisch garantiert, nicht versprochen. Für die meisten Unternehmen ist Cloud völlig ausreichend. Für Berufsgeheimnisträger wie Steuerberater und Anwälte, die für fremde Geheimnisse haften, kehrt sich die Abwägung häufig um.
Dieser Vergleich stellt beide Modelle entlang von fünf Kriterien gegenüber: Datenweg, Kosten, Leistung, Wartung und Kontrollierbarkeit. Dazu kommt der Hybridweg, der auf dem Papier nach dem Besten aus beiden Welten klingt und im Kanzleialltag seine eigenen Tücken hat. Die Nachteile beider Modelle stehen ungeschönt dabei, auch die des eigenen Servers.
Datenschutz und Verschwiegenheit: der strukturelle Unterschied
Cloud-KI kann DSGVO-konform betrieben werden: EU-Rechenzentrum, AV-Vertrag, kein Training auf Eingaben. Aber die Konformität hängt an Verträgen, Unterauftragnehmerketten und daran, dass sich jeder Mitarbeiter jeden Tag an die Eingaberegeln hält. Bei US-Anbietern bleibt der CLOUD Act als Restrisiko bestehen.
On-Premise dreht die Logik um: Es gibt keinen technischen Weg, auf dem eine Akte die Kanzlei verlassen könnte, keine Einstellung, die man falsch setzen kann, keinen Dritten, dem man vertrauen muss. Für die Verschwiegenheitspflicht nach § 80 WTBG 2017 bzw. § 9 RAO ist das der strukturell sauberste Zustand. Ausführlich im Beitrag KI, DSGVO und Verschwiegenheitspflicht.
Zur Ehrlichkeit gehört: Auch ein Server im eigenen Haus muss abgesichert sein, gegen Einbruch, Feuer und unbefugten Zugriff aus dem eigenen Netz. Der Vorteil beim Datenweg ist strukturell, er ersetzt aber keine Grundsicherung. Er nimmt nur die Fragen weg, die eine Kanzlei ohnehin nicht selbst beantworten kann: Wo genau steht der Server, wer hat dort Zugriff, was passiert mit den Eingaben.
Kosten: Mietlogik gegen Anschaffungslogik
Cloud-Assistenten folgen einer Mietlogik: laufende Zahlung pro Nutzer oder pro Nutzung, niedrige Einstiegsschwelle, dauerhafte Abhängigkeit. Typisch sind 20-90 Euro pro Nutzer und Monat. Eine Kanzlei mit 15 Arbeitsplätzen zahlt so schnell 5.000-15.000 Euro pro Jahr, dauerhaft, mit Preiserhöhungen und ohne Eigentum an irgendetwas.
On-Premise folgt einer Anschaffungslogik: einmalige Investition in Server-Hardware und Einrichtung plus eine laufende Betreuungspauschale mit inkludierten Nutzern. Die Kosten hängen kaum an der Nutzungsintensität, unbegrenzt viele Dokumente kosten nicht extra, und die Hardware gehört der Kanzlei.
Der häufigste Fehler beim Vergleich: Einstiegspreis gegen Anschaffung zu stellen. Vergleichbar werden die beiden Logiken erst über denselben Zeitraum, sinnvoll sind drei bis fünf Jahre. Wer täglich mit mehreren Personen arbeitet, zahlt in der Mietlogik jeden Monat erneut für dieselbe Leistung, während sich die Anschaffung über die Jahre glättet. Wer KI erst gelegentlich erproben will, fährt mit der Mietlogik flexibler. Die Rechnung im Detail steht in Was kostet KI in der Kanzlei.
Leistung: Wo Cloud ehrlich gewinnt
Die größten Cloud-Modelle sind lokalen Modellen bei offener Kreativarbeit und sehr komplexem Schlussfolgern weiterhin überlegen. Wer vor allem Marketingtexte, Übersetzungen oder Brainstorming braucht, fährt mit Cloud besser.
Für den Kanzlei-Anwendungsfall, Fragen gegen die eigenen Akten und den Gesetzesbestand beantworten, mit Quelle, ist diese Überlegenheit aber weitgehend irrelevant: Hier entscheidet die Qualität der Dokumentensuche (Retrieval) und die Quellenbindung, nicht die letzte Stufe an Modellgröße. Moderne lokale Modelle beantworten quellgebundene Fragen auf sehr hohem Niveau, und sagen bei fehlender Quelle offen, dass die Antwort nicht im Bestand steht.
Wartung und Ausfallsicherheit: das unterschätzte Kriterium
Cloud punktet mit Null-Wartung, das ist ihr stärkstes Alltagsargument. Updates, Modellwechsel und Sicherheitspatches passieren im Hintergrund. Die Kehrseite dieser Bequemlichkeit: Sie passieren auch ungefragt. Ein Modellwechsel kann das Antwortverhalten verändern, ohne dass die Kanzlei zugestimmt hätte, Funktionen können verschwinden, Dienste abgekündigt werden. Was das im Ernstfall bedeutet, steht in Wenn der KI-Anbieter ausfällt.
On-Premise braucht dagegen einen definierten Wartungsweg: jemanden, der Updates einspielt, die Hardware im Blick behält und bei Problemen erreichbar ist, realistisch ein betreuender Dienstleister mit klar begrenztem Zugriff. Für eine Kanzlei ohne eigene IT heißt das ehrlich: Ohne Betreuungspartner, der diese Verantwortung vertraglich übernimmt, wird der eigene Server zur Belastung. Selbstbau mit offenen Modellen ist technisch möglich, kostet aber Zeit und Nerven, die im Kanzleialltag niemand übrig hat.
Bei der Ausfallsicherheit tauschen die Modelle die Rollen. Cloud hängt an der Internetverbindung und an der Betriebslage des Anbieters, der eigene Server hängt an der eigenen Hardware. Geht er kaputt, braucht es einen Wartungsweg und im besten Fall eine Ersatzteillogik. Dafür lässt ein Netzausfall im Bezirk die Arbeit im Haus unberührt, für Kanzleien in Tirol und Westösterreich mit schwankender Leitungsqualität ein Argument, das erst im Ernstfall auffällt. Wer On-Premise erwägt, sollte den Betreuungsvertrag deshalb genauso kritisch prüfen wie die Technik.
Kontrollierbarkeit: wie kurz ist Ihre Erklärkette?
Kontrollierbarkeit heißt: Können Sie einem Mandanten, der Kammer oder der Datenschutzbehörde in klaren Worten erklären, was mit den Daten passiert? Bei On-Premise ist die Antwort kurz, denn Verarbeitung und Speicherung finden an einer einzigen Adresse statt, nämlich Ihrer eigenen.
Bei Cloud-KI ist die Antwort eine Kette: Anbieter, Unterauftragnehmer, Rechenzentrumsstandorte, Vertragswerke, Zertifizierungen. Diese Kette kann sauber dokumentiert sein, aber sie bleibt eine Kette, deren Glieder sich ändern können, ohne dass die Kanzlei gefragt wird. Mit dem EU AI Act kommt eine Regulierungsebene dazu, die Transparenz- und Dokumentationsanforderungen weiter konkretisiert. Je kürzer die Erklärkette, desto leichter fällt jede künftige Rechenschaft.
Auch hier die Gegenrechnung: Kontrolle bedeutet Verantwortung. Wer selbst betreibt, kann sich bei Problemen nicht auf einen Großanbieter hinausreden. Für die eine Kanzlei ist genau das ein Argument dafür, für die andere eines dagegen.
Der hybride Weg und seine Tücken
Zwischen den Reinformen gibt es Mischmodelle, und sie klingen nach dem Besten aus beiden Welten: unkritische Aufgaben in der Cloud, Vertrauliches lokal. In der Praxis steht und fällt das Modell mit einer Frage, die gern übersehen wird: Wer entscheidet im Alltag, welche Aufgabe unkritisch ist?
Liegt diese Entscheidung bei jedem Mitarbeiter in jedem Einzelfall, wandert im Zweifel zu viel in die Cloud, weil der bequeme Weg gewinnt. Ein tragfähiges Hybridmodell braucht deshalb harte, einfache Trennregeln, etwa: Alles mit Aktenbezug bleibt ausnahmslos im Haus, die Cloud ist nur für Texte ohne jeden Mandatszusammenhang zugelassen. Solche Regeln gehören schriftlich in die KI-Richtlinie der Kanzlei, nicht ins mündliche Bauchgefühl.
Für kleine und mittlere Kanzleien ist die Einschätzung nüchtern: Zwei Systeme bedeuten doppelte Regelwerke, doppelte Schulung und doppelte Fehlerquellen. Der Hybridweg lohnt sich erst, wenn beide Seiten einen klaren, häufigen Anwendungsfall haben. Sonst ist ein einziges, sauber gewähltes Modell mit klaren Regeln die robustere Lösung.
Entscheidungshilfe: fünf Fragen
Die Wahl lässt sich auf fünf Fragen verdichten:
- Soll die KI vertrauliche Mandantenakten sehen? Wenn ja, spricht das stark für on-premise.
- Wie groß ist das Team? Ab etwa 5-10 intensiven Nutzern kippt die Kostenrechnung Richtung eigener Server.
- Gibt es Betreuung? On-Premise ohne Wartungspartner ist keine gute Idee, mit ist es unaufwendig.
- Wie kurz muss die Erklärkette sein? Je öfter Sie den Datenweg gegenüber Mandanten, Kammer oder Behörde begründen müssen, desto teurer wird jedes zusätzliche Kettenglied.
- Was erwarten die Mandanten? „Ihre Daten verlassen unser Haus nicht“ ist auch ein Vertrauens- und Marketingargument.
Die Entscheidung entlang Ihrer Kanzlei
Einen Sieger für alle Fälle gibt es nicht, aber klare Zuordnungen. Wer regelmäßig mit Mandantendaten arbeiten will und Wert auf eine kurze Erklärkette legt, landet bei sauberer Prüfung meist beim eigenen Server mit vertraglich gesicherter Betreuung. Wer KI zunächst nur für unkritische Texte ohne Mandatsbezug erproben will, kann mit einem Cloud-Dienst und strengen Eingaberegeln starten. Genau diese Kategorie bauen wir bei Verlass für Kanzleien in Tirol und Westösterreich, und die Empfehlung lautet trotzdem: Lassen Sie sich Zusagen zum Datenweg und zur Betreuung schriftlich geben, bei jedem Anbieter.
Unvertretbar ist nur die dritte Variante, die in der Praxis am häufigsten vorkommt: Cloud-Dienste im Alltag zu nutzen, ohne den Datenweg je geprüft zu haben. Wo Ihre Kanzlei heute steht, klärt der Kanzlei-Check in zehn Fragen und drei Minuten, mit Ergebnis sofort.
Häufige Fragen
Was bedeutet On-Premise-KI genau?
On-Premise-KI (auch lokale KI) läuft vollständig auf Hardware in den eigenen Räumen: Sprachmodell, Dokumentenindex und alle Daten bleiben im Haus. Es besteht keine Verbindung zu externen KI-Diensten, das System funktioniert auch ohne Internet.
Ist lokale KI schlechter als ChatGPT?
Bei offener Kreativarbeit sind die größten Cloud-Modelle besser. Beim Kanzlei-Anwendungsfall, also Antworten aus den eigenen Akten und Gesetzen mit Quellenbeleg, entscheidet die Dokumentensuche, nicht die Modellgröße. Dort arbeiten moderne lokale Modelle auf sehr hohem Niveau und haben den Vorteil, dass sie an den Bestand gebunden sind statt zu raten.
Was kostet eine On-Premise-KI für eine Kanzlei?
Einmalig die Server-Hardware und Einrichtung (typisch im niedrigen bis mittleren fünfstelligen Bereich, je nach Größe) plus eine monatliche Betreuungspauschale. Dem stehen entfallende Cloud-Abos von oft 5.000-15.000 Euro jährlich gegenüber, ab mittlerer Teamgröße amortisiert sich der eigene Server in wenigen Jahren.
Braucht der KI-Server in der Kanzlei Internet?
Nein, für den Betrieb nicht. Antworten entstehen vollständig lokal aus dem indexierten Bestand. Internet wird nur punktuell benötigt, etwa für Updates des Gesetzesindex, und auch das lässt sich kontrolliert gestalten.
Wer wartet eine lokale KI in einer Kanzlei ohne eigene IT?
Ein betreuender Dienstleister, vertraglich und mit klar begrenztem Zugriff. Das ist kein Nebenaspekt, sondern die Bedingung, unter der lokaler Betrieb überhaupt sinnvoll ist: Updates, Hardware-Überwachung und Erreichbarkeit im Störfall müssen benannt und geschuldet sein. Prüfen Sie den Betreuungsvertrag so kritisch wie die Technik selbst.
Ist ein Hybridmodell aus Cloud und lokaler KI sinnvoll?
Nur mit harten Trennregeln. Die entscheidende Frage ist, wer im Alltag beurteilt, welche Aufgabe unkritisch ist. Ohne schriftliche Regel, etwa „alles mit Aktenbezug bleibt im Haus“, wandert im Zweifel zu viel in die Cloud. Für kleinere Kanzleien bedeuten zwei Systeme doppelte Schulung und doppelte Fehlerquellen, ein sauber gewähltes Einzelmodell ist dann robuster.