Open Source KI | Modelle, Lizenzen & EU AI Act | IT-Dock
Open Source KI ► ✓ Lizenzen von Llama bis Mistral ✓ Pflichten nach EU AI Act ✓ Erfahrungen aus dem lokalen Betrieb
Künstliche Intelligenz ist in Steuerkanzleien angekommen. Einer aktuellen Erhebung zufolge hatten bereits 91,6 Prozent der befragten Kanzleien Berührungspunkte mit KI.

Anzeige | Partnerbeitrag von SEQIS
Künstliche Intelligenz ist in Steuerkanzleien angekommen. Einer aktuellen Erhebung zufolge hatten bereits 91,6 Prozent der befragten Kanzleien Berührungspunkte mit KI. Systematisch eingesetzt wird sie allerdings deutlich seltener. Die Frage lautet also nicht mehr, ob eine Kanzlei KI einsetzt, sondern unter welchen Bedingungen sie das darf.
Und diese Bedingungen sind für Steuerberater strenger als für andere Unternehmen. Ein Auftragsverarbeitungsvertrag nach DSGVO genügt nicht, weil das Berufsrecht eigene Anforderungen stellt. Dieser Beitrag sortiert, was gilt, welche Werkzeuge Kanzleien heute nutzen und wo eine Frage offen bleibt, die bisher niemand beantwortet.
Der Alltag liegt hinter der Schlagzeile zurück. Eine Umfrage der Kanzleiberater Dongus Hospach Partner unter 154 Berufsträgern kam auf 34 Prozent, die mit den Grundlagen vertraut sind, und 15 Prozent, die KI aktiv einsetzen. Die Zahlen sind nicht repräsentativ, aber sie passen zum Bild: Viele probieren, wenige arbeiten systematisch damit.
Am weitesten ist die Automatisierung im Rechnungswesen. DATEV meldete im Juni 2026 über 100.000 Buchführungen und rund 7.400 Kanzleien im Automatisierungsservice Bank. Bei der fachlichen Arbeit sieht es anders aus. Carola Kluge, Steuerberaterin bei Kluge/Steinmüller, beschreibt das im Haufe-Magazin so: „Wir geben die gleichen Fragen manchmal in verschiedene KI-Anwendungen ein und erhalten gegensätzliche Antworten.“
Drei Regelwerke greifen gleichzeitig, und keines ersetzt ein anderes: das Berufsrecht, der Datenschutz und seit 2025 die KI-Verordnung.
Weil das Berufsrecht eine zweite Hürde aufbaut, die der Datenschutz nicht kennt. Ein Steuerberater ist zur Verschwiegenheit verpflichtet (§ 57 Abs. 1 StBerG), und ein Verstoß dagegen ist strafbar (§ 203 StGB). Wer Mandantendaten an einen externen Dienstleister gibt, braucht deshalb mehr als den üblichen Auftragsverarbeitungsvertrag.
§ 62a StBerG verlangt zusätzlich einen eigenen Vertrag, in dem sich der Dienstleister zur Verschwiegenheit verpflichtet. Beide Pflichten gelten nebeneinander, Absatz 8 der Vorschrift stellt das ausdrücklich klar. Der Steuerberater muss den Dienstleister außerdem sorgfältig auswählen und die Zusammenarbeit beenden, wenn die Anforderungen nicht erfüllt sind.
Wer die Einzelheiten braucht, findet die ausführlichste Aufarbeitung bei Ken Keiper, Steuerberater und Diplom-Finanzwirt, in seinem Beitrag zur KI-Compliance auf tax&bytes. Er erklärt dort unter anderem, warum ein Datenschutzvertrag bei einem GmbH-Mandat besonders wenig hilft: Die DSGVO schützt personenbezogene Daten natürlicher Personen, § 203 StGB schützt auch Betriebs- und Geschäftsgeheimnisse.
Bei mandatsbezogenen Dienstleistungen verlangt § 62a Abs. 5 StBerG die Einwilligung des Mandanten. Wer also ein konkretes Mandat durch eine KI bearbeiten lässt, braucht zweierlei: den Vertrag mit dem Anbieter und das Ja des Mandanten.
Die Linie verläuft dabei nicht zwischen den Werkzeugen, sondern zwischen den Daten. Für allgemeine Kanzlei-IT, die keine mandatsbezogenen Angaben verarbeitet, verlangt der FAQ-Katalog der Bundessteuerberaterkammer keine Einwilligung. Sobald Angaben in ein System gehen, die Rückschlüsse auf Mandant oder Mandat zulassen, braucht es die ausdrückliche Einwilligung — und sie sollte dokumentiert werden. Der Verzicht des Mandanten auf einzelne Anforderungen ist möglich, muss aber ausdrücklich erklärt werden (§ 62a Abs. 6 StBerG).
Der Mandant kann auf einzelne Anforderungen verzichten, muss das aber ausdrücklich tun. Von den Fachbeiträgen zum Thema greift diesen Absatz kaum einer auf, obwohl er im Alltag zuerst auffällt.
Wer hier eine Orientierung sucht: Die Bundessteuerberaterkammer hat im Januar 2026 einen FAQ-Katalog zu KI im steuerberatenden Berufsstand veröffentlicht.
Der Berufsträger. Für KI gibt es keine eigenen Haftungsregeln. Es gelten die allgemeinen Vorschriften über die Verletzung von Pflichten aus dem Beratungsvertrag (§§ 280 ff. BGB), und zwar genauso wie bei Fehlern von Mitarbeitern oder von Steuersoftware.
Daraus folgt eine Prüfpflicht. Der Berufsträger muss vorab beurteilen, ob ein System fachlich geeignet ist, und er darf dessen Ergebnisse nicht ungeprüft übernehmen. Je haftungsträchtiger ein Ergebnis, desto genauer muss die Kontrolle ausfallen. Fehler der KI entlasten den Berater nicht.
Wie nötig das ist, zeigt der Bericht von Florian Fischer, Steuerberater und Geschäftsführer der Fischer&Reimann Steuerberatungsgesellschaft: „Die Ergebnisse sahen auf den ersten Blick sehr gut aus, hielten aber der fachlichen Überprüfung nicht stand. Der zeitliche Vorteil ist dann nicht mehr so groß, beziehungsweise ist er sogar negativ, weil man dem Ergebnis von Chatbots noch nicht trauen kann.“
Eine gute Nachricht steht daneben: Bislang ist in Deutschland kein Fall öffentlich dokumentiert, in dem ein Steuerberater KI-erfundene Fundstellen bei einer Finanzbehörde oder einem Finanzgericht eingereicht hat. Aus der Anwaltschaft gibt es einen solchen Fall. Im Sommer 2025 reichte ein Rechtsanwalt beim Amtsgericht Köln einen weitgehend maschinell verfassten Schriftsatz ein, der nicht existierende Urteile und erfundene Literaturstellen enthielt. Vermutlich stammte er aus einem allgemeinen Sprachmodell ohne Zugriff auf eine juristische Datenbank. Genau davor warnt die Prüfpflicht.
Ein Punkt, der selten auftaucht und schnell geklärt ist: KI-bedingte Fehler sind nach Einschätzung der Bundessteuerberaterkammer in der Regel von der Berufshaftpflichtversicherung nach § 67 StBerG gedeckt, weil es Fehler bei der Berufsausübung bleiben. „In der Regel“ ist aber keine Zusage. Ein Anruf beim Versicherer klärt, ob der Schutz im konkreten Vertrag reicht und ob er Dokumentationspflichten daran knüpft.
Zwei, und beide betreffen Sie als Anwender.
Seit dem 2. Februar 2025 gilt die Pflicht zur KI-Kompetenz aus Artikel 4. Sie trifft jeden Arbeitgeber, der künstliche Intelligenz einsetzt, unabhängig von der Größe und unabhängig davon, ob es sich um ChatGPT oder um eine eigene Entwicklung handelt. Ihre Mitarbeitenden müssen verstehen, was das System leistet und wo es irrt. Die Europäische Kommission empfiehlt, Schulungen zu dokumentieren.
Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50. Die Steuerberaterkammer Hessen ordnet das entlastend ein: Bei KI-generierten Texten ist eine Kennzeichnung regelmäßig entbehrlich, sofern ein Mensch redaktionell prüft und die Verantwortung für die Veröffentlichung übernimmt. Beim Einsatz von Chatbots muss für den Nutzer erkennbar sein, dass er mit einem KI-System spricht.
Was die Verordnung von den Anbietern der Modelle verlangt, steht in unserem Beitrag zu Open Source KI.
In den Kanzleiberichten, die Haufe im Dezember 2025 zusammengetragen hat, zeigt sich ein Muster. KI trägt dort, wo viel Text oder viele Belege durchlaufen und ein Mensch am Ende prüft. Bei einer steuerrechtlichen Bewertung kommt sie an ihre Grenze.
| Aufgabe | Was die KI leistet | Wie viel Prüfung nötig bleibt |
|---|---|---|
| Belege erfassen und vorkontieren | liest Belege aus, schlägt Buchungen vor, lernt mit jeder Bestätigung | Stichprobe und Sonderfälle |
| Bescheide prüfen | vergleicht Bescheid mit Erklärung, markiert Abweichungen | vollständig bei allem, was zum Einspruch führt |
| Einspruch entwerfen | erstellt einen Entwurf aus Sachverhalt und Fundstellen | vollständig, Fundstellen einzeln |
| Fachlich recherchieren | findet Fundstellen, zerlegt komplexe Fragen | vollständig, inklusive Rechtsstand |
| Mandantenschreiben vorbereiten | formuliert aus freigegebenen Unterlagen | fachlich vollständig, sprachlich kaum |
| Lange Dokumente zusammenfassen | verdichtet Urteile, Prüfberichte, Gutachten | Abgleich mit dem Original |
| Eigene Unterlagen durchsuchen | beantwortet Fragen aus der Wissensbasis der Kanzlei | Quellenangabe kontrollieren |
Am zuverlässigsten läuft das Ausformulieren. Sobald eine steuerrechtliche Bewertung im Spiel ist, steigt der Nacharbeitsbedarf deutlich, und der Zeitvorteil schrumpft.
Fünf Aufgaben sollten beim Berufsträger bleiben:
Der Deutsche Steuerberaterverband hat im Januar 2026 elf Anwendungen für den Steuerbereich erfasst, zehn davon im Betrieb und eine in der Pilotphase. Sechs Zahlen daraus helfen bei der Vorauswahl:
decken alle vier Einsatzbereiche ab, also Recherche, Fallbearbeitung, Dokumentenanalyse und Mandantenkorrespondenz
sind Bestandteil einer Anwendung, die die Kanzlei schon hat
durchsuchen das Internet
erlauben es, die Quellen vorab einzugrenzen
gaben an, Kanzleidaten nicht für das Training zu verwenden
bieten eine kostenlose Testphase, 6 verlangen eine Mindestlaufzeit von bis zu sechs Monaten
Die Preise reichen von unter 61 Euro bis 232 Euro pro Nutzer und Monat. Der Verband weist ausdrücklich darauf hin, dass alle Angaben aus Anbieterfragebögen stammen und ohne Gewähr sind.
Für die Entscheidung hilft es, fünf Kategorien zu unterscheiden, weil sie verschiedene Aufgaben erfüllen und die Daten an verschiedenen Orten liegen.
| Kategorie | Beispiele | Aufgabe | Wo die Daten liegen |
|---|---|---|---|
| Recherche-KI der Fachverlage | Haufe CoPilot Tax, NWB KIRA, juris SteuerPraxis KI, Deubner Tax KI | Antworten mit Fundstellen aus der Verlagsdatenbank | Cloud des Anbieters, meist EU |
| KI im DATEV-Umfeld | DATEV KI-Werkstatt, DATEV Copilot, LEXinform plus | Recherche und Automatisierung im gewohnten System | DATEV-Cloud |
| Belegautomatisierung | Finmatics, milia.io | Belege auslesen, Buchungsvorschläge erzeugen | Cloud des Anbieters, Export ins Rechnungswesen |
| Allgemeine Assistenten | ChatGPT, Microsoft Copilot | Texte, Zusammenfassungen, Auswertungen | Cloud des Anbieters, teils außerhalb der EU |
| Kanzleieigene Systeme | eigene Instanz im Haus | frei konfigurierbar, an die eigene Wissensbasis angebunden | im eigenen Netzwerk |
Bei der vierten Zeile lohnt ein zweiter Blick. Allgemeine Assistenten sind am einfachsten verfügbar und am schwierigsten zu rechtfertigen, weil der Anbieter meist keinen Verschwiegenheitsvertrag für Berufsgeheimnisträger bereitstellt. Wer sie nutzt, sollte Mandantendaten vorher anonymisieren oder abstrakt fragen.
Kein zusätzliches System ersetzt DATEV. Buchführung und Datenhaltung bleiben dort, wo sie sind, und jedes weitere Tool muss sich in diese Umgebung einfügen. Sonst bleibt es nach vier Wochen liegen.
Sinnvoll ist die Frage nach der Arbeitsteilung. Die Fachsoftware führt die Bücher. Eine Recherche-KI liefert Fundstellen. Ein kanzleieigenes System kann Prozesse übernehmen, die quer zu den Systemen liegen, etwa das Durchsuchen eigener Unterlagen oder das Vorbereiten von Schreiben. Wer mit DATEV oder ADDISON arbeitet, prüft zuerst die eingebauten Funktionen des Kernsystems und ergänzt erst danach.
§ 62a StBerG knüpft an einen Dienstleister an, dem der Steuerberater Zugang zu geschützten Tatsachen eröffnet. Wer ein Sprachmodell im eigenen Netzwerk betreibt, gibt zunächst niemandem Zugang. Damit stellt sich die Frage, ob und in welchem Umfang die Vertragspflicht überhaupt greift.
Beantwortet ist das nicht. Wir haben dazu weder eine gerichtliche Entscheidung noch eine Verlautbarung der Kammern gefunden, und die Fachbeiträge zum Thema behandeln durchweg das Auslagern an einen Anbieter, nicht den Eigenbetrieb. Klar ist außerdem: Wer ein fertiges System kauft, bekommt Support, Updates und möglicherweise Fernwartung. Für diesen Teil bleibt ein Dienstleister im Spiel, und dafür gelten die Anforderungen weiter. Der Eigenbetrieb verkleinert die Frage also, er löst sie nicht.
Wer darüber nachdenkt, sollte die Frage mit seiner Kammer oder einem Fachanwalt klären, bevor er entscheidet. Was der Eigenbetrieb technisch bedeutet, lässt sich dagegen beschreiben.
Die SEQIS Group hat daraus den razzfazz.ai Stack entwickelt. Im Einsatz sind ausschließlich offene Modelle im GGUF-Format, ausgeführt über llama.cpp. Welches Modell konkret arbeitet, ist eine Konfigurationsentscheidung und ändert sich mit dem Markt — die Bauform bleibt dieselbe. Dazu kommen eine Anbindung an die eigenen Dokumente und eine Websuche, die Anfragen neutralisiert, bevor sie das Netzwerk verlassen. Für eine Kanzlei heißt das: Die Frage nach der Bonität eines Mandanten geht als allgemeine Frage nach dem Unternehmen hinaus, die eigentliche Auswertung passiert im Haus.
Wie weit sich ein solches System abschotten lässt, zeigt ein Beispiel aus einem anderen regulierten Bereich. Bei einem Finanzdienstleister läuft die Sachbearbeitung ohne Verbindung nach außen; Aktualisierungen kommen über einen kontrollierten Weg herein. Die Forderung dahinter kennt jede Kanzlei: Die Unterlagen dürfen das Haus nicht verlassen, und das muss nachweisbar sein.
Zwei Grenzen gehören dazu. Kleinere lokale Modelle erreichen die Qualität großer Cloud-Modelle nicht, und für die fachliche Recherche im Steuerrecht braucht es eine Fachdatenbank, die ein allgemeines Sprachmodell nicht mitbringt. Seine Stärke spielt ein lokales Modell aus, wenn es die eigenen Unterlagen der Kanzlei durchsucht und verdichtet.
Der Betrieb kostet Arbeit. Ein solcher Stack besteht aus rund 50 Open-Source-Projekten, die jemand im Blick behalten muss. Wer selbst betreibt, übernimmt diese Aufgabe, wer ein fertiges System kauft, gibt sie ab.
Was der Eigenbetrieb nicht abgibt, ist die Verantwortung. Melanie Gau, Senior Consultant bei SEQIS, beschreibt die Rollenverteilung so: „Der, der mir einen Kühlschrank verkauft, will auch nicht sehen, was ich in meinen Kühlschrank tue.“ Berufsrechtlich zählt allerdings die schärfere Variante: Es geht nicht darum, ob ein Anbieter hineinsehen will, sondern ob er es kann. § 62a StBerG knüpft an die Möglichkeit des Zugangs an. Genau deshalb ist es ein Unterschied, ob Unterlagen zu einem Anbieter wandern oder ob das Modell dorthin kommt, wo die Unterlagen ohnehin liegen.
Für die Governance-Seite arbeiten bei SEQIS nach ISO/IEC 42001 zertifizierte Auditor:innen für KI-Managementsysteme: “Wir begleiten Kanzleien beim Aufbau eines eigenen Managementsystems. Eines nimmt Ihnen dabei kein Anbieter ab: Die Pflicht zur KI-Kompetenz aus Artikel 4 trifft Sie als Arbeitgeber und bezieht sich auf Ihre eigenen Mitarbeitenden. Was ein Dienstleister beitragen kann, ist die Schulung selbst und ihre Dokumentation — die Verantwortung dafür, dass sie stattfindet, bleibt in der Kanzlei.”
Wie die Box aufgebaut ist, welche Betriebsarten es gibt und was sie kostet, steht auf der Produktseite zu razzfazz.ai.
Es gibt sie nicht. Für die fachliche Recherche passt ein Angebot der Fachverlage mit Fundstellen, für die Belegverarbeitung ein spezialisierter Dienst, für eigene Unterlagen ein kanzleieigenes System. Die Frage lautet eher, welche Aufgabe Sie zuerst lösen wollen.
Ohne Einwilligung des Mandanten und ohne passenden Vertrag nicht. Der FAQ-Katalog der Bundessteuerberaterkammer warnt bei öffentlich zugänglichen Systemen grundsätzlich vor Eingaben, die Rückschlüsse auf Mandanten zulassen.
Nein. Und selbst wenn es zutrifft, reicht es für eine Kanzlei nicht, weil das Berufsrecht zusätzlich einen Verschwiegenheitsvertrag verlangt.
Bei mandatsbezogener Nutzung brauchen Sie ohnehin die Einwilligung. Unabhängig davon empfiehlt sich eine Regelung im Beratungsvertrag, bevor die KI wesentliche Arbeitsschritte übernimmt.
Die Angaben schwanken stark, je nachdem, ob nach Einsatz oder nach systematischer Nutzung gefragt wird. Die Spanne reicht von 15 bis über 90 Prozent.
Nach den Praxisberichten derzeit nicht. Sie entlastet bei Routine und liefert Entwürfe. Die fachliche Bewertung und die Freigabe bleiben beim Berufsträger, auch weil die Haftung dort bleibt.
Die vom Steuerberaterverband erfassten Anwendungen liegen zwischen unter 61 und 232 Euro pro Nutzer und Monat. Bei kanzleieigenen Systemen verschiebt sich die Rechnung von der Lizenz zur Hardware und zur Arbeitszeit.
Nehmen Sie einen Prozess, der oft anfällt und wenig Schaden anrichtet, wenn das Ergebnis nachbearbeitet werden muss. Standardkorrespondenz eignet sich, Bescheidprüfung auch.
Klären Sie vorher zwei Dinge: ob der Anbieter einen Verschwiegenheitsvertrag für Berufsgeheimnisträger anbietet, und ob Ihre Berufshaftpflicht den Einsatz abdeckt. Beides kostet zwei Telefonate und erspart später viel.
Für den Test selbst hat der Steuerberaterverband ein Vorgehen vorgeschlagen: vier Wochen Laufzeit, ein Team von zwei bis fünf Personen und drei konkrete Fälle, an denen sich das Ergebnis beurteilen lässt. Nach zwei Wochen eine Zwischenbewertung, nach vier Wochen die Entscheidung. Messen Sie dabei vier Dinge: die gesparte Zeit, die Zitierfähigkeit der Ergebnisse, den Umfang der Nacharbeit und die Akzeptanz im Team.
Wer nach vier Wochen niemanden im Team hat, der freiwillig damit arbeitet, hat das falsche Tool oder die falsche Aufgabe gewählt.
razzfazz.ai bringt Sprachmodelle, Kanzleidokumente und KI-Workflows in eine Umgebung, die im eigenen Netzwerk betrieben werden kann. Wie das technisch funktioniert und welche Betriebsmodelle möglich sind, zeigt die Produktseite.
Stand: 18. September 2026. Rechtliche Angaben geben den Stand zum Zeitpunkt der Veröffentlichung wieder und ersetzen keine Beratung im Einzelfall.
Kommentare (0)
Noch keine Kommentare vorhanden.