Lokale KI
Lokale KI für den Mittelstand.
Ihre Daten bleiben im Haus. Ihre Abläufe werden schneller.
Ausgangslage
Viel Handarbeit, wenig Kontrolle.
So sieht es in vielen Büros heute aus.
Abläufe in Handarbeit
Werte aus Excel heraussuchen und anderswo eintragen, Ausschreibungen sichten, Fristen und Nachweise übertragen.
Schatten-KI
Die Mitarbeitenden nutzen längst ChatGPT und andere Dienste, oft privat und ohne Freigabe.
Daten bei US-Anbietern
Was hochgeladen wird, liegt beim Anbieter und fällt unter den CLOUD Act, auch wenn die Server in der EU stehen.
Pflicht zur KI-Kompetenz
Seit Februar 2025 müssen Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz ihrer Mitarbeitenden sorgen (AI Act, Art. 4).
Grundidee
KI, die privat bleibt.
Das KI-Modell läuft auf eigener Hardware in Ihrem Serverraum. Kein Text, kein Dokument und keine Kalkulation verlässt das Haus.
Alles auf eigener Hardware
Offene Modelle wie Qwen, DeepSeek oder Gemma laufen auf einem eigenen GPU-Server. Sie entscheiden, was läuft und wer Zugriff hat.
Ihre Daten bleiben im Haus
Verträge, Pläne, Kalkulationen: keine Uploads, keine Weitergabe an Dritte, kein Training mit Ihren Daten.
Unabhängig vom Anbieter
Keine Kosten pro Kopf, keine Preiserhöhungen per Mail. Modelle lassen sich jederzeit wechseln.
Einordnung: Offene Modelle sind 2026 bei Routinearbeit auf Augenhöhe mit der Cloud. Bei den schwersten Expertenfragen liegt die Cloud vorn; der Großteil der Büroarbeit ist aber Korrespondenz, Zusammenfassung und Abgleich.
Praxis
Was damit heute im Büro geht.
Fragen an Dokumente
„Wie hoch ist die Vertragsstrafe?“ Die Antwort kommt mit Quellenangabe.
Ausschreibungen auswerten
Das relevante Los erkennen, Fristen und Nachweise übernehmen.
Excel-Übertrag
Listen abgleichen, ergänzen und auf Plausibilität prüfen.
Leistungsverzeichnisse und GAEB
Leistungsverzeichnisse und GAEB-Dateien zusammenfassen und vergleichen.
Korrespondenz
Anschreiben, Protokolle und Berichte aus Vorlagen erstellen.
KI-Arbeitsplatz mit SSO
Chat im Browser für alle Mitarbeitenden, Anmeldung mit dem Firmenkonto.
Die Verantwortung bleibt beim Menschen. Die KI liefert Entwürfe.
Automatisierung
Die KI liest und versteht. Der Code schreibt. Der Mensch zeichnet gegen.
Was regelhaft ist, löst klassischer Code. Das Sprachmodell kommt nur dort zum Einsatz, wo Struktur fehlt: Freitext, PDFs, uneinheitliche Tabellen. Ergebnisse landen in einem eigenen Ausgabeordner, nie direkt in Ihren Originaldateien.
Laufzettel
Ein fest definierter Ablauf mit Stationen, erlaubten Werkzeugen und Ordnern.
Gegenzeichnung
Kein Ergebnis wird übernommen, bevor ein Mensch es freigibt.
Kontorbuch
Lückenloses Protokoll jedes Vorgangs, nachvollziehbar für Datenschutz und AI Act.
Leistung
Eine Grafikkarte mit 48 GB.
Das reicht für ein Büro mit 20–30 Arbeitsplätzen, denn nie erzeugen alle gleichzeitig eine Antwort.
Gemessen auf einer RTX PRO 5000 (48 GB) mit Qwen 3.8 27B.
Vorgehen
So arbeiten wir zusammen.
Workshop.
Ein halber Tag vor Ort an Ihren echten Dateien. Ergebnis: eine priorisierte Liste der Anwendungsfälle.
Pilot.
4–6 Wochen zum Festpreis: eine Automatisierung und der KI-Arbeitsplatz für 5–10 Testpersonen. Am Ende steht ein Go oder No-Go mit gemessenen Zahlen.
Rollout.
Zum Projekt-Festpreis: Server einrichten, Anmeldung per SSO, Wissensbasis und Automatisierung in den Betrieb bringen.
Betrieb.
Updates, Modellwechsel und Monitoring zur monatlichen Pauschale. Oder die Übergabe an Ihre IT.
Jede Stufe hat ein klares Ergebnis und einen festen Preis. Sie entscheiden nach jeder Stufe neu.
Nächster Schritt
Ein halber Tag an Ihren echten Abläufen.
Wir prüfen 2–3 Abläufe direkt an Ihren Dateien, live und lokal. Sie erhalten eine priorisierte Liste und ein Festpreis-Angebot für den Piloten.
