KI im Unternehmen einführen —
der pragmatische 4-Schritte-Plan.

Worum es geht: KI im Mittelstand scheitert selten an Technik — fast immer am Vorgehen. Zu groß starten, ohne klaren Use Case, ohne Erfolgskriterien, ohne Datenschutz-Konzept. Dieser Ratgeber zeigt den 4-Schritte-Plan, mit dem KMU heute KI sauber einführen: ohne eigene IT-Abteilung, mit überschaubarem Geschäftsführer-Aufwand, und mit Ergebnissen, die nach 6–8 Wochen sichtbar sind.

Der häufigste Fehler — und wie Sie ihn vermeiden

Viele Mittelständler steigen falsch ein: „Wir machen mal was mit KI." Dann startet ein Workshop, eine Ideen-Sammlung, eine Anbieter-Suche — und am Ende ist ein Jahr vergangen, ein Konzept liegt in der Schublade, geliefert wurde nichts. Der bessere Einstieg ist umgekehrt: Eine konkrete schmerzhafte Routine wählen, in 4–8 Wochen einen kleinen Workflow live bringen, lernen, und dann weiter ausrollen.

Das ist der Kern des 4-Schritte-Plans: kleinster sinnvoller Erstanlauf statt großes Konzept.

Schritt 1: Den richtigen ersten Use Case finden (Woche 1)

Drei Filter helfen, den richtigen Einstiegs-Use-Case zu finden:

Filter	Frage	Idealer Wert
Häufigkeit	Wie oft pro Woche fällt die Aufgabe an?	Mindestens 5×, besser täglich
Klarheit der Regeln	Lässt sich die Aufgabe in „wenn-dann"-Regeln beschreiben?	Ja, mit max. 5 Ausnahmen
Datenverfügbarkeit	Sind die nötigen Daten heute schon digital?	Ja, in einem oder zwei Systemen
Frust-Faktor	Würde Ihr Team feiern, wenn die Aufgabe weg wäre?	Ja, deutlich
Sichtbarkeit	Merken Sie den Erfolg innerhalb von 4–6 Wochen?	Ja, in Stunden oder Klarheit

Use Cases, die alle fünf Filter passieren, sind die richtigen ersten Kandidaten. Typische Treffer im Mittelstand: Belegerfassung, E-Mail-Klassifikation, Angebots-Nachfass, Termin-Koordination. Was Sie zuerst nicht angehen sollten: alles mit kreativem Content (Texte schreiben), alles mit komplexer Verhandlung (Vertragsverhandlungen), alles mit emotionaler Sensibilität (Beschwerde-Eskalation auf höchster Ebene).

Schritt 2: Den richtigen Anbieter wählen (Woche 1–2)

In Deutschland gibt es heute drei grundsätzliche Anbieter-Kategorien für KI-Einführung im Mittelstand. Jede mit ihren Stärken und Risiken:

2.1 Große Beratung mit SAP-Anbindung

• Stärke: tiefe Integration in bestehende SAP-Landschaft, Methodik aus Großkonzernen
• Risiko: für KMU oft überdimensioniert, lange Vorlaufzeit, hoher Festpreis
• Eignung: ab ca. 250 Mitarbeitern aufwärts

2.2 Spezialisierte KI-Agentur

• Stärke: auf KMU zugeschnitten, schneller Go-Live (Wochen statt Monate), direkter Draht zu den Gründern
• Risiko: Anbieter-Qualität streut stark — auf Referenzen aus der eigenen Branche achten
• Eignung: 5–250 Mitarbeiter, klarer Use Case

2.3 SaaS-Tool zum Selbst-Konfigurieren

• Stärke: günstig im Einstieg, schnell ausprobierbar
• Risiko: Sie sind verantwortlich für Anbindung, DSGVO-Konfiguration, Wartung — versteckter interner Aufwand
• Eignung: wenn Sie technisch affines Personal haben oder einen sehr abgegrenzten Use Case

Welche fünf Fragen Sie jedem Anbieter stellen sollten, bevor Sie unterschreiben:

1. Welche vergleichbaren Projekte haben Sie in den letzten 12 Monaten in meiner Branche umgesetzt? (Konkrete Namen oder Anonymisierung, aber keine vagen „bei einem Kunden")
2. Wo läuft die KI — deutsches Rechenzentrum oder US-Cloud? Welches Modell genau?
3. Bekomme ich die Workflow-Definitionen am Ende als Export? (Vendor-Lock-in vermeiden)
4. Welche AVV-Vorlage und welches Datenfluss-Diagramm gehören standardmäßig zur Einrichtung?
5. Wie lange dauert es vom Erstgespräch bis Festpreisangebot? (24–48 Stunden ist Standard)

Schritt 3: Pilot fahren, nicht Wasserfall (Woche 3–6)

Der dritte Schritt ist der entscheidende: Statt monatelang ein Konzept zu schreiben, geht ein kleiner Workflow innerhalb von 2–6 Wochen live. In der Praxis sieht das so aus:

1. Kick-off-Workshop (1–2 Stunden): Sie und der Anbieter definieren die genauen Spielregeln des Workflows. Welche E-Mail in welche Kategorie? Welcher Beleg an welches Konto? Welche Eskalation an wen?
2. Anbindung der Systeme (parallel, durch Agentur): Verbindung zu E-Mail, Buchhaltung, CRM. Mit minimalen Zugriffsrechten.
3. Test-Phase (1–2 Wochen): Der Workflow läuft im „Schatten-Modus" — er bereitet Aktionen vor, aber sendet/bucht nicht autonom. Sie geben frei oder korrigieren.
4. Lern-Phase (1–2 Wochen): Aus jeder Korrektur lernt die KI-Komponente. Treffsicherheit steigt typischerweise von 70 % auf über 95 %.
5. Vollbetrieb mit Sicherheits-Modi: Standardfälle laufen vollautomatisch, Sonderfälle bleiben in Ihrem Entscheidungs-Bereich.

Wichtig in dieser Phase: messen, was sich verändert. Vor dem Pilot eine Stunden-Schätzung machen („wir verbrauchen pro Woche x Stunden für diese Aufgabe"), und nach 4 Wochen Praxis nachschauen.

Schritt 4: Ausrollen und stabilisieren (ab Monat 2)

Wenn der erste Workflow stabil läuft, ist das KMU bereit für die zweite Welle. Hier sind drei typische Fortsetzungs-Strategien:

• Vertiefung im gleichen Bereich: Wer Belegerfassung automatisiert hat, kommt jetzt zu Zahlungseingangs-Abgleich und Mahnwesen. Ein Anbieter, eine Logik, hoher Hebel.
• Breite über Bereiche: Nach E-Mail-Klassifikation kommen Termin-Koordination und Angebots-Nachfass dazu — der Vormittag wird komplett aufgeräumt.
• Strategische Aufgaben: Erst nach 3–6 Monaten praktischer Erfahrung gehen typischerweise die anspruchsvolleren Use Cases (Reporting, Forecasting, individuelle KI-Agenten für komplexe Aufgaben).

Ehrliche Risiken — was Sie wissen sollten

Häufige Fragen

Was, wenn wir noch gar nicht digitalisiert sind — können wir trotzdem KI nutzen? +

Teilweise. Für KI-Workflows brauchen Sie zumindest einen digitalen Eingangsweg (E-Mail, Scan, Webformular) und ein digitales Zielsystem (Buchhaltung, CRM, Kalender). Wenn beide noch fehlen, ist die Vorarbeit die Digitalisierung dieser Bausteine. Ein guter Anbieter hilft dabei oder verweist transparent darauf, dass die KI-Einführung noch zu früh wäre.

Sollte ich erst alle Mitarbeiter schulen, bevor ich KI einführe? +

Nicht alle, und nicht zuerst. Sinnvoll ist eine kurze Information für das gesamte Team (was wird automatisiert, was bleibt), und eine intensive Schulung für die 1–2 Personen, die die Spielregeln pflegen werden. Massen-Schulungen vorab sind meist verlorene Zeit — die Erfahrung kommt aus der Praxis.

Wie messe ich, ob die Einführung erfolgreich ist? +

Drei Metriken reichen meistens: 1) Wieviel Zeit verbringt Ihr Team mit der automatisierten Aufgabe vor/nach? 2) Wie viele Sonderfälle laufen pro Woche durch die Eskalation (sollte mit der Zeit weniger werden)? 3) Wie hoch ist die Fehlerquote (sollte unter 1 % bleiben). Bei diesen drei Metriken ist die Wirkung schnell sichtbar.

Was ist mit ChatGPT — kann ich das nicht einfach selbst nutzen? +

Für persönliche Recherche, Texte und Brainstorming: ja. Für die Verarbeitung von Kundendaten, Belegen oder Mandanteninformationen: nein — ChatGPT (OpenAI) ist US-gehostet und für sensitive Geschäftsdaten ohne zusätzliche Vorkehrungen problematisch. Workflow-Automatisierung mit EU-Modellen ist dafür der richtige Weg.

Wann ist der richtige Zeitpunkt, mit KI im Unternehmen zu beginnen? +

Wenn Sie eine konkrete, wiederkehrende Routine identifizieren können, die heute weh tut. Nicht früher (sonst fehlt der echte Anwendungsfall), nicht später (Wettbewerber legen sonst Tempo vor). Ein Erstgespräch ist der ehrlichste Test: in 30 Minuten lässt sich klären, ob jetzt der Moment ist.