Ratgeber · Einstieg
Wo fange ich mit KI an, wenn ich keine IT-Abteilung habe?
Von Kevin Grundmann · 21. November 2026 · 6 Minuten Lesezeit
Für den Anfang brauchen Sie keine IT-Abteilung. Sie brauchen eine Person, die sich kümmert, ein freigegebenes Werkzeug, ein paar Regeln sowie eine kleine echte Aufgabe. Technik wird erst wichtig, wenn die KI an Ihre eigenen Programme angebunden werden soll.
Warum der Anfang keine Technikfrage ist
Die heutigen KI-Werkzeuge laufen im Browser oder als App. Sie melden sich an und schreiben in normaler Sprache, was Sie brauchen. Installiert oder programmiert wird dabei nichts. Warum das inzwischen so gut klappt, steht im Beitrag Warum neue KI-Modelle auch ohne Vorkenntnisse viel leisten.
Was am Anfang fehlt, ist deshalb selten Technik. Es fehlen Antworten auf vier einfache Fragen: Wer kümmert sich? Welches Werkzeug nehmen wir? Was darf hinein? Womit fangen wir an?
Was Sie selbst schaffen und wo Hilfe lohnt
Schaffen Sie selbst
- Den Geschäftstarif eines fertigen Werkzeugs buchen und Konten anlegen
- Regeln aufschreiben: was erlaubt ist, welche Daten draußen bleiben
- Das Team eine Stunde lang einweisen
- Erste Aufgaben ausprobieren, etwa Texte, Mails oder Zusammenfassungen
Hier lohnt Hilfe von außen
- Anbindung an eigene Programme wie Branchensoftware oder Buchhaltung
- Abläufe, die ohne Zutun selbstständig laufen sollen
- Arbeit mit sensiblen Daten, etwa von Kunden oder Beschäftigten
- KI auf eigenen Servern
Ein Geschäftstarif ist die Variante eines KI-Dienstes für Unternehmen. Der Betrieb verwaltet dort die Konten selbst, die Zusagen zum Umgang mit den Daten stehen in einem Vertrag. Warum das besser ist als private Konten, erkläre ich im Beitrag ChatGPT im Unternehmen: Was ist erlaubt, was tabu?.
Die wichtigste Rolle: jemand, der sich kümmert
In Betrieben ohne IT hängt der Erfolg an einer Person. Ich nenne sie den Kümmerer oder die Kümmerin. Diese Person muss nichts von Technik verstehen. Sie sollte neugierig sein, die Abläufe im Büro kennen und das Vertrauen der Kolleginnen und Kollegen haben.
Ihre Aufgaben sind überschaubar: das Werkzeug einrichten, die Regeln aktuell halten, Fragen sammeln, gute Beispiele weitergeben. Eine Stunde pro Woche reicht am Anfang oft aus. Entscheidend ist, dass diese Stunde wirklich frei ist.
Der Weg in fünf Stufen
Vom ersten Schritt bis zur Anbindung
ab hier lohnt Hilfe von außen, die Stufen davor schaffen Sie selbst
Die Regeln aus Stufe 3 erfüllen nebenbei einen Teil dessen, was die KI-Verordnung von Ihnen erwartet. Mehr dazu im Beitrag KI-Verordnung: Was muss ein kleiner Betrieb jetzt wirklich tun?.
Ein Beispiel: Sabines Malerbetrieb
Sabine führt einen Malerbetrieb mit acht Leuten. Eine IT-Abteilung gibt es nicht. Den Drucker richtet der Neffe ein.
Sabine bittet ihre Bürokraft, sich um das Thema zu kümmern, jeden Freitag eine Stunde lang. Die beiden buchen einen Geschäftstarif für die drei Leute im Büro. Sie halten auf einer Seite fest, dass Kundennamen und Adressen nicht in die KI gehören. Als erste Aufgabe wählen sie die Angebotstexte: Die KI formuliert aus Stichpunkten einen Entwurf, die Bürokraft prüft ihn und passt ihn an. Was verschickt wird, entscheidet weiterhin ein Mensch.
Nach zwei Monaten kommt der Wunsch auf, dass die Aufmaße aus der Handwerkersoftware direkt in den Entwurf fließen. Das ist Stufe 5. Hier fragt Sabine zuerst den Hersteller ihrer Software, ob es eine solche Funktion schon gibt. Erst danach holt sie sich Hilfe.
Selbst machen oder Hilfe holen?
Eine Entscheidungshilfe
Wir wollen Texte, Mails oder Zusammenfassungen mit einem fertigen Werkzeug erstellen.
selbst machenWir wissen nicht, womit wir anfangen sollen.
kostenfreie AnlaufstelleDie KI soll auf unsere Branchensoftware oder unsere Ablage zugreifen.
Hilfe holenEin Ablauf soll ohne unser Zutun laufen.
Hilfe holenEs geht um Gesundheitsdaten, Personalakten oder Bewerbungen.
erst beraten lassenWo Sie kostenfrei Unterstützung finden
Bevor Sie Geld für Beratung ausgeben, lohnt ein Blick auf die öffentlichen Angebote. Stand November 2026 gibt es diese Anlaufstellen:
| Anlaufstelle | Was Sie dort bekommen |
|---|---|
| Mittelstand-Digital Zentren | Vom Bundeswirtschaftsministerium gefördert, kostenfrei und anbieterneutral. Webinare, Workshops, Sprechstunden, KI-Trainer. |
| KI-Service Desk der Bundesnetzagentur | Orientierung zur KI-Verordnung: ein Online-Werkzeug zur ersten Einschätzung des Risikos sowie Hinweise zum Aufbau von KI-Kompetenz. |
| IHK oder Handwerkskammer | Ansprechpersonen für Digitalisierung, Veranstaltungen, Hinweise auf regionale Angebote. Im Handwerk gibt es dafür unter anderem die Beraterinnen und Berater für Innovation und Technologie. |
Ein Hinweis zu den Mittelstand-Digital Zentren: Das Netzwerk wird gerade neu aufgestellt. Die bisherige Förderung endet mit dem Jahr 2026. Am 1. Januar 2027 startet das Nachfolgenetzwerk mit sechs regionalen Zentren. Ab Mai 2027 sollen elf Fachzentren folgen, unter anderem mit Wissen für Handwerk, Bau und Handel. Schauen Sie deshalb auf der Website von Mittelstand-Digital nach, welches Zentrum gerade für Ihre Region zuständig ist.
Für Handwerksbetriebe gibt es außerdem den kostenfreien Digi-Check des Mittelstand-Digital Zentrums Handwerk. Er enthält seit 2026 einen Teil zu KI.
Förderprogramme für Beratung oder Digitalisierung gibt es bei Bund und Ländern ebenfalls. Sie ändern sich oft, deshalb nenne ich hier keine einzelnen. Wichtig ist eine Regel, die fast überall gilt: Der Antrag muss gestellt sein, bevor Sie etwas beauftragen.
Typische Fehler
Auf den IT-Dienstleister warten. Es liegt nahe, KI als Technikthema zu sehen und es dem Systemhaus zu überlassen. Die ersten vier Stufen sind aber Organisation. Fangen Sie damit an. Den Dienstleister holen Sie dazu, wenn es an die Anbindung geht.
Niemanden benennen. Wenn alle ein bisschen zuständig sind, kümmert sich am Ende niemand. Benennen Sie eine Person. Geben Sie ihr feste Zeit dafür.
Mit privaten Konten starten. Das geht schnell, kostet nichts und ist deshalb verständlich. Der Betrieb hat dann aber keinen Einfluss darauf, was mit den Eingaben geschieht. Ein Geschäftstarif für wenige Plätze ist der sauberere Anfang.
Gleich das größte Vorhaben wählen. Der Wunsch, die Angebote vollständig automatisch zu erstellen, ist nachvollziehbar. Als erstes Projekt ist das zu viel. Eine kleine Aufgabe zeigt nach vier Wochen, was die KI bei Ihnen kann.
Das Team vor vollendete Tatsachen stellen. Manche Beschäftigte fragen sich, ob die KI ihre Arbeit ersetzen soll. Diese Sorge ist berechtigt. Sprechen Sie offen darüber, wofür das Werkzeug gedacht ist: Es nimmt Vorarbeit ab, die Entscheidung bleibt beim Menschen.
Fördermittel zu spät beantragen. Erst beauftragen, dann den Antrag stellen: Das ist ein häufiger Grund für eine Absage. Klären Sie die Förderung, bevor Sie etwas unterschreiben.
Wann sich Hilfe von außen nicht lohnt
Für die ersten vier Stufen brauchen Sie mich nicht. Wenn Sie ein fertiges Werkzeug für Texte und Mails nutzen möchten, reichen die Schritte oben sowie die kostenfreien Anlaufstellen. Eine bezahlte Beratung rechnet sich erst, wenn eine Anbindung, eine Automatisierung oder eine heikle Datenfrage ansteht. Was das dann kostet, steht im Beitrag Was kostet eine KI-Beratung?.
Dieser Beitrag kann außerdem nicht beurteilen, welches Werkzeug zu Ihrem Betrieb passt. Das hängt von Ihrer Branche, Ihren Programmen und Ihren Daten ab. Die Angaben zu den Anlaufstellen geben den Stand November 2026 wieder. Einen ersten Überblick über Ihren eigenen Stand gibt die KI-Reifegrad-Analyse.
Das Wichtigste in Kürze
- Der Einstieg ist eine Frage der Organisation. Technikwissen brauchen Sie dafür nicht.
- Benennen Sie eine Person, die sich kümmert. Sie braucht Neugier sowie feste Zeit.
- Ein Geschäftstarif, eine Seite Regeln und eine kleine echte Aufgabe genügen für den Start.
- Hilfe von außen lohnt bei Anbindung an eigene Programme, bei Automatisierung, bei sensiblen Daten oder eigenen Servern.
- Nutzen Sie zuerst die kostenfreien Anlaufstellen. Fördermittel beantragen Sie vor dem Auftrag.