Wenn ein Unternehmen einen KI-Assistenten will, der Fragen aus dem eigenen Wissen beantwortet, stellt sich zuerst eine unbequeme Frage: Wo ist dieses Wissen eigentlich? Die Antwort ist fast immer dieselbe. Es liegt verstreut in PDF-Ablagen, SharePoint-Ordnern, einem halb gepflegten Wiki, tausenden gelösten Support-Tickets und, zu einem beachtlichen Teil, in den Köpfen von drei erfahrenen Mitarbeitern. Der Weg von diesem Zustand zu einer KI, die verlässlich antwortet, ist weniger ein KI-Projekt als ein Datenprojekt. Genau davon handelt dieser Beitrag.

Die Bestandsaufnahme: Wissen liegt selten dort, wo man sucht

Der erste Schritt ist ernüchternd praktisch: gemeinsam durchgehen, wo überall Wissen steckt. Die offensichtlichen Orte sind Handbücher, Prozessbeschreibungen und das Wiki. Die ergiebigeren sind oft die unscheinbaren: alte Angebote, in denen die tatsächlichen Leistungen und Preise stehen. Die Ticket-Historie, in der tausende Kundenprobleme samt funktionierender Lösung dokumentiert sind. E-Mail-Verläufe, in denen der Sonderfall geklärt wurde, den kein Handbuch erwähnt. Das ist kein Einzelfall schlecht organisierter Firmen: Laut einer IDC-Befragung unter mehr als 400 IT- und Business-Entscheidern (2023) liegen rund 90 Prozent aller Unternehmensdaten unstrukturiert vor, und nur etwa die Hälfte davon wird überhaupt ausgewertet.

Bei dieser Bestandsaufnahme zeigt sich regelmäßig eine Lücke: Das wertvollste Wissen ist gar nicht aufgeschrieben. Wie man mit dem schwierigen Lieferanten umgeht, warum Maschine drei anders eingestellt wird, das steht nirgends. Eine KI kann nur nutzen, was existiert. Manchmal ist der wichtigste Nebeneffekt eines solchen Projekts, dass dieses Kopfwissen zum ersten Mal dokumentiert wird, und sei es als aufgezeichnetes und verschriftlichtes Gespräch mit den Erfahrungsträgern. Wie viel dabei liegen bleibt, hat der Branchenverband Bitkom 2024 unter 603 deutschen Unternehmen erhoben: Nur 6 Prozent gaben an, das Potenzial ihrer Daten voll auszuschöpfen.

Wie stark schöpfen Unternehmen das Potenzial ihrer Daten aus?

Voll ausgeschöpft6 %

Eher stark31 %

Eher wenig42 %

Gar nicht18 %

Quelle: Bitkom-Befragung unter 603 Unternehmen, 2024

Nicht alles hineinkippen: Auswahl schlägt Menge

Der naheliegende Reflex ist, einfach die gesamte Ablage zu indexieren, mehr Wissen gleich bessere Antworten. In der Praxis stimmt das Gegenteil. Eine Wissensbasis, in der die Reisekostenrichtlinie von 2019 neben der von 2024 liegt, liefert je nach Frage mal die eine, mal die andere, mit Quellenangabe und voller Überzeugung. Widersprüchliche und veraltete Dokumente sind das größte Qualitätsrisiko des ganzen Vorhabens, deutlich vor allen technischen Fragen.

Deshalb beginnt die Aufbereitung mit Aussortieren: Duplikate und Altversionen raus, pro Thema ein gültiges Dokument, erkennbarer Stand. Wo Widersprüche auftauchen, muss die Fachabteilung entscheiden, was gilt. Das ist mühsam und lässt sich nicht wegautomatisieren, aber es ist dieselbe Aufräumarbeit, die dem Unternehmen auch ohne KI genützt hätte. Die KI erzwingt sie nur, weil sie anders als ein Mensch nicht weiß, dass man den Ordner „Alt_final_2019" ignoriert.

Was „Aufbereiten" technisch bedeutet

Sind die Quellen ausgewählt, folgt die technische Aufbereitung, und die ist weniger trivial, als sie klingt. PDFs sind ein Anzeigeformat, kein Datenformat: Ein zweispaltiges Layout, eine über zwei Seiten laufende Tabelle oder ein eingescanntes Dokument müssen erst sauber in Text überführt werden, sonst landen später Bruchstücke in der Wissensbasis. Tabellen brauchen besondere Sorgfalt, weil eine Preistabelle ohne ihre Kopfzeile bedeutungslos wird.

Danach werden die Inhalte in Abschnitte zerlegt und indexiert, sodass eine Suche die passenden Passagen zu einer Frage findet. Wie man zerlegt, hängt vom Dokumenttyp ab: Ein Handbuch schneidet man an Kapitelgrenzen, ein Ticket bleibt am Stück mit seiner Lösung. Dazu kommen Metadaten wie Datum, Gültigkeit und Zielgruppe, denn „Was kostet Produkt X?" braucht die aktuelle Preisliste, nicht die ähnlichste Textstelle aus irgendeinem Jahr.

Berechtigungen: Die KI darf nicht mehr wissen als der Fragende

Ein Punkt, der in Demos nie vorkommt und in echten Projekten früh entschieden werden muss: Nicht jeder im Unternehmen darf alles sehen. Gehaltsbänder, Kalkulationen, Personalunterlagen liegen oft in denselben Ablagen wie das harmlose Prozesswissen. Eine Wissensbasis, die alles jedem beantwortet, ist ein Datenschutzvorfall mit Suchfunktion.

Die Lösung ist, die bestehenden Zugriffsrechte in die Wissensbasis zu übernehmen: Wer ein Dokument in der Ablage nicht öffnen darf, bekommt auch keine Antworten daraus. Das klingt selbstverständlich, hat aber Konsequenzen für die Architektur und gehört deshalb an den Anfang des Projekts, nicht in die Nachbesserung.

Ohne Pflege veraltet die Wissensbasis wie jede Ablage

Der Zustand nach dem Go-Live ist eine Momentaufnahme. Preise ändern sich, Prozesse werden umgestellt, neue Produkte kommen dazu. Eine Wissensbasis ohne Pflegeprozess ist nach einem Jahr so veraltet wie der Ordner, aus dem sie entstand, nur dass sie ihre veralteten Antworten überzeugender vorträgt.

Praktisch heißt Pflege dreierlei. Neue und geänderte Dokumente fließen automatisch ein, etwa indem definierte Ablagen regelmäßig neu indexiert werden. Es gibt eine benannte Zuständigkeit dafür, was in die Wissensbasis gehört. Und die Fragen, auf die das System keine Antwort fand, werden regelmäßig ausgewertet, denn diese Liste ist die ehrlichste Übersicht darüber, welches Wissen im Unternehmen fehlt oder unauffindbar abgelegt ist.

Realistischer Aufwand, realistischer Start

Wie viel Arbeit das alles ist, hängt fast vollständig vom Zustand der Ablage ab, und den überschätzt kaum jemand und unterschätzen fast alle. Unsere Empfehlung ist deshalb dieselbe wie bei Workflows: klein anfangen. Ein Wissensbereich mit klarem Nutzen, etwa das Servicehandbuch oder die Ticket-Historie eines Produkts, wird aufbereitet und mit echten Fragen des Teams getestet. Daran zeigt sich, wie gut die eigene Dokumentenlage wirklich ist, bevor man die Aufbereitung des Gesamtbestands plant.

Was man dafür nicht braucht: riesige Datenmengen oder ein eigenes KI-Team. Ein paar hundert gepflegte Dokumente ergeben eine brauchbare Wissensbasis für einen abgegrenzten Bereich. Es zählt nicht die Menge, sondern ob das, was drinsteht, stimmt.