Viele kleine und mittlere Unternehmen (KMU) verfügen bereits über mehr nutzbare Unternehmensdaten, als ihnen bewusst ist. Sie liegen zum Beispiel im ERP- oder CRM-System, in Excel-Listen, Produktionsanlagen, Serviceberichten, PDF-Dokumentationen, E-Mails oder auf gemeinsamen Laufwerken. Auch das Erfahrungswissen von Mitarbeitenden kann für eine KI-Anwendung entscheidend sein.

In diesem Zusammenhang wird die Retrieval-Augmented Generation (RAG) interessant. Hier wird kein eigenes KI-Modell mit Unternehmensdaten trainiert. Stattdessen sucht ein KI-Assistent in internen Dokumenten nach Informationen, die dem Sprachmodell für seine Antwort zur Verfügung gestellt werden. Es ist eine niedrigschwellige Methode, um Wissen zugänglich zu machen, Entscheidungen datenbasiert zu treffen oder Innovationen zu beschleunigen, ohne hierfür teure KI-Modell selbst trainieren zu müssen.

Welche Daten gebraucht werden, hängt vom konkreten KI-Anwendungsfall ab. Gleichzeitig entscheidet die vorhandene Datenbasis darüber, welche KI-Anwendungen in deinem Unternehmen sinnvoll umgesetzt werden können. Es braucht dafür kein umfangreiches Datenmanagement-Konzept. Wichtiger ist ein klarer roter Faden: Was soll die KI können, welche Informationen benötigt sie dafür, und sind diese Informationen bereits vorhanden?

Für den Einstieg braucht dein Unternehmen deshalb weder einen vollständig bereinigten Datenbestand noch automatisch eine neue Datenplattform oder zusätzliche Software. Aus einzelnen, gezielten Verbesserungen an der Datenqualität entsteht nach und nach eine belastbare Datenbasis, die deinem Unternehmen einen spürbaren Nutzen bringt und seine Wettbewerbsfähigkeit sichert.

Warum sind Daten für KI wichtig?

Eine solide Datenbasis lohnt sich nicht nur für den Einsatz bei der KI: Sie macht Auswertungen zuverlässiger, erhöht Transparenz in Prozessen und verbessert Entscheidungen. Wenn du Daten systematisch nutzt, kannst du außerdem neue Produkte und Angebote schneller entwickeln und die Wettbewerbsfähigkeit stärken.

Das Thema ist besonders relevant, wenn...

• du eine konkrete KI-Anwendung einführen möchtest,

• du internes Unternehmenswissen mit KI nutzbar machen willst,

• du Kunden- oder Servicedaten systematisch auswerten oder

• Informationen aus mehreren Systemen zusammenführen musst.

Wenn du dir nicht sicher bist, ob deine Daten für den geplanten Einsatz ausreichen, ist eine frühe Prüfung sinnvoll. Das kannst du anhand eines konkreten Use Cases klären. Somit kannst du einschätzen, welche Daten dir fehlen und wie viel Aufwand für eine tragfähige Datenbasis notwendig ist.

In 5 Schritten eine gute Datenbasis für KI schaffen:

1. Schritt 1 – Vom Anwendungsfall ausgehen

   Beginne nicht mit der Frage „Welche Daten haben wir?“, sondern mit „Was soll die KI in unserem Unternehmen können?“. Soll sie beispielsweise Servicefragen beantworten, braucht sie möglicherweise Handbücher, Reparaturberichte und Ersatzteilinformationen. Für eine Absatzprognose sind dagegen Verkaufszahlen, Zeiträume und weitere Einflussfaktoren relevant. Erstelle zunächst eine kurze Liste der Informationen, die für die gewünschte Aufgabe tatsächlich benötigt werden. So vermeidest du, dass dein Unternehmen Daten aufbereitet, die für das Projekt keine Rolle spielen.

2. Schritt 2 – Nachsehen, was bereits vorhanden ist
   Suche anschließend gezielt nach diesen Informationen. Dabei lohnt sich der Blick über die klassischen Datenbanken hinaus: Relevante Unternehmensdaten können im ERP-System liegen, aber genauso in Excel-Dateien, PDFs, E-Mails, SharePoint, einem Netzlaufwerk oder bei einzelnen Mitarbeitenden. Notiere, wo die benötigten Informationen liegen, wer darauf zugreifen kann und welche davon noch fehlen. Für einen ersten Überblick reicht eine einfache Tabelle – dein Unternehmen braucht dafür keine neue Software.

3. Schritt 3 – Mit echten Beispielen die Qualität prüfen

   Prüfe die Datenqualität nicht abstrakt, sondern anhand von 20 bis 30 typischen Fällen aus dem Arbeitsalltag deines Unternehmens. Bei einem Service-Assistenten können das echte Fragen aus dem Kundenservice sein. Findest du für diese Fragen in den vorhandenen Unterlagen jeweils eine aktuelle und eindeutige Antwort? Tauchen unterschiedliche Produktbezeichnungen, veraltete Preislisten, doppelte Kundeneinträge oder widersprüchliche Arbeitsanweisungen auf, wird konkret sichtbar, was vor einem Pilotprojekt verbessert werden muss.

4. Schritt 4 – Nur die benötigten Daten aufbereiten
   Dein Unternehmen muss nicht zuerst sämtliche Daten bereinigen. Konzentriere dich auf die Informationen, die für den ausgewählten Anwendungsfall notwendig sind. Entferne veraltete Versionen, vereinheitliche wichtige Bezeichnungen und ergänze fehlende Informationen. Kläre gleichzeitig, wer diese Daten künftig aktuell hält und wer darauf zugreifen darf. Bei personenbezogenen, vertraulichen oder anderweitig sensiblen Informationen sollte vorab geklärt werden, ob und unter welchen Bedingungen sie mit der vorgesehenen KI-Lösung verarbeitet werden dürfen.

5. Schritt 5 – Klein testen und daraus lernen

   Teste die Anwendung zunächst mit einem begrenzten Datenbestand und echten Aufgaben aus dem Arbeitsalltag. Liefert die KI bei 20 typischen Fragen nur zwölf brauchbare Antworten, prüfe die acht übrigen Fälle: Fehlte eine Information? War sie veraltet? Konnte die KI sie nicht eindeutig zuordnen? Oder liegt das Problem gar nicht bei den Daten? Bevor dein Unternehmen Geld in neue Infrastruktur oder externe Unterstützung investiert, sollte zunächst geprüft werden, ob sich der Anwendungsfall mit den vorhandenen Daten und Systemen sinnvoll testen lässt. Das Ergebnis kann auch sein, dass sich der Aufwand für diesen Anwendungsfall nicht lohnt – dann ist es sinnvoller, einen anderen Anwendungsfall auszuwählen, als weitere Zeit und Geld in die Datenaufbereitung zu investieren.

Wie nutzt KI die Daten deines Unternehmens - Retrieval-Augmented Generation (RAG)?

Wer KI mit Unternehmensdaten einsetzen möchte, stößt schnell auf Begriffe wie RAG, Training oder Fine-Tuning. Welcher Ansatz sinnvoll ist, hängt davon ab, was die KI mit den Daten tun soll – und beeinflusst Aufwand und Kosten erheblich.

Unternehmenswissen nutzen: Soll ein KI-Assistent Fragen zu Produkten, Prozessen oder Dokumentationen beantworten, muss dafür häufig kein eigenes Modell trainiert werden. Bei Retrieval-Augmented Generation (RAG) sucht das System passende Informationen in den freigegebenen Unternehmensdaten und stellt sie dem Sprachmodell für die Antwort zur Verfügung. Wichtig ist deshalb vor allem, dass relevante Informationen aktuell und auffindbar sind. Bei der Auswahl einer Lösung solltest du fragen: Wie findet die KI die Informationen, und kann sie die verwendeten Quellen nennen?

Vorhersagen treffen: Soll KI beispielsweise Maschinenausfälle oder Absatzmengen vorhersagen, werden geeignete historische Trainingsdaten benötigt. Dabei zählt nicht allein die Menge. Tausende Maschinenwerte helfen wenig, wenn nicht dokumentiert wurde, wann tatsächlich ein Defekt aufgetreten ist. Ein kleinerer, sauber dokumentierter Datenbestand kann deutlich wertvoller sein.

Fine-Tuning: nicht automatisch notwendig. Beim Fine-Tuning wird ein vorhandenes KI-Modell für eine bestimmte Aufgabe angepasst. Für die reine Nutzung von Unternehmenswissen ist das häufig nicht erforderlich. Empfiehlt ein Anbieter Fine-Tuning, solltest du fragen: Welches konkrete Problem löst es, und warum reicht der Zugriff auf vorhandene Informationen nicht aus?

Externe KI-Dienste: Auch wenn Daten nicht zum Training eines Modells verwendet werden, können sie gespeichert oder anderweitig verarbeitet werden. Bei vertraulichen oder personenbezogenen Informationen solltest du deshalb die Bedingungen des konkreten Dienstes, Tarifs und Vertrags prüfen.

Diese und noch viele weitere Informationen zum KI-Kompass-Thema "Daten" finden Sie in unserem Downloadportal: