Warum ist Ethik im Kontext KI wichtig?

Ein KI-System kann technisch zuverlässig arbeiten und trotzdem Ergebnisse liefern, die dein Unternehmen nicht vertreten möchte – besonders wenn Menschen bewertet, sortiert oder unterschiedlich behandelt werden. Große Unternehmen richten dafür oft eigene Ethik- oder Governance-Gremien ein; für die meisten KMU reicht es, die entscheidenden Fragen direkt am konkreten Anwendungsfall zu klären.

Dabei zählt nicht nur, wie oft ein System richtigliegt, sondern wie schwer die Folgen eines Fehlers wiegen: Eine falsche Produktempfehlung ist schnell korrigiert, eine fehlerhafte Bewerber-Vorauswahl wiegt schwerer. Die Frage „Ist das erlaubt?“ beantwortet zudem nicht automatisch „Wollen wir das so machen?“. Rechtliche Vorgaben bilden den Rahmen, innerhalb dessen dein Unternehmen selbst Verantwortung trägt. Ethik bleibt deshalb ein fortlaufender Prozess, eng verknüpft mit konkreten KI-Anwendungsfällen und regelmäßig zu überprüfen.

Besonders sinnvoll ist die Auseinandersetzung mit Ethik, wenn ein Unternehmen:

• KI zur Bewertung oder Vorauswahl von Menschen einsetzt, etwa bei Bewerbungen,

• Kundinnen und Kunden direkt mit einem KI-Assistenten interagieren lässt,

• KI-gestützte Entscheidungen mit finanziellen oder rechtlichen Folgen trifft,

• generative KI für Inhalte einsetzt, die echt wirken könnten,

• unsicher ist, ob ein geplanter KI-Einsatz gesellschaftlich vertretbar ist, oder

• Vertrauen bei Mitarbeitenden und Kundschaft gezielt stärken möchte.

Je früher du ethische Fragen am konkreten Anwendungsfall klärst, desto leichter lässt sich vertrauenswürdige KI im Arbeitsalltag verankern.

Wie gehe ich vor?

In 5 Schritten zu vertrauenswürdiger KI:

• Schritt 1 – Kläre, welche Rolle die KI tatsächlich übernimmt

Schau, was die KI im Arbeitsablauf tatsächlich macht: Liefert sie nur Informationen, gibt sie eine Empfehlung, oder bestimmt sie faktisch das Ergebnis, weil ihre Empfehlung fast immer übernommen wird? Sortiert etwa eine KI Bewerbungen vor und werden niedrig bewertete kaum noch angesehen, entscheidet sie faktisch mit, wer ein Vorstellungsgespräch erhält. Bei generativer KI stellt sich zusätzlich die Frage, ob sie Inhalte erzeugt, die Kundschaft für Äußerungen echter Menschen halten könnte. Entscheidend ist der tatsächliche Einfluss auf Menschen, nicht nur der offizielle Verwendungszweck.

• Schritt 2 – Schau auf die Folgen für Betroffene und setze ein klares Ziel

Formuliere ein konkretes, überprüfbares Ziel statt einer allgemeinen Absicht – etwa: „Bis Ende des Monats ist geklärt, welche Bewerbenden durch unsere KI-Vorauswahl systematisch schlechter abschneiden.“ Kläre, wer betroffen ist und welche Folgen entstehen: Eine falsche Auskunft im Kundenservice lässt sich meist schnell korrigieren, ein verpasstes Angebot oder eine Bewerber-Aussortierung wiegt schwerer. Achte auf das Verhältnis zwischen Nutzen und möglichen Folgen – spart dein Unternehmen nur wenig Zeit, während ein Fehler für andere erhebliche Nachteile bringt, sollte der Einsatz besonders kritisch geprüft werden.

• Schritt 3 – Wähle einen Anwendungsfall und suche nach systematischen Nachteilen

Wähle einen eng abgegrenzten Anwendungsfall als Einstieg, statt gleich alle KI-Systeme zu prüfen. Fehler lassen sich auch bei guten Systemen nicht vollständig vermeiden; kritisch wird es, wenn bestimmte Gruppen wiederholt schlechter abschneiden. Vergleiche deshalb typische Praxisfälle statt nur der durchschnittlichen Trefferquote: Werden bestimmte Bewerbende regelmäßig schlechter eingeordnet? Funktioniert eine Spracherkennung für alle Kundengruppen ähnlich gut? Beziehe Mitarbeitende ein, die mit den Vorgängen arbeiten – ihr Erfahrungswissen erkennt Grenzfälle, die Kennzahlen allein nicht zeigen.

• Schritt 4 – Verantwortlichkeiten festlegen und Korrekturweg klären

Benenne eine feste Ansprechperson, die den Anwendungsfall begleitet, den Zeitrahmen plant und den Fortschritt an die Geschäftsführung meldet. Sie legt fest, wann ein Mensch die KI-Empfehlung kontrolliert und korrigiert – eine formale Freigabe reicht nicht, wenn sie ohnehin immer übernommen wird. Interagieren Menschen direkt mit einer KI oder hat deren Bewertung erhebliche Auswirkungen, sollte für sie erkennbar sein, welche Rolle das System spielt, und klar sein, an wen sie sich bei Problemen wenden können.

• Schritt 5 – Nach 4 bis 8 Wochen auswerten und Konsequenz ziehen

Vereinbare zu Beginn einen festen Termin nach 4 bis 8 Wochen für die Bilanz: Wurde das Ziel aus Schritt 2 erreicht? Zeigen sich weiterhin systematische Nachteile? Halte die Erkenntnisse schriftlich fest. Am Ende steht die Entscheidung, ob und wie dein Unternehmen die KI einsetzt – etwa nur als Empfehlung statt als Entscheidung, oder als Verzicht, wenn ein geringer wirtschaftlicher Vorteil erheblichen Nachteilen für andere gegenübersteht.

Podcastempfehlung

Building Trustworthy Open Source AI

Diese und noch viele weitere Informationen zum KI-Kompass-Thema "Ethik" finden Sie in unserem Downloadportal: