Die verantwortungsvolle Entwicklung sowie der spätere Umgang mit KI sind entscheidend, um den erwarteten Nutzen zu heben und potenzielle Schäden zu verhindern oder zu minimieren. Die ethischen Herausforderungen, die KI mit sich bringt, sind größtenteils menschlichen Ursprungs und umfassen Aspekte wie Transparenz, Bias (Verzerrung) und Fairness, Sicherheitsrisiken und die sozialpolitischen Auswirkungen der Technologie.  

Mögliche Nutzen von KI sind Produktivitätsgewinne, verbesserte Entscheidungen, neue Erkenntnisse, beispielsweise in der Forschung und effektivere Kundeninteraktion. Mögliche Risiken umfassen Themen wie etwa diskriminierende Ergebnisse oder unfaire Entscheidungen aufgrund von Fehleinschätzungen, finanzielle Verluste durch Betrug, Reputationsverlust des Unternehmens durch fehlerhafte KI-Systeme oder Datenschutzverletzungen durch die unsachgemäße Verarbeitung von Daten.

Transparenz, Erklärbarkeit und menschzentrierter Ansatz 

Ein wichtiger Aspekt bei der Betrachtung von Ethik in der KI ist die Transparenz der KI-Systeme: Nutzerinnen und Nutzer müssen zuallererst wissen, dass KI-Funktionalitäten in dem System, das sie gerade verwenden, enthalten sind. Dann sollten sie im Grundsatz verstehen, wie KI zu ihren Ergebnissen gelangt, auf deren Basis Entscheidungen getroffen werden können. Dies gilt insbesondere in kritischen Bereichen wie der Medizin oder dem Finanzwesen. Hier ist es wichtig, dass KI-Lösungen so gestaltet sind, dass sie menschliche Entscheidungen unterstützen und nicht ersetzen. Die Menschen sollten stets im Zentrum der Technologieanwendung stehen, um sicherzustellen, dass KI als Werkzeug zur Verbesserung der menschlichen Fähigkeiten dient und nicht als Ersatz für menschliche Urteilskraft.

Verzerrung und Fairness 

Ein weiterer kritischer Aspekt bei KI-Systemen ist der Bias: KI kann basierend auf den Daten, mit denen sie trainiert wurde, bestimmte Gruppen bevorzugen oder benachteiligen. Um dies zu vermeiden, müssen Entwicklerinnen, Entwickler und Unternehmen sicherstellen, dass ihre Datenquellen vielfältig und repräsentativ sind. Darüber hinaus sind fortlaufende Überprüfungen und Anpassungen der Algorithmen erforderlich, um unbewusste Vorurteile zu erkennen und zu korrigieren.  

Missbrauch von KI und Sicherheitsmaßnahmen 

Die Gefahr des Missbrauchs von KI, wie durch die Erstellung von Deepfakes, ist eine ernstzunehmende Bedrohung. Deepfakes sind überzeugend echtheitsnah gefälschte Video- oder Audioaufnahmen, die mit KI erstellt werden, um Personen Dinge sagen oder tun zu lassen, die nie stattgefunden haben. Diese können für Betrug und Desinformation verwendet werden. Beispielsweise wurden Fälle bekannt, in denen die Stimme eines/einer CEO geklont wurde, um Mitarbeitende dazu zu bringen, Gelder auf Konten von Betrügerinnen und Betrügern zu überweisen. Um solchen Missbrauch zu verhindern, sind umfassende Sicherheitsmaßnahmen und eine starke regulatorische Umgebung erforderlich. Weiterhin ist es wichtig, KI-Systeme so zu schützen, dass sie nicht manipuliert und dass Daten und Ergebnisse nicht entwendet werden können.   

Präventive Maßnahmen und Schadensminimierung: KI-Governance 

Es ist unerlässlich, präventive Maßnahmen zu implementieren, um die Schäden durch KI zu minimieren und im Falle eines Schadens korrigierende Prozesse bereitzustellen.  

Zu den möglichen Schäden zählen u.a.:

• Finanzielle Verluste können durch Betrug, Fehlentscheidungen oder Fehlfunktionen von KI-Systemen entstehen, wie etwa im Fall eines/einer geklonten CEOs, der/die Mitarbeitende dazu brachte, Gelder an Betrüger zu überweisen. 
• Unternehmen können einen erheblichen Reputationsverlust erleiden, wenn bekannt wird, dass ihre KI-Systeme fehlerhaft sind oder missbraucht wurden, was zu einem Vertrauensverlust bei Kundinnen, Kunden, Partnerinnen und Partnern führen kann. 
• Diskriminierung und Ungerechtigkeit können entstehen, wenn KI-Systeme aufgrund von Vorurteilen diskriminierende Entscheidungen treffen, wie beispielsweise bei Bewerbungsverfahren, Kreditvergaben oder im Strafjustizsystem. 
  
  

Unternehmen, die KI entwickeln, müssen robuste Systeme zur Schadenskontrolle entwickeln, die es ermöglichen, solche und andere Fehler schnell zu erkennen und zu beheben. Dies wird beispielsweise durch die Implementierung von KI-Governance ermöglicht. KI-Governance betrachtet den gesamten KI-Lebenszyklus und etabliert einen verantwortungsvollen Umgang mit KI u.a. durch interne Richtlinien, Prozesse, technische Lösungen und organisatorische Strukturen.

Ethischer Rahmen und Unternehmenskultur  

KI-Governance umfasst auch die Einbettung ethischer Überlegungen in die Unternehmenskultur. Unternehmen sollten Richtlinien und Praktiken entwickeln, die einen ethischen Umgang mit KI fördern. Dazu gehört die Schulung der Mitarbeitenden in ethischen Praktiken und die Schaffung eines Bewusstseins für die potenziellen Risiken und Vorteile der Technologie. Auf das Thema Schulungen geht das Kompass-Thema Talente und Kompetenzen näher ein. 

Der bewusste und überlegte Umgang mit KI und die Förderung einer ethischen Unternehmenskultur sind nicht nur entscheidend für den verantwortungsvollen Einsatz der Technologie, sondern auch für die langfristige Akzeptanz und den Erfolg von KI-Lösungen. Nur durch eine solche Herangehensweise kann sichergestellt werden, dass die Vorteile der KI vollständig genutzt werden, während gleichzeitig ihre Risiken minimiert werden. Das Kompass-Thema Kultur und Mindset bietet hier weitere Informationen.