Übertragung bestehender Machtstrukturen der Gesellschaft auf die KI

Die jüngsten Fortschritte im Bereich der Künstlichen Intelligenz haben Unternehmen, der Gesellschaft und Einzelpersonen zahlreiche neue Möglichkeiten eröffnet, werfen aber auch komplexe Fragen zur Verteilung von Macht und Privilegien auf. Denn häufig verstärken gegenwärtige KI-Systeme bestehende Machtungleichgewichte und benachteiligen marginalisierte, unterrepräsentierte und unterprivilegierte Menschen. Das ist auch im Gesundheitswesen und in der Medizin der Fall: die traditionelle Machtverteilung, fehlende und verzerrte Daten – Stichwort Gender Data Gap – führen zu automatisierter Benachteiligung von Frauen, queeren und anderen marginalisierten Personen. In diesem Vortrag widmen wir uns den Ursachen, Ideen zum Wandel und betrachten Beispielen aus dem Gesundheitswesen und der Medizin.