Zuverlässige KI - Weiß AI, wovon sie spricht?

Mit den zunehmenden Fortschritten bei der Rechenleistung und der Optimierung von KI-Modellen wird der Einsatz von KI in kritischen Systemen immer beliebter. Allerdings steigen damit auch die Herausforderungen, die mit diesen Systemen verbunden sind. KI-Komponenten beruhen auf den verallgemeinerten Informationen aus dem (Daten)Kontext, mit dem sie entwickelt werden. Daher ist es für den Betrieb kritischer Systeme von entscheidender Bedeutung, sicherzustellen, dass der Kontext, in dem die KI-Komponenten arbeiten, dem Kontext zur Entwurfszeit so nahe wie möglich kommt. In dieser Präsentation stellen wir eine Technik zur Laufzeitüberwachung der KI-Komponenten vor, um sicherzustellen, dass sie "wissen, wovon sie reden". Wir geben einen kurzen Überblick über diese Technik und zeigen einige Demos, in denen wir diese Technik für verschiedene Anwendungsfälle eingesetzt haben.