Die rasante Entwicklung der künstlichen Intelligenz (KI) kommt mit einer Reihe von Herausforderungen und wirft Fragen nach Vertrauen und Sicherheit auf. Um diesen Bedenken entgegenzuwirken, haben TÜV Austria und das Institut für Maschinelles Lernen der Johannes Kepler Universität eine neue Kooperation gestartet. Gemeinsam arbeiten sie an der Entwicklung geeigneter Zertifizierungsmethoden, um Hersteller bei der Schaffung sicherer, zuverlässiger und qualitativ hochwertiger Machine Learning-Modelle zu unterstützen. Dadurch soll ein Gütesiegel für vertrauenswürdige KI-Systeme entstehen.
TÜV Austria will Zuverlässigkeit und Sicherheit
„Im Zeitalter, in dem KI eine immer größere Rolle in Entscheidungs- und Kontrollsystemen spielt, ist es von entscheidender Bedeutung, dass wir die Wege der Zusammenarbeit zwischen Mensch und Maschine neu definieren. Die Kombination von menschlicher Intelligenz mit den Möglichkeiten der KI eröffnet faszinierende Perspektiven für innovative Lösungen in verschiedenen Anwendungen. Doch das Vertrauen in KI-Systeme steht und fällt mit ihrer Zuverlässigkeit und Sicherheit“, heißt es von TÜV Austria.
Die erste Stufe des Erfolgs sei bereits erreicht, da es bereits möglich ist, „supervised learning“-Anwendungen im niedrigen bis mittleren Risikobereich zu zertifizieren. In den kommenden Phasen der Entwicklungskooperation wollen die Kooperationspartner auch sicherheitskritische Anwendungen auf Basis eines breiteren Spektrums an maschinellen Lernverfahren zertifizieren. Der Prüfkatalog, der im Rahmen der Zertifizierung zum Einsatz kommt, umfasst verschiedene Dimensionen. Dazu gehören die tatsächliche Funktion und Zuverlässigkeit der trainierten Modelle, die Sicherheit der Software und den vertraulichen Umgang mit personenbezogenen Daten. Zudem berücksichtigt der Prüfkatalog ethische Fragen.
„Vertrauen in KI stärken“
„Unsere Zusammenarbeit mit der Johannes Kepler Universität ist ein entscheidender Schritt, um das Vertrauen in KI zu stärken und den Anwendern eine Orientierungshilfe zu bieten. Durch die Zertifizierung vertrauenswürdiger KI-Systeme können wir eine sichere und effektive Nutzung dieser Technologie gewährleisten“, sagt Thomas Doms, Global Product Lead AI Services von TÜV Austria.
Die Bedeutung von KI für die Geschäftstätigkeit gilt bei den meisten Unternehmen, die KI einsetzen, als wichtig. Daher sei es von großer Bedeutung, dass die zugrunde liegenden KI-Anwendungen die Erwartungen und Anforderungen der Nutzer:innen erfüllen. Eine unabhängige Zertifizierung soll Orientierung bei der Auswahl geeigneter KI-Produkte bieten und das Vertrauen in die Qualität und Sicherheit dieser Technologie stärken.