Untersucht wird nicht nur das verwendete KI-Modell. Auch Daten, Speicher- und Verarbeitungsorte fließen in die Bewertung ein. | © Prihoda/APA-Fotoservice/Krisztian Juhasz
Das Know Center hat am Dienstag in Wien ein neues Gütesiegel für vertrauenswürdige Künstliche Intelligenz vorgestellt. „Trustworthy AI – by Know Center“ bewertet konkrete KI-Anwendungen anhand von Kriterien wie Datenschutz, Transparenz, digitaler Souveränität und menschlicher Aufsicht. Als erste Anwendung hat ein KI-Assistent des Österreichischen Städtebundes den Qualifizierungsprozess durchlaufen.
Das Gütesiegel richtet sich an Unternehmen, öffentliche Verwaltungen und andere Organisationen und kann für KI-Tools, Services, Modelle und Systeme beantragt werden. Es handelt sich dabei nicht um ein staatliches Gütesiegel, sondern um eine eigenständige Initiative des Know Centers.
Sieben Kriterien für KI-Anwendungen
Die Prüfung umfasst sieben Bereiche: Datenschutz und Sicherheit, Transparenz, Erklärbarkeit und Fairness, menschliche Aufsicht und Entscheidung, digitale Souveränität, Ökonomie, Nachhaltigkeit sowie digitalen Humanismus.
Untersucht wird dabei nicht nur das verwendete KI-Modell. Auch Daten, Speicher- und Verarbeitungsorte sowie organisatorische Prozesse fließen in die Bewertung ein. „Wir prüfen konkrete Anwendungen anhand klar definierter Kriterien“, sagt Cathrin von Hesler, Verantwortliche für das Gütesiegel beim Know Center. Die Bewertung zeige, „wo eine Anwendung die Anforderungen erfüllt und wo Handlungsbedarf besteht“.
Der Qualifizierungsprozess erfolgt in zwei Phasen. Zunächst bewertet das Know Center die Anwendung. Anschließend muss die Organisation darlegen, wie sie die Anforderungen künftig einhalten will. Hinzu kommen die Bewertung der KI-Kompetenz innerhalb der Organisation und eine verpflichtende kontinuierliche Eigenüberwachung.
Vertrauenswürdigkeit als Wettbewerbsvorteil
Know-Center-CEO Oliver Bernecker sieht in der Entwicklung vertrauenswürdiger KI auch eine strategische Chance für Europa. „Bei den KI-Modellen werden Europa und Österreich mit den globalen Anbietern kaum in Hinblick auf Größe und Kapital konkurrieren können. Unsere Chance liegt dort, wo Qualität, Sicherheit und Vertrauenswürdigkeit zum Wettbewerbsvorteil werden“, sagt Bernecker.
Auch für den öffentlichen Sektor gewinnt die Frage an Bedeutung, nach welchen Kriterien KI-Systeme ausgewählt und eingesetzt werden können. Erich Albrechtowitz, CDO der Gruppe I/C Digitalisierung und Informationsmanagement im Bundeskanzleramt, bezeichnet vertrauenswürdige KI deshalb als „Standortthema“. Eigene wissenschaftliche und technologische Kompetenzen seien notwendig, um Systeme beurteilen und europäische Anforderungen in die Praxis übertragen zu können.
Kommunaler KI-Assistent erhält erstes Gütesiegel
Als erste Anwendung wurde der Prototyp des „Kommunalen KI-Assistenten“ des Österreichischen Städtebundes qualifiziert. Entwickelt wurde er von der IT-Kommunal GmbH im Auftrag des Städtebundes. Das auf Open-Source-Software basierende System befindet sich derzeit noch im Testbetrieb.
Der Assistent umfasst vier Funktionen: einen Chatbot für Aufgaben wie das Redigieren von Dokumenten und Erstellen von Entwürfen, eine Recherchefunktion für kommunalspezifische Wissensbestände, ein Werkzeug zur Zusammenfassung längerer Dokumente sowie eine Transkriptionsfunktion für Audio- und Videoaufzeichnungen.
Derzeit testen rund 300 Gemeindebedienstete die Anwendung. Der Testbetrieb soll voraussichtlich bis Ende 2026 laufen.
Bei Anwendungen für die öffentliche Verwaltung spielt insbesondere der Umgang mit sensiblen Daten eine Rolle. „Bei einer KI-Anwendung für Städte zählt, dass sie absolut vertrauenswürdig ist, sodass Mitarbeiter aus der Verwaltung also auch datenschutzrechtlich relevante Dokumente damit bearbeiten können“, sagt Ronald Sallmann, CDO des Österreichischen Städtebundes und strategischer Geschäftsführer der IT-Kommunal GmbH.
Der Qualifizierungsprozess habe zudem gezeigt, an welchen Stellen Verbesserungen notwendig waren. Damit dient der erste Anwendungsfall zugleich als Praxistest dafür, wie das neue Gütesiegel bei konkreten KI-Systemen eingesetzt werden kann.