Lässt sich Vertrauen in Künstliche Intelligenz messen?

Am 8. September 2026 stellte das Grazer Know Center in einer Pressekonferenz in Wien erstmals das Gütesiegel „Trustworthy AI – by Know Center“ öffentlich vor. Die Veranstaltung wurde von dem Institut als Startpunkt für ein neues Prüfverfahren präsentiert, mit dem KI-Komponenten und -Systeme auf eine Reihe technischer und qualitativer Kriterien überprüft werden sollen. Laut Mitteilung des Know Center und begleitender Presseinformationen war die Vorstellung Teil eines größeren Versuchs, Vertrauen in algorithmische Systeme mess- und kommunizierbar zu machen.

Bei der Präsentation wurde zugleich der erste erfolgreiche Abschluss des Qualifizierungsprozesses bekanntgegeben: das Prototypprojekt „Kommunaler KI‑Assistent“, das für den Österreichischen Städtebund entwickelt wurde und von der Firma IT‑Kommunal implementiert worden ist. Die Bekanntgabe erfolgte sowohl in der Pressekonferenz als auch in Statements des Städtebundes und der beteiligten Entwickler, die das Projekt als „Lighthouse“-Anwendung bezeichneten, mit der exemplarisch gezeigt werden solle, wie das neue Verfahren angewendet werden kann.

Das Gütesiegel besteht nach Darstellung des Know Center aus einem zweistufigen Assessmentsprozess: Zunächst eine technische Prüfung, gefolgt von einer qualitativen Bewertung. Der Prüfrahmen umfasst demnach Transparenz, Fairness, Robustheit, Sicherheit, menschliche Aufsicht, Datenschutz und digitale Souveränität. Nach erfolgreicher Bewertung wird ein Zertifikat ausgestellt, das eine sogenannte Seal‑ID enthält; die Gültigkeit eines Siegels ist auf 24 Monate begrenzt.

Die Beschreibung auf der Website des Know Center legt nahe, dass das Siegel sowohl technische Tests (etwa Robustheit gegen Angriffe oder Nachvollziehbarkeit von Entscheidungen) als auch organisatorische und dokumentarische Nachweise (etwa Governance‑Prozesse, Datenschutzkonzepte, Maßnahmen zur Diskriminierungsvermeidung) berücksichtigt. Damit unterscheidet sich das Verfahren bewusst von rein mathematischen Performance‑Benchmarks: Es geht nicht nur um Modellgenauigkeit, sondern um ein Bündel von Kriterien, die zusammen „Vertrauenswürdigkeit“ abbilden sollen.

Als erster Träger des Siegels wurde der „Kommunale KI‑Assistent“ vorgestellt. Dieser Prototyp wurde von IT‑Kommunal im Auftrag des Österreichischen Städtebundes entwickelt und ist laut den verfügbaren Informationen als Service gedacht, der kommunalen Mitarbeitern Informationen, Vorschläge und administrative Unterstützung bieten soll. Die Auszeichnung als Prototyp ist symbolisch: Sie zeigt, dass die Methodik auch für öffentliche IT‑Dienste anwendbar sein kann, die direkt mit Bürgerinnen und Bürgern interagieren.

Die Entscheidung, einen kommunalen Assistenten als erstes Beispiel zu zertifizieren, hat eine doppelte Signalwirkung: Einerseits führt sie die Debatte über „vertrauenswürdige KI“ in den Bereich der öffentlichen Verwaltung, wo Fragen der Rechenschaftspflicht und der rechtssicheren Anwendung besonders dringlich sind. Andererseits wirft sie praktische Fragen auf – etwa zur Integration in bestehende kommunale IT‑Infrastrukturen, zur Kostenfrage und zur Haftung, falls eine automatisierte Empfehlung Fehler enthält.

Das Know Center betont ausdrücklich, dass es sich bei seinem Siegel um ein wissenschaftlich begründetes Prüfverfahren handelt; die rechtliche Verbindlichkeit hingegen ist begrenzt. Die EU‑KI‑Verordnung (AI Act) tritt in einer Stufe ein, die regulatorische Anforderungen an Hochrisiko‑Systeme stellt und Konformitätsbewertungsverfahren vorsieht. Wie das neue Siegel in dieses regulatorische Gefüge einzuordnen ist, bleibt aktuell offen: Es ist ein freiwilliges Qualitätsmerkmal, das aber die Erwartungen an auditierbare Prozesse und Dokumentationen bedienen will.

Offen ist, inwieweit Behörden, Aufsichtsstellen oder Beschaffungsstellen das Siegel künftig als Beleg bei Ausschreibungen oder Prüfungen anerkennen. Die Möglichkeiten reichen von einer unterstützenden Rolle als Nachweis guter Praxis bis zu einer quasi-normativen Funktion, wenn Zertifikate in Beschaffungsrichtlinien aufgenommen würden. Derzeit gibt es jedoch keine offizielle staatliche Anerkennung des Siegels als gleichwertig zu behördlichen Konformitätsnachweisen.

Das Vorhaben macht zwei positive Effekte plausibel: Erstens ermöglicht es Entwicklerinnen und Betreibern, einen strukturierten Nachweis über Maßnahmen zur Vertrauensbildung vorzulegen. Zweitens kann es bei Nutzerinnen und Nutzern das Bewusstsein dafür schärfen, welche Kriterien für verantwortungsvolle Systeme relevant sind. Für die öffentliche Verwaltung könnte ein solches Instrument helfen, Auswahlprozesse zu systematisieren und Transparenz gegenüber Bürgerinnen und Bürgern herzustellen.

Gleichzeitig bleiben mehrere Aspekte unklar. Wie skalierbar ist ein zweiphasiges Prüfverfahren, wenn die Nachfrage nach Zertifizierungen steigt? Welche Kosten werden für kleinere Anbieter oder Kommunen entstehen? Wie werden Interessenkonflikte verhindert, falls Forschungseinrichtungen Prüfungen gegen Entgelt anbieten? Und nicht zuletzt: Wie lässt sich die Aussagekraft eines Siegels vor Manipulation oder „Zertifikats‑Marketing“ schützen? Das Know Center hat erste Antworten und Kriterien vorgelegt, doch endgültige Regeln für Anerkennung, Finanzierung und unabhängige Kontrolle stehen noch aus. Diese Fragen werden darüber entscheiden, ob das neue Gütesiegel mehr als ein wissenschaftlich fundiertes Label bleibt oder tatsächlich zu einem praktischen Instrument für den sicheren Einsatz von KI wird.