Trustworthy AI

Lässt sich Vertrauen in Künstliche Intelligenz messen?

Aktuelle Sicherheitsvorfälle haben Skepsis gegenüber KI geschürt. Ein neues Gütesiegel zeichnet nun vertrauenswürdige KI aus. Der erste Träger kommt aus der öffentlichen Verwaltung

Raimund Lang

Künstliche Intelligenz entwickelt sich in rasantem Tempo zur allgegenwärtigen Alltagstechnologie. Das Vertrauen der Nutzer in KI steigt jedoch nicht in proportionalem Ausmaß. So befragte die Wirtschaftsprüfungs- und Beratungsgesellschaft KPMG vergangenes Jahr 48.000 Menschen aus 47 Ländern nach Nutzungsverhalten und Einstellungen gegenüber KI. Eines der Ergebnisse: Während 66 Prozent der Befragten KI regelmäßig benutzen, vertrauen ihr nur 46 Prozent. Doch kann eine Künstliche Intelligenz überhaupt vertrauenswürdig sein? Und falls ja, wie lässt sich Vertrauenswürdigkeit sauber messen? Diesen Fragen stellt sich das Grazer Forschungszentrum Know Center mit seinem neuen Gütesiegel "Trustworthy AI". Es richtet sich an Unternehmen und Organisationen, die KI anbieten oder selbst einsetzen.

Ausgezeichnet werden können Modelle, Anwendungen oder Services. Erfüllen diese die vorab festgelegten Kriterien, gelten sie für 24 Monate als vertrauenswürdig im Sinne des Siegels. Streng genommen misst das Gütesiegel nicht Vertrauen selbst, sondern Eigenschaften, die allgemein als vertrauensstiftend wahrgenommen werden. "Vertrauenswürdige KI ist unter einem interdisziplinären Ansatz zu sehen, der die technischen Innovationen mit ethischen Leitlinien und regulatorischen Vorgaben verbindet", erklärt Cathrin von Hesler, Initiatorin und Verantwortliche des Gütesiegels bei Know Center. "Zentrale Aspekte sind menschliche Aufsicht, Transparenz, Fairness, Robustheit und Datenschutz."

Transparenz, Fairness, Sicherheit

Wer das neue Gütesiegel erhalten möchte, muss einen zweistufigen Prozess durchlaufen. In der ersten Phase prüfen Expertinnen und Experten des Know Center die Anwendung anhand eines Kriterienkatalogs. Umfang und Aufwand des Audits richten sich dabei nach der Komplexität der jeweiligen Anwendung und können einige Tage bis zu einigen Wochen Prüfzeit erfordern. Einige der Kriterien werden anhand streng definierter Metriken und Schwellenwerte geprüft. Konkret gilt das für Transparenz, Fairness, Robustheit und Cybersicherheit. Ihnen kommt besonderes Gewicht zu: Ein schlechtes Ergebnis lässt sich nicht durch eine gute Bewertung in einem anderen Bereich ausgleichen. Andere Kriterien sind eher qualitativer Natur. Dazu zählt etwa, was das Know Center "digitalen Humanismus" nennt. Dahinter steht die etwas vage Forderung, dass die Technologie dem Menschen dienen solle und nicht umgekehrt. Zudem müssen Anwendungen "an menschlicher Werteorientierung ausgerichtet" sein.

Ein autonomes Waffensystem würde das Gütesiegel demnach nicht erhalten, selbst wenn es alle anderen Kriterien mit Bravour erfüllte, wie Know Center Geschäftsführer Oliver Bernecker auf Nachfrage des STANDARD bestätigt. Auch das Kriterium der Ökonomie, wonach die Autonomie von Prozessen zur Steigerung von Produktivität führen soll, ist wohl eher als "nice to have" zu lesen denn als messerscharfe Bestimmung. In der zweiten Phase des Vergabeverfahrens sind die Antragsteller selbst gefordert: Sie müssen ein Konzept dazu vorlegen, wie sie die Kriterien auch während der 24-monatigen Laufzeit des Gütesiegels einhalten wollen. Anschließend sind sie zur kontinuierlichen Eigenüberwachung verpflichtet und müssen ihre Ergebnisse auch dokumentieren.

Testbetrieb in Gemeinden

Der Österreichische Städtebund hat dieses Verfahren bereits durchlaufen und ist offiziell der erste Inhaber des "Trustworthy AI"-Gütesiegels. Das neue KI-System mit dem nüchternen Namen "kommunaler KI-Assistent" läuft derzeit im Testbetrieb bei rund 350 Mitarbeiterinnen und Mitarbeitern in verschiedenen Mitgliedsgemeinden. Es soll Verwaltungsmitarbeitende künftig bei unterschiedlichen Aufgaben unterstützen. Vorerst werden vier Module von den Anwenderinnen und Anwendern erprobt: ein vom Internet entkoppelter Chatbot für Übersetzungen, Dokumentenprüfungen und Textentwürfe; ein Recherchemodul für nicht öffentlich zugängliche, kommunalspezifische Wissensbestände; ein Zusammenfassungsmodul für längere Dokumente wie Verträge oder Gutachten sowie ein Transkriptionsmodul für Audio- und Videodateien, das insbesondere für die Verschriftlichung von Sitzungen genutzt wird. Ein Ausbau um weitere Funktionen ist angedacht, so Ronald Sallmann, CDO des Österreichischen Städtebundes sowie Gesellschafter und Geschäftsführer der Firma IT-Kommunal, die das KI-System betreibt.

"Uns war sehr wichtig, dass der kommunale KI-Assistent digital souverän ist", so Sallmann. Dazu gehöre vor allem, "dass wir den Betrieb selbst in der Hand haben." Der Software-Stack, auf dem die Anwendungen basieren, ist F13, eine vom deutschen Bundesland Baden-Württemberg entwickelte Open-Source-Plattform für KI-Anwendungen in der öffentlichen Verwaltung. "Das Gütesiegel hat die Qualität unseres Service deutlich gesteigert", sagt Sallmann. "Im Zuge der Prüfung sind auch viele Prozesse rundherum und die Dokumentation beleuchtet worden. Es war fordernd, aber es hat sich bezahlt gemacht." Für den Städtebund soll das Gütesiegel den Anwendern des KI-Assistenten insbesondere die Sicherheit geben, bei der Nutzung von Daten keine möglicherweise datenschutzrechtswidrigen Handlungen zu setzen. Damit leistet das Siegel, was seine Entwickler versprechen – es schafft Vertrauen. Oder schafft zumindest eine überprüfbare Grundlage dafür. (Raimund Lang, 20.9.2026)

Forum: 8 Postings

Ihre Meinung zählt.

Die Kommentare im Forum geben nicht notwendigerweise die Meinung der Redaktion wieder. Die Redaktion behält sich vor, Kommentare, welche straf- oder zivilrechtliche Normen verletzen, den guten Sitten widersprechen oder sonst dem Ansehen des Mediums zuwiderlaufen (siehe ausführliche Forenregeln), zu entfernen. Benutzer:innen können diesfalls keine Ansprüche stellen. Weiters behält sich die STANDARD Verlagsgesellschaft m.b.H. vor, Schadenersatzansprüche geltend zu machen und strafrechtlich relevante Tatbestände zur Anzeige zu bringen.