Geprüft wird die Anwendung, nicht das Versprechen

Im Gemeindeamt beginnt eine KI-Einführung meist mit der Frage, ob das sicher genug ist für Akten, in denen Namen stehen. Unterlagen und Zusagen konnten Anbieter dafür bisher vorlegen, einen öffentlich einsehbaren österreichischen Maßstab für die einzelne Anwendung nicht.

Ein Grazer Forschungszentrum prüft jetzt einzelne Anwendungen

Am 8. September 2026 stellte das Know Center in Wien das Gütesiegel „Trustworthy AI – by Know Center“ vor. Prüfungsrichtlinie und Kriterienkatalog liegen bereits seit dem Frühjahr auf der Website des Zentrums; neu ist, dass eine erste Anwendung das Verfahren durchlaufen hat.

Geprüft werden nach Angaben des Zentrums konkrete KI-Werkzeuge, -Dienste, -Modelle und -Systeme, also einzelne Anwendungen und nicht Anbieter im Allgemeinen. Das Know Center ist ein COMET-Kompetenzzentrum, also ein öffentlich gefördertes Forschungszentrum, mit Sitz in Graz.

Bei der Pressekonferenz ordnete der Chief Digital Officer der Gruppe Digitalisierung und Informationsmanagement im Bundeskanzleramt die Bedeutung vertrauenswürdiger KI für den Standort ein. In einer Anmerkung stellt die Aussendung dazu ausdrücklich klar, dass er in Entwicklung, Prüfung und Vergabe nicht eingebunden ist; das Gütesiegel ist eine eigenständige Initiative des Know Center und kein staatliches Gütesiegel. Das Siegel macht Qualität sichtbar – eine behördliche Zulassung ersetzt es nicht.

Sieben Bereiche stehen auf der Prüfliste

Bewertet werden laut Know Center sieben Bereiche.

• Datenschutz und Sicherheit
• Transparenz, Erklärbarkeit und Fairness
• menschliche Aufsicht und Entscheidung
• digitale Souveränität
• Ökonomie
• Nachhaltigkeit
• digitaler Humanismus

Das Verfahren läuft in zwei Phasen. In der ersten prüft das Know Center die festgelegten Kriterien, wahlweise online oder vor Ort, im Umfang abgestuft nach Kritikalität und Komplexität der Anwendung. In der zweiten legt die antragstellende Organisation ein Konzept vor, wie die Anforderungen künftig eingehalten werden; zusätzlich verlangt das Verfahren eine laufende Eigenüberwachung und berücksichtigt die KI-Kompetenz der Organisation. Wer beide Phasen erfüllt, erhält eine eigene Gütesiegel-ID.

Zeigen sich während der Prüfung offene Punkte, werden sie aufgezeigt und können bearbeitet werden; die betroffenen Kriterien werden anschließend erneut bewertet. Das Siegel dokumentiert damit den Zustand nach der Nachbesserung.

Bemerkenswert ist der zweite Teil des Verfahrens, denn er erfasst neben der Technik auch die Organisation dahinter. Genau die fehlt in vielen Gemeinden, wenn ein Werkzeug eingeführt wird.

Das erste geprüfte Projekt kommt aus der Verwaltung

Als erste Anwendung hat der Prototyp des „Kommunalen KI-Assistenten“ das Verfahren durchlaufen. Entwickelt hat ihn die IT-Kommunal GmbH als technischer Dienstleister, im Auftrag des Österreichischen Städtebundes und für dessen Mitgliedsstädte. Er setzt nach Angaben der Beteiligten zu hundert Prozent auf quelloffener Software auf; die Architektur stammt aus einer laufenden Initiative des öffentlichen Sektors in Deutschland.

Der Assistent besteht aus vier Modulen.

• Chatbot für Textarbeit, etwa Redigieren oder Entwürfe
• Recherche in hinterlegten, kommunalspezifischen Wissenspools
• Zusammenfassung längerer Dokumente wie Studien, Gutachten oder Verträge, mit vorgebbarer Länge und Schwerpunktsetzung
• Transkription von Audio- und Videoaufzeichnungen, gedacht für den Sitzungsbetrieb

Die Mitgliedsgemeinden waren eingeladen, eine begrenzte Zahl an Bediensteten für die Erprobung zu nominieren. Rund 300 Gemeindebedienstete testen die Anwendung derzeit, der Testbetrieb läuft laut Aussendung voraussichtlich bis Jahresende 2026. Geprüft wurde damit ein Prototyp im Testbetrieb; über einen Regelbetrieb mit tausenden Nutzern sagt das Siegel noch nichts.

Ronald Sallmann, CDO des Österreichischen Städtebundes und strategischer Geschäftsführer der IT-Kommunal GmbH, begründet den Aufwand damit, dass Verwaltungsbedienstete auch datenschutzrechtlich heikle Dokumente bearbeiten sollen und dabei keine Daten die Betriebsumgebung verlassen, gespeichert oder ausgewertet werden dürften. Der Qualifizierungsprozess habe gezeigt, wo nachzuschärfen war.

Für Gemeinden wird die Anbieterzusage überprüfbar

Bisher genügte in der Kommunikation der Satz, die Lösung sei sicher und die Daten blieben in Europa. Wenn eine österreichische Prüfstelle definierte Kriterien veröffentlicht, wird diese Aussage vergleichbar. Danach fragen der Gemeinderat, die Personalvertretung, die Datenschutzbeauftragten und Redaktionen.

Das Siegel selbst ist für die einzelne Gemeinde selten ein Thema, denn beantragt wird es von jenen, die eine Anwendung anbieten. Die Kriterien dagegen taugen als Checkliste für das Gespräch mit dem Anbieter und für die Vorlage im Gemeinderat.

Vor der ersten Anwendung stehen drei Festlegungen

Die KI-Verordnung der EU verlangt von Anbietern und Betreibern seit 2. Februar 2025 Maßnahmen zur KI-Kompetenz – beim eigenen Personal und bei anderen Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung solcher Systeme befasst sind. Seit 27. Juli 2026 gilt Artikel 4 in der Fassung der Digital-Omnibus-Verordnung (EU) 2026/1744. Aus dem Sicherstellen eines ausreichenden Maßes wurde die Pflicht, dessen Entwicklung zu fördern. Die Pflicht ist weicher formuliert, aber nicht gestrichen. Überwacht wird sie seit 2. August 2026 durch die nationalen Marktüberwachungsbehörden.

Wer eine KI-Anwendung in einer Gemeinde einführt, braucht eine schriftliche Einsatzregel, eine namentlich verantwortliche Person und eine Sprachregelung, die auch eine Fehlermeldung übersteht.

Das Gütesiegel ersetzt keine Entscheidung der Gemeinde. Es zeigt, welche Fragen davor nicht offen bleiben sollten.