KI muss sich zu erkennen geben

Die Transparenzpflichten gemäß Artikel 50 der KI-Verordnung (EU AI Act) treffen in erster Linie die Anbieter von KI-Systemen, also etwa OpenAI, Google und Anthropic. Diese müssen ihren KI-Output durch eine maschinenlesbare Markierung als künstlich erzeugt kennzeichnen.

Für andere Unternehmen gilt die Kennzeichnungspflichten bei Deepfakes, also in Fällen, bei denen täuschend echte Bilder, Videos oder Audioaufnahmen veröffentlicht werden, die reale Personen oder Ereignisse künstlich darstellen oder wesentlich verändern. Auch künstlich generierte Texte von öffentlichem Interesse, die ohne menschliche Prüfung publiziert werden, müssen ausgewiesen werden.

Saftige Strafen drohen

Die vorgesehenen Strafen bei Verstößen sind nennenswert: Bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes drohen, je nachdem, welcher Betrag höher ist. Wer KI-Bilder auf seinem privaten Profil veröffentlicht, muss nichts kennzeichnen. Außerdem gelten Ausnahmen für „künstlerische, satirische, fiktionale oder kreative“ Werke, bei denen KI eingesetzt wurde: Eine Kennzeichnung ist hier Pflicht, sie muss aber nicht auf dem Bild angezeigt werden, sodass sie das Werk nicht beeinträchtigt.

Ein einheitliches Label für die Kennzeichnungen gibt es nicht, die EU-Kommission hat aber einen Praxisleitfaden herausgegeben. So sollen Videos und Fotos den Vorschlägen nach etwa durch Etiketten in einer Ecke des Bildausschnitts klar als „KI generiert“ oder „KI modifiziert“ markiert werden.

In Videos sollten die Kennzeichnungen direkt zu Beginn erscheinen, durchgehend bleiben oder zumindest in regelmäßigen Abständen wieder eingeblendet werden. Empfohlen werden auch interaktive Elemente, etwa bei manipulierten Bildern. Hier könnte – zusätzlich zu einer dauerhaften Markierung – auch eine Einblendung auftauchen, wenn man etwa mit der Maus über ein von KI verfälschtes Gesicht fährt.

Bei Audiodateien, etwa KI-generierten Podcasts, soll es gleich zu Beginn einen entsprechenden Hinweis in gesprochener Sprache geben. Für Texte sehen die Vorschläge KI-Etiketten beispielsweise über oder nahe der Überschrift vor. Im ORF gelten seit 2025 bereits KI-Guidelines, die nun anlässlich der EU-Pflicht weiterentwickelt wurden.

Die Leitlinien sind nicht verbindlich, dürften aber als Gradmesser für die Kontrolle dienen. Ähnlich wie bei der EU-Datenschutz-Grundverordnung (DSGVO) ist aber noch nicht absehbar, wie oft Verstöße gegen die Transparenzvorschriften überhaupt geahndet und entsprechend bestraft werden. Zumal KI-Anwendungen laufend leistungsfähiger werden und damit kaum noch als generierter Inhalt erkennbar sind.

Datenschützer sehen kein „Allheilmittel“

Darauf wies auch die Grundrechts-NGO epicenter.works gegenüber ORF.at hin: „Nachträglich lässt sich mittlerweile immer schwerer feststellen, ob ein Inhalt KI-generiert wurde oder nicht. Daher setzt die Verpflichtung grundsätzlich auch bereits bei der Erzeugung des Inhalts an.“ Generell sei die Verordnung zu begrüßen, doch sei sie kein Allheilmittel und könne nicht vollends verhindern, dass falsche oder irreführende Inhalte erzeugt werden.

Wenn man aber zumindest bei den größten Anbietern auf eine effektive Umsetzung achten würde, wäre schon viel gewonnen, hieß es seitens epicenter.works. Tatsächlich sind viele Digitalkonzerne dem Stichtag am Sonntag zuvorgekommen.

Die Videoplattform TikTok etwa schreibt Nutzerinnen und Nutzern seit mehreren Jahren vor, KI-Inhalte zu kennzeichnen, und bietet dafür ein eigenes Label an. Auf Instagram und Facebook sind zahlreiche Inhalte bereits gekennzeichnet. Auch in der Google-Suche steht unter KI-generierten Antworten ein entsprechender Hinweis.

Kritik an Österreichs Säumigkeit

Für neue Systeme gilt die Kennzeichnungspflicht ab sofort, bestehende KI-Systeme bekommen bis zum 2. Dezember Zeit, um die neuen Regeln umzusetzen. Für epicenter.works sind der Aufschub sowie vorangegangene Aufweichungen der Richtlinie unverständlich. Hingewiesen wird auch auf die nationale Säumigkeit: „Österreich selbst hat es bisher verabsäumt, eine Aufsichtsbehörde einzurichten, obwohl Teile des AI Act bereits seit einem Jahr in Kraft sind.“

Kritik an der Säumigkeit Österreichs kam auch von den Grünen: Dabei wäre mit der 2024 eingerichteten KI-Servicestelle bei der Regulierungsbehörde RTR bereits in der vergangenen Gesetzgebungsperiode eine Struktur aufgebaut worden. „Man hätte sie nur mit den nötigen Befugnissen und Ressourcen ausstatten müssen. Stattdessen wurde ein Jahr gestritten, wer zuständig sein darf. Das ist keine Regierungsarbeit, das ist Postenpolitik auf Kosten des Landes“, hielt der grüne Digitalisierungssprecher Süleyman Zorba fest.

Aus dem Bundeskanzleramt hieß es zuletzt, ein konkreter Zeitpunkt für eine Begutachtung könne aufgrund laufender Gespräche noch nicht genannt werden. Es wurde zugleich betont, dass unabhängig davon, ob eine österreichische Behörde bis 2. August benannt wurde oder nicht, die Unternehmen und die öffentliche Verwaltung die rechtlichen Anforderungen erfüllen müssten, da diese auch aufgrund von Persönlichkeitsrechten durchgesetzt werden könnten.

Wirtschaft sieht „keinen Grund zur Sorge“

Wirtschaftsbehörden zeigen sich vorläufig entspannt, die Wirtschaftskammer Österreich (WKO) lässt auf ihrer Website wissen: „Für die tägliche Nutzung von KI im Betrieb gibt es keinen Grund zur Sorge, aber es lohnt sich, die neuen Regeln zu kennen und umzusetzen.“ Das Magazin der Deutschen Unternehmer Plattform (DUP) hielt fest: „Die neuen Transparenzpflichten bedeuten für Unternehmen keinen grundlegenden Umbau ihrer Kommunikation. Sie machen aber deutlich, dass der Einsatz von KI klare Verantwortlichkeiten braucht.“