Das Thema der künstlichen Intelligenz ist zurzeit eines der umstrittensten Gebiete in der Gesellschaft und somit auch im Recht. Das hängt vor allem damit zusammen, dass es für viele bisher bloß ein Zukunftskonzept war, das in den letzten Jahren plötzlich zur Realität wurde. Die Konsequenz sind Unsicherheit und Misstrauen, besonders den Rechtsschutz in diesem Bereich betreffend. Die EU hat jedoch hierzu in Form der KI-Verordnung weltweit als erstes ein Gesetzeswerk geschaffen.
Die KI-Verordnung ist am 21. Mai 2024 in Kraft getreten und stellt neue Anforderungen an Anbieter und Nutzer von KI-Systemen (inklusive Systemen mit KI-Elementen). Allem voran sollen aber natürlich die Regelungen über die Herstellung und Anbietung von künstlicher Intelligenz innerhalb der Union harmonisiert werden.
Die Verordnung unterteilt die verschiedenen Systeme in Risikogruppierungen. Welche Regeln auf ein bestimmtes KI-System anzuwenden sind, hängt von dessen Risikostufe ab. Dabei wird zwischen inakzeptablem, hohem, begrenztem und minimalem/keinem Risiko unterschieden. Systeme, die in die Stufe des inakzeptablen Risikos fallen, sind gänzlich verboten. Nach Art 5 KI-VO sind das zum Beispiel jene, die Techniken zur absichtlichen Manipulation oder unterschwelligen Beeinflussung des Bewusstseins von Personen einsetzen, sowie Systeme zur sozialen Bewertung von Individuen anhand von gewissen Charaktereigenschaften oder sozialem Verhalten durch staatliche Behörden. Auch Techniken zur biometrischer Echtzeitüberwachung in öffentlichen Räumen sind, bis auf sehr wenige spezifische Ausnahmen, verboten.
Hochrisikosysteme inkludieren beispielsweise jene in kritische Infrastrukturen, die das Leben und die Gesundheit der Bürger gefährden können oder Techniken, die dazu geeignet sind, den Zugang von Personen zur allgemeinen oder beruflichen Bildung zu beeinflussen (zB Prüfungsbewertung), aber auch Spielzeug mit KI-Elementen fällt in diese Gruppierung.
Als Systeme mit minimalem beziehungsweise keinem Risiko gelten zum Beispiel Spam-Filter oder Videospiele. Für diese gibt es keine besonderen Verpflichtungen, jedoch sind freiwillige Verhaltenskodizes möglich.
Für KIs mit begrenztem Risiko, zum Beispiel Chatbots oder die Generierung von Bildern, Audios und Text, gelten gewisse Transparenzpflichten.
Chatbot, Deepfake & Co: Wann muss gekennzeichnet werden, dass KI am Werk ist?
Die Transparenzpflichten für Anbieter und Betreiber von gewissen KI-Systemen wurden mit dem neuen Art 50 der KI-VO, der seit dem 02.08.2026 in Kraft ist, nachgeschärft. Konkret wird dabei zwischen vier Pflichten unterschieden.
Anbieter von KI-Systemen, die zur direkten Interaktion mit Nutzern entwickelt werden, müssen diese so konzipieren, dass die Nutzer klar erkennen können, dass sie mit einer KI sprechen (zB bei einem Chatbot, der zum Kundenservice auf einer Website dient). Eine Ausnahme von dieser Verpflichtung besteht nur dort, wo es aus dem Kontext für den Nutzer offensichtlich ist, dass es sich um eine Interaktion mit einer KI handelt, oder diese Zwecke mit öffentlichem Interesse wie die Strafverfolgung, -aufdeckung, -verhütung oder -untersuchung.
Auch müssen Anbieter bei der Generierung von synthetischen Inhalten wie Bildern, Audio- oder Videodateien sicherstellen, dass die künstliche Erzeugung als solche gekennzeichnet wird. Das kann zB durch Wasserzeichen erfolgen und darf nur unterbleiben, wenn das KI-System eine Hilfsfunktion für Standardbearbeitungen ist oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändert werden. Auch stellt wiederum die gesetzlich zugelassene Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten eine Ausnahme dar.
Betreiber von KI-Systemen, die zur Emotionserkennung oder biometrischen Kategorisierung eingesetzt werden, müssen die betroffenen natürlichen Personen darüber informieren.
Eine Ausnahme gilt für bestimmte KI-Systeme, die über entsprechende Schutzvorkehrungen verfügen und bei denen die Information die Zwecke des Einsatzes untergraben würde.
Wer ein KI-System einsetzt, das Deepfakes, also täuschend echte Bilder, Audio- oder Videoinhalte, erstellt oder verändert, muss ebenfalls kenntlich machen, dass die Inhalte künstlich generiert wurden. Hier gilt wieder die Ausnahme von der Offenlegungspflicht bei der legalen Verwendung im Zusammenhang mit der Strafverfolgung und -prävention. Handelt es sich jedoch um ein offensichtlich künstlerisches, kreatives, satirisches, fiktionales oder analoges Werk, wird die Transparenzpflicht darauf beschränkt, dass nur unauffällig auf das Vorhandensein von KI-generierten Inhalten hingewiesen werden muss, und zwar so, dass die Darstellung oder der Genuss des Werks nicht beeinträchtigt wird.
Ähnliches gilt für KI-generierte Texte um die Öffentlichkeit über Themen von allgemeinem Interesse zu informieren: auch hier muss offengelegt werden, dass der Text künstlich erzeugt oder manipuliert wurde. Zusätzlich zu der Ausnahme bei gesetzlich zugelassenen Strafverfolgungsmaßnahmen entfällt die Pflicht, wenn die Inhalte vor Veröffentlichung einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Besonders wichtig ist, dass die Offenlegung leicht verständlich sein soll und den Barrierefreiheitsanforderungen entspricht. Kinder, ältere Menschen und Menschen mit Behinderung sind insbesondere zu berücksichtigen.
Quellen:
RTR – Rundfunk & Telekom Regulierungs GmbH: Transparenzpflichten nach dem AI-Act https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Transparenzpflichten.de.html
Artificial Intelligence Act: Art 50 KI-VO https://artificialintelligenceact.eu/de/article/50/
Europäisches Parlament: KI-Gesetz: erste Regulierung der künstlichen Intelligenz