AI Act definiert Kennzeichnungspflicht für KI-Nutzer und Content-Ersteller bei Text, Bild sowie Ton
Anfang Juli dieses Jahres tritt der am 21 May 2024, vom Ministerrat der 27 EU-Mitgliedsstaaten in Brüssel verabschiedete AI Act zur Regulierung des Einsatzes von Künstlicher Intelligenz (KI) in Kraft. Nicht nur für die Digitalwirtschaft bringt dies künftig weitreichende Veränderungen mit sich. Das neue KI-Gesetz regelt für Unternehmen etwa die Nutzung der Technologien in den Bereichen Videoüberwachung, Spracherkennung und Finanzdatenanalyse. Eine Kennzeichnungspflicht für KI-Anwender und -Content-Ersteller soll bei Text, Bild und Ton für mehr Transparenz sorgen und einer Polarisierung der Gesellschaft durch Fake News und Deepfakes Einhalt gebieten.
Schwierige Kontrollierbarkeit
Zwar kommt der EU-Gesetzgeber mit dem AI Act einer Forderung der Digitalwirtschaft in Bezug auf eine „klare Weichenstellung für eine zukunftsorientierte EU-Digitalpolitik», wie es der Bundesverband Digitale Wirtschaft formuliert, nach. Dennoch bleiben viele Fragen offen – nicht zuletzt jene nach der Kontrollierbarkeit der Einhaltung der Regeln angesichts einer unüberschaubaren Fülle an immerwährend neuen Inhalten. Davon abgesehen warnen Digitalverbände wie der BITKOM bereits vor einer zu strikten Regulierung, die Innovationen ausbremse. Es brauche unter anderem „praxisnahe Hilfestellungen der Behörden».
„Ob KI in Deutschland und Europa einen Schub erhält oder vor allem vor neue Hindernisse gestellt wird, hängt entscheidend davon ab, wie dieser Rahmen ausgestaltet und die Regelungen in Deutschland umgesetzt werden. Wir müssen Raum lassen für KI-Innovationen, die den Menschen dienen. Ziel muss sein, den Einsatz von KI in Wirtschaft, Verwaltung und Gesellschaft voranzubringen. Erst 13 Prozent der Unternehmen setzen KI ein, weitere 33 Prozent planen oder diskutieren es. Die Umsetzung des AI Acts muss dafür sorgen, dass KI in Deutschland erfolgreich entwickelt und umfassend eingesetzt wird», so BITKOM-Präsident Ralf Wintergerst.
Handlungsspielraum für Behörden
Der AI Act regelt auch besonders sensible KI-gestützte Datenverarbeitungsbelange, wie etwa die Gesichtserkennung an Bahnhöfen, Flughäfen und anderen öffentlichen Orten. Die sogenannte biometrische Kategorisierung auf Basis heikler Merkmale und auch das nicht selektive Screening von Gesichtsaufnahmen aus dem Web oder von Überwachungskameras wird untersagt. Laut dem neuen EU-Gesetz soll dies nur noch per Richterentscheid möglich sein, was den Ermittlungsbehörden einen gewissen Handlungsspielraum ermöglicht.
Und auch das KI-gestützte sogenannte „Social Scoring», also die Bewertung von Sozialverhalten von Individuen, wie dies China aktuell praktiziert, sowie eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen untersagt das neue KI-Gesetz in der EU. Die Regeln gelten final erst ab dem Frühjahr 2026, wobei Unternehmen oder KI-Anwender, die diese dann nicht einhalten, mit empfindlichen Strafen rechnen müssen. Privatpersonen, die entsprechende Verstöße vermuten, können diese bei ihren nationalen Behörden melden und gegebenenfalls ein Überwachungsverfahren auslösen.
„Auch die EU-Kommission ist gefordert. Sie muss das angekündigte AI-Office rasch einrichten und mit der Umsetzung der Anforderungen für sogenannte ‘General Purpose AI Models’ beginnen. Es ist insbesondere wichtig, dass die Regulierung für diese KI-Basismodelle bürokratiearm und praxisnah gestaltet wird. Das gilt auch für die weiteren Richtlinien, die jetzt erarbeitet werden müssen. Dabei kommt es darauf an, Doppelregulierung zu vermeiden und dauerhafte Rechtssicherheit zu schaffen», fordert Wintergerst.
Quelle: Brüssel/Berlin pte029
