Nach zähen Verhandlungen haben sich EU-Institutionen auf eine vorläufige Version für ein KI-Regelwerk geeinigt: dem mittlerweile lang erwarteten AI Act. Doch in dem nun unter Feierstimmung präsentierten Regelwerk mussten sowohl Unterhändler der Länder als auch das EU-Parlament einige Kompromisse eingehen.
International gibt es schon längst Bemühungen, ein Regelwerk aufzustellen. Vor allem China und die USA hatten für ein Aufhorchen gesorgt. Jedoch war davon nichts so weitreichend und detailliert ausformuliert wie der jetzt neue präsentierte europäische AI Act. Und das, obwohl noch zahlreiche Details und Auflagen weiter ausdefiniert werden müssen. Doch was bedeutet der AI Act jetzt genau für die KI-Branche, den Datenschutz und die Sicherheit der Bevölkerung?
EU erlaubt biometrische KI-Überwachung
EU-Binnenratskommissar Thierry Breton bezeichnete die Vereinbarung zwischen den Unterhändlern der Mitgliedstaaten und dem Europaparlament als „historisch“. In einem auf x/twitter geposteten Video konnte man dazu die Verhandler und Verhandlerinnen in Brüssel müde, aber doch sichtlich erleichtert jubeln sehen. Und mit einem hat er durchaus recht, denn es ist das erste Regelwerk dieser Art.
Historic!
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook — it’s a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
— Thierry Breton (@ThierryBreton) December 8, 2023
Noch fehlen zahlreiche Einzelheiten. Einer der wichtigsten Diskussionspunkte zwischen den Unterhändlern und dem EU-Parlament war dabei die biometrische KI-Überwachung. Und auch wenn der Gesetzesentwurf automatisierte Gesichtserkennung vorerst verbietet, erlaubte er deren Einsatz zum Schutz der nationalen Sicherheit, zur Verteidigung und für andere militärische Zwecke. Wie das alles in der Endfassung aussehen wird, steht wohl noch in den Sternen. Dennoch sprechen kritische Stimmen bereits jetzt von massiven Verletzungen der Bürgerrechte.
Der aktuelle Beschluss untersagt nämlich den Strafverfolgungsbehörden den Einsatz nicht prinzipiell, sondern gibt ihnen dafür nur Rahmenrichtlinien. In den ersten Formulierungen im AI Act ist die Sprache von einem geplanten fixen Straftatetagenkatalog. Darin soll festgehalten werden, bei welchen Straftaten die Behörden überhaupt die KI einsetzten dürfen. Zusätzlich wird ebenfalls eine richterliche Genehmigung benötig.
Die Sorgen kritischer Personen bauen aber darauf, dass hier grundsätzlich ein gesetzlicher Rahmen für die Echtzeitüberwachung mittels KI geschaffen wird. Auch wenn die Behörden betonen, dass der Einsatz nur zeitlich und örtlich begrenzt erlaubt ist, lassen diese Rahmenbedingungen manche erschauern. Erst die weiteren ausdefinierten Regeln werden wohl darüber entscheiden, wie viele Befugnisse die Behörden der AI Act schließlich einräumen wird.
Befugnisse wie in China?
Bereits vor dem Durchbruch bei den Verhandlungen des AI Acts hatte der mögliche Einsatz der biometrischen KI-Überwachung scharfe Kritik nach sich gezogen. Und so sind Datenschutzorganisationen wie European Digital Rights auch nach den neuesten Einigungen weiterhin skeptisch. Die Datenschutzgruppe bezeichnet die Einigungen im AI Act im Hinblick auf öffentliche KI-Gesichtserkennung und biometrische Überwachung als nur mäßig.
Kritik kam auch bereits von Amnesty International. Die NGO hatte sich bereits im September kritisch dazu geäußert und sprach davon, dass da, wo die KI bereits international eingesetzt wird, bestehende Systeme zur Unterdrückung und Diskriminierung noch stärker auftreten. Wie die Tageszeitung „Der Standard“ berichtet, zog ebenfalls Svenja Hahn, Abgeordnete von Renew Europe (FDP), in einem Gespräche mit der Zeitung im Oktober einen Vergleich zu China. Sie betonte, dass sowohl Experten als auch Parlamentarier davor warnen, dass KI-Systeme in der Erkennung oft versagen und bestehende rassistische Stereotype verstärken können. :
„Diese Technologie hat in einer freiheitlichen Demokratie nichts zu suchen.„
In der Vergangenheit hatte in den USA Gesichtserkennungssoftware immer wieder Unschuldige hinter Gittern gebracht.
AI Act: der Versuch einer Basisregulierung
Der AI Act versucht auch im Hinblick der Qualität bei der Entwicklung von Algorithmen einzugreifen. Hier gilt es, Transparenz zu gewährleisten und gegen Urheberrechtsverletzungen vorzugehen. Man versucht die Entwickler von sogenannten Foundation-Models, also großen Basismodellen wie dem ChatGPT von OpenAI für ihre Technologie haftbar zu machen.
Das Hauptanliegen sind dabei Transparenz und Datenschutz bei den riesigen Datenmengen, mit denen die Modelle trainiert werden. Dafür ist zuerst eine Liste mit Modellen, die ein sogenanntes „systemisches Risiko“ darstellen, nötig. Um auf dieser Liste zu landen, spielen aber ebenso die Rechenkraft und die weitere Zahl der Parameter eines Modells eine Rolle. Ausgenommen davon sind Open-Source Modelle.
Wer auf dieser Liste landet, muss für Transparenz bei der Datenbeschaffung sorgen. Außerdem sieht das Regelwerk vor, dass solche Modelle die von ihnen erstellten Texte, Bilder und Videos kenntlich machen. Wie sich das technisch umsetzen lässt, ist im Moment noch eine offene Frage.
Kritik am AI Act auch von Branchenvertreter
Nicht nur Menschenrechtsorganisationen und Datenschutzvereine haben ihre Sorgen vor dem AI Act geäußert. Denn auch die Seite der Branchenvertreter äußert einige Bedenken. Man befürchtet, dass eine Überregulierung den europäischen Standort unattraktiv macht. Die Angst, mit der internationalen Konkurrenz nicht mithalten zu können, steht dabei ebenso im Raum.
Firmen wie das europäische Techunternehmen Aleph Alpha aus Deutschland könnten unter Druck geraten. Dass aber hier Regulierung notwendig ist, hat ein Vorfall in jüngster Vergangenheit deutlich gezeigt. Denn eine von Aleph Alphas KIs hat in öffentlichen Konversationen allerlei Problematisches von sich gegeben und den Nationalsozialismus sowie Adolf Hitler verherrlicht.
Ethischer?
Noch ist es wahrscheinlich zu früh, um aus den Rahmenbedingungen des AI Acts abzuleiten, was genau kommt. Dazu sind noch etliche Verhandlungsstunden, Gesetzgebung und Gespräche zwischen den Unterhändlern und dem EU-Parlament notwendig. Die Rahmenbedingungen des AI Acts wurden aber schon lange erwartet.
Denn der öffentliche Ruf nach Regeln und Gesetzen für künstliche Intelligenz Modelle, die minütlich dazulernen, wurde in den letzten Monaten stets lauter. Und auch wenn in der KI-Branche derzeit eine Goldgräberstimmung herrscht und Konkurrenz den Markt stark belebt, gilt es, eins nicht aus den Augen zu verlieren. KIs müssen uns als Gesellschaft dienen und dabei unsere ethischen Werte nachhaltig einhalten können, um keinen Schaden anzurichten. Ob dieser Spagat mit dem EU AI Act gelingen wird, vermag auch kein noch so leistungsstarkes künstlich neuronales Netz jetzt schon zu erahnen.
Titelbildcredits Pixabay
