EU-Parlament gibt grünes Licht für KI-Gesetz

Straßburg () – Das Europäische Parlament hat grünes Licht für eine einheitliche Regelung von Künstlicher Intelligenz (KI) gegeben. 523 Abgeordnete stimmten am Mittwoch in Straßburg für das entsprechende Gesetz, 46 dagegen bei 49 Enthaltungen.

Demnach sollen KI-Systeme zukünftig in verschiedene Risikogruppen eingeteilt werden. Dabei gilt: Je größer die potenziellen Gefahren einer Anwendung sind, desto höher sollen die rechtlichen Anforderungen sein. Basismodelle etwa müssen Mindeststandards erfüllen wie Transparenz über Trainingsdaten. Werden jedoch “systemische Risiken” befürchtet, sollen strengere Vorgaben gelten.

Bei der KI-Nutzung in Sicherheitsbehörden sieht das Gesetz grundsätzlich ein “hohes Risiko” für Menschenrechtsverletzungen, genauso bei Anwendungen in der kritischen Infrastruktur sowie der Personalverwaltung. Auch Systeme, die potenziell Wahlen beeinflussen können, stehen im Fokus des Gesetzes.

In diesen Fällen soll daher ein Mensch in letzter Instanz die Kontrolle über die Entscheidungen der KI haben. Zudem schreibt das Gesetz eine technische Dokumentation und ein System zum Risikomanagement vor. Betroffene sollen darüber hinaus bei den Behörden Beschwerde gegen die KI-Nutzung einreichen können.

Verboten werden sollen KI-Systeme, die Menschen nach Kriterien wie ihren politischen und religiösen Ansichten, ihrer sexuellen Orientierung oder der Hautfarbe in Gruppen einteilen. Außerdem werden die aus China bekannten sogenannten Sozialkredit-Systeme verboten, die auf das Verhalten oder persönliche Eigenschaften abzielen.

Unternehmen dürfen ferner KI nicht einsetzen, um die Gefühle ihrer Beschäftigten zu erfassen. Die Technologie darf zudem nicht genutzt werden, um Menschen gegen ihren Willen zu beeinflussen. Betroffene dürfen durch die Nutzung zudem nicht etwa wegen ihres Alters, einer Behinderung oder ihrer finanziellen Situation benachteiligt werden.

Die Polizei und andere Sicherheitsbehörden dürfen KI-gesteuerte Gesichtserkennung an öffentlichen Plätzen nutzen, wenn eine richterliche Anordnung vorliegt. Bei aufgezeichnetem Videomaterial darf die Technologie für die Fahndung nach Verurteilten oder Verdächtigten schwerer Straftaten verwendet werden.

Bei Echtzeit-Verfolgung des Videomaterials sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Außerdem dürfen sie die Gesichtserkennung zur “Verhinderung einer konkreten und akuten Terrorgefahr” nutzen.

Text-/Bildquelle:	Übermittelt durch www.dts-nachrichtenagentur.de
Bildhinweis:	EU-Parlament in Straßburg (Archiv)

Zusammenfassung

– Europäisches Parlament gibt grünes Licht für einheitliche KI-Regelung
– KI-Systeme werden in verschiedene Risikogruppen eingeteilt, je nach potenziellen Gefahren
– Transparenz über Trainingsdaten verlangt, strengere Vorgaben bei “systemischen Risiken”
– KI-Nutzung in Sicherheitsbehörden, kritischer Infrastruktur und Personalverwaltung als “hohes Risiko”
– Mensch soll in letzter Instanz Kontrolle über KI-Entscheidungen haben
– Technische Dokumentation und Risikomanagement-System vorgeschrieben
– KI-Systeme, die Menschen nach bestimmten Kriterien einteilen, und Sozialkreditsysteme verboten
– Verbot von KI zur Erfassung von Mitarbeitergefühlen und ungewollter Beeinflussung von Menschen
– KI-gesteuerte Gesichtserkennung durch Polizei erlaubt bei richterlicher Anordnung und bestimmten Verbrechen
– Gesichtserkennung auch erlaubt zur Verhinderung von Terrorgefahr und Suche nach Opfern von Menschenhandel bzw. sexueller Gewalt

Fazit

Das Europäische Parlament hat eine einheitliche Regelung für Künstliche Intelligenz (KI) beschlossen. KI-Systeme sollen in Risikogruppen eingeteilt werden, wobei höhere rechtliche Anforderungen für Anwendungen mit größeren potenziellen Gefahren gelten. In sensiblen Bereichen wie Sicherheitsbehörden und Wahlen soll ein Mensch die letzte Kontrollinstanz über KI-Entscheidungen haben. Verboten werden KI-Systeme, die Menschen in Gruppen einteilen, sowie Sozialkredit-Systeme. Unternehmen dürfen KI nicht zur Erfassung von Mitarbeitergefühlen verwenden. Sicherheitsbehörden dürfen KI-gesteuerte Gesichtserkennung mit richterlicher Anordnung nutzen.