Die EU-Minister haben in der letzten Woche einstimmig das Gesetz über künstliche Intelligenz (KI-Gesetz) gebilligt. Es handelt sich um ein bahnbrechendes neues Gesetz, das den Einsatz der transformativen Technologie in „Hochrisikosituationen“ wie Strafverfolgung und in der Arbeitswelt regelt.

„Die Verabschiedung des KI-Gesetzes ist ein wichtiger Meilenstein für die Europäische Union. Dieses bahnbrechende Gesetz – das erste seiner Art weltweit – befasst sich mit einer globalen technologischen Herausforderung, die auch Chancen für unsere Gesellschaften und Volkswirtschaften schafft,“ sagte der belgische Staatssekretär für Digitalisierung, Mathieu Michel

Auch auf globaler Ebene wird die KI genau beobachtet. Letzte Woche trafen sich mehr als ein Dutzend Länder und einige der weltweit größten Technologieunternehmen in Seoul zu einem KI-Gipfel, der gemeinsam vom Vereinigten Königreich und Südkorea ausgerichtet wurde. Sie versprachen, gegen die potenziellen Gefahren der KI, einschließlich ihrer Fähigkeit, sich der menschlichen Kontrolle zu entziehen, zusammenzuarbeiten.

Die EU-Verordnung erlaubt oder verbietet den Einsatz von KI je nach Risiko, das sie für den Menschen darstellt, und identifiziert Systeme mit hohem Risiko, die nur eingesetzt werden dürfen, wenn nachgewiesen wird, dass sie die Grundrechte respektieren.

Gegen welche KI richtet sich das Gesetz?

KI-Systeme zur biometrischen Kategorisierung auf der Grundlage politischer, religiöser oder philosophischer Überzeugungen oder der Rasse und der sexuellen Ausrichtung werden verboten. Systeme, die Menschen auf der Grundlage ihres Verhaltens oder ihrer persönlichen Eigenschaften bewerten, oder KI, die das menschliche Verhalten manipulieren kann, werden verboten. 

Systeme zur Erweiterung oder Erstellung von Gesichtsdatenbanken, die wahllos über das Internet oder audiovisuelle Aufnahmen erfasst werden, sind ebenfalls verboten. Die Verordnung lässt jedoch Ausnahmen zu: So können die Sicherheitskräfte biometrische Identifizierungskameras verwenden – immer mit richterlicher Genehmigung – zum Beispiel, um eine terroristische Bedrohung zu verhindern.

Darüber hinaus sieht das Gesetz vor, dass mit KI generierte Inhalte bei Texten, Bildern oder Videos als solche gekennzeichnet werden müssen. Dies soll dazu beitragen, die Betrachter vor irreführenden Inhalten wie Deep Fakes zu schützen.

Systeme mit hohem Risiko müssen von zugelassenen Stellen zertifiziert werden, bevor sie in der EU auf den Markt gebracht werden können. Ein neues „KI Office“ („KI Büro“) wird die Durchsetzung auf EU-Ebene überwachen. Die Nichteinhaltung der Verordnung kann zu Geldstrafen von bis zu 35 Millionen Euro oder sieben Prozent des Jahresumsatzes eines Unternehmens führen, je nach Art des Verstoßes.

Portugiesische Bemühungen zur Bekämpfung von KI

Die Europäische Kommission schlug den ersten Entwurf des KI-Gesetzes im April 2021 vor. Zu dieser Zeit hatte Portugal die rotierende Präsidentschaft des Rates der Europäischen Union inne. 

Eines der Ziele der portugiesischen Regierung – die damals eine sozialistische Mehrheit hatte – war es, die Verabschiedung des ersten EU-Gesetzes über KI voranzutreiben, das auf Transparenz und der Achtung der Rechte der Nutzer basiert.

„Wir messen dem rechtlichen Rahmen für künstliche Intelligenz große Bedeutung bei. Schon jetzt ist klar, dass künstliche Intelligenz die Grundlage für mehr Produktivität ist und ein großes Wachstumspotenzial hat,“ sagte der damalige Wirtschaftsminister Pedro Siza Vieira im Januar 2021.

Das KI-Gesetz erhielt bereits im März 2024 die Unterstützung der Mehrheit der Mitglieder des Europäischen Parlaments. Die beiden Berichterstatter für das Dossier waren der italienische Abgeordnete Brando Benifei und der rumänische Abgeordnete Dragoș Tudorache.

Nachdem die Minister am Dienstag einstimmig für die endgültige Fassung des KI-Gesetzes gestimmt haben, muss es von den Präsidenten der EU-Legislative unterzeichnet und anschließend im Amtsblatt der EU veröffentlicht werden. Technisch gesehen wird es dann 20 Tage später zum Gesetz, aber die verschiedenen Bestimmungen werden erst in den folgenden zwei Jahren schrittweise in Kraft treten.

Herausforderungen in der Umsetzungsphase

Nach Abschluss des Gesetzgebungsverfahrens für das KI-Gesetz müssen die EU-Mitgliedstaaten die Verordnung in ihr jeweiliges nationales Recht umsetzen – wobei einige Vertreter auf dem Treffen letzte Woche auf künftige Herausforderungen hinwiesen.

„Wir haben versucht, ein Gleichgewicht zwischen den beiden Ansätzen zu finden, damit sich die künstliche Intelligenz weiterentwickelt und beispielsweise kleinere Unternehmen nicht von der Bürokratie erdrückt werden, aber gleichzeitig auch, damit die Nutzung der künstlichen Intelligenz im europäischen Umfeld ihre Grenzen hat,“ sagte der für Digitalisierung zuständige tschechische Vizepremierminister Ivan Bartoš, der das Land bei dem Treffen der EU-Minister vertrat.

Ivan Ivančin, Staatssekretär des Ministeriums für Investitionen, regionale Entwicklung und Informatik der Slowakischen Republik, betonte, dass der Umsetzungsprozess im Mittelpunkt stehe und „eine Gelegenheit zum Lernen“ darstelle. Er fügte hinzu, dass „es gleichzeitig wichtig ist, konkrete Schritte zu unternehmen, um eine solide Grundlage für die weitere Entwicklung zu schaffen“.

Bulgariens geschäftsführende Regierung unterstützte die Verabschiedung des KI-Gesetzes. Dobromir Ivanov, Geschäftsführer des bulgarischen Unternehmerverbands, stellte fest, dass das KI-Gesetz ein Schritt in die richtige Richtung sei. Er betonte aber, dass es wichtig sei, zu beobachten, was von nun an getan werde. Er sagte, dass die Umsetzung nicht zu restriktiv sein und lokale Unternehmen nicht zerstören dürfe. 

Während einer Diskussion auf der Konferenz „ygeiamou 2024 – Das Gesundheitssystem und die Herausforderungen der Zukunft“ in Athen sprach der griechische Premierminister Kyriakos Mitsotakis über die Anwendung von KI im Gesundheitswesen. Er wies insbesondere darauf hin, dass es bei der Verarbeitung von Patientendaten mit KI beispielsweise wichtig ist, diese sicher zu verwalten.

KI-Experten gesucht

Die slowenische Ministerin für digitale Transformation, Emilija Stojmenova Duh, warnte vor dem Mangel an KI-Experten. „Im Moment haben wir nicht nur in Slowenien, sondern in Europa im Allgemeinen nicht genügend qualifizierte Experten, daran müssen wir also arbeiten.“

Sie ist der Meinung, dass Experten aus allen Mitgliedstaaten an der EU-Regulierungsbehörde für KI teilnehmen sollten, die bereits von der Europäischen Kommission eingerichtet wurde. Dies würde auch die Umsetzung des Gesetzes in den Mitgliedsstaaten erleichtern, sagte sie.

In Rumänien wurde letzte Woche an der Technischen Universität Cluj-Napoca mit dem Bau des ersten Forschungsinstituts für KI begonnen. Das Institut wird sich auf die Entwicklung von KI-Lösungen für wichtige Bereiche wie Gesundheit, Verkehr, Cybersicherheit und mehr konzentrieren und Studenten und Forschern modernste Ressourcen und die Möglichkeit bieten, an Projekten mit globaler Wirkung zu arbeiten.


Faktencheck: Mit künstlicher Intelligenz erstelltes Fake-News-Video

Mit Hilfe künstlicher Intelligenz kann jeder künstliche Bilder oder Videos erstellen, die häufig dazu verwendet werden, die Betrachter solcher Inhalte in die Irre zu führen – sogenannte Deep Fakes. In einem Video, das im Februar und März 2024 im Internet kursierte, ist ein Nachrichtenreporter zu sehen, der behauptet, der französische Präsident Emmanuel Macron habe seine Reise in die Ukraine, wo er sich mit Präsident Wolodymyr Zelenskij treffen wollte, wegen eines angeblichen Attentats auf ihn absagen müssen.

Das Fact-Checking-Team der Deutschen Presse-Agentur (dpa) erklärte, dass das Video eine Fälschung sei und dass sowohl der Ton – die Stimme des Moderators – als auch das Videomaterial mit Hilfe von KI verändert worden seien. Das Video kursierte in mehreren Sprachen, darunter auch in Deutsch.

Lesen Sie den vollständigen Faktencheck hier: https://dpa-factchecking.com/germany/240227-99-141274/

Dieser Artikel wird wöchentlich veröffentlicht. Der Inhalt basiert auf Nachrichten der teilnehmenden Agenturen im enr.