Mit Künstlicher Intelligenz fit für die Zukunft?
Die digitale Strategie der EU
„Wir brauchen KI in allen Bereichen, wenn wir unsere Gesellschaft fit für die Zukunft machen uns unsere Wirtschaft wettbewerbsfähig halten wollen.“ Das ist ein Zitat des deutschen Bundesministers für Verkehr und Digitales Volker Wissing. Dabei stellt sich die für Bürger*innen der europäischen Union die Frage: Betrifft mich KI in meinem alltäglichen Leben? Die Antwort darauf lautet „Ja!“. KI-gesteuerte Systeme haben beispielsweise Einfluss darauf, welche Informationen die Verbraucher*innen online finden. KI-Systeme erfassen und analysieren große Datenmengen und personalisieren, welche Werbung man online zu sehen bekommt. Das ist allerdings nur ein kleiner Teilbereich der Einsatzmöglichkeiten von KI. Auch bei Strafverfolgungen, der Durchsetzung von Gesetzen oder im medizinischen Bereich bei der Behandlung und Erkennung von Krankheiten wird künstliche Intelligenz bereits verwendet.
Dabei ist es logisch, dass es eine europaweit einheitliche Regelung zum Einsatz solcher Programme braucht. Die Europäische Union hat daher das erste umfassende KI-Gesetz weltweit verabschiedet. Der Rat der 27 EU-Mitgliedstaaten einigte sich am 21. Mai 2024 auf ein genaues Regelwerk zum Umgang mit KI. Das Gesetz soll ab dem Frühjahr 2026 in Kraft treten. Die EU-Staaten müssen dieses dann in nationales Recht umwandeln.
Was genau ist "Künstliche Intelligenz"?
Der Begriff taucht in aktuellen Debatten sehr häufig auf. Doch was genau verbirgt sich eigentlich dahinter? Künstliche Intelligenz beschriebt die Fähigkeit von Maschinen, basierend auf Algorithmen Aufgaben autonom auszuführen und dabei die Problemlösungs- und Entscheidungsfähigkeiten des menschlichen Verstandes nachzuahmen.
Kurz gesagt, ist es ein Tool, das vor allem im Bereich der Wissenschaft und Technik für innovative Ideen Verwendung findet, aber auch im kleineren Rahmen den Arbeitsalltag der Menschen erleichtern kann. Mit Programmen wie Chat-GPT hat Künstliche Intelligenz auch in vielen privaten Kontexten bereits Einzug erhalten.
Was will die EU mit ihrem KI-Gesetz erreichen?
Es handelt sich um ein komplexes Thema, welches neben den vielen Vorteilen aber auch Gefahren birgt. Daher hat die EU sich auf genaue Standards und Rahmenbedingungen bei der Verwendung von KI geeinigt. Zum einen ist ein großes Ziel, Sicherheit für Unternehmen zu schaffen und zeitgleich Innovationen zu fördern. Wichtig ist dabei die Transparenz bei KI-basierten Vorgängen zu wahren. Gleichzeitig soll KI nichtdiskriminierend und umweltfreundlich sein. Die Gesetzgebung gilt für alle Firmen, die innerhalb der EU KI-Systeme entwickeln, anbieten und nutzen.
Das bedeutet, dass es sowohl öffentliche als auch private Akteure sowohl innerhalb als auch außerhalb der EU betrifft. Ein zentraler Aspekt bei der Sicherheit ist, dass die Verwendung solcher Programme nur unter menschlicher Überwachung stattfindet, um schädliche Ergebnisse zu verhindern.
Risikobasierte Vorgehensweise
Um sicherzustellen, dass es keine schädlichen Auswirkungen auf die Menschen gibt, werden KI-Systeme auf Grundlage der neuen EU-Gesetzgebung in verschiedene Kategorien eingeordnet. Die Grundlage dafür bildet ihr potentielles Risiko.
Systeme, die in die Kategorie „Unannehmbares Risiko“ fallen, dürfen nur unter sehr strengen Auflagen verwendet werden. Dazu zählen z.B. Programme, die das Verhalten von Personen oder Gruppen manipulieren können, wie etwa sprachgesteuertes Kinderspielzeug. Dies könnte negative Auswirkungen auf das Verhalten von Kindern haben. Auch Systeme zur Einteilung von Menschen aufgrund ihres Verhaltens, der sozialen Stellung oder ihrer persönlichen Merkmale zählen dazu, da diese zu Diskriminierung führen können. Softwares zur biometrischen Gesichtserkennung beispielsweise dürfen nur unter bestimmten Bedingungen bei Strafverfolgungen eingesetzt werden.
Die zweite Kategorie bilden die Hochrisiko-KI-Systeme, welche z.B. in Produkten zu finden sind, welche in der EU sehr hohen Sicherheitsstandard unterliegen (Luftfahrt, Fahrstühle, medizinische Geräte…) oder welche in der kritischen Infrastruktur oder anderen sensiblen Bereichen zu finden sind. Systeme zur automatischen Analyse von Lebensläufen bei Bewerbungsprozessen filtern z.B. die Daten der Bewerber*innen automatisch aus. Dafür gelten künftig strenge Vorschriften wie die Protokollierung der Vorgänge, um die Prozesse transparent rückverfolgen zu können.
Bei KI-Systemen mit begrenztem Risiko geht es vorwiegend um den Aspekt der Transparenz. Durch das EU-Gesetz müssen KI-generierte Inhalte als solche für die Verbraucher*innen erkenntlich gemacht werden.
Liegt nur ein minimales oder kein Risiko vor, kann KI frei genutzt werden. Das ist z.B. bei KI-fähigen Videospielen oder Spamfiltern der Fall. Die Mehrheit der bereits verwendeten KI-Systeme fällt in diese Kategorie.
Die (nationalen) Behörden müssen nach Einführung eines KI-basierten Programms für die Überwachung und Kontrolle sorgen. Die Betreiber und Anbieter sind verantwortlich für die Durchsetzung der menschlichen Aufsicht. Durch die engen Vorschriften beim Thema Transparenz soll seitens der Bevölkerung Vertrauen in KI-Systeme geschaffen werden.
Förderung und Innovation
Start-Ups sollen durch das Gesetz die Möglichkeit bekommen, KI-Modelle zu entwickeln, bevor diese der Öffentlichkeit zur Verfügung gestellt werden. Die Unternehmen haben dabei das Recht auf eine Testumgebung, in der realitätsnahe Bedingungen simuliert werden.
Fazit
Das KI-Gesetz der EU sieht vor, dass solche Systeme nicht missbraucht werden dürfen. Dabei steht vor allem der Schutz der Grundrechte der Menschen im Fokus. Auf der anderen Seite gewährt das Gesetz Wissenschaft und Forschung einen experimentellen Freiraum, um KI-gestützte Innovationen zu fördern. Der risikobasierte Ansatz beinhaltet strenge Vorgaben bei erhöhtem Risiko und eine stetige Kontrolle. Wichtig dabei ist vor allem die Transparenzpflicht, wobei künstlich erzeugte Inhalte oder Darstellungen zwingend auch als solche gekennzeichnet werden müssen.
