FuturEU: Künstliche Intelligenz - Chancen und Risiken für Europa

Hamburg(ots) - Wachstum fördern, Sicherheit gewährleisten, Menschenrechte schützen: Das sind die zentralen Forderungen des Europäischen Parlaments für den Umgang mit Künstlicher Intelligenz. Wie das im Einzelnen aussehen wird, ist aber umstritten.

Künstliche Intelligenz, kurz KI genannt, beschreibt Anwendungen, bei denen Maschinen menschenähnliche Intelligenzleistungen erbringen. Die EU-Kommission hat im April 2021 den weltweit ersten Rechtsrahmen für die Anwendungen von KI vorgeschlagen. Konkret legte die Kommission vor allem Regeln für sogenannte Hochrisiko-Anwendungen vor. Dazu werden unter anderem der Verkehrssektor, Programme zur Personaleinstellung oder die Bewertung der Kreditwürdigkeit gezählt.

Auch die biometrische Identifikation im öffentlichen Raum, etwa an Bahnhöfen, darf nach dem Willen der EU-Kommission nur in engen Grenzen und nach behördlicher Genehmigung erlaubt werden - etwa bei der Suche nach einem vermissten Kind oder einem drohenden Terroranschlag. Technologien wie das Sozialkredit-System aus China, das regelkonformes Verhalten belohnt und Fehlverhalten bestraft, will man gänzlich verbieten.

Viele KI-Anwendungen ungefährlich

Von den allermeisten KI-Anwendungen - beispielsweise Spam-Filter oder Computerspiele - gehen nach Ansicht der EU-Kommission jedoch keine oder nur geringe Risiken aus. Für sie sollen daher deutlich weniger strenge oder gar keine Auflagen gelten. Bei Chatbots müssen die Nutzer beispielsweise darüber informiert werden, dass sie nicht mit einem Menschen kommunizieren.

Ähnlich wie bei den Datenschutzregeln, die seit 2018 in der EU gelten und weltweit Nachahmer fanden, will die EU-Kommission auch beim Umgang mit Künstlicher Intelligenz globale Standards setzen. Bis die neuen Regeln gelten, werden aber voraussichtlich noch mehrere Jahre vergehen.

Gefahr der Diskriminierung

Das EU-Parlament hat dazu im Oktober 2021 eine Resolution verabschiedet, die ein dauerhaftes Verbot von automatischer Gesichtserkennung im öffentlichen Raum und bei Grenzkontrollen gefordert wird. Nur Menschen, die im Verdacht stehen, eine Straftat begangen zu haben, dürften auf diese Weise überwacht werden. Die Resolution ist allerdings rechtlich nicht bindend.

Bei der Suche nach Straftätern darf künstliche Intelligenz zudem nur unter strenger menschlicher Aufsicht zum Einsatz kommen. Es bestehe die Gefahr, dass KI-Systeme in der Strafverfolgung zu einer Diskriminierung bestimmter Personengruppen führten, heißt es in der Resolution.

Quelle-Foto: picture alliance/dpa/Mohssen Assanimoghaddam