Frau sitzt am Computer
  • Peter Heidkamp, Partner |

Keyfacts

  • Die Nutzung von KI-getriebenen Anwendungen nimmt stetig zu und legt dabei auch einige Problemfelder offen, die mit der Nutzung dieser Technologie einhergehen.

  • Die EU-Kommission legt einen Gesetzesentwurf vor, in dem besonders die Diskriminierung und Überwachung von Menschen durch die Künstliche Intelligenz (KI) unterbunden werden soll.

  • Es soll ein EU weit einheitlicher, rechtlicher Ordnungsrahmen geschaffen werden, an den sich alle Nutzer und Entwickler von Künstlicher Intelligenz verbindlich halten müssen.

Der Nutzen von Künstlicher Intelligenz in unzähligen Anwendungsfeldern, besonders für Unternehmen, ist kaum zu übersehen. Dennoch bringt diese Schlüsseltechnologie einige Problematiken mit sich, welche durch eine europaweite Regulation gelöst werden sollen. Nutzer und Entwickler von Künstlicher Intelligenz erwartet ein umfangreicher Regulationsrahmen, der zwingend beachtet werden muss.

Bisherige Freiheiten im Umgang mit der Künstlichen Intelligenz

Die Künstliche Intelligenz ist die Schlüsseltechnologie der aktuellen Zeit. Im Zuge der rasanten Entwicklung dieser Technologie haben sich zahlreiche Anwendungen gebildet, die auf der Nutzung von Künstlicher Intelligenz (KI) basieren. Als Resultat konnten besonders Unternehmen in vielen Bereichen von enormen Effizienzsteigerungen und Kostenreduktionen, bei einem sogar verbesserten Output, profitieren. Bestehende Systeme konnten somit optimiert und neue Geschäftsfelder erschlossen werden.

Die EU unterstützte dabei in der Vergangenheit unter der Leitung der EU-Kommissarin für Wettbewerb, Margrethe Vestager, besonders die Entwickler solcher Anwendungen. Das Ziel dabei war, als Innovationsstandort für die Künstliche Intelligenz global konkurrenzfähig zu bleiben. Die bisherigen Treiber dieser Technologie, USA und China, schienen besonders in der letzten Dekade Boden in Sachen „Digitalisierung durch KI“ gut zu machen.

Als Resultat entstanden in der EU zahlreiche Leuchtturmprojekte, primär in den Themenfeldern Smart City, Smart Energy und im Gesundheitssektor. Selbstfahrende Autos, Intelligente Industrie- und Energiesysteme und eine automatisierte Medikamentenentwicklung sind nur einige bedeutsame Themenfelder, die das Leben in Zukunft bestimmen werden und nur durch die Nutzung von KI-getriebener Software realisierbar sind.

Die Schattenseite der Künstlichen Intelligenz

Neben der beschriebenen Leuchtturmprojekte innerhalb der EU, kann und wird die Künstliche Intelligenz jedoch auch genutzt, um Menschen zu analysieren und auszuwerten. Gebündelt werden diese Anwendungen unter dem Begriff des „Social Scorings“. Nutzer solcher Anwendungen setzen gewonnene Daten, z.B. in Form von Bewerbungsunterlagen, um einen optimalen Bewerbungskandidaten anhand formaler Daten auszuwählen, ein. Ebenso analysieren Banken anhand vorhandener Kreditrückzahlungen, inwiefern ein neuer Interessent, auf Basis seiner Daten, kreditwürdig wäre.

Die Nutzung dieser Anwendungsfelder von Künstlicher Intelligenz führt somit zu einer direkten Ungleichbehandlung einzelner Personen und schafft ein soziales Gefälle und eine gesellschaftliche Ungleichheit, die im Widerspruch zu den Grundsätzen der EU und dessen Mitgliedsstaaten steht. An dieser Stelle wird schnell deutlich, dass eine bedingungslose Unterstützung durch die EU nicht in allen Anwendungsfällen zu dem gewünschten Ziel beiträgt.

Eine EU-Regulation als optimalen Lösungsweg

Mit dem Ziel einen einheitlichen Ordnungsrahmen und rechtliche Anforderungen festzulegen, plant die EU eine europaweite rechtliche Regulation aller Anwendungen, die im direkten Bezug zur Nutzung einer Künstlichen Intelligenz stehen. Gebündelt wird das Vorhaben im „Weißbuch zur Künstlichen Intelligenz der EU“. Dabei sollen primär nur wenige Anwendungen von vorne herein als inakzeptabel eingestuft werden. Betroffen sind davon jedoch alle Anwendungen, die Menschen oder Gruppen direkt negativ beeinflussen, indem mögliche Schwächen anhand formaler Daten (z.B. in den Bewerbungsunterlagen) aufgedeckt werden.

Am 21.4.2021 hat die EU-Kommission einen „Vorschlag für eine Verordnung über ein europäisches Konzept für Künstliche Intelligenz“ vorgestellt, an der sich künftig alle Entwickler und Nutzer von KI-Anwendungen orientieren können, um einen ordnungsgemäßen Umgang mit dieser Technologie sicherzustellen.

Alles in allem ist der Gesetzesentwurf voraussichtlich eine Gratwanderung zwischen Regulation und Überregulation. Es bleibt also abzuwarten, wie die EU das enorme Anforderungsportfolio im Umgang mit der Technologie umsetzen kann.

Ausblick

Die angedachte, europaweite Regulation darf nicht missverstanden werden und mit einem grundlosen Eingriff in die Potenziale der Künstlichen Intelligenz gleichgestellt werden. 

Regulierung ist nicht per se schlecht, sondern kann helfen, den richtigen gesellschaftlich akzeptierten Werte-Rahmen zu finden. Zudem wird Klarheit für die Unternehmen geschaffen, um nun richtig durchzustarten. Unser Framework AI in Control hilft dabei.