KI
Warum sich die Politik bei KI mehr einbringen muss
Der AI Act der EU reicht nicht aus
Von Wolfgang Kurz, Geschäftsführer indevis
Die Entstehung und Verbreitung der Künstlichen Intelligenz (KI) markiert zweifellos einen bahnbrechenden Meilenstein in der Geschichte, der jedoch bei vielen auch Ängste hervorruft. Doch sollten wir uns nicht von der Angst leiten lassen, sondern frühzeitig mit den tatsächlichen Risiken auseinandersetzen, die nicht immer offensichtlich sind.
Es ist verständlich, dass die Vorstellung einer von Menschen unkontrollierbaren Superintelligenz, die über Leben und Tod entscheidet, Furcht auslöst. Doch in der gegenwärtigen Entwicklungsphase erscheint dies eher unwahrscheinlich. Viel realistischer sind andere Gefahren, die bisher in der Diskussion rund um KI kaum Beachtung gefunden haben. Die eigentliche Bedrohung liegt in der Möglichkeit bösartiger Manipulationen von KI-Algorithmen und -Lerndaten.
Es steht außer Frage, dass KI uns bei der Bewältigung großer Menschheitsprobleme wie der Ernährung der Weltbevölkerung oder der Dekarbonisierung unterstützen kann. Allerdings ist diese Technologie auch anfällig für Manipulationen durch die Daten, mit denen sie trainiert wird. Cyberkriminelle finden hier zahlreiche Anknüpfungspunkte, um Entscheidungen der KI zu beeinflussen. Denn KI trifft ihre Urteile rein algorithmisch und reflektiert die ethischen Konsequenzen nicht.
Schritt 1: Frühzeitig bewusst werden
Ein manipulierter KI-Algorithmus könnte einen Gefahrgut-Transporter in eine Schule lenken oder Flugzeuge zum Absturz bringen. Diese kriminellen Ideen mögen katastrophal klingen, sind jedoch durchaus realistisch. Leider sind wir derzeit weitgehend ungeschützt gegen solche Bedrohungen. Die eigentliche Gefahr der KI besteht darin, ihre Schutzlosigkeit entweder zu ignorieren oder als unbedeutend abzutun. Es ist nur eine Frage der Zeit, bis KI unser Leben aktiv beeinflusst, und bis dahin müssen wir uns mit den Schwächen beschäftigen, insbesondere mit der Manipulierbarkeit, und Schutzmechanismen entwickeln. Der Mensch neigt dazu, sich an Gewohnheiten zu klammern. Wenn er mit Neuem konfrontiert wird, tut er sich schwer damit und neigt dazu, Probleme zu ignorieren oder sie aufzuschieben. Ähnlich verhält es sich auch mit der KI-Sicherheit. Wir müssen uns Fragen stellen: Sollte in Zukunft der kommerzielle Aspekt oder das Wohl der Menschheit im Vordergrund stehen? Können wir die Trainingsdaten nachverfolgen? Wer entwickelt die KI und aus welchem Grund? Wer wird sie weiterentwickeln? Und vor allem, wie können wir sie schützen und wer wird diese Schutzmaßnahmen umsetzen?
Schritt 2: Notwendigkeit von Regulierungen
KI hat das Potenzial, entscheidend zur Lösung globaler Herausforderungen wie Wetterphänomenen, Klimawandel und Ernährung beizutragen. Doch es fehlen unabhängige Instanzen, die ihre Anwendung kontrollieren. Der Markt selbst ist dafür ungeeignet, da Entwickler oft die maximale Leistung eines Algorithmus anstreben und seltener Beschränkungen setzen. Ähnlich denken Sportwagen-Konstrukteure nicht daran, ihre Fahrzeuge zu drosseln, sondern zielen auf maximale Geschwindigkeit ab, auch wenn dies Opfer fordern kann. Die Politik ist in dieser Angelegenheit überfordert. Das ist kein Vorwurf, sondern eine natürliche Herausforderung in einer Demokratie. Dennoch müssen unsere Politiker nun aufwachen und in Bezug auf Cybersecurity, insbesondere bei KI, regulierend eingreifen. Es ist nicht fünf vor zwölf, sondern eigentlich schon weit nach zwölf. Eine Kontrollinstanz, idealerweise staatlich, ist dringend erforderlich. Nur politische Entscheidungen können diesen Prozess initiieren. Die EU hat zwar bereits einen ersten Gesetzesentwurf zur Regulierung von KI, den sogenannten AI Act, auf den Weg gebracht. Allerdings berücksichtigt dieser lediglich bestimmte risikoreiche Anwendungsfälle von KI. Gefahren, die von Manipulationen ausgehen, werden nicht ausreichend berücksichtigt.
Fazit: Schutz der manipulierbaren KI
Obwohl KI in naher Zukunft die Menschheit nicht dominieren wird, drohen dennoch Gefahren. Wir sollten uns nicht ausschließlich auf das Bild von Superintelligenzen konzentrieren, sondern uns vor allem mit dem Missbrauch von Hackern auseinandersetzen. Die Gefahr des Missbrauchs sollte eine zentrale Sorge in Bezug auf KI sein.
Wenn KI bald Teil unseres Alltags wird, werden wir ihr zwangsläufig vertrauen müssen. Dabei müssen wir uns jedoch bewusst sein, dass sie ein Werkzeug ist, mit dem durch Manipulation alternative Realitäten geschaffen werden können, die unter Umständen kritiklos akzeptiert werden. Die menschliche Psyche kann hierbei als Komplize dienen, wie es tagtäglich in den sozialen Medien zu sehen ist. Solche konkreten Risiken werden oft ungern angesprochen, während man lieber über Weltherrschaftsszenarien spekuliert. Doch für Angriffe auf unsere freiheitliche Demokratie reichen bereits aktuell verfügbare Systeme aus. Es wäre naiv zu glauben, dass Missbrauch nicht stattfindet und wir uns nicht damit auseinandersetzen müssen.
