Von AXEL FERSEN
Titelbild: Mit Hilfe von KI erstellt
Das US-KI-Unternehmen Anthropic meldet für das 3. Quartal dieses Jahres einen Umsatz von 16,8 Mrd. US-Dollar und dabei wurde das Unternehmen erst 2021 gegründet. Die Wachstumszahlen der neuen und alten Tech-Unternehmen nimmt besorgniserregende Gestalt an. Es ist fahrlässig noch über KI-Hype zu sprechen. Es droht ein Systemwechsel mit unabsehbaren Folgen.
Die deutsche Gemächlichkeit zu dieser Entwicklung erstaunt, wenn man den anlaufenden Lager-Konflikt in den USA beobachtet. US-Präsident Trump möchte beispielsweise per Dekret einzelnen Bundesstaaten die Befugnis entziehen, eigene KI-Gesetze zu erlassen.
Senator Bernie Sanders hingegen fordert, dass die öffentliche Hand über einen Staatsfonds 50 Prozent der dominierenden US-amerikanischen KI-Konzerne in Besitz nehmen solle, und er begründet das damit, dass ihre Technik und ihre Informationen aus dem gesammelten Wissen der Menschheit aufgebaut wurden. Für die Übergabe der privaten Daten an Konzerne wurde hingegen kein Mensch vergütet.
In Europa beobachtet man das Phänomen, dass auf der Ebene der Europäischen Union durchaus die Ernsthaftigkeit der externen Bedrohungen verstanden wird, doch der Druck der Mitgliedstaaten zur Verschiebung strengerer Regeln gegenüber Hochrisikosystemen auf Ende 2027 zeugt von mangelndem Verständnis aktueller Fehlentwicklungen der sogenannten Frontier-Modelle, die US-amerikanische und chinesische KI-Konzerne sorglos geschehen lassen.
Lediglich Großbritannien scheint auf dem europäischen Kontinent den Geschehnissen eine größere Aufmerksamkeit zu schenken und prüft mit ihrem „AI Security Institute“ Modelle der Konzerne noch bevor sie veröffentlicht werden.
Risiko KI-Agenten
Besorgniserregend ist die bisher fehlende politische Debatte in Deutschland über Gesetzesverstöße und das Eindringen sogenannter KI-Agenten in sicherheitsrelevante Bereiche von Unternehmen (Hugging Face) bis hin in das Gesundheitssystem Australiens (Medicare-Statistikportal). Es stellt sich die Frage, was genau noch geschehen muss, bis man über Schutzmaßnahmen überhaupt spricht.
Stattdessen vernehmen wir aus dem Bundestag nichts, ungeachtet aller Warnungen, die wir aus dem Vatikan, von führenden KI-Wissenschaftlern wie dem Nobelpreisträger Geoffrey Hinton oder vom UN-Generalsekretär António Guterres hören. Deutschland braucht jetzt genau diese politische Grundsatzdebatte über die Risiken von KI.
KI bietet die Chance, Krankheiten besser zu verstehen und zu überwinden, den technologischen Fortschritt erheblich zu beschleunigen und damit neue Möglichkeiten für Wissenschaft und Gesellschaft zu eröffnen. Wir sehen in ihr ein Instrument, um die großen Herausforderungen der Menschheit zu bewältigen und Lösungen für Probleme zu entwickeln, die uns heute noch als unlösbar erscheinen.
KI kann durch Missbrauch, Gedankenlosigkeit und Unverständnis das Gegenteil von dem bewirken, was wir uns erhoffen. Es gibt immer mehr Anzeichen dafür: Zum einen wird ein gefährlicher Wettbewerbsdruck aufgebaut, der jede Risikoscheu als naive Schwäche markiert, zum anderen gewinnt die Entwicklungsdynamik eine Geschwindigkeit, für die die Menschheit nicht vorbereitet ist. Das Ergebnis könnte eine am Ende unkontrollierbare Superintelligenz werden, die sogar der Menschheit überlegen wäre.
US-Präsident Trump will mit einer Superintelligenz die Menschheit dominieren
Bei der Ankündigung von US-Präsident Trump, das Rennen um die Superintelligenz gewinnen zu wollen, sollten deswegen bei Politikern aller Couleur die Alarmglocken schrillen, doch nichts geschieht. Bereits im Juli vergangenen Jahres veröffentlichte das Weiße Haus den sogenannten AI Action Plan, der zum Ziel erklärt, dass die USA ihre hegemonialen Fähigkeiten gegenüber seinen Verbündeten ausbauen.
Zudem wollen alle Großmächte sich nicht an der Entwicklung immer schneller handelnder automatischer Waffensysteme hindern lassen, befeuern sogar hemmungslos die Produktion immer unkontrollierbarere mit KI bestückte Vernichtungsinstrumente.
Hier sehen wir bereits, wie gefährlich mit einer Technik gespielt wird, die die KI-Fachwelt, und damit sind die Erbauer der wettbewerbsstärksten Modelle gemeint, als die bedrohlichste aller menschlichen Erfindungen beschreiben. Und noch schlimmer, es gibt noch nicht einmal Regeln für die Nutzung im zivilen Bereich.
Mustafa Suleyman, Chef der KI-Sparte bei Microsoft, fordert gebetsmühlenartig bei jedem Interview, man möge diese aufstellen, denn man stelle sich vor, man fahre mit all unseren Autos durch die Städte, es gäbe weder Ampeln noch Verkehrszeichen und sogar die Bremsen würden in den Fahrzeugen fehlen.
Die deutsche Politik braucht eine Neuorientierung beim Thema KI
Doch das muss und darf nicht so bleiben. Deshalb hat der Erhard-Eppler-Kreis zehn Thesen zur KI entwickelt, die dem Programmrat der SPD übermittelt wurden.
Die SPD möchte im Dezember 2027 in Leipzig ein neues Grundsatzprogramm verabschieden und deswegen braucht es für die KI einen Kompass, der noch in den kommenden 10 Jahren auf die wichtigen Themen hinweist. Was es da mit Sicherheit nicht braucht, ist die Beschreibung einer Mittelstandsförderung, wie es ernsthaft einige Stimmen glauben, verlauten zu müssen.
Was die SPD braucht, das brauchen alle anderen Parteien auch.
Zehn Thesen: KI ist eine Macht- und Menschheitsfrage
Die Forderung des Erhard-Eppler-Kreises lautet stattdessen, KI als Macht- und Menschheitsfrage im neuen Grundsatzprogramm zu verankern: Die durch sie generierten Gewinne sollen über Mitbestimmung, Besteuerung und öffentliche Infrastrukturen an die Gesellschaft gebunden werden, um einen Techno-Feudalismus zu verhindern.
Hinzu kommt die völkerrechtliche Ächtung autonom tötender Waffen, das Verbot von KI in der Kill Chain oder beim Einsatz von Nuklearwaffen. Ferner strenge Sicherheitsprüfungen vor der Freigabe neuer Frontier-Modelle und ein international verbindliches Moratorium für Superintelligenz im Geist der gemeinsamen Sicherheit, denn nur beherrschte Technik kann ihre großen Chancen in Medizin, Wissenschaft und Arbeit tatsächlich entfalten.
Es ist sehr zu hoffen, dass jetzt alle politischen Parteien den Ernst der Lage verstehen und der Debatte um einer sichere KI den notwendigen Raum schenken.
Axel Fersen ist Politikwissenschaftler und Experte für digitale Transformation und Künstliche Intelligenz. Er koordiniert den Erhard-Eppler-Kreis und wirkt in der Studiengruppe Technikfolgenabschätzung der Digitalisierung der Vereinigung Deutscher Wissenschaftler (VDW) mit.
Mehr Beiträge von Axel Fersen →