Künstliche Intelligenz und autonome Waffen: zielgerechter Vorstoss in der Sommersession
geschrieben_von
_upscale_zoom-120.jpg)
categories
Der Einsatz von autonomen Waffen ist längst nicht mehr Zukunftsmusik und wirft eine Reihe ethischer und ökonomischer Fragestellungen auf. Es ist nötig, sich mit den Risiken dieser Entwicklungen auseinanderzusetzen, damit wir nicht den kritischen Moment verpassen.
Die Verhandlungen der Genfer Abrüstungskonferenz sind ein stockender Prozess – es ist wichtig, dass der von der Sicherheitspolitischen Kommission des Nationalrates (SIK-NR) eingereichte Vorstoss, der genau diese Lücke füllen will, im Nationalrat in der Sommersession wohlwollend weiterverfolgt wird.
Was sind autonome Systeme und worum geht es?
Autonome Systeme können selbstständig handeln, lernen und Probleme lösen. Dabei handelt es sich beispielsweise um intelligente Maschinen oder Softwaresysteme. Die Schlüsseltechnologie für den Einsatz und die Weiterentwicklung von autonomen Systemen bietet die Künstliche Intelligenz, zusammen mit Computer Vision, Natural Language Processing, und Robotik.
Einen hohen Stellenwert nehmen solche Systeme nicht nur im prominenten Fall des autonomen Fahrens und in der Drohnentechnologie, sondern auch in der Rüstungsindustrie ein: autonome Waffensysteme, die ein Ziel selbstständig suchen, finden und ohne menschliches Zutun ausschalten können. Hauptvorteil ist dabei ein ökonomischer: Ein Soldat befindet sich nicht mehr auf einem Panzer oder einem U-Boot und die finanziellen und technischen Aufwendungen für den Schutz entfallen. Zudem können derartige Waffen deshalb auch sehr klein werden. Entgegen dem allgemeinen Volksverständnis liegt das Hauptrisiko zudem nicht bei Kriegsrobotern, sondern bei der Implantierung autonomer Software in Cybex-Abwehr und -Angriffssysteme sowie in der Kombination autonomer Software mit Bio- und Chemiewaffen.
Parlamentarische Arbeiten der SIK-NR
Mit Postulat 21.3012 verlangt die SIK-NR klare Regeln für autonome Waffen und künstliche Intelligenz. Der Nationalrat wird sich in der Sommersession am 10. Juni 2021 mit dem Geschäft befassen. In einem Bericht soll der Bundesrat prüfen, wie eine Einsatzdoktrin für künftige autonome Waffensysteme und künstliche Intelligenz in der Sicherheitsinfrastruktur ausgestaltet werden kann. Dabei sollen internationale ethische Standards berücksichtigt werden, d.h. die Bestrebungen der Genfer Abrüstungskonferenz.
Ausgangspunkt dieses Postulats ist ein Sicherheitspolitisches Seminar der SIK-NR vom Herbst 2020. Dabei hat die Kommission festgestellt, dass im Bereich autonome Waffensysteme und künstliche Intelligenz keine völkerrechtlichen Abreden für den militärischen Einsatz bestehen. Mit einer Einsatzdoktrin sieht die SIK-NR eine Möglichkeit, sich in die internationalen Diskussionen einzubringen. Der Bundesrat sieht die Vorteile von KI im Militärbereich, jedoch auch die damit verbundenen aussen- sicherheitspolitischen und ethischen Herausforderungen. So will der Bundesrat das Postulat innerhalb der Strategie «Rüstungskontrolle und Abrüstung 2022 – 2025» erfüllen.
Die Verhandlungen in Genf ziehen sich bereits seit sieben Jahren hin, meint Regina Surber dazu. Die Doktorandin kritisiert:
Die Verhandlungen laufen schleppend und haben noch zu keinen verbindlichen Prinzipien geführt. Es ist zentral, sich mit den Risiken der autonomen Kriegsführung zu befassen und diese aufzuzeigen, sonst akzeptiert man implizit die Tötung von Menschen durch Software.
Nach Ansicht von Swico ist die Unterstützung von Postulat 21.3012 wichtig, um den öffentlichen Diskurs und das Aufzeigen der Risiken der autonomen Waffen zu fördern. Entsprechend wird sich Swico im Nationalrat einbringen, um den kritischen Moment des Diskurses nicht zu verpassen.
_upscale_zoom-120.jpg)
Foto: Automatische Waffen - Symbolbild © Adobe Stock