Am 15. Oktober haben wir im Nationalrat einen Entschließungsantrag eingebracht, der mir sehr am Herzen liegt: Autonome Waffensysteme müssen völkerrechtlich reguliert und die menschliche Kontrolle über Entscheidungen von Leben und Tod muss gewährleistet bleiben.
KI-gestützte Waffensysteme werden bereits in der Ukraine, im Nahen Osten und im Sudan eingesetzt, und ihre Autonomie nimmt rasant zu. Eine Maschine kann jedoch weder die Verhältnismäßigkeit eines Angriffs beurteilen noch verlässlich zwischen Zivilisten und Kombattanten unterscheiden, und die Frage der Verantwortung bliebe im Fehlerfall ungeklärt. Die Letztentscheidung über den Einsatz von Gewalt muss daher immer beim Menschen liegen.
Mit unserem Antrag, den ich gemeinsam mit Kollegen der SPÖ und NEOS eingebracht habe, soll die Bundesregierung ersucht werden, sich weiterhin mit Nachdruck für ein rechtlich verbindliches Verbot jener Systeme einzusetzen, die dem humanitären Völkerrecht widersprechen, sowie für verbindliche Vorgaben bei allen übrigen. Österreich hat hier mit der UN-Resolution von 2023 und der Wiener Konferenz 2024 bereits eine Vorreiterrolle übernommen, und diese wollen wir während unserer Mitgliedschaft im UN-Sicherheitsrat 2027/28 weiter ausbauen.
Die Technologie entwickelt sich schneller als die Diplomatie. Umso wichtiger ist es, jetzt zu handeln, bevor Fakten geschaffen werden, die sich nicht mehr rückgängig machen lassen.
Antragstext: Betreffend Autonome Waffensysteme völkerrechtlich regulieren und menschliche Kontrolle sicherstellen
Entschließungsantrag
Der Abgeordneten Dr. Gudrun Kugler, Robert Laimer, Dr. Nikolaus Scherak,
Kolleginnen und Kollegen
Betreffend Autonome Waffensysteme völkerrechtlich regulieren und menschliche Kontrolle sicherstellen
Die Erprobung und Entwicklung von KI-gestützten, (teil-)autonomen und unbemannten militärischen Systemen hat sich in den letzten Jahren massiv beschleunigt. Diese sind bereits heute ein fester Bestandteil moderner Streitkräfte. Intensive Forschungs- und Entwicklungsarbeiten weltweit zielen darauf ab, den Grad der Autonomie militärischer Systeme sowie die militärische Nutzung der KI zu steigern. Technologien und robotische Waffensysteme, die über hochautomatisierte bzw. autonome Funktionen verfügen und vor Kurzem noch als Zukunftsszenarien galten, werden in der modernen Kriegsführung bereits zur Aufklärung, Navigation, Überwachung, Zielerkennung, präzise Ansteuerung von Zielen, Analyse und Einsatzunterstützung verwendet, so wie beispielsweise in der Ukraine, im Nahen Osten oder im Sudan.
Mit dem zunehmenden Einsatz autonomer Technologien nimmt die direkte Rolle des Menschen im Entscheidungsprozess kontinuierlich ab. Bislang bleiben jedoch die Zielauswahl, die Entscheidung für einen Angriff sowie die Freigabe des Waffeneinsatzes der menschlichen Kontrolle vorbehalten. Letale autonome Waffensysteme (AWS) wären hingegen in der Lage, diese Schritte eigenständig auf Grundlage verfügbarer Daten und ohne unmittelbare menschliche Mitwirkung durchzuführen.
Die Übertragung von Entscheidungen über Leben und Tod auf autonome Waffensysteme ohne menschliche Kontrolle überschreitet eine ethische und moralische Schwelle und wirft völkerrechtliche, einschließlich humanitär-völkerrechtlicher und menschenrechtlicher, Fragen auf. Autonome Waffen verfügen nicht über das menschliche Urteilsvermögen, das zur Beurteilung der Verhältnismäßigkeit eines Angriffs, zur Unterscheidung von Zivilisten und Kombattanten sowie zur Einhaltung anderer Kernprinzipien des Kriegsvölkerrechts erforderlich ist. Darüber hinaus stellt sich die Frage nach der Verantwortlichkeit für den Fall, dass ein autonomes Waffensystem einen Fehler bzw. eine rechtswidrige Handlung begeht, und inwiefern es überhaupt politisch und ethisch vertretbar ist, Maschinen Entscheidungen über Leben und Tod zu überlassen. Darüber hinaus vergrößert die zunehmende Integration von KI in Nuklearwaffensysteme das ohnehin bereits erhöhte Risiko eines nuklearen Konflikts.
Österreich setzt sich aus ethischer, völkerrechtlicher und humanitärer Überzeugung seit Jahren für die Beibehaltung einer ausreichenden menschlichen Kontrolle über kritische militärische Funktionen ein. Die Letztentscheidung über den Einsatz von Gewalt muss stets in menschlicher Hand liegen. Da eine wirksame Rüstungskontrolle im Bereich der KI nur auf Grundlage internationaler Reziprozität gewährleistet werden kann, erfordert die derzeit rasante Entwicklung dieser Technologien multilaterale Verhandlungen für eine internationale, rechtlich verbindliche Regulierung letaler autonomer Waffensysteme (AWS) wie Nuklearwaffensysteme, sowie einen verstärkten Austausch über mögliche Regelungen für andere, KI-gestützte kritischer Waffensysteme. Nur eine internationale und möglichst universell geltende Regulierung schafft globale Sicherheit, eine nationale Regulierung ist daher nicht geplant. Die Einhaltung ethischer Grundsätze sowie des Völkerrechts, insbesondere des humanitären Völkerrechts, ist sicherzustellen. Die einstimmigen Entschließungen des österreichischen Nationalrates vom April 2024 und Februar 2021 bekräftigen diese Position: Sie sprechen sich unter anderem sowohl für ein Verbot autonomer Waffensysteme ohne ausreichende menschliche Kontrolle als auch für ein rechtlich verbindliches internationales Instrument zur Regulierung von AWS aus. Dieses soll insbesondere Waffensysteme verbieten, die nicht im Einklang mit dem Völkerrecht und ethischen Grundsätzen eingesetzt werden können oder keine ausreichende menschliche Kontrolle gewährleisten[i].
Vor diesem Hintergrund ist es notwendig, dass Österreich auf diesem Gebiet weiterhin aktiv völkerrechtlich verbindliche Regelungen eintritt. Ziel muss ein internationaler Rechtsrahmen sein, der gewisse AWS, die per se rechtlichen oder ethischen Anforderungen nicht entsprechen können, verbietet, und andere AWS reguliert, um wirksame und bedeutende menschliche Kontrolle sicherzustellen. Die von Österreich initiierte und im Dezember 2023 in der VN-Generalversammlung breit unterstützte Resolution A/RES/78/241 markiert erstmals einen wichtigen Wendepunkt und verdeutlicht den wachsenden internationalen Konsens und klaren Handlungsbedarf im Bereich von autonomen Waffensystemen[ii]. Ebenso zielte die internationale Konferenz in Wien im April 2024 zu AWS darauf ab, die Mobilisierung der Staatengemeinschaft für die Regulierung von AWS voranzutreiben. Anknüpfend daran soll Österreich vor allem auch seine bevorstehende Mitgliedschaft im Sicherheitsrat der Vereinten Nationen in den Jahren 2027/28 dafür nutzen, sich weiter mit Nachdruck für ein internationales und völkerrechtlich verbindliches Regelwerk für autonome Waffensysteme einzusetzen. Aufgrund der rasanten technologischen Entwicklung ist Dringlichkeit für multilaterale Verhandlungen gegeben.
Die unterfertigten Abgeordneten stellen daher folgenden
Entschließungsantrag
Der Nationalrat wolle beschließen:
„Die Bundesregierung, insbesondere die Bundesministerin für europäische und internationale Angelegenheiten, wird ersucht,
- sich auf multilateraler Ebene, insbesondere im Rahmen der Vereinten Nationen und der einschlägigen Abrüstungsforen, soweit möglich im Einklang mit einer auf Ebene der Europäischen Union abgestimmten Position, weiterhin mit Nachdruck für ein völkerrechtlich verbindliches Verbot jener autonomer Waffensysteme einzusetzen, die aufgrund fehlender menschlicher Kontrolle über kritische Funktionen, insbesondere der Zielauswahl und der Gewaltanwendung, mit dem humanitären Völkerrecht und grundlegenden ethischen Prinzipien unvereinbar sind;
- zudem sich mit Nachdruck für die Aufnahme multilateraler Verhandlungen über ein völkerrechtlich verbindliches Instrument einzusetzen, das für alle anderen autonomen Waffensysteme verbindliche Anforderungen festlegt, unter anderem die Sicherstellung einer wirksamen menschlichen Kontrolle;
- das Bewusstsein auch auf europäischer Ebene für die Problematik zu stärken und sich dafür einzusetzen, dass eine einheitliche Position der Europäischen Union im Umgang mit Entwicklung und Einsatz von autonomen und KI-gestützten Waffensystemen und deren Regulierung entwickelt und auf Ebene der Vereinten Nationen gemeinsam von allen EU-Mitgliedstaaten mit Nachdruck vertreten wird;
- Österreichs Vorreiterrolle durch diplomatische Initiativen fortzusetzen, etwa durch Koalitionen mit gleichgesinnten Staaten, Folgeformate zur Wiener Konferenz vom April 2024 und enge Zusammenarbeit mit relevanten Institutionen;
- das multilaterale Engagement Österreichs im Bereich der Konfliktprävention und Friedenssicherung weiter aktiv fortzuführen.“
Zuweisungsvorschlag: Außenpolitischer Ausschuss