Antrag in der Bürgerschaft

Mehr Transparenz: Hamburg will Regelungen für Künstliche Intelligenz

Susanne Dohrn 29. April 2024
Fahne des Bundeslandes Hamburg
Künstliche Intelligenz wird zunehmend in Verwaltungen eingesetzt. SPD und Grüne in Hamburg fordern, dass dies nachvollziehbar gemacht wird. Ein Beschluss der Bürgerschaft könnte wegweisend sein – auch über die Hansestadt hinaus.

Fast alle Verkehrsteilnehmenden haben es mehr als einmal erlebt: Vor ihnen parkt ein Lieferfahrzeug und versperrt die Straße. Dahinter bildet sich ein Stau. Oft stehen die Lieferfahrzeuge notgedrungen auf dem Radfahrstreifen. Dann weichen Radfahrende auf die PKW-Spuren aus, ein riskantes Manöver. Hindernis und Gefahrenzone sind erst beseitigt, wenn der Fahrer des Lieferfahrzeugs herbeieilt, ins Auto springt und weiterfährt. Ergebnis: Alle sind genervt und fragen sich: Geht das auch besser und stressfreier für alle Verkehrsteilnehmenden?

In Hamburg kommt dazu maschinenbasiertes Lernen oder Künstliche Intelligenz (KI) zum Einsatz. Lieferfahrzeuge wurden mit Sensoren ausgestattet, die nicht nur automatisiert Informationen über häufig genutzte Routen sammeln, sondern auch Hauptlieferzonen, Halte-Hotspots, Parkposition und Ballungszeiten von Lieferverkehren identifizieren. Basierend auf diesen Informationen ergeben sich Erkenntnisse für die Verkehrsplanung der Stadt, mit der die Infrastruktur entsprechend angepasst werden kann.

Vorreiter als digitale Stadt

Das Beispiel zeigt, wie mit dem Einsatz von maschinenbasierter Analyse und große Datenmengen schnell und gezielt verarbeitet werden können. Gekoppelt mit KI können zudem menschliche Entscheidungen unterstützt und zum Teil sogar ersetzt werden, in Hamburg zum Beispiel bei der Bearbeitung von Steuererklärungen. Das kann Verwaltungshandeln beschleunigen, zum Vorteil von Bürgerinnen und Bürgern. Um die deutschlandweite Vorreiterrolle Hamburgs als digitale Stadt weiter auszubauen hat die Stadt in ihrer 2020 aktualisierten Digitalstrategie festgelegt, „KI als Querschnittstechnologie zu nutzen und ihren humanzentrierten Einsatz bereichsübergreifend zu fördern.“

Sarah Timmann, verbraucherschutzpolitische Sprecherin der SPD-Fraktion der Freien und Hansestadt Hamburg, ist überzeugt: „Maschinelles Lernen wird zunehmend fester Bestandteil der Arbeit von Verwaltungen“. Dabei sei es wichtig, das Vertrauen der Bürgerinnen und Bürger in die neue Technologie zu stärken. Deshalb dürfe die Stadt die Kehrseite der digitalen Anwendungen nicht außer Acht lassen. Welche Probleme entstehen können, zeigt die sogenannte Toeslagenaffaire (dt. Kindergeldaffäre) in den Niederlanden. Dort hatte der Staat fälschlicherweise Beihilfen zur Kinderbetreuung zurückgefordert und damit Zehntausende Familien in bedrohliche finanzielle Notlagen gebracht. Ein Aspekt dieser Affäre war der Einsatz einer mit diskriminierenden Daten gespeisten KI, die Rückzahlungen vor allem von Familien mit Migrationshintergrund verlangte.  

Risiken früh erkennen

„Es liegt jetzt an uns allen, die richtigen Rahmenbedingungen für den Einsatz der neuen Technologie zu schaffen, damit am Ende die tollen neuen Möglichkeiten die Risiken überwiegen“, so Timmann. Die Verwaltung müsse sicherstellen, dass die KI-Systeme ethische Standards einhalten, also fair und diskriminierungsfrei arbeiten, um Vorfälle wie in den Niederlanden auszuschließen. Sie müsse sicherstellen, dass die Privatsphäre der Bürgerinnen und Bürger eingehalten wird und sie müsse den Missbrauch, den Diebstahl und die Manipulation von Daten verhindern. Um Risiken früh zu erkennen und zu verringern haben der Regierungsfraktionen SPD und Grüne einen Antrag in die Bürgerschaft eingebracht, um Transparenz und Nachvollziehbarkeit beim Einsatz von KI-Systemen in der öffentlichen Verwaltung der Freien und Hansestadt Hamburg zu stärken.

Darin fordern sie die Offenlegung der von KI-Systemen genutzten Daten, die es derzeit nicht gibt, die aber entscheidend ist für Transparenz und Vertrauen in die Entscheidungsprozesse. Gleiches gelte für eine vollumfängliche Einsicht in die angewandten Entscheidungskriterien und ihre Gewichtung. Der Antrag „Transparenz und Nachvollziehbarkeit beim Einsatz von KI-Systemen in der öffentlichen Verwaltung der Freien und Hansestadt Hamburg stärken“ wurde am 24. April mit den Stimmen von SPD und Grünen in der Bürgerschaft beschlossen. Nun sei die Verwaltung am Zug, um geeignete Instrumentarien zu schaffen, so Timmann. Wie genau die Umsetzung des Senats in Hamburg aussehen wird, stehe noch aus, werde aber parlamentarisch weiter begleitet. Der Senat wurde ersucht, bis zum 31. August 2024 entsprechend zu berichten.

Der Antrag könnte auch eine Bundesrats-Initiative zur Folge haben, mit der Leitlinien für den Einsatz von KI in öffentlichen Verwaltungen definiert werden. Denn der Senat wird darin aufgefordert, „sich auf Bundesebene für einen entsprechenden gesetzlichen Regelungsrahmen für den Einsatz algorithmenbasierter Systeme in der öffentlichen Verwaltung einzusetzen und die dazu erforderlichen Ressourcen bereitzustellen”.

 

Mehr Informationen:
Antrag „Transparenz und Nachvollziehbarkeit beim Einsatz von KI-Systemen in der öffentlichen Verwaltung der Freien und Hansestadt Hamburg stärken” (PDF)

weiterführender Artikel