Künstliche Intelligenz kann sexistisch sein – Wie stellt die Stadt sicher, dass sie diskriminie-rungsfreie KI-Anwendungen nutzt und fördert?

An die Vorsitzende des Ausschusses  
für die Gleichstellung von Frauen und Männern 
Frau Teresa De Bellis-Olinger 
 
An Frau Oberbürgermeisterin  
Henriette Reker 
 
 
 
SPD-Fraktion 
im Rat der Stadt Köln  
Rathaus, Spanischer Bau  
50667 Köln 
fon 0221. 221 259 50  
fax 0221. 221 246 57  
mail fraktion@koelnspd.de  
web  www.koelnspd.de  
 
Eingang beim Amt der Oberbürgermeisterin: 08.05.2023 
 
AN/0823/2023 
Anfrage gem. § 4 der Geschäftsordnung des Rates 
Gremium Datum der Sitzung 
Ausschuss für die Gleichstellung von Frauen und Männern 11.05.2023 
 
Künstliche Intelligenz kann sexistisch sein – Wie stellt die Stadt sicher, dass sie 
diskriminie-rungsfreie KI-Anwendungen nutzt und fördert? 
Sehr geehrte Frau Oberbürgermeisterin, sehr geehrte Frau Ausschussvorsitzende,  
 
die SPD-Fraktion bittet Sie, folgende Anfrage in die Tagesordnung des Ausschusses 
am 11.05.2023 aufzunehmen: 
Expert*innen weisen seit geraumer Zeit darauf hin, dass „Künstliche Intelligenz“ -S ys-
teme (KI-Systeme) aufgrund der Daten, mit denen sie gespeist werden, sexistische 
oder diskriminierende Vorurteile aufweisen. Es gibt verschiedene Handlungsempfeh-
lungen, wie dies vermieden oder zumindest reduziert werden kann. Es ist z. B. wich-
tig, auf die Datenqualität zu achten, Algorithmen immer wieder zu kontrollieren, Trans-
parenz herzustellen (z. B. auf Open Source zu setzen) und ethische Leitlinien zu etab-
lieren. Einer der entscheidenden Punkte ist, dass eine hohe Diversität bei den KI-Ent-
wickler*innen dazu beiträgt, dass die KI -Systeme vielfältiger und weniger anfällig für 
Diskriminierungen sind. Unter anderem deshalb hat die UNESCO ein Expertinnen -
Netzwerk namens „Women4Ethical AI“ geschaffen, und auch die UN machte mit ihrem 
Slogan „DigitALL: Innovation and technology for gender equality“ am internationalen 
Weltfrauentag auf die Hindernisse aufmerksam, mit denen Frauen in der digitalen Welt 
konfrontiert sind.  
Die Stadt Köln arbeitet an einer KI-Strategie und setzt immer mehr auf KI-Anwendun-
gen, um z. B. mit Bürger*innen in Kontakt zu treten. Ziel ist es in erster Linie, die Stadt-
verwaltung effizienter zu machen, aber gleichzeitig sollte auch sichergestellt werden, 
dass KI verantwortungsbewusst und ethisch eingesetzt wird.  
In der Antwort auf eine Anfrage der SPD-Fraktion zu Chatbots und Digitalen Assisten-
ten gibt die Stadt einen Sachstand zur Entwicklung des KölnBot. Dieser soll in diesem

- 2 - 
 
Jahr mit weiteren Anwendungsfällen anger eichert und erneut auf der Webseite der 
Stadt Köln veröffentlicht werden. 
Vor diesem Hintergrund fragen wir die Stadtverwaltung:  
1. Wie stellt die Verwaltung sicher, dass KI-Anwendungen der Stadt diskriminierungs-
frei und nicht sexistisch sind? 
2. Berücksichtigt die KI-Strategie der Stadt die oben erläuterten Probleme aus Sicht 
des Gleichstellungsamtes ausreichend?  
3. Die KölnBusiness Wirtschaftsförderung unterstützt jährlich viele KI -Startups mit 
Gründungs- und Finanzierungsberatungen, Netzwerkevents sowie der Hil fe bei 
Messeauftritten und Fördergeldern. Wird bei der Entscheidung, wer unterstützt 
wird, auf Diversität bei den Entwickler*innen geachtet, und wie viele Startups von 
Gründerinnen wurden in den letzten 10 Jahren gefördert?  
4. Wie viele Frauen und Menschen mit internationaler Familiengeschichte arbeiten im 
ZukunftsLabor mit?  
5. Gibt es bereits eine Auswertung dazu, wer Ideen bei un:box cologne eingebracht 
hat, und wie wurde sichergestellt, dass auch Frauen und Menschen mit internatio-
naler Familiengeschichte sich beteiligt haben?  
 
Wir bitten darum, die Antwort auch dem Digitalisierungsausschuss zur Kenntnis zu 
geben.  
 
Mit freundlichen Grüßen 
 
Gez. Christian Joisten  
SPD-Fraktionsvorsitzender