Generativer Chatbot für stadt.koeln ab Januar 2025

Dezernat, Dienststelle  
OB/OB/132 
 
Vorlagen-Nummer       25.11.2024 
 3656/2024 
Mitteilung 
öffentlicher Teil 
Gremium Datum 
Digitalisierungsausschuss 27.01.2025 
 
Generativer Chatbot für stadt.koeln ab Januar 2025 
Die Verwaltung betreibt zur Information der Bürger*innen die Internetseite stadt.koeln. Zur 
Verbesserung des Service wird sie ab Januar 2025 einen generativen, KI-gestützten Chatbot 
anbieten. 
 
Seit 2023 ist eine rasante Entwicklung im Bereich der generativen, auf Natural Language Pro-
cessing, also dem Sprachverständnis von Computern aufbauenden KI zu beobachten (u. a. 
ChatGPT, Microsoft Copilot). Mittlerweile gibt es eine Vielzahl von Anbietern, die Chatbots für 
den Kundendialog auf dieser Basis betreiben. Gleichzeitig wächst die Akzeptanz solcher An-
gebote bei Nutzer*innen. 
 
Der Chatbot wird auf Nutzerfragen mit selbstgenerierten Texten antworten. Die technologi-
sche Basis des Bots ist das Large Language Model GPT-4o von OpenAI.  
Umgesetzt wird das Projekt DSGVO-konform mit einem Rahmenvertragspartner, sodass die 
Entwicklungs- und laufenden Kosten im Rahmen des Haushaltsplans abgedeckt sind. Bei der 
Konzeption und Entwicklung arbeitet das Amt für Presse- und Öffentlichkeitsarbeit mit der 
Stabstelle Digitalisierung, dem Amt für Informationsverarbeitung, dem Innovationsbüro, dem 
Bürgertelefon, der Stadtbibliothek und dem Wahlamt zusammen. 
 
Bis dato bieten nur einige wenige Kommunen in Deutschland einen generativen Chatbot an. 
Mit diesen Kommunen steht die Verwaltung im Austausch und profitiert von den Erfahrungen 
anderer Gemeinden. 
 
Ziele und Mehrwert 
 
Ziel ist es, durch einen Chatbot auf stadt.koeln die Informationsmöglichkeit und Teilhabe für 
Alle zu verbessern. Ein generativer Chatbot stellt nicht nur einen neuen, immer verfügbaren 
Zugangsweg zu vorhandenen Informationen im Sinne eines Recherchetools dar, sondern be-
reitet Informationen individuell für die anfragende Person auf, z. B. durch die Beantwortung 
konkreter Fragen und die Umformulierung in einfache Sprache. 
 
Umsetzung 
 
Zum Start des Bots setzt die Verwaltung auf Qualität statt Quantität. Der Bot wird zu Beginn 
einige ausgewählte, nachgefragte Themen beinhalten und über diese selbstständig Auskünfte 
geben. Basis hierfür sind die öffentlich einsehbaren Inhalte auf stadt.koeln. Auf interne Daten 
hat der Bot keinen Zugriff. Darüber hinaus ist er abgeschirmt vom öffentlichen Internet.

2 
 
 
Die Erfahrungen anderer Kommunen haben gezeigt, dass die Gefahr von Fehlinformationen 
und sog. Halluzinationen bei der unkontrollierten Informationsbereitstellung für KI-Chatbots 
hoch ist. Da die Verwaltung eine Verpflichtung hat, zuverlässige und wahrheitsgetreue Infor-
mationen anzubieten, wird jede Thematik, die in den Bot aufgenommen wird, vor der Publika-
tion systematisch getestet. 
 
Im Laufe des Jahres 2025 werden dann fortlaufend weitere Themen in den Bot integriert, 
bspw. Ausländerangelegenheiten und klassische städtische Dienstleistungen. Ziel ist, langfris-
tig die gesamten Inhalte der Website stadt.koeln in die Wissensbasis des Bots aufzunehmen. 
 
Der Bot ist mehrsprachig und kommuniziert in den derzeit 16 Sprachen, die auch der automa-
tisierte Übersetzer auf stadt.koeln anbietet. Wenn Nutzende den Bot in einer bestimmten 
Sprache ansprechen, antwortet der Bot automatisiert in dieser Sprache. 
 
 
gez. Reker