Chatbot auf stadt.koeln

Dezernat, Dienststelle  
OB/13/132 
 
Vorlagen-Nummer           16.04.2024 
 1246/2024 
Mitteilung 
öffentlicher Teil 
Gremium Datum 
Digitalisierungsausschuss 22.04.2024 
 
Chatbot auf stadt.koeln 
Die Online-Redaktion im Amt für Presse - und Öffentlichkeitsarbeit betreibt zur Infor-
mation der Bürger*innen die Internetseite stadt.koeln. Zur Verbesserung des Bür-
gerservice soll ein generativer, KI-gestützter Chatbot angeboten werden. 
 
Seit 2023 ist eine rasante Entwicklung im Bereich der generativen, auf Natural Langu-
age Processing, also dem Sprachverständnis von Computern aufbauenden KI zu be-
obachten (u. a. ChatGPT, GoogleBard). Mittlerweile gibt es eine Vielzahl von Anbie-
tern, die Chatbots für den Kundendialog auf dieser Basis betreiben. Gleichzeitig 
wächst die Akzeptanz solcher Angebote bei Nutzer*innen. 
Ziele und Mehrwert 
Ziel ist es, durch einen Chatbot auf stadt.koeln die Informationsmöglichkeit und Teil-
habe für alle Kölner*innen zu verbessern. Ein generativer Chatbot stellt nicht nur ei-
nen neuen, immer verfügbaren Zugangsweg zu vorhandenen Informationen im Sinne 
eines Recherchetools dar, sondern bereitet Informationen individuell für die anfra-
gende Person auf, z. B. durch die Beantwortung konkreter Fragen und die Umformu-
lierung in einfache Sprache. 
Funktionalität 
Der Chatbot soll basierend auf einem Large Language Model (LLM) selbstständig frei-
textliche Dialoge mit den Nutzer*innen führen können. LLMs sind mathematische Mo-
delle, die durch maschinelles Lernen natürliche Sprache generieren können. Der 
stadt.koeln-Chatbot soll zur Generation von Texten automatisiert auf fest definierte, 
bestehende Website-Inhalte zurückgreifen. Also auf Inhalte, die sowohl durch die zu-
ständige Fachstelle als auch die Online-Redaktion qualitätsgesichert sind. 
 
Da LLMs Sprache auf Basis von statistischen Wahrscheinlichkeiten generieren, kann 
es zu geringfügen Fehlern in der Wiedergabe von Informationen kommen. Es muss 
daher möglich sein, solche Fehler systemseitig zu korrigieren bzw. die korrekte Ant-
wort vorzuschreiben. Für Einzelfälle soll es möglich sein, feste Antworten und Ge-
sprächsabläufe zu definieren. 
 
Der Chatbot soll in Echtzeit mehrsprachig nutzbar sein, also nicht deutsche Anfragen 
verstehen und passende Antworten in der angefragten Sprache geben.

2 
 
Eine quantitative sowie qualitative Auswertung der geführten Dialoge zur Verbesse-
rung des Service soll möglich sein. Nutzer*innen sollen zudem die Möglichkeit haben, 
Feedback zu geben. Ggf. nicht beantwortete oder weiterführende Fragen sollen auf 
Wunsch der Nutzer*innen per E-Mail direkt zur verantwortlichen Dienststelle geleitet 
werden. 
 
Der Chatbot muss modernen IT-Sicherheitsstandards entsprechen und DSGVO -kon-
form betrieben werden.  
Implementierung 
Umgesetzt werden soll das Projekt mit einem Full-Service-Anbieter, über den das LLM 
bezogen wird, der das Interface für Nutzer*innen bereitstellt sowie ein Backend, das 
die selbstständige Datenpflege, -konfiguration und –auswertung durch die Online-Re-
daktion ermöglicht. Inhalt des Komplettpakets soll auch ein umfassender Setup-Ser-
vice und anschließender Support sein. 
 
Für 2024 ist die Ausschreibung und Vergabe des Projekts sowie der Launch der ers-
ten Ausbaustufe geplant. Zum Start soll der Chatbot für einzelne Verwaltungsdienst-
leistungen freigeschaltet werden, um Erfahrungswerte zu sammeln, die Akzeptanz zu 
testen und Learnings für die Ausweitung zu sammeln. Die Ausweitung ist zunächst auf 
weitere Dienstleistung geplant. Rein informative Website-Inhalte ohne Service-Anteil 
sind als spätere Ausbaustufe vorgesehen. 
 
Eingebunden wird der Chatbot auf stadt.koeln jeweils an typischen Einstiegsstellen für 
die Nutzenden. Das können einzelne Dienstleistungs- und passende Kategorieseiten 
sein, mit gewisser Reife auch die Startseite. 
 
Kommunikativ begleitet wird die Implementierung mit den Zielen, Aufmerksamkeit her-
zustellen und zur Nutzung anzuleiten. 
 
Langfristig ist es möglich, den Chatbot an Fachanwendungen anzubinden, sodass bei-
spielsweise Formulare über den Chatbot ausgefüllt werden können oder er in den 
Social-Media-Direktnachrichten Einsatz findet. Die Einzelfallbewertung und Abstim-
mung wird zu gegebener Zeit vorgenommen. Die nötige Grundfunktionalität z. B. in 
Form von offenen Schnittstellen bringen die in Frage kommenden Chatbot-Anbieter 
mit. 
Kosten 
Für das Einrichten und Einbinden des Chatbots fallen einmalig 10.000 bis 20.000 Euro 
an. Hinzu kommen monatliche nutzungsabhängige Kosten in Höhe von 1.000 bis 
3.300 Euro. Jährlich ist laut aktueller Prognose mit Kosten von maximal 40.000 Euro 
zu rechnen. Hierbei ist einkalkuliert, dass die nutzungsabhängigen Kosten mit Frei-
schaltung neuer Chatbot-Inhalte steigen werden. 
 
 
 
gez. Reker