Generativer Chatbot für stadt.koeln ab Januar 2025

Dokumente

• Mitteilung Ausschuss

  PDF

  Ansehen: Mitteilung Ausschuss Text: Mitteilung Ausschuss Herunterladen: Mitteilung Ausschuss

  Automatisch aus dem PDF ausgelesen, Lesefehler sind möglich.

  Dezernat, Dienststelle OB/OB/132 Vorlagen-Nummer 25.11.2024 3656/2024 Mitteilung öffentlicher Teil Gremium Datum Digitalisierungsausschuss 27.01.2025 Generativer Chatbot für stadt.koeln ab Januar 2025 Die Verwaltung betreibt zur Information der Bürger*innen die Internetseite stadt.koeln. Zur Verbesserung des Service wird sie ab Januar 2025 einen generativen, KI-gestützten Chatbot anbieten. Seit 2023 ist eine rasante Entwicklung im Bereich der generativen, auf Natural Language Pro- cessing, also dem Sprachverständnis von Computern aufbauenden KI zu beobachten (u. a. ChatGPT, Microsoft Copilot). Mittlerweile gibt es eine Vielzahl von Anbietern, die Chatbots für den Kundendialog auf dieser Basis betreiben. Gleichzeitig wächst die Akzeptanz solcher An- gebote bei Nutzer*innen. Der Chatbot wird auf Nutzerfragen mit selbstgenerierten Texten antworten. Die technologi- sche Basis des Bots ist das Large Language Model GPT-4o von OpenAI. Umgesetzt wird das Projekt DSGVO-konform mit einem Rahmenvertragspartner, sodass die Entwicklungs- und laufenden Kosten im Rahmen des Haushaltsplans abgedeckt sind. Bei der Konzeption und Entwicklung arbeitet das Amt für Presse- und Öffentlichkeitsarbeit mit der Stabstelle Digitalisierung, dem Amt für Informationsverarbeitung, dem Innovationsbüro, dem Bürgertelefon, der Stadtbibliothek und dem Wahlamt zusammen. Bis dato bieten nur einige wenige Kommunen in Deutschland einen generativen Chatbot an. Mit diesen Kommunen steht die Verwaltung im Austausch und profitiert von den Erfahrungen anderer Gemeinden. Ziele und Mehrwert Ziel ist es, durch einen Chatbot auf stadt.koeln die Informationsmöglichkeit und Teilhabe für Alle zu verbessern. Ein generativer Chatbot stellt nicht nur einen neuen, immer verfügbaren Zugangsweg zu vorhandenen Informationen im Sinne eines Recherchetools dar, sondern be- reitet Informationen individuell für die anfragende Person auf, z. B. durch die Beantwortung konkreter Fragen und die Umformulierung in einfache Sprache. Umsetzung Zum Start des Bots setzt die Verwaltung auf Qualität statt Quantität. Der Bot wird zu Beginn einige ausgewählte, nachgefragte Themen beinhalten und über diese selbstständig Auskünfte geben. Basis hierfür sind die öffentlich einsehbaren Inhalte auf stadt.koeln. Auf interne Daten hat der Bot keinen Zugriff. Darüber hinaus ist er abgeschirmt vom öffentlichen Internet. 2 Die Erfahrungen anderer Kommunen haben gezeigt, dass die Gefahr von Fehlinformationen und sog. Halluzinationen bei der unkontrollierten Informationsbereitstellung für KI-Chatbots hoch ist. Da die Verwaltung eine Verpflichtung hat, zuverlässige und wahrheitsgetreue Infor- mationen anzubieten, wird jede Thematik, die in den Bot aufgenommen wird, vor der Publika- tion systematisch getestet. Im Laufe des Jahres 2025 werden dann fortlaufend weitere Themen in den Bot integriert, bspw. Ausländerangelegenheiten und klassische städtische Dienstleistungen. Ziel ist, langfris- tig die gesamten Inhalte der Website stadt.koeln in die Wissensbasis des Bots aufzunehmen. Der Bot ist mehrsprachig und kommuniziert in den derzeit 16 Sprachen, die auch der automa- tisierte Übersetzer auf stadt.koeln anbietet. Wenn Nutzende den Bot in einer bestimmten Sprache ansprechen, antwortet der Bot automatisiert in dieser Sprache. gez. Reker