Anfrage von Gemeinderat Mag. Redlhammer an Bürgermeister Prammer betreffend „Nutzung und Regulierung von Künstlicher Intelligenz (KI) in der Stadtverwaltung Linz“ von der Gemeinderatssitzung am 13. März 2025

Zu 1.1.: Ja, es gibt interne Richtlinien zur Nutzung von Künstlicher Intelligenz (KI)-gestützten Systemen wie insbesondere große Sprachmodelle, die für alle Mitarbeiterinnen und Mitarbeiter gelten, welche KI bei ihrer Arbeit einsetzen. Diese Richtlinien orientieren sich strikt an den gesetzlichen Vorgaben und umfassen den Schutz der Privatsphäre, die Wahrung von Amtsgeheimnissen und Urheber*innenrechten, sowie die Sicherstellung menschlicher Kontrolle. Zu 1.2.: KI-Tools wie CompanyGPT oder andere auf Large Language Models (LLMs) basierende KI-Assistenten werden bereits für die alltägliche dienstliche Nutzung verwendet. KI-Modelle werden unter anderem in den Bereichen Bürger*innenkommunikation, bei der Analyse und Auswertung von großen Datenmengen, unter anderem auch Geodaten, im Projektmanagement, zur Generierung von Konzepten, zur Texterstellung- und Übersetzung, zur Bild- und Grafikerstellung, sowie bei der Transkription von Audioformaten eingesetzt. 25 Zu 1.3.: Eine interne Leitlinie zur Nutzung von LLMs gibt es bereits seit 2023. Diese definiert die datenschutzrechtlichen und ethischen Rahmenbedingungen für die Nutzung von KI, insbesondere von ChatGPT und anderen frei zugänglichen Sprachmodellen. Die Mitarbeiter*innen sind sich dadurch bewusst, dass sie keine sensiblen personenbezogenen Daten oder vertrauliche Informationen verarbeiten dürfen. Zudem hat die Stadtverwaltung Linz durch den Einsatz von LinzGPT vorgesorgt, dass die Arbeit mit KI konform mit der Datenschutz-Grundverordnung (DSGVO) erfolgt. Dieser KI-Assistent bietet Zugriff auf leistungsstarke Sprachmodelle in einer geschützten Umgebung und ermöglicht die Arbeit mit eigenen Dokumenten. Zu 1.4.: Derzeit werden keine Hochrisiko-KI-Systeme gemäß EU AI Act genutzt. Außerdem stellen die KI-Leitlinien und der IT-Clearing-Prozess die Einhaltung der gesetzlichen Vorgaben sicher. Zu 2.1.: Das wird durch die Einhaltung der entwickelten Leitlinien für den Umgang mit LLMs, die Kennzeichnungsvorgaben im Kommunikationsbereich und die KI-Strategie der Stadt Linz sichergestellt. Die Dokumente „Allgemeine Leitlinien im Magistrat Linz für Artificial Intelligence“ und die „Anwendungsleitlinien für den praktischen Umgang mit künstlicher Intelligenz (KI)“ sind für die Mitarbeiter*innen im Intranet im KI-Kompass zugänglich. Zu 2.2.: Der IT-Clearing-Prozess, der über die IKT (Informations- und Kommunikations-technologie) läuft, dient als Instrument zur Bewertung und Kontrolle von KI-Anwendungen. Darüber hinaus wurde 2024 eine KI-Pionier*innengruppe ins Leben gerufen, die als zentrale Anlaufstelle fungiert und KI-Tools evaluiert. Zu 2.3.: Ja, bei KI-gestützten Systemen, wie dem Chatbot „ELLI“, die mit Bürgerinnen und Bürgern interagieren, wird sowohl auf www.linz.at als auch im Chatfenster selbst mehrfach auf den KI-Charakter hingewiesen. Zu 3.1.: Die Stadt Linz setzt auf verschiedene Maßnahmen zur Gewährleistung von Datenschutz und Cybersicherheit bei KI-Anwendungen. Darunter fallen umfassende Schulungen, Leitfäden und Aufklärung im KI-Hub. Zentral ist dabei jedoch der Einsatz sicherer Anwendungen und Plattformen, wie zum Beispiel LinzGPT. Zu 3.2.: Es werden keine personenbezogenen Daten abgefragt, jedoch lässt sich nicht verhindern, dass Nutzer*innen selbst sensible Daten eingeben. Um trotzdem die DSGVO-Konformität zu gewährleisten, müssen Bürgerinnen und Bürger vor der Nutzung des Chatbots „ELLI“ den Datenschutzbestimmungen zustimmen. Zu 3.3.: Die KI-Pionier*innengruppe spielt eine wesentliche Rolle bei der Identifikation und Evaluierung von KI-Tools und Anwendungsmöglichkeiten. Sie fungiert als zentrale Anlaufstelle für Fragen und Anregungen rund um KI und fördert den kritischen Austausch. Zu 4.1.: Ja, die Mitarbeiter*innen des Magistrats erhalten Schulungen und Anleitungen zur sicheren und ethischen Nutzung von Künstlicher Intelligenz. Ein besonderer Schwerpunkt liegt dabei im Bereich „Prompting“, der es den Mitarbeiter*innen ermöglicht, effektiv mit KI-Systemen zu interagieren und deren Potenzial optimal zu nutzen. Das Angebot an 26 Workshops und Online-Vorträgen gewährleistet, dass die Mitarbeiter*innen auf dem neuesten Stand der KI-Entwicklungen bleiben und ihre Fähigkeiten kontinuierlich erweitern können. Das Angebot soll weiterhin ausgebaut werden. Zu 4.2.: Nein, derartige Schulungen zu KI und deren Regulierung liegen in der Verantwortung der Fraktions- und Gemeinderatsmitglieder im Rahmen ihrer eigenen Aus- und Weiterbildungsaktivitäten. Zu 4.3.: Ja, externe Expert*innen werden regelmäßig eingeladen, um über Risiken und Chancen von KI in der Verwaltung vorzutragen. Diese Fachleute halten Workshops und Vorträge zu aktuellen Entwicklungen, Recht, Datenschutz und zum European AI Act. Zu 5.1.: Es ist geplant, die bestehenden Leitlinien zur Nutzung von KI laufend zu überprüfen und gegebenenfalls zu aktualisieren. Zu 5.2.: Bereits seit 2023 gibt es die Leitlinie zur Nutzung von KI und seit Anfang 2024 eine ausführliche KI-Strategie inklusive KI-Roadmap. Zu 5.3.: Mit GEO-KI, einer Technologie zur Landnutzungskartierung, werden automatisierte Analysen von Orthofotos möglich. Wie bereits angesprochen, bietet LinzGPT vielseitige Unterstützung für Mitarbeiter*innen und deckt ein Spektrum von Anwendungsfällen ab. Voice-to-text-Technologien verbessern die Dokumentation und Nachvollziehbarkeit. Ein zentrales Projekt ist der KI-gestützte Chatbot ‚ELLI‘. Dank Natural Language Understanding kann ‚ELLI‘ natürliche Sprache interpretieren und so Anfragen schnell und auch mehrsprachig beantworten. Die kreative Nutzung von KI im Kommunikationsbereich, die LLM-basierte Bildgenerierung oder textbasierte Modelle eröffnen neue Möglichkeiten für die Öffentlichkeitsarbeit. 27