Anfrage von Gemeinderat Mag. Redlhammer an Bürgermeister Luger betreffend 'Künstliche Intelligenz in der Verwaltung'

2 · Anfrage · 21. Sitzung

Fragesteller:
Gerichtet an:

Status:Beantwortet

Zusammenfassung

KI Generiert

Künstliche Intelligenz in der Linzer Verwaltung wird bereits vereinzelt eingesetzt, vor allem für Bild- und Textgenerierung, das Erstellen und Überarbeiten von Schriftstücken sowie erste Pilotierungen zu digitalen Zwillingen. Die Stadt verweist auf einen eigenen Leitfaden, die generelle Erlaubnis von LLMs und die Kennzeichnung KI-gestützter Anwendungen, wenn Bürgerinnen und Bürger direkt damit interagieren. Als Nutzen werden effizientere Routinetätigkeiten, mehr Servicequalität, bessere Barrierefreiheit, frühere Erkennung von Anomalien bei Luft- und Wasserqualität sowie eine zeitnahe Zustandserhebung von Straßen und Gebäuden genannt. Für Deepfakes gibt es derzeit noch keine konkreten Sicherheitsprotokolle, jedoch laufende IT-Sicherheitsschulungen, Sensibilisierung und das Vier-Augen-Prinzip in kritischen Bereichen. Die Stadt sieht ihre KI-Strategie als Teil des Digitalen Programms, steht im Austausch mit NXAI und anderen Partnern und will die Bevölkerung durch erste Öffentlichkeitsarbeit stärker über Chancen und Risiken der KI informieren.

Schlagwörter (10):künstliche intelligenzverwaltungdigitalisierungit-sicherheitdeepfakeschatbotdigitale zwillingebarrierefreiheiteffizienzsteigerungbürgerinformation
FragetextEinblendenAusblenden
„Sehr geehrter Herr Bürgermeister, die künstliche Intelligenz (KI) verändert nicht nur das computerunterstützte Arbeiten, sondern auch das gesellschaftliche Leben. Noch weniger als bisher können wir auf das geschriebene Wort vertrauen, weder auf Nachrichten, die uns über Social Media erreichen, noch auf Bilder oder Videos, Stichwort Deepfakes. Der Magistrat Linz, die Stadtregierung verwalten die Gelder der Steuerzahler und Steuerzahlerinnen. Es stellt sich die Frage, wie der Magistrat Linz und die Stadtregierung mit dem Instrument der KI und deren Chancen aber auch Risiken generell umgeht. Es wird daher folgende Anfrage gestellt: 1. Finden KI-Anwendungen bereits heute in der Arbeit des Magistrats und der Stadtregierung Anwendung? Wenn ja, 1.a in welchen Bereichen? 1.b welchen Mehrwert, welche Vereinfachung bieten diese KI-Anwendungen? 1.c wird die Verwendung der KI sichtbar ausgewiesen? 2. Ist künstliche Intelligenz und der Umgang damit integraler Bestandteil der strategischen Ausrichtung des Magistrats? Wenn ja, 2.a in welchen Bereichen erkennt die Verwaltung Vorteile aus der KI? 2.b werden KI-Modelle/Anwendungen in den kommenden 2 Jahren in die Arbeit des Magistrats einfließen? 2.c werden diese Anwendungen für Linzerinnen und Linzer erkennbar sein, und zu vereinfachten Prozessen in der Verwaltung führen? 3. KI-Pionier Sepp Hochreiter will mit NXAI eine, wie er sagt, bessere KI-Plattform schaffen als ChatGPT. Gibt es Überlegungen der Stadt Linz sich aktiv an dem Projekt zu beteiligen bzw. auch Studien und Aufgaben zu vergeben? Gibt es andere Projekte an denen sich die Stadt beteiligen möchte? 4. Eine der größten Herausforderungen und Sicherheitslücken im Arbeiten mit elektronischen Medien sind sogenannte Deepfakes. Selbst Videokonferenzen mit vermeintlichen Entscheidungsträgern werden gefälscht. Daraus ergeben sich sicherheitsrelevante Fragen: 4.a Werden die Mitarbeiter und Mitarbeiterinnen des Magistrats im Bereich Deepfakes geschult? 4.b Gibt es ein entsprechendes Sicherheitsprotokoll, damit Zahlungsanweisungen, die Mitarbeiter und Mitarbeiterinnen tätigen, nicht auf Deepfake Informationen oder Anweisungen beruhen? 4.c Gibt es entsprechende Sicherheitsprotokolle, damit Anweisungen nicht von vermeintlichen Deepfakes gegeben werden? 5. Arbeitet der Magistrat an Ideen, Plänen und Konzepten, mit denen die Stadt Linz die Bevölkerung auf Chancen und Risiken der KI aufmerksam macht? Vielen Dank für die Beantwortung der Fragen.“
AntwortEinblendenAusblenden
Zu 1.: Ja, sie finden Anwendung. Zu 1.a: Wir nutzen derzeit KI-Anwendungen vereinzelt, beispielsweise im Geschäftsbereich Kommunikation zur einfacheren Bild- und Textgenerierung. Die Nutzung von LLMs im Arbeitsalltag wurde generell erlaubt. Diesbezüglich ist auch ein eigener Leitfaden erstellt worden. Derzeit sind die meisten Anwendungsfälle dem Erstellen, Zusammenfassen und/oder auch Überarbeiten von Schriftstücken zuzuordnen. Erste Pilotierungen gibt es im Zusammenhang mit der Erstellung sogenannter ‚Digitaler Zwillinge‘. Zu 1.b: Ich bin grundsätzlich davon überzeugt, dass der Einsatz von KI auch in der Stadtverwaltung dazu führt, dass wir agiler und effizienter arbeiten und damit die Servicequalität für die Bürgerinnen und Bürger in dieser Stadt steigern können. Ein KI-gestützter Chatbot beispielsweise wird die Verfügbarkeit von Informationen auf der städtischen Homepage weiter verbessern und die Barrierefreiheit auf Grund der Abrufbarkeit in mehreren Sprachen weiter erhöhen. Insgesamt ist die Verwaltung nicht anders betroffen als andere Organisationen, Betriebe und Institutionen. Generell erfolgen natürlich Routinetätigkeiten mit KI-Unterstützung viel effizienter, was wiederum Ressourcen bei den einzelnen Mitarbeiter*innen für wertschöpfendere Aufgaben frei macht. Zu 1.c: Grundsätzlich basiert unsere KI-Strategie im Haus natürlich auf den gesetzlichen Rahmenbedingungen. Dazu gehört primär der European Artificial Intelligence Act, der von uns auch umzusetzen ist. Gemäß der dort skizzierten Risikopyramide werden KI-gestützte Anwendungen, mit denen Bürger*innen direkt agieren, klar gekennzeichnet. Zu 2.: Klare Antwort: ja. Wir sind davon überzeugt, dass die KI durch eine eigene Strategie, die wir vor zwei Jahren festgelegt haben, extreme strategische Bedeutung für die organisationale Weiterentwicklung unserer Verwaltung hat. Zu 2.a: Die Verwaltung erkennt in Übereinstimmung mit ihrem Bürgermeister Möglichkeiten in der Effizienzsteigerung in der Erledigung von Routinetätigkeiten. Dadurch können sich Mitarbeiter*innen auf wertschöpfendere Tätigkeiten fokussieren. Aber auch in anderen Geschäftsfeldern gibt es Vorteile. Zum Beispiel kann man in der Messung von Luft- und Wasserqualität Anomalitäten früher erkennen und damit auch rascher handeln. Ein Anwendungsfeld pro futuro wird sicherlich darin bestehen, die Zustandserhebung von Straßen und Gebäuden zeitnah zu haben. Das führt dazu, dass man effizienter handeln kann, Maßnahmen früher setzen kann und damit auch Sanierungs- und Investitionsvolumina senken kann. Insgesamt bin ich überzeugt davon, dass es viele Felder gibt, die wir in den nächsten Jahren bearbeiten werden. Es wird zu Arbeitserleichterungen für die Mitarbeiter*innen kommen und für die Bürgerinnen und Bürger zu einer noch effizienteren Verwaltung und zu einer Ersparnis, was Steuergeld betrifft. Zu 2.b: Ja - und ich habe bei 1.a und 2.a auch schon geschildert in welchen Bereichen. Zu 2.c: Zweiteres ist eindeutig ja und ersteres habe ich bei 1.c schon beantwortet. Das ist generell gekennzeichnet. Zu 3.: Mit Herrn Prof. Sepp Hochreiter sind wir als Magistrat, als Verwaltung und bin auch ich immer wieder persönlich, im Hinblick auf allfällige Kooperationen im Austausch. Es wird in absehbarer Zeit das nächste Treffen dazu geben. Wir sind selbstverständlich immer bereit, auch mit anderen Unternehmen bei KI-Projekten als Partner teilzunehmen. Bei der Aufgabenstellung von Prof. Hochreiter sind jedoch - das muss man schon sagen - ein wenig andere Themen dominant, als sie uns in der Verwaltung beschäftigen. Hier gilt es aus meiner Sicht sensibel zu bleiben, dass wir auf einem möglichst hohen Niveau agieren können, möglichst viel lernen können und Einblicke bekommen. Aber als konkreter wissenschaftlicher Partner für das von dir, Kollege Redlhammer, angesprochene NXAI-Projekt ist eine Verwaltung, bei aller Wertschätzung unserer Leistung, nicht der passende Sparringspartner. Zu 4. und 4.a: Wir setzen seit Jahren einen Schwerpunkt auf laufende Schulungen im Bereich der IT-Sicherheit. Das ist ein Thema, dessen Relevanz man wirklich nicht unterschätzen darf. Im Zuge dieser sehr mannigfaltigen Schulungsmaßnahmen geht es primär auch darum, die Awareness bezüglich der Maßnahmen im Zusammenhang auch mit potenziellen Gefahren, die von der KI ausgehen, bewusst zu machen. Das ist ein andauernder Bewusstseinsprozess, der jedoch aus meiner Sicht schon einige Schritte tiefer beginnt, beispielsweise beim Öffnen von E-Mails. Aber bei Fakes und vor allem bei Anwendungsformen von KI bedarf es in unserer Gesellschaft generell noch eines verstärkten Bewusstseins. Zu 4.b: Derzeit liegen solche konkreten Protokolle noch nicht vor. Die Mitarbeiter*innen in allen kritischen Bereichen des Magistrats in der Verwaltung agieren jedoch stets nach dem Vier-Augen-Prinzip und werden laufend auch hinsichtlich aktueller Gefahrenpotenziale sensibilisiert. Zu 4.c: Auch in diesem Fall liegen derzeit noch keine konkreten Protokolle vor. Wir haben jedoch darauf eingewirkt, dass sich unsere Mitarbeiterinnen und Mitarbeiter immer in geeigneter Weise - auch hier muss man vorsichtig agieren - davon überzeugen, dass die Identität ihres Gegenübers, egal in welcher Erscheinungsform, auch tatsächlich korrekt ist und mit den Daten übereinstimmt. Dies kann durch konkrete Fragestellungen oder auch durch andere Merkmale, die Aufschluss über die wahre Identität geben können, also durch sogenannte Identifikationsmerkmale, erfolgen. Wir haben aber auch vor, das ist auch nachlesbar im Bericht über das Digitale Programm, uns in diesem Segment noch stärker mit unseren Mitarbeiterinnen und Mitarbeitern auseinanderzusetzen. Zu 5.: Das Digitale Programm legt einen ganz konkreten KI-Schwerpunkt vor und sieht aus meiner Sicht damit automatisch vor, dass wir die konkrete Auseinandersetzung forcieren. Gerade gestern oder vorgestern haben wir - Frau Magistratsdirektorin Ulrike Huemer und ich - diese KI-Strategie in einer Pressekonferenz der Öffentlichkeit präsentiert. Das ist auch eine der ersten Aktivitäten zur Bewusstseinsbildung innerhalb sowie auch außerhalb der Organisation des Magistrates. Wir sind hier, nachdem wir am Beginn der KI sind, selbstverständlich auch am Beginn dieses Prozesses.