Mehr Transparenz statt Buzzword in der Blackbox
⟩⟩⟩ von Guido Gehrt, Behörden Spiegel
Der Einsatz Künstlicher Intelligenz (KI) zählt aktuell zu den großen Themen der digitalen Transformation. KI-Lösungen in unterschiedlicher Komplexität sind heute bereits vielfältig im Einsatz. Doch die Diskussion über Chancen und Risiken sowie die Grenzen von KI-Technologie ist noch längst nicht abgeschlossen. Die EU-Kommission hat mit dem Verordnungsentwurf jedoch einen wichtigen Aufschlag gemacht, um auch hier –nach dem Vorbild der EU-Datenschutz-Grundverordnung – einen gemeinsamen und einheitlichen europäischen Rahmen zu schaffen.
Für Dr. Michael Littger, Geschäftsführer Deutschland sicher im Netz (DsiN), kommt es in der aktuellen Diskussion rund um den Einsatz Künstlicher Intelligenz insbesondere darauf an, aufzuklären und durch Transparenz Vertrauen zu schaffen. Dies entspricht auch der grundsätzlichen Ausrichtung von DsiN, der seinerzeit 2006 als Verein auf dem ersten Nationalen IT-Gipfel gegründet wurde. Das gemeinnützige Bündnis unterstützt insbesondere Nutzerinnen und Nutzer sowie kleinere Unternehmen im sicheren und souveränen Umgang mit der digitalen Welt. Dafür bietet DsiN in Zusammenarbeit mit den Mitgliedern und Partnern konkrete Hilfestellungen sowie entsprechende Mitmach- und Lernangebote an. So ist über das DsiN u. a. eine umfassende Darstellung verfügbar, die zeigt, wo überall heute bereits KI enthalten ist.
Chancen (europäisch) nutzen
Prof. Dr. Wilfried Bernhardt, als Staatssekretär a. D. früher für den Freistaat Sachsen u. a. Mitglied des IT-Planungsrates und aktuell mit Lehrauftrag an der Universität Leipzig tätig, möchte in der KI-Diskussion Chancen und nicht die Risiken in den Vordergrund stellen. Diese biete insbesondere in der Vorbereitung von Entscheidungen viele Möglichkeiten, da durch sie “Licht in das Komplexe” gebracht werden könne, etwa wenn es um die Vielfalt und Menge vorliegender Daten geht. Als Beispiel nannte Bernhardt den Bereich der Kinderpornografie, wo heute bereits KI zum Einsatz kommt, um die Ermittelnden bei der Auswertung der oftmals riesigen Datenmengen zu unterstützen, da diese „per Hand“ nicht mehr effektiv ausgewertet werden können.
Man dürfe aber auch die Risiken beim KI-Einsatz nicht ausblenden, so Bernhardt weiter. Dabei sei es wichtig, hier nicht nationalstaatlich, sondern europäisch vorzugehen und regulatorische Fragen auf EU-Ebene anzugehen. Ein Vorbild sei hier die EU-Datenschutz-Grundverordnung, die nicht nur innerhalb Europas zu mehr Einheitlichkeit und Standards geführt habe, sondern, wie Bernhardt unter Verweis auf den US-Bundesstaat Kalifornien betonte, mittlerweile auch weltweit ein Erfolgsmodell sei.
Insofern sei es “gut und richtig” dass die EU-Kommission auch beim Einsatz von KI im April diesen Jahres mit einem Verordnungsvorschlag die Initiative ergriffen habe.
Dies unterstrich auch Johannes Neitsch, der sich als Referent im Referat “Internationale Cybersicherheit und Cybersicherheitsforschung”, im Bundesministerium des Innern, für Bau und für Heimat, mit dem Thema KI beschäftigt.
EU- Verordnung kommt vermutlich im Jahre 2023
Der Verordnungsvorschlag basiere auf dem im Februar 2020 veröffentlichen Weißbuch der EU-Kommission. In der Bundesregierung laufe aktuell unter Federführung des Bundesministeriums für Wirtschaft und Energie (BMWi) und des Bundesministeriums für Justiz und Verbraucherschutz (BMJV) die Abstimmung innerhalb der Ressorts. Neitsch geht davon aus, dass es im parlamentarischen Prozess noch ca. zwei Jahre dauern wird, bis die Verordnung verabschiedet sein wird.
Seine Aufgabe im BMI ist es, innerhalb dieses Prozesses den Blick der Sicherheitsbehörden einzubringen. Da bei den Polizeien die Anwendung von KI in einigen Bereichen mittlerweile Standard sei, gelte es nun zu beobachten, welche Veränderung die Verordnung für die Polizeiarbeit in diesem Bereich bzw. mit diesen Mitteln bedeuten würde.
Der Verordnungsentwurf fasst die Risiken Künstlicher Intelligenz in den vier Kategorien niedriges, mittleres und hohes Risiko sowie eine Kategorie, bei der die Gesellschaft nicht bereit ist, dieses Risiko zu tragen. Die KI-Systeme die im Sicherheitsbereich zum Einsatz kämen, seien grundsätzlich als Hochrisikosysteme einzustufen, so Neitsch. Sein Fokus liegt nun entsprechend darauf, diese im Verordnungsentwurf enthaltene Kategorisierung und deren potenzielle Auswirkungen auf hierzulande im Einsatz befindliche Systeme zu prüfen.
Eines der großen KI-Netzwerke im Lande ist der KI Bundesverband, für den Sina Youn, Leiterin der Arbeitsgruppe Data Privacy, auf dem Kongress diskutierte.
Ziel des Verbandes, in dem mehr als 350 KI-Unternehmen organisiert sind, ist es, die innovativsten KI und Deep Tech Unternehmen mit der etablierten Wirtschaft und Politik zu vernetzen und so ein aktives, erfolgreiches und nachhaltiges KI-Ökosystem in Deutschland und Europa zu schaffen. Die Mitglieder setzen sich dafür ein, dass diese Technologie im Sinne europäischer und demokratischer Werte Anwendung findet und Europa digitale Souveränität erreicht.
Zur “DNA” des Verbandes gehört es entsprechend, dass man positiv gegenüber den Möglichkeiten von KI gerade mit Blick auf die IT-Sicherheit eingestellt ist, wie auch Sina Youn bestätigte. Man wisse aber auch, dass vor dem Hintergrund der klassischen Dual Use-Problematik alles was positiv eingesetzt werden könne auch negativ bzw. schädlich zum Einsatz gebracht werden könne. Problematisch ist für Youn in diesem Kontext auch, dass KI oft als Blackbox empfunden würde. Daher sei die explainable (erklärbare) KI so relevant, da man nur dann eine Verbindung zwischen dem was man in die KI eingebe und dem, was als Ergebnis herauskomme herstellen könne.
Auch die Forschungsaktivitäten rund um den Einsatz Künstlicher Intelligenz haben in den vergangenen Jahren in Deutschland massiv zugenommen. Zu den renommiertesten Institutionen in diesem Umfeld zählt das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), das bereits 1988 als gemeinnützige Public-Private Partnership (PPP) gegründet wurde. Wie umfangreich die Aktivitäten des DFKI mittlerweile sind, zeigte Prof. Dr. Christoph Lüth, stellvertretender Leiter des DFKI, auf der PITS. So arbeitet man derzeit mit rund 500 Wissenschaftlern und ebensovielen Studierenden aus über 65 Nationen an über 250 KI-Forschungsprojekten. Diese bieten große Möglichkeiten, die aber selten genutzt würden, befand Dr. Maximilian Rückert, Referatsleiter für Digitalisierung, Künstliche Intelligenz und Gesundheitswesen der Akademie für Politik und Zeitgeschehen der Hanns-Seidel-Stiftung. “Wir haben mit dem Buzzword in der Politik ein Problem”, so Rückert weiter. Dieses sei einerseits Zugpferd, andererseits würden Erwartungen geschürt, die nicht erfüllt werden können. Hätte man die KI in der Pandemiebekämpfung voll ausgeschöpft, wären wir zu besseren Ergebnissen gekommen, so Rückert.
