Am zweiten Tag der SAP-Fachtagung in Köln gab SAP-Senior Volker Lehnert Einblicke in die Datenschutzwelt von SAP. Dr. Stefan Brink (wida) und Dr. Sefan Lücking (Böckler-Stiftung) sparten nicht mit Kritik an Künstlicher Intelligenz.
„Wir haben personenbezogenen Daten in allen Teilen eines SAP-Systems“, sagt der SAP-Senior Direktor für Datenschutz, Volker Lehnert. „Und ich glaube, dass nur ein Teil der Unternehmen in Deutschland diese personenbezogene Daten aus allen SAP-Systemteilen irgendwann löscht.“
Mit SAP ILM (SAP Information Lifecycle Management) gebe es laut Lehnert bereits ein Tool, das genutzt werden könne, um Daten zu löschen – ohne weitere Lizenzkosten. Ein ILM-Projekt sei aber „ein sehr ernstes Projekt, dessen Umsetzung mindestens mehrere Monate, teilweise über ein Jahr“ andauere.
Datenschutz mit SAP wird einfacher
„Wir wollen in Zukunft viele Löschmöglichkeiten bereitstellen“, kündigt Lehnert an. Die festen Kategorien der Geschäftspartner beispielsweise, sollen zukünftig mit konkreten Zwecken der Datenverarbeitung verknüpft werden können. Der TBS-Berater Frank Steinwender kommentiert den Ausblick: „Das wäre ein großer Sprung für uns in der Regelungslandschaft!“
Darüber hinaus wird im Hause SAP aktuell weiter mit Hochdruck an Künstlichen Intelligenz gearbeitet. Lehnert erklärt, dass das Thema im Konzern auch ethisch betrachtet werde. „Es gibt beispielsweise einige Methoden, Vorurteilsreproduktion zu vermeiden.“
„KI ist die Simulation menschlicher Intelligenz für Menschen“, erklärt der ehemalige Landesdatenschutzbeauftragte Baden-Wüttembergs, Dr. Stefan Brink auf der SAP-Fachtagung. Aber KI könne nicht logisch denken, nicht reflektieren und habe kein Bewusstsein. „Wir müssen deshalb immer davon ausgehen, dass das Ergebnis von KI immer auch dumm sein kann.“
Dennoch werde künstliche Intelligenz unsere Gesellschaft erheblich verändern, prophezeit der geschäftsführende Direktor des Wissenschaftlichen Instituts für die Digitalisierung der Arbeitswelt (wida). „Wir sind auf dem Weg in eine risikoaverse Gesellschaft“, sagt Brink. Man werde menschliche Fehler beim Autofahren irgendwann nicht mehr akzeptieren. „Der Versicherungssatz könnte in Zukunft höher werden, wenn Sie der KI ins Lenkrad greifen.“
Der Anpassungsdruck steigt
Man werde unsere Umwelt immer mehr mit Sensorik pflastern, kombiniert mit KI, sagt Brink. Damit wachse der Druck auf Menschen, sich gleichförmig und berechenbar zu verhalten, da die KI auf Abweichung reagiere. Ein Handstand am U-Bahngleis falle aus dem Raster und produziere eine Meldung. Wachsender Anpassungsdruck sei insbesondere in den Betrieben zu erwarten.
Brink appelliert an die Teilnehmenden, sich weiterhin für menschengerechte Arbeitsplätze einzusetzen.
Auch Dr. Sefan Lücking, Leiter des Referats „Mitbestimmung und Wandel der Arbeitswelt“ der Hans-Böckler-Stiftung, kann in Künstlicher Intelligenz mehr Schatten als Licht entdecken. Am Beispiel der Transportlogistik zeigt Lücking negative Aspekte am Arbeitsplatz. Zwar seien vernetzte Fahrzeuge, Navigation und Auswertungen in Echtzeit für die Logistik wertvoll, aber das führe seitens der Fahrerinnen und Fahrer zu Dequalifizierung. „Die Fahrer bekommen nur noch die Informationen, die sie für den nächsten Arbeitsschritt brauchen, dadurch werden sie unselbständig gemacht“ – und auf längere Sicht durch prekär Beschäftigte ersetzt, sagt Lücking.
Wie andere Referenten der SAP-Fachtagung zuvor, spricht auch Lücking die Möglichkeit der Diskriminierung durch KI an: „Es ist schwierig, aus Trainingsdaten, die diskriminierend sind, eine diskriminierungsfreien Entscheidung herbeizuführen.“
KI im Beschäftigteninteresse nutzen!
Gut fände Lücking hingegen, wenn man die KI genau zum umgekehrten Zweck nutzen würde. Sie könnte in den Bestandsdaten des Unternehmens analysieren, wo diskriminierende Verhältnisse herrschen. „In welchen Abteilungen konzentrieren sich die Männer, welche schlecht bezahlte Jobs im Unternehmen werden von Frauen bekleidet.“ Es wären auch KI-Tools denkbar, die Arbeitszeitdaten im Arbeitnehmersinne auswerten. In welchen Abteilungen werden zu welchen Zeiten Überlastungen festgestellt?
Über die KI-Verordnung der EU verliert Lücking nicht viel gute Worte. „Sie verfolgt mit der reinen Risikobetrachtung auf Betriebe bezogen das falsche Konzept“, konstatiert Lücking. „Der Einsatz von KI ist ein sehr komplexer Prozess. Und da reicht es nicht, dass die KI irgendwann mal von einem Unternehmen zertifiziert worden ist, das der Arbeitgeber damit selbst beauftragt hat.“
Recherchetipps:
Böckler Stiftung: Leitfaden zur Überprüfung KI-basierter Systeme.
Rechtsbetrachtung zum Einsatz von KI im Betrieb (kostenloser Download)