MICHAEL GOGOLA ist Jurist und arbeitet in der Grundlagenabteilung sowie der Abteilung Arbeit & Technik der Gewerkschaft GPA. Er beschäftigt sich unter anderem mit den Themen Arbeitszeit, Digitalisierung und Datenschutz sowie mit Rechtsfragen der modernen Arbeitswelt.
EVA ANGERLER ist Soziologin und arbeitet in der Abteilung Arbeit & Technik der Gewerkschaft GPA. Sie ist mit den Themen Arbeitsgestaltung, Technikbewertung/Datenschutz, prozessbegleitende Mitbestimmung und Soziale Verantwortung/Nachhaltigkeit befasst.
Der Begriff „Künstliche Intelligenz“ („KI“) wird für unterschiedliche Verfahren benutzt, wobei es stets um – mehr oder weniger – selbstlernende Verfahren geht, die auf der Grundlage von eingespeisten Daten zu bestimmten Aussagen (Vorhersagen, Entscheidungen) kommen.
Werden dabei direkt oder indirekt personenbezogene Daten der ArbeitnehmerInnen verarbeitet, sind auch deren Interessen betroffen. Die Bestimmungen der EU-Datenschutzgrundverordnung (DSGVO) und des österreichischen Datenschutzgesetzes (DSG) sollen die Persönlichkeitsrechte der von Datenverarbeitungen betroffenen Personen schützen.
Der Einsatz von KI, gerade am Arbeitsplatz, lässt sich jedoch mit zentralen Datenschutzprinzipien schwer vereinbaren. Der Entwicklung zu einer Datenökonomie (Zusammenführen von Datenbeständen, Auswertung großer Datenmengen – siehe das Schlagwort „Big Data“) stehen mit dem in der DSGVO vorgesehenen Grundsatz der Datensparsamkeit und den Geboten von „privacy by design“ bzw. „privacy by default“ im Konflikt.
Es geht also darum, dass technische Systeme von vornherein so gestaltet sein müssen, dass sie möglichst datenschutzfreundlich sind. Nicht mehr Daten als unbedingt nötig sollen verarbeitet werden. Viele ExpertInnen gehen allerdings davon aus, dass konkrete Personen auch aus anonymisierten Datensätzen durch Einsatz von KI individuell bestimmbar sind. Die Gefahr der Aushebelung von Datenschutzrechten ist beim Einsatz von KI im Arbeitskontext somit immer gegeben.
Durch die Komplexität der bei KI eingesetzten Algorithmen sind die Auswirkungen oft nicht leicht erkennbar, was das Machtungleichgewicht zwischen ArbeitgeberIn und den ArbeitnehmerInnen weiter verschärft. Schließlich haben ArbeitgeberInnen in der Regel deutlich mehr Wissen über die Funktionsweise des im Betrieb eingesetzten Systems als die Beschäftigten oder der Betriebsrat. Werden KI-Systeme eingeführt, sind sie oft schwierig zu verändern und daher vom Betriebsrat schwierig einzuschätzen. Mitbestimmungsrechte werden daher in vielen Fällen noch schwerer durchsetzbar, weil Betriebsräte sich zunächst ein umfassendes Bild über ein konkretes System und seine Funktionsweise machen müssen.
Dazu kommt, dass der/die Einzelne am Arbeitsplatz häufig seine/ihre Datenschutzrechte nicht durchsetzen kann. ArbeitnehmerInnen müssen in vielen Fällen Angst um ihren Arbeitsplatz haben und schrecken daher mitunter vor einem Beharren auf ihren Rechten zurück. Das ist umso problematischer, als ArbeitnehmerInnen aufgrund ihrer Abhängigkeit vom/von der ArbeitgeberIn als besonders schutzwürdig einzuschätzen sind. Wird also die kollektive Ebene zur Durchsetzung der Datenschutzrechte, also die Vertretungsmacht des Betriebsrates und die Möglichkeit zum Abschluss von Betriebsvereinbarungen, geschwächt, so wirkt sich dies auch auf die in DSGVO und DSG festgeschriebenen individuellen Rechte aus, die am Arbeitsplatz faktisch nicht durchgesetzt werden können. Mit der Einführung von KI-Anwendungen ist deshalb streng darauf zu achten, dass Mitbestimmungsrechte des Betriebsrates und damit verbunden Datenschutzrechte am Arbeitsplatz nicht unterlaufen werden.
Zuletzt hat die EU-Kommission den Entwurf einer Verordnung zur Regelung des Einsatzes von Künstlicher Intelligenz vorgelegt. Dieser wurde viel beachtet und auch seitens der GPA ausführlich begutachtet. Im vorliegenden Verordnungsentwurf ist KI am Arbeitsplatz kein eigenes Thema, es wird nur im Anhang erwähnt. Die gesamte Verordnung ist sehr technikzentriert mit Blick auf die Erfordernisse des Marktes und richtet sich mehr an die herstellenden Unternehmen und EntwicklerInnen von KI und weniger an die AnwenderInnen und Betroffenen.
Die ArbeitnehmerInnen als eine große Gruppe von KI- Betroffenen zu adressieren, verabsäumt der Verordnungsentwurf. Die im Regulierungsansatz gewählte Risikoabstufung ist unseres Erachtens völlig unklar und weist Lücken auf. Der darin enthaltene Selbstregulierungsansatz ist nicht ausreichend. Wichtige Schutzmechanismen für ArbeitnehmerInnen und KonsumentInnen fehlen, Möglichkeiten zur Mitbestimmung ebenso.
In der betrieblichen Praxis kommen immer öfter KI-Anwendungen zum Einsatz, meist werden sie im Hintergrund eines größeren Systems eingesetzt. Ein weit verbreitetes Beispiel dafür sind die Analytics Funktionen im Office-Paket Microsoft 365. Dazu werden sämtliche Nutzerdaten gesammelt, verknüpft und ausgewertet, um aus diesen Verhaltensprofilen Empfehlungen für „produktiveres Arbeiten“ abzuleiten. Z.B. wird von „abgelenkten TeilnehmerInnen“ ausgegangen, wenn Terminkollisionen im Terminkalender eingetragen wurden, und von „ineffizientem Email-Verfassen“, wenn von der Standardzeit abgewichen wird. Kriterien und Annahmen für diese vielfach umstrittenen Kennzahlen werden nicht offengelegt.
KI-Anwendungen werten große Datenmengen aus und machen Prognosen und Entscheidungsvorschläge, die im absoluten Großteil der Fälle befolgt werden (automation bias). Solche Systeme haben daher massive Auswirkungen auf die ArbeitnehmerInnen. Eine Mitgestaltung aus ArbeitnehmerInnensicht ist daher das Gebot der Stunde. Dazu müssen BetriebsrätInnen aber nicht zu TechnikerInnen werden. Es reicht, wenn sie die richtigen Fragen zum richtigen Zeitpunkt stellen können. Dazu haben zwei Studien zu Fairness und Transparenz von Ki, die der GPA-Beirat für Arbeit und Technik aktuell diskutiert hat, wichtige Anhaltspunkte geliefert:
Schon bei der Vorfrage, ob ein Automatisches Entscheidungssystem (AES) eingesetzt werden soll, ist der Betriebsrat zu beteiligen.
Diese und weitere Fragen müssen ausführlich erörtert werden.
Wird die Entscheidung getroffen, ein AES einzusetzen, ist zu unterscheiden, ob eine fertige Software am Markt eingekauft oder ein System im Unternehmen entwickelt wird. In jedem Fall muss transparent gemacht werden, welche personenbezogenen ArbeitnehmerInnendaten verwendet werden sollen und nach welchen Kriterien die Software zu Aussagen kommt.
Beim Einsatz im Unternehmen muss klar sein, wer die Kennzahlen (Maßstab, wann etwas als „gut“, „passend“ oder „gelungen“ einzuordnen ist) festlegt. Weiters ist darauf zu achten, dass die Letztentscheidung immer bei einem Menschen liegt. Gründe für Personalentscheidungen sind zu dokumentieren und müssen nachvollziehbar sein. (mehr dazu enthält ein GPA-Leitfaden zu KI, der bei deinem betriebsbetreuenden Gewerkschaft GPA-Regionalsekretär erhältlich ist)
Um den angeführten grundsätzlichen Problemen zu begegnen, müssen bei der Einführung von KI in der Arbeitswelt wirksame Maßnahmen gesetzt werden, und zwar durch verpflichtende Mindeststandards, unabhängige Kontrollmechanismen und Ausbau und Stärkung der Mitbestimmungsrechte der AN und deren Durchsetzungsmöglichkeiten – betrieblich und überbetrieblich. Was muss eine wirksame Regelung zum Thema Künstliche Intelligenz leisten?