„Wir müssen Ungleichbehandlung als Gesellschaft erkennen und in die Algorithmen einarbeiten.“ – Ein Gespräch mit Marie Leidinger und Dr. Max Neufeind.

Eine Kooperation mit everyworks

An einem hellgrauen Tag Ende August sitzen wir gemeinsam mit Marie Leidinger an einem langen Tisch bei everyworks, dem Co-Working Space von Smart City | DB. Marie lässt uns heute an ihren Insights und Erfahrungen als UX-Designerin und Expertin für Machine Learning teilhaben. Aus dem Urlaub zugeschaltet ist Dr. Max Neufeind. Der Arbeitspsychologe und Politikberater beschäftigt sich seit Jahren intensiv mit unserer Arbeitsgesellschaft im digitalen Zeitalter.

Bevor es mit unserem Gespräch losgeht, bemerkt Max noch, dass die Aufzeichnung und Niederschrift des heutigen Interviews vermutlich auch bald von Maschinen gemacht werden könnte. Wir drücken auf “Record” und dann geht es auch schon los.

DEARWORK

Marie, Du beschäftigst Dich mit der Schnittstelle zwischen Mensch und Maschine – einem Thema, das bei vielen auch Ängste hervorruft. Wo haben wir es heute überhaupt mit künstlicher Intelligenz zu tun?

Marie Leidinger

Ich spreche lieber von maschinellem Lernen, da der Begriff “Künstliche Intelligenz” missverständlich ist. Er suggeriert, dass die Maschine – ebenso wie ein Mensch – wirklich intelligent ist. Dabei ist maschinelles Lernen eigentlich nichts weiter als Statistik. In der Regel sind das viele kleine Sachen, die eigentlich keine Angst machen: Eine Google-Suche, bei der mein Suchbegriff automatisch vervollständigt wird, ist so ein Beispiel.

Ich forsche im Bereich der Emotionserkennung, und das können Maschinen zum Beispiel nicht besonders gut, während uns Menschen das super einfach fällt. Viele Aufgaben sind für Maschinen einfacher zu lösen als für den Menschen, aber so ist es eben auch umgekehrt. Künstliche Intelligenz bezieht sich übrigens auch immer nur auf ein Thema. Ein Schachcomputer kann, zum Beispiel, keine Daten von der Pharmaindustrie auswerten. Maschinen sind eigentlich Fachidioten.

DEARWORK

Max, auch von Dir ein Reality-Check: Wo ist maschinelles Lernen gerade auf dem Vormarsch, und in welchen Bereichen bleibt der Mensch überlegen?

Max Neufeind

Maschinen kommen aktuell vor allem im Umgang mit Big Data zum Einsatz, aber auch in der Sachbearbeitung. Beispielsweise wird in der Versicherungsbranche mittlerweile ein großer Teil der Schadensregulierung automatisiert erledigt. Ähnlich sieht es beim Online-Banking aus. Bei sozialen Kompetenzen dagegen haben wir Menschen die Oberhand. Ein Beispiel: Ein Mensch betritt den Raum und begreift sofort die soziale Situation. Das fällt Technologie momentan noch unglaublich schwer. Spannend finde ich, wo maschinelles Lernen in Kreativberufen Einzug hält. Man denkt leicht, dass Automatisierung eher Routinetätigkeiten berührt. Dabei kann maschinelles Lernen uns auch durchaus in kreativen Tätigkeiten helfen, besser zu werden. Ein Bauingenieur, der eine Brücke bauen soll, hat das bisher nach relativ klar vorgegebenen Regeln gemacht. Aber dieser eine Weg eine Brücke zu bauen, ist ja nur ein Punkt in einem viel größeren Lösungsraum. Als Mensch lässt sich so ein komplexer Lösungsraum nicht durchsteigen, während uns KI dort Millionen alternativer Lösungen zeigen kann. Immer wenn es darum geht, in einem riesigen Universum von Informationen interessante Punkte zu finden, kann uns maschinelles Lernen dabei helfen, zu einem höheren Level an Kreativität und insgesamt besseren Lösungen zu kommen.

DEARWORK

Das klingt erst einmal nach Symbiose zwischen Mensch und Maschine. Was müssen wir denn zukünftig für Fähigkeiten mitbringen, um gut mit Maschinen zusammenarbeiten zu können?

Marie Leidinger 

Das kommt darauf an. Mitarbeitende in Packstationen müssen zum Beispiel wissen, wie sie mit einem KI-System interagieren. In der Wissensarbeit sollte ich das KI-System auch schematisch verstehen, um es nützlich einzusetzen. In einer möglichen Arbeitsteilung schlägt die Maschine ein Spektrum an Optionen vor, und der Mensch entscheidet welche Option am meisten Sinn macht. Hierzu sind bestimmte Fähigkeiten wichtig, wie zum Beispiel Abstraktionsvermögen, Empathie – und die Neugierde, aus bestehenden Mustern ausbrechen zu wollen.

DEARWORK

Tesla will 2022 den Prototyp eines humanoiden Roboters vorstellen. Elon Musk sagte dazu: “In der Zukunft wird körperliche Arbeit eine Option sein. Wenn man sie erledigen will, kann man sie tun, aber man muss sie nicht tun.” Ist das eine Zukunft, die für euch wünschenswert ist? 

Max Neufeind

Für mich ist das überhaupt keine wünschenswerte Zukunft. Ich glaube auch, dass wir komplett unterschätzen, wie sehr Körper und Geist bei uns Menschen eins sind. Es gibt einen Grund, warum wir Kindern weiterhin die Schreibschrift beibringen, auch wenn es mittlerweile Spracherkennung gibt. Die körperliche Dimension, in der Welt zu sein und etwas mit den eigenen Händen zu schaffen, ist elementar dafür, um sich als ganzer Mensch zu fühlen. Es gibt natürlich Arbeiten, die so schwierig und gefährlich sind, dass wir sie an Maschinen abgeben sollten. Aber was da beschrieben wird, geht am eigentlichen Problem vorbei. Das ist für mich vergleichbar mit der Idee einer Mars-Mission – unter Aufwendung von massiven Ressourcen, die wir auch dafür verwenden könnten, unsere Erde am Leben zu halten. Wir können mit den bestehenden maschinellen Lernsystemen in Deutschland bereits vieles deutlich besser machen, dafür brauchen wir keine abgefahrenen AI-Systeme. Aber man traut sich nicht zu investieren, schafft es nicht zu schulen, und man begeistert die Leute nicht für den Change-Prozess.

DEARWORK

Welchen positiven Beitrag kann Automatisierung für unsere Arbeitswelt leisten? 

Max Neufeind

Wenn Maschinen uns Aufgaben abnehmen, wird Arbeitszeit frei. Das heißt, es bleibt mehr Zeit für uns und die Frage, wie wir unser Leben gestalten wollen – und welchen Tätigkeiten wir wirklich nachgehen wollen. Das geht allerdings nur, wenn bei steigender Produktivität auch die Löhne entsprechend steigen. Bis zu den 1970ern liefen Produktivität und Lohnentwicklung sehr parallel, danach hat sich das Ganze ein Stück weit entkoppelt. Jetzt ist die Frage, wie wir die Löhne wieder an die Produktivitätsentwicklung knüpfen. Die Leute wollen ja, wenn sie weniger arbeiten, bei gleichem Lohn weniger arbeiten.

DEARWORK

Wie wird sich Erwerbsarbeit dann verändern?

Max Neufeind

Ich glaube an eine Tätigkeitsgesellschaft, die sich von diesem engen Arbeitsbegriff der Erwerbsarbeit trennt. Und die sich die Frage stellt: Was ist eigentlich ein gutes Leben? Ich glaube ein gutes Leben besteht aus unterschiedlichsten Tätigkeiten: Erwerbsarbeit, Pflegearbeit, Freiwilligenarbeit, politischem oder sozialem Engagement.

Ich bin begeistert von dem Konzept der “15-Minuten-Stadt”, das man in Paris verfolgt. Die Idee ist, dass jeder Mensch seine Grundbedürfnisse aus Arbeit, Einkaufen, Sport, Kultur, Bildung und Community in einem fußläufigen Radius befriedigen kann. Ich glaube, ganz viele Menschen merken auch jetzt gerade in der Pandemie, dass ihnen die Erwerbsarbeit zu wenig ist. Vielleicht möchte man seine Sachen selbst reparieren, man möchte sich auch selbst um die eigenen Kinder kümmern, man möchte nicht nur alle vier Jahre wählen, sondern sich einbringen und mitentscheiden, was in der Stadt und im Stadtteil passiert. Damit man das kann, braucht es aber nunmal gesellschaftliche Voraussetzungen. Wir sind so wohlhabend wie noch nie, aber auf dieser Dimension besteht noch riesiges Fortschrittspotenzial. Ein elementarer Bestandteil davon wäre ein erweiterter Arbeitsbegriff.

Marie Leidinger

Also ich finde es sehr bezeichnend, dass wir im Gespräch komplett von der Automatisierung weggekommen sind. Denn eigentlich ist das nicht das Thema, sondern gesellschaftliche Veränderung. Und welchen Beitrag Automatisierung dabei leisten kann.

Dearwork

Wie sieht diese Arbeitsgesellschaft für Dich aus, Marie?

Marie Leidinger

In meiner Idealvorstellung haben wir alle ein bedingungsloses Grundeinkommen und können den Dingen nachgehen, die uns wirklich wichtig sind. Maschinen sind dazu da, uns zu dienen. Zum Beispiel im Haushalt oder in der Produktion. Wenn wir es schaffen, dass uns solche Arbeiten komplett abgenommen werden, könnten wir irgendwann auf 15 Wochenstunden Erwerbsarbeit kommen und die restliche Zeit für andere sinnvolle Tätigkeiten einsetzen.

Dearwork

Lasst uns neben all den Chancen und Potenzialen auch über die möglichen Risiken von Automatisierung sprechen. Inwiefern verschärfen KI-Systeme soziale Ungerechtigkeit?

Marie Leidinger

Das machen nicht die KI-Systeme. Diese Systeme basieren ja auf Daten, die von Menschen konnotiert wurden, und da sind dann natürlich auch deren Stereotypen und Vorurteile enthalten. Wenn ich mich bei großen Firmen wie Google bewerbe, werden da 70 bis 100 Prozent der Bewerbungen zunächst überhaupt nicht von Menschen gesichtet, sondern automatisiert nach Stichwörtern vorgefiltert. Dabei werden bestimmte Vornamen oder Sportarten, die während der High School ausgeübt wurden, bevorzugt. Diese Muster “belohnen” dann einfach wieder die Menschen, die vom System schon immer bevorzugt wurden.

Wir müssen Aufklärungsarbeit leisten. Es braucht Repräsentation, Antirassismus-Arbeit und Antisexismus-Trainings. Wir müssen einfach daran arbeiten, Privilegien zu erkennen und weiter in Empathie investieren. Wir müssen diese Ungleichbehandlung als Gesellschaft erkennen und in die Algorithmen einarbeiten.

Max Neufeind

Die Recruiter*innen hatten ja trotzdem ihre Biases und Präferenzen. Dagegen sind heute Systeme vorstellbar, die zum Beispiel sagen: “Im Vergleich zu anderen Recruiter*innen, hast Du im letzten Monat überdurchschnittlich viele Männer zum Bewerbungsgespräch eingeladen.” Es wäre vorstellbar, dass so ein System checkt, ob jemand in seinem Handeln systematische Vorannahmen hat. Und dass das System dann darauf hinweist, um einen Reflexionsprozess einzuleiten. 

Eine weitere Dimension von Ungleichheit ist, wer von Algorithmen überhaupt profitieren kann. Momentan ist nur eine kleine Zahl von Unternehmen im KI-Bereich tätig und entwickelt diese Algorithmen. Dort wird auch der größte Teil der Wertschöpfung generiert. Diese “Superstar-Companies” bekommen die “Superstar-Employees”, die besten Talente, und das führt zu einer riesigen Ungleichheit. 

Marie Leidinger

Dieses Gatekeeping sorgt dann auch dafür, dass Wissen in den bestehenden Monopolen bleibt.

Max Neufeind

Genau. Wenn es weltweit nur eine Handvoll Unternehmen gibt, die über das komplette Wissen verfügen und das Ganze als geistiges Eigentum schützen, dann ist das ein Problem. Der Fokus muss jetzt die Befähigung von Unternehmen und Beschäftigten zur Nutzung dieser Technologien sein. Es geht nicht darum, so viele KI-Engineers wie möglich zu produzieren. Sondern darum, dafür zu sorgen, dass die Breite der Beschäftigten die nötigen Kompetenzen hat. Das ist die Verantwortung der Beschäftigten, der Unternehmen, aber am Ende sicherlich auch des Staates.