Buchbesprechung: Co-Intelligence. Living and Working with AI

Dies ist ein Gastbeitrag von Dominik Tschopp, Co-Verantwortlicher Digitalisierung an der Hochschule für Soziale Arbeit FHNW. Eine gekürzte Fassung ist bereits im Newsletter Hochschuldidaktik erschienen.

Co-Intelligence. Living and Working with AI

Ethan Mollick ist Associate Professor an der Wharton School der University of Pennsylvania. Er lehrt und forscht zu den Themen Innovation und Unternehmertum und untersucht zudem die Effekte Künstlicher Intelligenz (KI) auf Arbeit und Bildung. Mit Wharton Interactive möchte er einen Beitrag zur Demokratisierung von Bildung leisten. Durch seine Publikationen, seinem Newsletter sowie Beiträgen in Sozialen Netzwerken hat er sich in den letzten Monaten zu einer zentralen Stimme im Diskurs zur Auseinandersetzung mit und den Folgen der breiten Verfügbarkeit von KI etabliert. Mit «Co-Intelligence. Living and Working with AI» legt er nun einen Überblick zur Funktionsweise und Handhabung von sowie den gesellschaftlichen Folgen von KI vor, welcher sich nicht an ein breites Publikum wendet. 

Das Buch beginnt mit dem Eingeständnis des Autors, dass ihm die Veröffentlichung von ChatGPT im November 2022 schlaflose Nächte bereitete. Dies, weil er erkannte, dass die Fähigkeiten dieses KI-Systems auch ihn und seinen Beruf tangieren. Aus diesem Grund begann Mollick, sich intensiv mit diesen Entwicklungen auseinanderzusetzen. Das vorläufige Resultat hat er nun in Buchform gebündelt.  

Das Buch ist in zwei Teile gegliedert. Der erste Teil umfasst drei Kapitel und dreht sich um die Entwicklung und Funktionsweise von KI-Systemen sowie um die Frage, wie KI-Systeme sinnvoll für die eigene Arbeit genutzt werden können.  

Das erste Kapitel zeichnet kurz die Geschichte von KI als Fachgebiet nach und geht auf die aktuellen Entwicklungen im Bereich grosser Sprachmodelle (large language models, LLM) ein, welche im Zentrum des Buchs stehen. Die grundsätzliche Funktionsweise dieser Modelle wird dabei ebenso angesprochen wie deren zum Teil überraschenden Fähigkeiten. 

Im zweiten Kapitel widmet sich Mollick einem viel diskutierten Bereich der Entwicklung von KI-Systemen: dem Alignmentproblem. Damit ist die Herausforderung gemeint, KI-Systeme so zu entwickeln, dass sie menschlichen Interessen dient respektive diesen nicht zuwiderläuft. Er argumentiert zum Abschluss des Kapitels, dass es wichtig ist, sich mit KI auseinanderzusetzen, um deren ethischen Implikationen zu verstehen und um als informierte Bürger*innen mitbestimmen zu können. 

In Kapitel drei werden vier Prinzipien für den Umgang mit KI-Systemen genannt: 

• LLM bei allen Aufgaben einbeziehen: Um die Möglichkeiten und Grenzen der Modelle für die eigene Arbeit erkennen zu können, braucht es ein systematisches Experimentieren. Denn wo LLM bei der eigenen Arbeit nützlich sein können und wo sie an Grenzen stossen, das lässt sich nicht generell vorwegnehmen. 
• Der Mensch in der Schleife sein: Das Zusammenspiel zwischen KI und Menschen führt in der Regel zu den bestmöglichen Ergebnissen, zumindest im Moment. LLM können nicht geahnte Schwächen haben, weil sie in eigentlichen Sinn kein Wissen haben. Menschen bringen ihre Urteilskraft und Expertise in das Zusammenspiel ein. 
• KI als Person behandeln, ihr aber sagen, welche Person das ist: Einem KI-System menschliche Eigenschaften zuzuschreiben, ist nicht ungefährlich, weil dadurch die tatsächlichen Fähigkeiten des Systems falsch eingeschätzt werden können. Trotzdem kann es sinnvoll sein, KI als (fremde) Person zu verstehen, weil so das Zusammenspiel mit ihr gut gelingt. Denn aufgrund der Funktionsweise von LLM ist es wichtig, ihnen jeweils eine bestimmte Rolle zuzuweisen, um bessere Ergebnisse zu erzielen. 
• Davon ausgehen, dass man aktuell die schlechtesten KI-Systeme verwendet, die man jemals nutzen wird: Die Fähigkeiten von KI-Systemen werden zunehmend besser. Offen für diese Entwicklungen zu sein, hilft dabei, sich mit diesem Wandel auseinanderzusetzen. 

Diese Prinzipien werden in den folgenden Kapiteln immer wieder aufgegriffen und damit verdeutlicht. 

Der zweite Teil des Buchs, welcher mehr Raum in Anspruch nimmt, thematisiert in sechs Kapiteln unterschiedliche Funktionen oder Rollen, welche LLM (im Zusammenspiel mit Menschen) einnehmen können. In diesem Zusammenhang werden jeweils die Auswirkungen von KI-Systemen auf unterschiedliche gesellschaftliche Bereiche beleuchtet, insbesondere auf die Arbeit und Bildung. In den einzelnen Kapiteln wird sowohl auf die Funktionsweise von LLM Bezug genommen, welche dadurch nochmals verdeutlicht wird, als auch aktuelle Studien eingebracht, welche die Fähigkeiten von LLM zur Bearbeitung und Lösung von Aufgaben unterstreichen.  

In Kapitel 4 (KI als Person) wird die im ersten Kapitel angesprochene Funktionsweise von KI-Systemen nochmals aufgegriffen. Dabei wird aufgezeigt, inwiefern sich KI-Systeme ähnlich wie Menschen verhalten beziehungsweise dieses Verhalten imitieren. Auf dieser Basis werden die Auswirkungen der breiten Verfügbarkeit von KI-Systemen auf zwischenmenschliche Beziehungen diskutiert. 

Die negativen Eigenschaften von aktuellen KI-Systemen, Halluzinationen (also falsche Information) zu erzeugen, versetzen sie auf der anderen Seite in die Lage, kreative Problemstellungen zu lösen. In Kapitel 5 (KI als Kreative*r) wird vor diesem Hintergrund aufgezeigt, dass erstmals in der Geschichte nicht einfache und repetitive Tätigkeiten im Fokus der Automatisierung stehen, sondern die kreativsten Aufgaben. Hier zeigen Testresultate, dass Menschen mit der Unterstützung von KI-Systemen (mit wenigen Ausnahmen) bessere Lösungen entwickeln als Menschen ohne.  

Kapitel 6 (KI als Mitarbeiter*in) geht der häufig diskutierten Frage nach, welche Jobs durch KI automatisiert werden (können). Im Zentrum des Kapitels steht damit die Bedeutung und die Auswirkungen von KI auf die Arbeitswelt. Mollick argumentiert dabei, dass nicht alle Aufgaben an KI-Systeme ausgelagert werden sollten, selbst wenn diese in der Lage wären, diese zu übernehmen. Zentral ist für ihn das Zusammenspiel von Mensch und Maschine, von wo auch der Buchtitel herrührt. Zum Abschluss des Kapitels wird aufgezeigt, wie Organisationen mit der Herausforderung durch KI umgehen können. Auch eher dystopische Entwicklungen der Arbeitswelt werden dabei angesprochen. 

In den Kapitel 7 (KI als Tutor*in) und 8 (KI als Coach) werden die Auswirkungen von KI auf den Bildungsbereich und die berufliche Weiterentwicklung thematisiert. Auf diese beiden Kapitel wird weiter unten spezifisch Bezug genommen. 

In Kapitel 9 stehen die zukünftigen Entwicklungen im Bereich der KI im Zentrum. Alle in den vorangegangenen Kapiteln angesprochenen Entwicklungen sind bereits passiert oder sind im Gange. Darauf aufbauend wagt Mollick anhand von vier Szenarien einen Blick in die Zukunft, wobei sowohl dystopische als auch utopische Aspekte berücksichtigt werden: 

• Szenario 1 geht davon aus, dass sich die Fähigkeiten von KI-Systemen nicht mehr in grossem Masse weiter verbessern lassen. Aus einer technischen Sichtweise sei dieses Ergebnis eher unrealistisch. Eher möglich scheint, dass die Entwicklung durch Regulierung gestoppt wird. Aber auch dies scheint lauft Mollick eher unwahrscheinlich. Und selbst wenn sich KI-Systeme nicht weiterentwickeln werden: Viele der in den vorangegangenen Kapiteln angesprochenen Auswirkungen sind trotzdem unvermeidlich. 
• Szenario 2 beschreibt den Fall, dass sich KI zwar stetig weiterentwickelt, aber nicht mehr in diesem rasanten Tempo, wie wir dies in den letzten Monaten erlebt haben. Dieser verlangsamte Takt erlaubt es, für die negativen Folgen griffige Massnahmen zu entwickeln und die positiven Aspekte der KI-Entwicklung gewinnbringend zu nutzen. 
• Nicht alle technologischen Entwicklungen verlangsamen sich jedoch rasch. Dies ist die Ausgangslage für das dritte Szenario, indem sich das exponentielle Wachstum der Möglichkeiten von KI fortsetzt, indem etwas KI-Technologien eingesetzt werden, um die nächste Generation von KI-Anwendungen zu entwickeln. Die Risiken in diesem Szenario sind entsprechend schwerwiegender, schwieriger hervorzusagen und zu regulieren. Insgesamt könnten mehr Aufgaben durch KI automatisiert werden, was Folgen für die Beschäftigung der Menschen hat. 
• Während im vorangegangenen Szenario davon ausgegangen wird, dass KI kein Bewusstsein erlangt oder sich selbst steuert, steht dies im Zentrum von Szenario 4. Eine Superintelligenz, also eine Intelligenz, welche diejenige des Menschen übersteigt, könnte aus der Weiterentwicklung aktuelle KI-Technologien hervorgehen. Es gäbe aktuell keine Hinweise darauf, warum dies nicht möglich sein sollte, jedoch auch keine Gründe, anzunehmen, dass dies eintreffen wird. Mollick argumentiert, sich nicht zu stark mit diesem Szenario zu beschäftigen, weil es von den wahrscheinlicheren Szenarien 2 und 3 sowie den aktuellen Herausforderungen durch KI ablenken könnte. 

Bezug zur Hochschuldidaktik 

Aus Sicht der Hochschuldidaktik sind insbesondere die beiden Kapitel zur Bildung (KI als Tutor*in) und zur beruflichen Weiterentwicklung (KI als Coach) von Interesse, auf welche nun an dieser Stelle Bezug genommen wird. 

Mollick geht davon aus, dass es durch die Weiterentwicklung von KI möglich sein wird, Systeme zu entwickeln, welche als persönliche Tutor*innen eingesetzt werden. Auch wenn aktuelle KI-Systeme noch nicht dazu in der Lage sind, sei dennoch ein Punkt erreicht, an dem sich die Bildung verändern wird. Der Autor geht davon aus, dass dabei Wege gefunden werden, KI-Systeme in den Lernprozess zu integrieren, ohne dabei die Entwicklung grundlegender Kompetenzen zu hemmen. In Frage gestellt sind aktuell insbesondere schriftliche Aufgabenstellungen, welche mittels LLM (automatisiert) bearbeitet werden könnten. Bildungsorganisationen müssen sich daher die Frage stellen, welche Art und Weise der KI-Nutzung für sie annehmbar ist und welche nicht. Es wird daher Bereiche geben, wo die KI-Nutzung durch Lernende explizit eingefordert wird und andere, wo diese nicht erlaubt sein wird. Es gehe aber nicht darum, alte Formen von Leistungsnachweisen aufrecht zu erhalten. KI eröffne andere pädagogische Möglichkeiten. Diese werfen auch die Frage auf, was Lernende (zukünftig) lernen sollen. Dazu wird wohl auch der Umgang mit KI gehören. Der grösste Wandel sieht Mollick darin, wie Bildungsangebote erbracht werden (können). Er sieht in KI eine Möglichkeit, aktives Lernen zu fördern. Einerseits können KI-Systeme Lehrenden dabei helfen, lernförderliche Angebote zu gestalten. Lernende unterstützen (zukünftige) KI-Systeme dadurch, indem diese Lernangebote individualisieren und personalisieren. Sie können dadurch (besser) auf die unterschiedlichen Lernbedürfnisse eingehen. Nicht nur KI-Systeme, sondern auch Lehrende können Rückmeldungen aus solchen Systemen nutzen, um Bereiche zu identifizieren, wo Lernende zusätzliche Unterstützung benötigen. 

Bezüglich des Berufseinstiegs sieht Mollick die Herausforderung, dass heute schon und in Zukunft noch stärker einfache Aufgaben durch KI-Systeme übernommen werden beziehungsweise von erfahrenen Professionellen mittel KI-Unterstützung erledigt werden. Damit entfallen für Berufseinsteiger*innen viele Gelegenheiten, eigene Expertise im Arbeitsbereich aufzubauen. Expertise, welche Voraussatzung dafür ist, um auch selbst mittels KI-Systemen gute Arbeitsergebnisse erzielen zu können. Der Autor spricht damit ein Paradox an: KI-Systeme erwecken den Eindruck, dass grundlegendes Wissen und grundlegende Fertigkeiten nicht mehr benötigt werden, um bestimmte Aufgaben zu bearbeiten. Jedoch wird genau dies benötigt, um KI-Systeme zielführend einsetzen und deren Ergebnisse bewerten zu können. Je stärker unsere Arbeitswelt von KI durchdrungen wird, desto zentraler ist es daher, die menschliche Expertise zu nähren. Mollick geht davon aus, dass KI-Systeme in der Lage sein werden, Menschen systematisch auch in ihren beruflichen Lernprozessen zu unterstützen. Noch sind heutige KI-Systeme nicht dazu in der Lage. Doch aktuell verfügbare LLM können bereits bestimmte Funktionen in diesem Prozess übernehmen. Die Arbeit mit KI-Systemen wird dabei selbst zu einer Form von Expertise werden. 

Über diese beiden Kapitel hinaus wirft das Buch insgesamt zahlreiche Fragen auf, welche auch Hochschulen tangieren, auch wenn dieser Bezug nicht (immer) hergestellt wird. Denn die breite Verfügbarkeit von KI-Systemen verändert unsere Lebensweise, die Arbeitswelt, den Bildungsbereich sowie das Lernen. Darauf werden Hochschulen reagieren müssen, auch wenn es auf viele der Fragen aufgrund der dynamischen Entwicklung erst vorläufige Antworten gibt. (An der FHNW werden diese Fragen innerhalb der EduAI @FHNW-Community diskutiert.) 

Fazit

Mollicks Buch leistet insgesamt drei Dinge: Erstens wird anschaulich dargestellt, wie grosse Sprachmodelle funktionieren. Diese Grundlagen sind hilfreich, wenn nicht sogar unabdingbar, um entsprechende KI-Systeme sinnvoll nutzen zu können. Dazu trägt zweitens bei, dass das Potential aktueller LLM mittels Studien, anhand von zahlreichen Beispielen und zum Teil sogar anhand von Chatverläufen verdeutlicht wird. Das Buch ist keine Schritt-für-Schritt-Anleitung für den Umgang mit KI-Systemen. Dennoch wird man durch die Lektüre in die Lage versetzt, einen sinnvollen Umgang mit LLM zu entwickeln. Drittens werden sowohl positive als auch negative Folgen der breiten Verfügbarkeit von KI-Systemen zum Thema gemacht. Obwohl Mollick das Potential von LLM für das eigene Arbeiten und Lernen hervorstellt, kann man ihm (mit wenigen Ausnahmen) nicht vorwerfen, die Risiken der Technologie zu vernachlässigen. Interessanterweise werden just in den beiden Kapiteln, welche sich um Lernen und Bildung drehen, kaum dystopische Entwicklungen thematisiert wie dies für andere Bereiche gemacht wird, obwohl diese durchaus denkbar wären. Ein Hinweis auf den immensen Ressourcenbedarf von KI-Systemen fehlt im Buch ebenfalls.  

Empfohlen sei die Lektüre denjenigen Personen, welche sich (erstmals) mit aktuellen KI-Systemen auseinandersetzen möchten. Im Buch finden sich dazu sowohl Hintergründe, welche für das Verständnis der aktuellen Entwicklungen hilfreich sind als auch konkrete Hinweise für die eigene Nutzung beziehungsweise das eigene Experimentieren mit LLM. Vor diesem Hintergrund bietet Mollicks Publikation auch Anregungen, um die eigene hochschuldidaktische Praxis für eine Welt mit KI zu reflektieren, auch wenn dieser Bezug selbst aktiv hergestellt werden muss. 

Ethan Mollick (2024): Co-Intelligence. Living and Working with AI. Portfolio; Penguin.  

https://www.penguinrandomhouse.com/books/741805/co-intelligence-by-ethan-mollick/