«Ich will zwischen Menschen und Maschinen Brücken bauen»

Es sieht nicht gut aus. Als sich die Mächtigen dieser Welt zu Beginn des Jahres anlässlich des World Economic Forums (WEF) in Davos versammelten, mussten sie sich mit düsteren Zukunftsprognosen auseinandersetzen. Die jüngste Ausgabe des «Global Risk Report», den die Veranstalter des Forums erarbeitet hatten, weist neben Themen, die Politiker und Wirtschaftsführerinnen schon seit Jahren Sorgen bereiten – Klimawandel, kriegerische Auseinandersetzungen, die ungewisse Wirtschaftsentwicklung – auf eine neue Gefahr hin: der schnelle technische Wandel.

Mit Technik ist hier die Computertechnik gemeint, genauer: künstliche Intelligenz (KI). Es kann deshalb nicht erstaunen, dass die KI am WEF 2024 in Davos eines der meistdiskutierten Themen war. Zahlreiche Podiumsdiskussionen, Vorträge und Medienkonferenzen kreisten um diese Software-Technik. Dabei stand für viele Medienschaffende und WEF-Teilnehmer ein junger Amerikaner im Mittelpunkt des Interesses: Sam Altmann. Er ist CEO der durch Chat-GPT innert kürzester Zeit weltberühmt gewordenen US-Firma Open-AI. Der amerikanische Manager repräsentiert in der Wahrnehmung vieler Medienkonsumenten die KI.

Künstliche Intelligenz als Werkzeug

Doch die KI hat noch ein anderes Gesicht: Es ist das Gesicht einer jungen Frau, die als Assistenzprofessorin an der ETH Zürich tätig ist: Menna El-Assady. Sie möchte eine KI schaffen, die die Fähigkeiten des Menschen nicht ersetzt, sondern ergänzt. Eine KI, die sich in den Händen eines Menschen als Werkzeug bewährt. Eine KI, die sich interaktiv nutzen lässt, die nicht nur Antworten liefert, sondern auch Rückfragen zulässt. «Ich sehe mich herausgefordert», so sagt sie im persönlichen Gespräch, «zwischen Menschen und Maschinen Brücken zu bauen».

An der ETH Zürich, innerhalb des Informatikdepartements, leitet El-Assady das Interactive Visualization & Intelligence Augmentation Lab. Im Mittelpunkt der Forschung stehen hier die Schnittstellen zwischen Menschen und KI-Systemen. Die Zusammenarbeit zwischen Menschen und KI-Agenten sei ein «co-adaptiver Prozess», betont El-Assady. Das heisst: Auch die Menschen müssen sich weiterentwickeln.

«Wir möchten Schnittstellen gestalten, die den Anwendern helfen, sich eine Vorstellung von den Möglichkeiten eines Modells zu machen», erläutert El-Assady. «Diese Modelle können vieles, aber sie können nicht alles. Die Menschen müssen ein Verständnis entwickeln dafür, welche Daten und welche Grundannahmen in einem Modell stecken. Erst dann können sie die Antworten, die sie erhalten, richtig interpretieren. Wir nennen das ‹Human Empowerment›: Die Menschen sollen befähigt werden, die KI sinnvoll zu nutzen. Es geht darum, ihnen die Angst vor der Technik zu nehmen, gleichzeitig aber auch eine gewissen Skepsis wach zu halten, damit sie nicht alles glauben.»

Von Alexandria nach Zürich – Menna El-Assadys Weg zur interdisziplinären Forschung

In der ägyptischen Millionenstadt Alexandria aufgewachsen, kam El-Assady im Alter von 18 Jahren nach Konstanz an die Universität. «Eigentlich wollte ich zuerst Physik studieren, aber dann bin ich schon nach wenigen Wochen zur Informatik gewechselt.» Anfänglich hätten sie die mathematischen Grundlagen interessiert, die Algorithmik; dann sei sie auf Thema Natural Language Processing aufmerksam geworden.

El-Assady spricht drei Sprachen fliessend und hat gelernt, sich in unterschiedlichen Kulturen zu bewegen. Dieser multikulturelle Hintergrund schärfte ihr Gespür für die unterschiedliche Tonalitäten in politischen Debatten. Sie nennt das «Framing». Weil sie Informationen zu aktuellen Ereignissen aus verschiedenen Kanälen bezog, fiel ihr auf, wie gross die Unterschiede beim «Framing» sein können und es reizte sie, diese Erkenntnis im Rahmen einer computergestützten Argumentationsanalyse auszuloten. Im Hinblick auf eine Doktorarbeit konnte sei an einem Projekt mitarbeiten, bei dem es darum ging, die Protokolle von politischen Debatten mit Hilfe von Computern zu analysieren. Ziel war es, die Gespräche, an denen sich während vielen Tagen Dutzende von Bürgerinnen und Bürgern beteiligt hatten, so aufzubereiten, dass sich das Hin und Her der Argumente am Bildschirm auf verschiedenen Abstraktionsstufen interaktiv erkunden liess. Die Verfahren der Visual Analytics, einer Teildisziplin der Informatik, ermöglichten es, dass Menschen grosse Datenmengen und komplizierte Argumentationsmuster mit einem Blick erfassen konnten.

So kommen in der Biografie dieser Wissenschafterin Disziplinen zusammen, die sonst auseinanderliegen: Natural Language Processing, Machine Learning, Visual Analytics, Interface Design, Human-computer Interaction und anderes mehr. Jede dieser Disziplinen ist Zentrum einer eigenen Wissenschaftscommunity mit eigenen Fachzeitschriften und eigenen Fachkongressen. In ihrer Forschung und Lehre möchte El-Assady diese Disziplinen vereinen, und so die Voraussetzungen schaffen für interaktives maschinelles Lernen und eine künstliche Intelligenz, die den Menschen in den Mittelpunkt stellt.

Das eine – eine menschenzentrierte KI – ist ohne das andere – die Interdisziplinarität – nicht zu haben, davon ist El-Assady überzeugt. Gerade an der ETH Zürich würden interdisziplinäre Ansätze geschätzt, sagt El-Assady. Sie habe Angebote auch von anderen Universitäten gehabt, sich aber für die ETH Zürich entschieden, weil hier am AI Center der Austausch zwischen den Disziplinen gefördert werde.

Kann ein universitäres Forschungslabor in einem kleinen Land mit grossen amerikanischen Tech-Firmen mithalten? Ja, glaubt El-Assady. Es gebe innerhalb der KI-Forschung weltweit einen Trend hin zu Open-Source-Modellen. Auf dieser Basis sei die ETH Zürich im Verbund mit anderen Schweizer Universitäten und insbesondere mit Unterstützung des Swiss National Supercomputing Centre in Lugano sehr wohl in der Lage, eigene Large Language Models (LLM) zu entwickeln. El-Assady verweist auf die Ende 2023 lancierte Swiss AI Initiative, mit der sich die Schweiz als weltweit führenden Standort für die Entwicklung und Nutzung einer transparenten und vertrauenswürdigen Künstlichen Intelligenz positionieren will, und auf ein Netz internationaler Kooperationen im Bereich Künstliche Intelligenz, darunter das European Laboratory for Learning and Intelligent Systems (ELLIS) und das International Computation and AI Network (ICAIN).

KI am Wendepunkt: Chancen und Risiken der Schlüsseltechnologie unserer Zeit

Der Global Risks Report des WEF sieht mittelfristig das grösste globale Risiko darin, dass «ausländische und einheimische Akteure Fehlinformationen und Desinformationen nutzen werden, um gesellschaftliche und politische Gräben weiter zu vertiefen». Eine «explosionsartige Zunahme von gefälschten Informationen», die sich mit Hilfe der KI im industriellen Massstab herstellen und in Umlauf bringen lassen, zeichne sich ab. Was tun? Die Gesetzgeber seien gefordert, heisst es im Global Risks Report. Daneben gibt es aber auch KI, die der massenhaften Verbreitung von Fake News entgegenwirken können. Nicht indem sie nun einfach mit massenhaft hergestellter «richtiger» Information die Fehlinformationen zu neutralisieren sucht. Sondern indem sie den Menschen Werkzeuge an die Hand gibt, dank denen sie grosse Datenmengen, komplizierte Sachverhalte und weit verzweigte Diskussionen rasch und interaktiv durchforsten können. Das ist die KI, für die El-Assady sich engagiert.

Diese KI unterstützt den Menschen, vervielfacht seine intellektuellen Kräfte, so wie ein Fahrrad einem Menschen ein rascheres Fortkommen ermöglicht, ohne ihm das Steuer aus der Hand zu nehmen. Demgegenüber steht die KI der privatwirtschaftlich organisierten amerikanischen Tech-Giganten: Hier ist der Mensch eine Art Frachtgut, das im Innern einer fensterlosen Kapsel rasend schnell von A nach B transportiert wird. Am Ziel angekommen, reibt sich der Mensch die Augen, er weiss nicht, wie ihm geschehen ist.