Decoding AI – Maya Pindeus über den verantwortungsbewussten Umgang mit Künstlicher Intelligenz

Bereits seit den 1950er Jahren beschäftigen sich Philosophie und Wissenschaft mit dem Konzept der Künstlichen Intelligenz. Die dahinterstehende Idee, die Vorgänge des menschlichen Denkens durch Maschinen nachzuahmen, ist sogar noch älter. Diesem Ursprungsgedanken folgend soll KI die menschliche Effizienz und Produktivität steigern, indem Aufgaben automatisiert und immer neue Erkenntnisse gewonnen werden. 

Lange waren diese Konzepte nur Researcher*innen, Ingenieur*innen und Technologie-Teams vorbehalten und erst durch die Schaffung von Interfaces wie ChatGPT wurde ein niederschwelliger Zugang zu dieser Technologie ermöglicht. Durch diese Möglichkeit, Inhalte nun auf Basis von Daten neu zu generieren, kommen neue Chancen, aber auch Herausforderungen auf uns zu. 

Foto: Pablo Xavier/Midjourney

So hat etwa ein mittels KI-erstelltes Bild vom Papst in weißer Daunenjacke im März 2023 eine Diskussion über Fake-Content ausgelöst und die Frage aufgeworfen, welche Auswirkungen KI auf unsere Gesellschaft haben wird. Nicht allzu selten und vor allem auch nicht neu sind hier Zukunftsszenarien, in denen die Beziehungen zwischen Mensch und Maschine in einer Dystopie enden.

Dass wir dennoch Möglichkeiten der Einflussnahme haben und eine Künstliche Intelligenz mitgestalten können, die sich positiv auf Mensch und Gesellschaft auswirken soll, davon ist Maya Pindeus überzeugt. Als Co-Founderin von Humanising Autonomy London beschäftigt sie sich seit über zehn Jahren mit dem Themenbereich “KI und Ethik” und sieht den verantwortungsvollen Umgang mit AI als wesentliche Aufgabe unserer Zukunft. 

Foto: Nina Danninger Photography

Sie liefert Denkanstöße, die in diesem Kontext diskutiert und berücksichtigt werden sollten und unterscheidet dabei folgende drei Ebenen:

1. Decoding AI – KI verstehen lernen

Im ersten Schritt ist es wichtig, sich mit Künstlicher Intelligenz zu beschäftigen und diese zu verstehen. Und zwar nicht dahingehend, dass wir alle KI programmieren lernen müssen, sondern sie im Kontext von Diversität und Voreingenommenheit einordnen können. Also zu verstehen, wie Künstliche Intelligenz funktioniert, wie die Datenmodelle trainiert werden, was Diversität und Bias in diesem Kontext bedeuten und wie man das erkennen und evaluieren kann.  

Denn die KI ist ein Abbild unserer Gesellschaft und funktioniert nur so gut, wie das ihr zugrundeliegende Datenmaterial. Ein Verständnis darüber, wie und welche Trainingsdaten in die KI-Systeme kommen und wie sich dadurch systematische und oft unerwünschte Vorurteile (Bias) entwickeln können, ist hier wesentlich. 

Aber auch das Thema des Datenschutzes und des Urheber*innenrechts spielt in diesem Zusammenhang eine große Rolle und hat möglicherweise Auswirkungen auf die (legale) Nutzung der generierten Ergebnisse. In diesem Kontext könnten sich aber auch neue Geschäftsmodelle ergeben, indem z.B. eigene Daten kostenpflichtig für das Training von KI-Systemen zur Verfügung gestellt werden. 

Vor diesem Hintergrund müssen KI-Unternehmen in die Pflicht genommen werden und eine größtmögliche Transparenz schaffen, indem sie etwa ihre Algorithmen offen einsehbar gestalten, eine sorgfältige Auswahl und Diversifizierung der Trainingsdaten sicherstellen und eine laufende Kontrolle und Anpassung ihrer KI-Systeme anstreben. 

Um also die Frage beantworten zu können, was wir von der KI wollen bzw. wie wir sie nutzen möchten, müssen wir als Gesellschaft eine gemeinsame Vision entwickeln. Dabei ist es wichtig, dass wir uns im öffentlichen Diskurs auf jene Werte fokussieren, die wir ihr zugrunde legen möchten.

„Bei Künstlicher Intelligenz ist es wesentlich, dass der Mensch im Mittelpunkt steht und die Technologie um menschliche Bedürfnisse herum entwickelt wird. Mensch-zentrierte künstliche Intelligenz (human-centric AI) sollte hier das wichtigste Thema in diesem Diskurs über den Nutzen von KI darstellen. Wichtig ist, dass diese neue Technologie neue Möglichkeiten für uns Bürger*innen und die Gesellschaft erschließt.“

Maya Pindeus, Humanising Autonomy London

2. Applying AI – KI in Anwendung bringen

KI wurde nicht dazu entwickelt, um uns zu ersetzen, vielmehr sollten wir sie als hochspezialisiertes Werkzeug betrachten. Als Tool, mit dem man arbeiten kann und das uns Menschen assistieren und helfen soll. Eine große Herausforderung liegt dabei in der Mensch Maschine-Interaktion, also der Schaffung von Interfaces, die uns eine möglichst einfache und optimale Nutzung von Maschinen erlaubt. 

Pindeus sieht mit ihrem Background in Architektur, Design Engineering und KI-Entwickung hier eine enorme Chance für die Creative Industries. Denn gerade Kreativschaffende bringen die notwendigen Kompetenzen mit, um diese Interaktion so zu gestalten, dass sie genau richtig ist – also nicht zu viel und nicht zu wenig. 

Dabei müssen wir uns immer wieder vor Augen halten, dass wir diese Tools nicht der reinen Automatisierung wegen entwickeln, sondern diese Automatisierung uns unterstützen soll. Hier ist die Gesellschaft erneut gefragt, zu welchem Zweck und in welchem Ausmaß sie hier eine Künstliche Intelligenz braucht und weiter ausbauen möchte. 

Eben diese Frage nach dem Ausmaß und der Notwendigkeit stellt sich auch im Zusammenhang mit dem Thema Nachhaltigkeit. Wir sollten also im Auge behalten, wie groß etwa der CO2-Fußabdruck ist, wenn wir prompten und KI-Systeme nutzen. Denn Rechenzentren stoßen mittlerweile so viel CO₂ aus wie die gesamte Flugindustrie und daher gilt es abzuwägen, wann und inwieweit es sinnvoll ist, KI zu nutzen.

3. A future with AI – KI gemeinsam entwickeln

Es ist also von großer Bedeutung, eine Zukunftsvision über die Art und Weise zu schaffen, wie wir KI nutzen wollen. Die aktuelle Lern- und Experimentierphase ist großartig und wichtig, um AI zu verstehen und in Anwendung zu bringen. Allerdings muss sich der öffentliche Diskurs wieder auf ein gemeinsames Verständnis und eine gemeinsame Vision zurück fokussieren. 

Dabei geht es nicht um die Schaffung einer “brave new world”, sondern darum, eine Software in unseren Alltag zu integrieren. Dieser Alltag findet in unseren Wohnungen, unseren Arbeitsplätzen, im Shoppingcenter, auf der Straße statt. Umso relevanter ist es, eine gewisse Transparenz in der KI-Entwicklung zu zeigen und zu fordern. Denn aktuell legen nur wenige Large Language Modells (LLMs) wirklich offen, wie groß ihre Datensätze sind und womit sie trainiert worden sind. 

Hier die richtigen Fragen als Bürger*in, als Nutzer*in zu stellen, ist unglaublich wichtig. Ebenso braucht es ein Verständnis dafür, dass es nicht immer sinnvoll ist, KI überall zu applizieren. Und wenn, dann immer unter Rücksichtnahme auf die Gesellschaft und die Umwelt sowie in einer Art und Weise, dass sie uns als Tool wirklich bereichert. Und uns ein Stück weit auch kreativer macht, so wie jede neue Technologie in der Vergangenheit unsere Kreativität beflügelt hat. 

Den Schlüssel dafür sieht Pindeus vor allem in der Bildung. Denn frühzeitige Bildung ist die Basis für das gesellschaftliche Verständnis der Gefahren und Chancen durch KI und ihrer Einsatzmöglichkeiten.

“Nur wer lernt, nicht nur die Werkzeuge zu nutzen, sondern sie zu verstehen und die richtigen Fragen im Umgang zu stellen, kann eine verantwortungsvolle Interaktion schaffen. Es liegt in unserer Hand zu definieren, wie wir KI nutzen wollen.“

Maya Pindeus, Humanising Autonomy London

Über Maya Pindeus

Maya Pindeus ist KI Unternehmerin, Architektin und Designerin mit Fokus auf die Interaktion von Mensch und Maschine. Sie ist Mitgründern des KI-Unternehmens Humanising Autonomy, das ethische Künstliche Intelligenz entwickelt, die sich positiv auf Mensch und Gesellschaft auswirken soll. Maya ist Absolventin der Universität für Angewandte Kunst in Wien, dem Imperial College London und dem Royal College of Art in London. Sie ist “Forbes 30 under 30” – Preisträgerin und ihre Arbeit in der KI- und Technologiebranche hat weltweit Anerkennung gefunden.

https://www.linkedin.com/in/mayapindeus/

https://humanisingautonomy.com/

https://anotherearth.ai/

Weiterführende Links zum Thema:

• Mensch vs. Maschine: Ethik im KI-getriebenen Recruiting: Bianca Schedlberger von Karriere.at hat Maya Pindeus im Kontext unserer Veranstaltung “AI m[eats] creativity?” zum Thema “KI im Recruiting” interviewt.
• Wieviel Kontrolle sollen wir Maschinen überlassen?: Till Köppel von Ö1
  hat Maya Pindeus im Kontext unserer Veranstaltung “AI m[eats] creativity?” zum Thema “Menschliche Verantwortung” interviewt.