#266 On The Record: Wie kann KI dem Gemeinwohl dienen, Theresa Züger?

Künstliche Intelligenz für das Gemeinwohl: Hierzu forscht Dr. Theresa Züger am Humboldt-Institut für Internet und Gesellschaft (HIIG) in Berlin mit dem Projekt PublicInterest.AI. In diesem Rahmen hat sie für die Initiative „Civic Coding – Innovationsnetz KI für das Gemeinwohl“ eine Studie darüber erstellt, wie man gemeinwohlorientierte KI fördern könnte (113 Seiten).

Civic Coding ist eine Initiative von gleich drei Bundesministerien und zwar für Arbeit und Soziales (BMAS), für Familie, Senioren, Frauen und Jugend (BMFSFJ) und für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV). Für die Studie hat Züger mit ihrem Team Akteur:innen aus der Welt der gemeinwohlorientierten KI interviewt, um herauszufinden, was der aktuelle Stand der Communitys ist und welche Herausforderungen es bei der Förderung gibt.

Zuerst haben wir im Interview definiert, was überhaupt unter gemeinwohlorientierter Künstlicher Intelligenz zu verstehen ist. Gemeinwohlorientierung bedeutet, dass ein KI-System allgemeinen gesellschaftlichen Interessen dienen soll und nicht dem Marktinteresse. Dazu gehört auch, dass keine Eigeninteressen verfolgt werden sollen, Partizipationsmöglichkeiten bestehen und Systeme von außen überprüfbar sein müssen. Was genau gemeinwohlorientiert bedeutet, ist aber auch immer ein Aushandlungsprozess, wie aus dem Gespräch hervorgeht.

Schwieriger ist dagegen die Definition für Künstliche Intelligenz. Züger empfiehlt, die konkreten Technologien bei einzelnen Anwendungsfällen zu benennen, auch wenn der Begriff in weiten Teilen der Gesellschaft eher eine Projektionsfläche ist: „irgendwas Magisches mit Einsen und Nullen“. Interessant sind hierzu die Ergebnisse der Studie, die in diesem Policy Paper zusammengefasst sind.

Debatte steht noch am Anfang

Noch würden sich am Gemeinwohl orientierte Organisationen gerade erst anfangen zu fragen, was KI für sie bedeuten könne, wie Züger erklärt. Oft gehe es noch darum zu erkunden, welche bereits gesetzten Ziele man noch mit Hilfe von KI erreichen könne oder wie sich die eigene Arbeit verbessern ließe. Die Potentiale seien noch lange nicht erschöpft, teilweise gar nicht identifiziert. Das habe auch mit mangelnder Datenkompetenz zu tun.

Dabei liege Deutschland im internationalen Bereich noch recht gut, wie Züger erklärt. Dennoch würde viele Arbeitskräfte fehlen, auch weil die Wirtschaft besser bezahlen kann. Es sei außergewöhnlich, dass Deutschland auch Gemeinwohlorientierung im Rahmen seiner KI-Strategie fördere. In der Regel würden Staaten das Thema marktgetrieben sehen. Die Realität müsse zeigen, wo das hinführe und ob die Strategie auch gut umgesetzt werde.

Zu den Risiken von gemeinwohlorientierter KI gehören laut Züger schlechte Trainingsdaten, Dual Use und Missbrauch von personenbezogenen Daten. Die Machtasymmetrie in der KI-Industrie mit den großen Plattformen und ihren riesigen Datenschätzen sei ebenso bedenklich wie der hohe Ressourcenverbrauch. Der Hype sei zweischneidig: Einerseits gebe es Aufmerksamkeit und Fördermöglichkeiten, aber andererseits werde dann nur diese eine Technologie gefördert.

Der Haken: Geld

Wenn ums Geld geht, prallen oft unterschiedliche Welten aufeinander, wie aus dem Interview hervorgeht. Oftmals fehle eine nachhaltige Projektförderung. Das heißt, es wird bloß die Entwicklung eines Prototypen finanziert. Bloß was dann? Es gebe in der Regel keine nachhaltige Infrastruktur, wie Zügler erklärt. Viele geförderten Projekte müssten das Rad immer wieder neu erfinden. Wichtig sei die Förderung und Entwicklung von Open-Source-Infrastrukturen und offenen Ökosystemen.

Züger und ihr Team sammeln auf der Website von Publicinterest.Ai Hinweise: Interessierte können dort weltweite Projekte rund um gemeinwohlorientierte KI hinzufügen. Damit möchte das Forschungsteam einen öffentlichen Datensatzes schaffen und die Debatte darüber voranbringen.

Im Interview haben wir auch über KI in Hollywood-Produktionen gesprochen. Immer wieder handeln sie davon, dass KI-Systeme die Menschheit bedrohen. Aber gibt es auch Filme und Serien, in denen eine gemeinwohlorientierte KI eine Rolle spielt? Eine KI, die die Welt besser machen möchte, anstatt sie zu zerstören? Über sachdienliche Hinweise freuen wir uns in den Kommentaren!

Unseren Podcast könnt ihr auf vielen Wegen hören. Der einfachste: in dem eingebundenen Player auf dieser Seite auf Play drücken. Das rund 55 Minuten lange Gespräch mit Theresa Züger gibt es aber als