"Es ist fast eine Überlebensfrage"
Künstliche Intelligenz wird immer leistungsfähiger. In Montréal haben wir mit Prof. Yoshua Bengio über die Chancen und Risiken von KI diskutiert, und den weltweit führenden Experten im Bereich Deep Learning gefragt: Welches Potential hat KI für Wissenschaft und Gesellschaft? Und wie können wir einen verantwortungsvollen Umgang mit künstlicher Intelligenz entwickeln?
Am Mila kommen über 1000 Forschende aus dem Bereich maschinelles Lernen zusammen, das Institut ist weltweit für seine maßgeblichen Beiträge zum Deep Learning anerkannt. Was steht hinter Milas großem Erfolg?
Als das Mila in seiner früheren Form noch an der Universität Montreal angesiedelt war, gab es dort ein paar Professoren für Deep Learning. Das war etwas ziemlich Besonderes, weil es zu der Zeit nur sehr wenige Leute gab, die sich mit Deep Learning befassten. So hatten wir eine kritische Masse zu einem sehr spezifischen Thema. Das war aus meiner Sicht ein entscheidender Faktor. Darüber hinaus publizierten wir einige der ersten Arbeiten, die sich als sehr prägend erweisen sollten.
Wissenschaftler in Kanada haben zudem von der intensiven Förderung der KI-Forschung und der gesamtkanadischen Strategie für künstliche Intelligenz profitiert. War das ein weiterer Faktor, der zum Erfolg des Mila beigetragen hat?
Definitiv. Sowohl die Regierung von Québec als auch die kanadische Bundesregierung haben im Vergleich zu anderen Wissenschaften und Bereichen überproportional viel in maschinelles Lernen und KI investiert. Das war eine politische Entscheidung, die die Infrastruktur, die wir hier haben, die Forschungslehrstühle und deren überaus großzügige Finanzausstattung für Professoren überhaupt erst ermöglicht hat. Es ist uns gelungen, einige der besten Forschenden für Professuren zu gewinnen.
Darüber hinaus sind die Institute mit der Gesellschaft vernetzt – mit Start-ups und Unternehmen, und das ist ein wichtiger Bestandteil unserer Mission. Wir stehen mit Regierungen und zwischenstaatlichen Organisationen aus aller Welt im Austausch. Und wir investieren auch in die Frage, wie wir gewährleisten können, dass KI der Gesellschaft tatsächlich nützt und nicht etwa missbraucht wird.
"Wir brauchen eine Demokratisierung der Wissenschaft, und das gilt insbesondere für eine Wissenschaft wie diese."
Yoshua Bengio
Unser Gesprächspartner Prof. Yoshua Bengio
Yoshua Bengio
Prof. Yoshua Bengio gilt weltweit als einer der führenden Experten auf dem Gebiet der künstlichen Intelligenz und ist vor allem für seine Pionierarbeit auf dem Gebiet des Deep Learning bekannt. 2018 erhielt er zusammen mit Geoffrey Hinton und Yann LeCun den A.M. Turing Award, den "Nobelpreis der Informatik". Er ist Professor an der Université de Montréal und Gründer und wissenschaftlicher Direktor von Mila - Quebec AI Institute.
Welches Potenzial sehen Sie in der Zusammenarbeit mit internationalen Partnern?
Solche Kooperationen sind sehr wichtig. Ich muss hier vielleicht etwas politisch Stellung beziehen. Viele Menschen befürchten, dass sich die KI-Forschung bei einigen wenigen Unternehmen und Ländern konzentrieren wird, vor allem bei den beiden größten Akteuren, den USA und China. Ich glaube auch nicht, dass das gesund wäre.
Es ist sehr wichtig, auch andere Akteure auf der internationalen Bühne zu haben, die sich untereinander koordinieren und miteinander kooperieren und aufgrund dieser Zusammenarbeit auch stärker und wirkmächtiger sind. Wir brauchen eine Demokratisierung der Wissenschaft, und das gilt insbesondere für eine Wissenschaft wie diese, die schon jetzt viel Einfluss auf die Welt hat – und künftig noch leistungsfähigere Technologien hervorbringen wird.
In welchen Bereichen sehen Sie Möglichkeiten für eine Zusammenarbeit mit der Helmholtz-Gemeinschaft?
Ich denke, besonders viel Potenzial bietet die Entwicklung des Bereichs, der als KI für die Wissenschaft bezeichnet wird. Einige Jahrzehnte lang war die Forschung zum Deep Learning auf die Bedürfnisse der Big-Tech-Branche zugeschnitten. Sprachmodelle, Empfehlungssysteme, Funktionen auf Ihrem Telefon, die mit Bildern, Tönen, Suchmaschinen usw. umgehen können.
Die Prinzipien, die diesen Instrumenten zugrunde liegen, können auch dazu beitragen, die Wissenschaft insgesamt voranzubringen. In einigen Bereichen besteht dringender Handlungsbedarf, um die Wissenschaft voranzubringen, um so letztlich auch ökologische Herausforderungen oder Gesundheitsprobleme wie Pandemien zu bewältigen.
KI hat das Potenzial, die Entwicklung der Wissenschaft zu beschleunigen und Wissenschaftler dabei zu unterstützen, Erkenntnisse aus großen Datenmengen zu gewinnen. Die KI kann den Forschenden dabei helfen, aus diesen Daten abgeleitete Hypothesen zu formulieren, und sie bei der Planung von Experimenten unterstützen.
Was sind die Voraussetzungen für eine Zusammenarbeit?
Wissenschaftliche Kooperationen sind ein kniffliges Thema. Sie funktionieren nicht immer nach einem Top-Down-Prinzip. Es muss etwas auf der Ebene der einzelnen Wissenschaftler geben, die zusammenarbeiten, der Doktoranden, derjenigen, die zwischen verschiedenen Orten unterwegs sind. Es braucht einiges an Mühe und Zeit, um solche Kooperationen aufzubauen. Wir müssen herausfinden, wie sich das erreichen lässt, aber wir müssen auch bescheiden sein.
Die bereits begründete Zusammenarbeit mit Fabian Theis von Helmholtz München ist überaus komplementär. Wir haben hier nicht so viel Fachwissen in Biologie oder Computerbiologie. Wir haben allerdings jede Menge Fachwissen im Bereich des maschinellen Lernens, und Fabian verfügt über weithin anerkanntes Fachwissen in Computerbiologie. Natürlich hat er auch Fachwissen zum maschinellen Lernen, aber unsere Stärken ergänzen sich.
Über Mila
Über Mila
Im Jahr 2017 wurde das Mila-Quebec AI Institute als Partnerschaft zwischen der Université de Montréal und der McGill University mit der École Polytechnique de Montréal und der HEC Montréal gegründet. Inzwischen ist Mila eine Gemeinschaft von mehr als 1000 Forschern, die sich auf maschinelles Lernen spezialisiert haben.
Zu den Forschungsthemen der Mila gehören Generative Models, Natural Language Processing, Meter Learning, Computer Vision, Reinforcement Learning und Anwendungen von AI. Mila-Mitglieder haben auch zu Open-Source-Software beigetragen. Theano, eines der ersten Programmier-Frameworks für Deep Learning, stammt von der Mila. Zu den aktiven Projekten im Jahr 2020 gehörten myia, ein Deep-Learning-Framework für Python, und baby-ai, eine Plattform zur Simulation des Sprachenlernens mit einem Menschen in der Lernschleife.
Was sind aus Ihrer Sicht die wichtigsten Fähigkeiten, die Datenwissenschaftler erwerben sollten?
Es gibt viele Möglichkeiten, etwas Nützliches beizutragen. Es gibt Leute, die ihre starke Seite zum Beispiel eher im mathematischen Bereich haben. Es ist äußerst nützlich, wenn man versteht, wie diese Methoden im Inneren funktionieren, und wenn man dieses Wissen in gewissem Maße auch dafür einsetzt, die Entwicklung neuer Methoden zu begleiten. Manche Leute sind extrem gut im Umgang mit Algorithmen und machen sie effizient und funktionstüchtig, was wiederum eine ganz andere Fähigkeit ist.
Dann gibt es Leute, die besondere Fachkenntnisse auf einem bestimmten Gebiet und in der Datenwissenschaft haben. In allen Bereichen, die es bei Helmholtz gibt, braucht man wirklich diese multidisziplinären Expert:innen, die ich als zweisprachig bezeichne, weil sie mehrere wissenschaftliche Sprachen sprechen.
Im Rahmen seiner Mission erkennt das Mila an, wie wichtig es ist, die Forschung offener, interdisziplinärer und barrierefreier zu gestalten. Was tun Sie, um Open-Science-Praktiken am Mila zu ermöglichen?
Viele Jahre lang haben wir unseren Code unter Open-Source-Lizenzen veröffentlicht. Ich würde sagen, das war einer der Gründe für den Erfolg des Deep Learning. Sie haben vorhin gefragt, warum das Mila so erfolgreich war?
Und ein Aspekte dabei ist, dass wir uns von Anfang an dazu verpflichtet hatten, einen sehr gut geschriebenen Deep-Learning-Code mit Tutorials (Theano) zu schreiben, der auch von Personen, die mit diesen Algorithmen nicht vertraut sind, genutzt werden kann und für sie einfach zu handhaben ist.
Außerdem verhandeln wir, wenn es um die Unterzeichnung von Industrie-Verträgen geht, hart, um diese Open-Science-Kultur bewahren zu können. Wir stellen sicher, dass wir veröffentlichen können, dass der Code quelloffen ist, dass es keine Patente gibt und so weiter.
Was haben Sie sonst noch getan, um einen verantwortungsvollen KI-Ansatz zu entwickeln?
Wir haben in unseren Reihen nicht nur Informatiker, sondern auch Soziologen, Philosophen und Rechtsexperten, denn diese Technologien sind schon jetzt sehr wirkmächtig, und was mir noch mehr Angst macht, ist die Tatsache, dass sie in Zukunft sogar noch leistungsfähiger sein werden.
Ich glaube, dass selbst in unseren Ländern der wirtschaftliche, politische und soziale Kontext für die potenziell weitreichenden negativen Auswirkungen dieser Technologien, z. B. im militärischen Bereich oder bei der Kontrolle der Menschen, noch nicht reif ist.
Wir müssen intensiv darüber nachdenken, wie wir Technologien entwickeln können, die sich besser mit menschlichen Werten und Menschenrechten vereinbaren lassen. Zudem müssen wir gegenüber den Medien, den Bürgern und Politikern auch auf die Gefahren hinweisen. Darüber hinaus müssen wir in Anwendungen investieren, die potenziell bahnbrechend sind und sich dabei positiv auf Menschheit auswirken könnten.
"Die Menschheit braucht mehr Köpfe, die sich über diese Herausforderungen und Chancen Gedanken machen und verschiedenste Ideen ausprobieren."
Yoshua Bengio
Eine Gefahr ist sicherlich die Manipulation von Menschen mithilfe von KI.
Ganz genau. Bringt man Unternehmen wie Facebook und Google mit leistungsstarker KI zusammen, sind sie potenziell imstande, uns durch personalisierte Werbung zu manipulieren. Menschen durch Manipulation zum Kauf einer Marke und nicht einer anderen Marke zu bewegen, mag vielleicht nicht so gravierend sein, aber ebenso könnte man auf diese Weise auch unsere politische Einstellung beeinflussen. Und das ist wirklich beängstigend. Wie viel es davon tatsächlich schon gibt? Ich weiß es nicht.
Ich bin mir sicher, dass viele Unternehmen versuchen, die Technologie in diese Richtung zu drängen. Es ist gut, dass Regierungen überall auf der Welt versuchen, Spielregeln zu formulieren, die dafür sorgen sollen, dass zumindest einige dieser Dinge illegal werden.
Um diese Bemühungen zu unterstützen, engagieren Sie sich in einer Organisation mit dem Namen The Global Partnership on AI.
Das ist eine Organisation, die an die OECD angebunden ist, aber eine größere Gruppe von Ländern umfasst, die in solchen Fragen wie einer verantwortungsvollen KI kooperieren wollen. Wir sprechen Empfehlungen an Regierungen aus, wie sich die potenziellen Gefahren, unter anderem durch soziale Medien und Ähnliches, reduzieren lassen. Andererseits unterbreiten wir auch Vorschläge dazu, wie wir maximal von KI profitieren können, zum Beispiel in den Bereichen Umwelt und Gesundheit.
Gibt es eine globale Herausforderung, bei der Sie selbst gern etwas bewirken würden?
Ja, und zwar das zunehmende Problem der so genannten antimikrobiellen Resistenzen. Wir haben schon jetzt eine Krise.
Derzeit gibt es 1,2 Millionen Todesfälle pro Jahr. Und diese Zahl wird bis 2050 auf 10 Millionen Todesfälle pro Jahr ansteigen. Das Problem wird bis 2050 Kosten von schätzungsweise hundert Billionen US-Dollar verursachen, weil es unsere Gesundheitssysteme lahmlegen wird. Und die Industrie arbeitet nicht wirklich intensiv daran, weil das derzeit als nicht rentabel gilt.
Wie könnte KI da etwas bewirken?
Etwa, indem sie dazu beiträgt, die Entdeckung neuer Antibiotika zu beschleunigen und die Kosten zu senken. Oder den Bereich der Antibiotika zu untersuchen, der im Rahmen der derzeitigen Verfahren noch gar nicht berücksichtigt wird. Wir müssen in der Lage sein, neue Antibiotika schneller herzustellen, als die Erreger mutieren und gefährlich werden. Das ist ein Krieg zwischen uns und ihnen.
In welchen anderen Bereichen sehen Sie konkrete Möglichkeiten, große Herausforderungen mithilfe von KI zu bewältigen?
Da gibt es so viele! Wir haben vor einigen Jahren einen Artikel zum Klimawandel und KI geschrieben, der gerade erst in einer Fachzeitschrift erschienen ist. Dieser Beitrag von einhundert Seiten Umfang liefert einen Überblick über alle Arbeiten zum vielfältigen Einsatz maschinellen Lernens, um vor allem zum Klimaschutz, aber auch zur Klimafolgenanpassung beizutragen.
Zum Beispiel Energiemanagement, Entwicklung neuer Materialien, CO2-Abscheidung, Methoden zur Verringerung unseres Verbrauchs, Klimamodelle, bessere Modellierung, die Frage, wie sich Arten im Hinblick auf das Klima verändern, wie wir die Natur dazu nutzen können, Kohlenstoff, der sich bereits im Boden befindet, abzuscheiden oder nicht freizusetzen.
Die Gesundheit ist ein noch größerer Bereich. Die Menschheit braucht mehr Köpfe, die sich über diese Herausforderungen und Chancen Gedanken machen und verschiedenste Ideen ausprobieren. Es ist fast so etwas wie eine Überlebensfrage. Abgesehen davon, was wir alles erreichen könnten, vermittelt unsere Arbeit uns aber auch ein gutes Gefühl. Sie motiviert Studierende und Forschende. Sie führt uns vor Augen, dass wir alle an einem Strang ziehen. Das gibt unserer Arbeit so viel mehr Sinn.
Interview: Xenia von Polier
