Zürcher Studierendenzeitung

Als ETH-Ratspräsident sind Sie für die ETH, EPFL und mehrere Forschungs­zentren verantwortlich. Was machen Sie überhaupt den ganzen Tag? 

Ich unterhalte mich hauptsächlich mit Leuten. Je weiter oben man in einer komplexen Organisation ist, desto mehr Zeit verbringt man mit Austausch. Der ETH-Ratspräsident ist die Schnittstelle zwischen den sechs Institutionen des ETH-Bereichs, der Politik, der Gesellschaft und der Wirtschaft. Diesen Morgen war ich bei der Bildungskommission der Economiesuisse, gestern an der EPFL, anfangs Woche in Bern.  

Wann sind Sie das erste Mal mit KI in Berührung gekommen? 

Lange her, das gibt es theoretisch seit über fünfzig Jahren. Neurobiologie war Teil meiner Forschung. Daher waren mir schon vor Jahrzehnten die Bestrebungen bekannt, neuronale Netzwerke nachzuahmen. Doch viel konnte diese künstliche Intelligenz damals noch nicht. Dann Peng! In your face! Chat GPT. Das war der Sputnik-Moment für die Gesellschaft.

Benutzen Sie KI in Ihrem Alltag?

KI nutze ich als Unterstützung, zum Beispiel DeepL. Für den Vortrag an der EPFL gestern benutzte ich zwei KI-generierte Bilder, eines von einem überfüllten Hörsaal und ein Symbolbild der schönen Schweiz, deren Finanzen immer knapper werden. 

Für 2025 bis 2028 soll die «verantwortungsvolle digitale Transformation» einer von fünf Schwerpunkten im ETH-Bereich sein, dazu gehört auch die KI-Forschung. Weshalb dieser Fokus?

In diesem Fall war der ETH-Rat einstimmig für einen Fokus auf KI. Doch der Rat ist nicht der Hüter der Weisheit. Viele der guten Ideen stammen von den 900 Professor*innen und 20’000 Mitarbeitenden, bottom up. Mit unserer Grundlagenforschung sind wir in diesem Feld extrem gut aufgestellt. Das World Wide Web wurde in Genf am CERN entwickelt, aber alle grossen Tech-Firmen sind in den USA. Dadurch sind wir etwas gebrannte Kinder und wollen die Anwendung nicht wieder ihnen überlassen. Mit KI wird es neue Gewinner*innen und Verlierer*innen geben. 

Letztes Jahr wurde die «Swiss-AI»-Initiative lanciert, diesen Frühling soll der Supercomputer «Alps» den Betrieb aufnehmen. Von solchen Supercomputern gibt es schon mehrere in Europa. Ist diese Anschaffung nicht überflüssig? 

In der Schweiz haben wir eines der besten Wettervorhersagemodelle der Welt. Dafür benötigt Meteo Schweiz eine angemessene Infrastruktur – wie eben den neuen Supercomputer. Dazu kommt, dass wir in diesem Bereich nicht mehr in der EU mitmachen dürfen. Wenn wir keinen eigenen Supercomputer hätten, stünden wir jetzt mit dem Rücken zur Wand. Mit Ihrem Argument müssten wir in der Schweiz nicht versuchen, Photovoltaik-Anlagen und Windräder aufzubauen, denn wir könnten einfach den Strom aus dem Ausland beziehen.

Wäre es nicht besser, die Beziehungen zur EU zu verbessern, anstatt sich abzugrenzen und sein eigenes Süppli zu kochen?

Wir sind nicht diejenigen, die sich abkapseln. Wir sind aus den Forschungsprogrammen Horizon Europe und Digital Europe rausgeschmissen worden. Selbst wenn wir 2025 wieder dabei sind, bleiben wir bis auf weiteres bei den Themen Supercomputer, Quantum und Raumfahrt ausgeschlossen. Das will die EU als Art Pfand gegenüber der Schweiz behalten. Und zuletzt wollen wir Teil der Familie sein, dazu gehört nicht nur nehmen, sondern auch geben. Das Swiss National Supercomputing Centre (CSCS) ist Teil von verschiedenen Netzwerken, welche die Kompetenzen Europas im Bereich Supercomputer stärken sollen.

Die Rechenleistung von «Alps» soll bis zur Hälfte für Wetter, Klima und Umwelt genutzt werden. Wie wird die restliche Rechenzeit fair auf wissenschaftliche und kommerzielle Nutzer*innen verteilt?

Wir haben ein ähnliches System wie der Nationalfonds. Nach bewilligten Anträgen bekommt man anstatt Geld für Forschung Rechenzeit. Dieses hat sich bei grossen Infrastrukturen wie Teleskopen, Satelliten und Beschleunigern bewährt. Ein Teil ist für Firmen vorgesehen, diese müssen jedoch die Kosten selbst tragen. 

Der Bund will den Beitrag an den ETH-Bereich einmalig um 100 Millionen Franken kürzen. Joël Mesot, Präsident der ETH Zürich, spricht von einer echten Kürzung von 10 Prozent, wenn man die Inflation, den Gebäudebau und den Zuwachs an Studierenden miteinberechnet. Ist der Bund zu geizig?

Ich beneide den Bund nicht. Er ist wegen der Schuldenbremse verpflichtet, ein balanciertes Budget zu präsentieren und kann – ohne Gesetzesänderungen – zwei Drittel des Budgets nicht antasten. Beim restlichen Drittel muss er sparen. Jedoch kann man den Bildungsbereich nicht einfach wie eine Produktionslinie runter- und wieder hochfahren. Und langfristig sind Investitionen in die Bildung essenziell fürs Land. Weil sich das nicht morgen, sondern erst in Jahren bemerkbar macht, ist die Dringlichkeit schwer zu kommunizieren.

Im letzten Jahr hat die ETH sogar ihre grosszügigste Spende überhaupt erhalten: Der Multimilliardär und Lidl-Gründer Dieter Schwarz finanziert der ETH die nächsten 30 Jahre 20 Professuren zur Digitalisierung, 6 in Zürich und 14 in Heilbronn. Wieso will die ETH nach Deutschland?

Es ist eine Win-Win-Situation. Die ETH Zürich hätte sowieso mehr Professuren in diesem Bereich gebraucht. Was wir nicht von selbst gemacht hätten, wäre den Heilbronn-Standort aufzunehmen. Dieter Schwarz kommt aus dieser Stadt und möchte, dass sie zum Zentrum der digitalen Wirtschaft wird. Heilbronn ist etwas weiter weg als Lausanne, aber man kommt am Abend wieder mit dem Zug zurück, wenn man am Morgen hinfährt. Man muss nicht mal den Flieger nehmen. 

Geht dann die ETH überall hin, wo ihr Geld versprochen wird?

Sie fragen, ob wir in zwanzig Jahren an 17 Orten sein werden. Das ist unwahrscheinlich. Zum einen, weil es nicht so viele weitsichtige Milliardär*innen wie Dieter Schwarz gibt, andererseits weil es irgendwann nicht mehr manageable ist. Die ETH ist in 13 Kantonen präsent. Die Kantone, in denen wir noch nicht vertreten sind, fragen: «Michael, wann kommt ihr zu uns? Ihr seid doch fürs ganze Land da.» Sie haben recht. Mein Motto ist: «How to best serve Switzerland.»

Aber wie können Sie nun zukünftigen Geldgeber*innen zeigen, dass die ETH die Regeln macht und nicht nach der Nase der  Privaten tanzt?

Wir machen nur, was zu unserer Strategie passt. Meistens gehen wir mit eigenen Ideen auf Geldgeber*innen zu. Aber wenn wir in ihren Vorschlägen einen Mehrwert sehen, dann machen wir auch etwas, was wir ursprünglich nicht vorhatten.

Wenn Sie in der Verhandlung mit dem Bund sind und sagen «Wir brauchen das Budget», dann sagt der Bund «Ja, Sie sind schon in Heilbronn vertreten», ist das dann kein Nachteil?

Nein. Der Bund hat uns gesagt: «Du musst dich auf der Einnahmeseite diversifizieren, weil ich nicht alles stemmen kann». Wir können also sagen: «Bundesbern, ich habe gemacht, was du wolltest. Ich hoffe, dass du nun deinen Teil beitragen kannst.» We shall see. Das Argument, dass wir deswegen weniger bekommen sollten, ist ein Spitzbuben-Argument und wird in Bern nicht mehrheitsfähig sein. Schenkungen unterstützen die Entwicklung von thematischen Schwerpunkten. Die Breite des Lehrangebots wird auch in Zukunft nur durch öffentliche Unterstützung finanzierbar sein.

Wie geht die ETH damit um, dass öffentliche Forschung von privaten Firmen missbraucht werden kann?

Die öffentliche KI-Forschung hinkt der Privatwirtschaft um fünf Jahre hinterher. Wir machen Grundlagenforschung, die privat weiterentwickelt werden kann. Und wir wollen auch, dass Firmen wie die Migros, Galaxus und Digitech darauf zugreifen können. Natürlich gibt es auch Firmen, die die Forschung weiterentwickeln und missbrauchen können. Doch die Frage ist, kann man das verhindern? Sie müssten das Baby mit dem Badewasser rauswerfen. Allerdings hätten sie ohne öffentliche KI-Forschung nur bedingt etwas gewonnen. Erstens, weil die Privatwirtschaft trotzdem weitermacht. Zweitens, weil viele nicht-militärischen Aktivitäten – und das ist die grosse Mehrheit – dann nicht auf die öffentliche KI-Forschung zugreifen können. 

Muss man den Missbrauch von KI-Technologien durch Firmen und autoritäre Staaten also einfach hinnehmen? 

Regulierungen sind eine super Option, aber nur begrenzt umsetzbar. Ein böswilliger Staat wird sich nicht bereit erklären, KI nicht für militärische Zwecke weiterzuentwickeln. Und anders als bei Nuklearwaffen, die man dank den grossen Anlagen überwachen kann, lässt sich KI-Entwicklung nicht kontrollieren. Die Box der Pandora ist geöffnet. In den kommenden Jahren wird es echt unangenehm.

Bestärkt denn die Forschung nicht diesen Wettbewerb? Und dann ist die Technologie schneller als die Regulierungen.

Absolut. Technologische Entwicklungen muss man im Vorfeld diskutieren, nicht im Nachhinein. Ich vertrete den Bundesrat bei der Geneva Science and Diplomacy Anticipator Stiftung, die einschätzt, welche möglichen Entwicklungen die Technologie in den kommenden Jahrzehnten machen wird. Gewisse Themen finden Anklang, bei anderen sagen mir die Leute: «Michael, ich habe meine Hände voll mit den Problemen von heute und gestern, hör auf mich zu beackern mit potenziellen Problemen von morgen». Forschende jedenfalls haben den heutigen Stand von KI schon vor Jahrzehnten angekündigt – man wusste nicht, wann es kommen würde, aber man wusste, dass es kommen wird. Und man hat es trotzdem verpennt. Man hat es verpennt, frühzeitig zu sagen, «da braucht es Governance».

Verpennen wir es jetzt auch?

Der Bundesrat schaut es sich genau an. Er tendiert dazu, mehr oder weniger die EU-Regelungen zu übernehmen, weil wir ein Wirtschaftsraum sind und es keinen Sinn macht, unterschiedliche Regelungen zu haben. Der Bundesrat wird hoffentlich ein pragmatisches, umsetzungsfreundliches Wording finden, aber dass es keine Regulierungen geben wird, finde ich unrealistisch. Denn die Industrie muss wissen: «What are the rules?» 

Was ist in diesem Fall ein «pragmatisches Wording»?

Ein positives Beispiel ist Crypto. Statt neue Gesetze zu machen, hat der Bundesrat Blockchains und Ähnliches als neue Technologie für Aktien und Anleihen angesehen und diese mit bestehenden Instrumenten wie der Finma  reguliert. So haben wir die Milliardendebakel, die man im Ausland beobachten konnte, hier vermieden, aber die Industrie konnte sich trotzdem entwickeln und sogar florieren. Auch bei KI braucht es einfache und klare Regeln.

Wenn die ETH ein autonomes Auto entwickelt und das auf der Strasse einen Unfall baut, wer ist dann verantwortlich? Ist es die Programmierer*in, das Unternehmen oder die Endkonsument*in?

Ja, das muss reguliert werden.

Wie?

Das ist eine gesellschaftspolitische Frage. Via Parlament. Es wäre sinnvoll, da einen Konsens zu finden, sodass es nicht nach Land oder Kanton unterschiedlich ist. Nicht, dass in Appenzell Innerrhoden der Beifahrer Schuld ist und in Appenzell Ausserrhoden die Software-Firma. Das muss man angehen.

Haben Sie innerhalb der ETH Regulierungen für die Forschung an künstlicher Intelligenz definiert?

Ein Teil des KI-Zentrums beschäftigt sich mit der ethischen Komponente von KI und wir veranstalten immer wieder Konferenzen. Weil es so neu ist, müssen wir sensibilisiert sein und diskutieren. Es ist wie bei allem in der Forschung: Eigenverantwortung ist das A und O. Die Forschenden müssen wissen, dass es eine ethische Komponente gibt und dürfen nicht blind vorwärtsgehen.

Auf welche unethische Forschung im Bereich KI müssen Forschende sensibilisiert sein? 

Da gibt es vieles. Oft liegt es an unethischem Verhalten - wie man Forschung macht, wem sie gehört, wem sie attribuiert wird. Dann gibt es ethische Richtlinien, die weniger mit der Methode zu tun haben als mit dem Forschungsobjekt, beispielsweise menschliche Embryos. Das wird in speziellen Forschungsgesetzen reguliert. Natürlich passieren auch illegale Dinge, in gewissen Ländern mehr als in anderen. Im internationalen Bereich sind wir als Musterschüler unterwegs. Ich mache mir wenig Sorgen, dass jemand etwas Verrücktes an einer Schweizer Uni macht. 

Wie geht die ETH mit den steigenden Klimaauswirkungen von KI um?

Das ist ein grosses Problem! Als generalistische Modelle sind Large Language Models sehr ineffizient und grosse Stromfresser. Je nachdem, wie der Strom erzeugt wurde, kann das Generieren eines KI-Bildes gleich viel CO2 produzieren wie sechs Kilometer Autofahren. Gestern habe ich zwei solche Bilder gebraucht, und man muss es ja ein paar Mal probieren, bis man das richtige hat. Also war das etwa eine Autofahrt von Zürich bis Basel und zurück. Der «Alps»-Supercomputer wird, wenn wir ihn durchgehend für KI-Forschung und Anwendungen brauchen, jährlich Millionen Franken mehr in Form von Strom kosten. 

Was macht die ETH dagegen?

Zuerst versuchen wir zu sensibilisieren. Die EPFL hat zum Beispiel eine Kampagne mit dem Namen «Think twice, compute once» lanciert, welche Forschende an den Stromverbrauch der Geräte erinnern soll. Und zweitens schauen wir als Teil der «Swiss AI»-Initiative, wie wir Modelle energieeffizienter machen können. Weil Unternehmen wie Google nur bedingt an dieser Forschung interessiert sind, stellen wir unsere Ergebnisse offen zur Verfügung. Das heisst aber auch, dass Entwickler*innen von Killer-Drohnen sich daran bedienen können. Sie sehen, aus dieser Zwickmühle werden wir nie herauskommen. Und da kommen die Sozial- und Geisteswissenschaften ins Spiel. Was uns schützt, wird nicht die Technologie sein, sondern die Humanität. 

Was ist das Ziel der KI-Forschung für die Gesellschaft?

KI soll uns helfen, unsere Probleme effektiver anzugehen. Zum Beispiel bei der Umwelt, wenn wir da schneller zu guten Lösungen kommen, dann «thank you very much». Und wie andere Technologien wird uns künstliche Intelligenz die Arbeit erleichtern. Sie wird  E-Mail-Entwürfe schreiben und wir werden sie da und dort justieren, dann abschicken. Diese Effizienzsteigerung wird uns befreien. Vielleicht kommt mit der KI dann automatisch die Viertagewoche. Grundsätzlich ist Technologie da, um uns ein erfüllteres Leben zu ermöglichen – uns und unseren Nachkommen.