Künstliche Intelligenz erzeugt realistische Videos, übernimmt Aufgaben und verändert unseren Umgang mit Wissen. Was bedeutet das für Wirtschaft, Gesellschaft und unser eigenes Denken? Philipp Bürkler spricht mit Damian Borth, Professor für künstliche Intelligenz und maschinelles Lernen an der Universität St. Gallen.
Das Gespräch entstand im Rahmen der Recherche für das Audio-Feature «Das Gedächtnis der Zukunft». Damian Borth erhielt bewusst Raum, seine Gedanken ausführlich zu entwickeln. Für die schriftliche Veröffentlichung hat ChatGPT das Gespräch sprachlich geglättet.
RESTTER: Vor wenigen Jahren wirkten KI-generierte Videos noch grotesk und skurril. Wir erinnern uns alle an das Spaghetti-Video mit Will Smith. Heute sehen viele erstaunlich realistisch aus. Was zeigt dir diese Entwicklung?
Damian Borth: Vor ein paar Jahren hat man das belächelt. Da gab es Videos, in denen die Gesichter ganz komisch wurden und vieles nicht zusammenpasste. Wir Menschen erkennen visuell sehr schnell: Das ist nicht konsistent, das Gesicht hat seltsame Formen.
Dann schaut man sich die Sachen ein Jahr später an und nochmals ein Jahr später – und sie werden immer besser. Heute sehen wir wirklich realistisch aussehende Videos, die vollständig durch generative KI erstellt wurden. Das zeigt, wie viel Arbeit und Geld darin stecken, wie viele Menschen daran arbeiten und wie schnell die Entwicklung voranschreitet.
Im Bildbereich ist das sehr sichtbar. Im Textbereich fällt es vielleicht weniger auf. Dort muss man mehr Fragen stellen und testen, um Veränderungen zu erkennen: Bevorzugt ein Sprachmodell eine Marke gegenüber einer anderen, eine Partei oder eine bestimmte Meinung? Im Bildbereich ist die Entwicklung erstaunlich. Ich glaube, in anderen Bereichen geht es ähnlich schnell voran. Vielleicht sehen wir es dort nur weniger deutlich.
Wie erlebst du das als Informatiker und Computerwissenschaftler? Ist diese Entwicklung auch für dich rasant – oder eine gewisse Kontinuität?
Viele Menschen nehmen die Durchbrüche in der künstlichen Intelligenz erst seit 2022 wahr, als ChatGPT veröffentlicht wurde. Ich sage immer: Das ist der zweite Frühling der KI.
Der erste Frühling war schon 2012. Damals zeigten neuronale Netze bei der Analyse von Bilddaten erstmals, wie gut sie sein können. ImageNet war der entsprechende Wettbewerb. Die Ergebnisse waren überraschend gut. Niemand hatte geglaubt, dass diese Systeme so funktionieren würden – mich eingeschlossen. Wir wurden eines Besseren belehrt.
Seitdem entwickeln Menschen neuronale Netze weiter. Was wir 2022 gesehen haben, hatte seine Ursprünge also viel früher. In den darauffolgenden Jahren ist die Entwicklung nochmals um ein Vielfaches schneller geworden als in den zehn Jahren zuvor.
Schon damals passierte in der KI-Forschung sehr viel. Jetzt passiert noch viel mehr. Das ist auch anstrengender. Man bewundert die Entwicklung und ist überrascht, was alles möglich ist. Gleichzeitig ist man glücklich, weil man mitten in diesem Forschungsgebiet steckt und sich über die Durchbrüche freut.
Man muss sich allerdings spezialisieren. Es ist nicht mehr möglich, alles zu verfolgen. Man muss einen Bereich finden, in dem man Experte ist und weiss, was passiert.
Was wären aus deiner Sicht besonders sinnvolle Einsatzbereiche für KI in der Gesellschaft?
Ein derzeit sehr aktuelles Thema sind Agentensysteme. Können wir Sprachmodelle in einen Agenten einbauen, der autonom Entscheidungen trifft und Werkzeuge benutzt? Damit könnten ganze Wertschöpfungsketten oder einzelne Arbeitsschritte automatisiert werden.
Viele sehen darin Potenzial für Effizienzsteigerungen: Kosten senken oder schneller produzieren. Das ist ein grosser Bereich.
Spannend finde ich auch, was danach kommt. Das Agententhema ist allgegenwärtig und gewissermassen bereits gesetzt. Jetzt versucht man, Weltmodelle zu bauen: hyperrealistische, physikalisch korrekte Simulationen, in denen Agenten aus ihren Erfahrungen weiterlernen können. Solche Simulationen lassen sich auf Tausenden von KI-Chips sehr schnell ausführen.
Anschliessend kann man die Agenten in Roboter übertragen. Ein Agent muss beispielsweise lernen, dass er eine Tür benutzen soll, statt mit dem Kopf durch die Wand zu gehen. Wenn ich ihn sofort auf teurer Hardware lernen lasse und der Roboter zehnmal gegen eine Wand läuft, wird das teuer. In einer Simulation entstehen diese Schäden nicht.
Hat er das gelernt, kann man ihn auf die Hardware übertragen. Das nennt man «Physical AI» oder «Embodiment»: Die Agenten interagieren physisch mit uns und erledigen Aufgaben in ihrer Umwelt.
Auf den nächsten Schritt bin ich besonders gespannt: KI-Modelle, die sich nicht nur mit Wörtern, Pixeln und Videos beschäftigen. Was haben wir damit bisher erreicht? Unterhaltung – das ist super, Disney freut sich. Aber wir müssen in die Naturwissenschaften und ins Engineering.
Können wir mit KI Durchbrüche in Physik, Chemie, Materialwissenschaften, Biologie oder Pharma erzielen? Mit Modellen, die schneller und weiter denken oder mehr Informationen verarbeiten können, als wir Menschen es schaffen?
Dann wird entscheidend, wer diese Art von KI zuerst hat. Die Unternehmen oder Länder, die darüber verfügen, werden meiner Einschätzung nach in den nächsten 50 Jahren dominieren. Vielleicht gelingen Durchbrüche in den Naturwissenschaften oder in der Energieforschung, etwa bei Fusionsreaktoren.
Das wären wirkliche «Gamechanger», auch geopolitisch. Solche Erwartungen sind ein Grund dafür, dass weiterhin so viel Geld in die KI-Forschung fliesst.
Könnten dadurch zwei oder drei Unternehmen entstehen, neben denen selbst Facebook und Google klein wirken?
Die Frage ist: Wer wird diese KI-Modelle besitzen? Die Gewinner dieses ganzen Wahnsinns sind die Besitzer von KI. Und die sitzen vor allem in China und den USA, weniger in Europa.
Google sehe ich mit Gemini und anderen Modellen an der vordersten Front. Meta, also das frühere Facebook, hat etwas Interessantes geschafft: Das Unternehmen hat seine Sprachmodelle, Llama, öffentlich zugänglich gemacht und damit gezeigt, dass es KI kann.
Meiner Einschätzung nach hat Meta durch dieses Verschenken einen stärkeren Zuwachs seiner Marktkapitalisierung erreicht, als es durch einen Verkauf der Modelle erzielt hätte. Unternehmerisch ist das kontraintuitiv. Mark Zuckerberg hat aus meiner Sicht das Richtige getan, indem er die Modelle frei zur Verfügung stellte.
Weitere grosse Akteure sind Anthropic und OpenAI. Deren Börsengänge wären besonders interessant zu beobachten. Sie müssten ausserordentlich erfolgreich sein. Falls nicht, könnte eine Blase zu platzen drohen.
Spannend ist ausserdem, wie Unternehmen wie Roche, Novartis oder Mercedes-Benz KI in ihre Arbeit integrieren, um ihre Wertschöpfungsketten zu verbessern und effizienter zu gestalten. KI hilft anderen Unternehmen, ist aber zugleich eine eigene Industrie.
Zum Anhören Das Interview mit Damian Borth als AudioJede neue Technologie bringt auch Ängste mit sich. Bei KI geht es unter anderem um Kontrollverlust und mögliche Massenarbeitslosigkeit. Wie sollten wir damit umgehen?
Das sind wichtige Fragen. Wir sollten uns damit beschäftigen und nicht einfach sagen: Das wird passieren. Wir müssen überlegen, was dafür und was dagegen spricht. Und wenn etwas dafür spricht: Können wir es ändern? Können wir regulatorisch eingreifen?
Das Geld, das in KI investiert wird, ist mit Erwartungen an Effizienzsteigerungen verbunden. Menschen werden andere Aufgaben übernehmen müssen. Wir brauchen neue Arten von Jobs. Andere Berufe oder Aufgaben werden automatisiert, insbesondere dort, wo sich vieles wiederholt.
Das ist nicht grundsätzlich neu. Ähnliche Veränderungen gab es durch Fahrzeuge, Strom, Dampfmaschinen oder Computer.
Wir müssen uns als Gesellschaft überlegen, wo wir KI einsetzen wollen und wo rote Linien liegen. Diese Diskussionen müssen wir argumentativ führen, hoffentlich unter Beteiligung aller. Sonst entscheiden andere für uns – sofern sie das nicht längst tun: Mark Zuckerberg, Elon Musk oder andere.
Was ich an der Schweiz schätze: Es ist erfolgversprechender, das Für und Wider abzuwägen und einen Konsens zu finden, als ausschliesslich eine Seite zu vertreten. Also weder «Alles ist schlimm» noch «Alles ist toll».
Ich glaube, die Schweiz könnte eine Rolle übernehmen, in der sie mit technischen Werkzeugen und organisatorischen Strukturen beurteilt: Das ist eine sichere KI, die den Menschen dient – und das ist möglicherweise eine gefährliche KI.
Ich würde mir wünschen, dass wir regulatorisch zu den Türstehern für gute und vertrauenswürdige KI werden. Die Schweiz hätte aus meiner Sicht das Potenzial, so etwas vielleicht im Rahmen der Vereinten Nationen mit einem entsprechenden Mandat aufzubauen.
Damit könnten wir im globalen KI-Wettbewerb einen Platz finden, der unseren Werten näherliegt, als einfach ein weiteres Sprachmodell zu trainieren. Das sind unsere Stärken. Darauf sollten wir aufbauen.
Könnte die Schweiz damit auch globale Massstäbe setzen? Viele Modelle kommen aus den USA oder China, während wir hier mit ihren Auswirkungen leben müssen.
Die Modelle, die wir benutzen, kommen vor allem aus den USA oder China. Die besten frei nutzbaren Open-Source- beziehungsweise Open-Weights-Modelle kommen derzeit aus China. Proprietäre Modelle wie jene von OpenAI und Anthropic, deren interne Modellgewichte uns nicht zugänglich sind, kommen aus den USA.
Wir müssen aufpassen, nicht wie ein Pendel in die andere Richtung auszuschlagen und alles in ein so striktes regulatorisches Korsett zu stecken, dass Innovation bei uns schwierig wird. Diese Gefahr sehe ich teilweise in der Europäischen Union.
Wir müssen bedacht regulieren und die innovative Entwicklung mitdenken. Viele Menschen sagen: Regulierung tötet Innovation. Ich sage: Man kann Innovation durch Regulierung ermöglichen.
Mit der richtigen Regulierung könnten wir in der Schweiz Werkzeuge entwickeln, die KI auf technischer Ebene analysieren. Wir sollten nicht nur Kästchen in einem Excel-Dokument ankreuzen, sondern technische Lösungen bauen, mit denen wir Systeme vertrauenswürdiger machen oder ihre Vertrauenswürdigkeit prüfen können.
Solche Werkzeuge werden andere brauchen. Wenn es so weit ist, könnten wir sie bereits haben und bereitstellen. Diese Art von Regulierung ist natürlich schwierig. Deshalb sollten wir auf schweizerischer, europäischer und globaler Ebene zusammenarbeiten.
Ich würde auch nicht sagen, die USA und China seien völlig unabhängig von Regulierung oder anderen Vorgaben. In den USA besteht ein starker Druck, finanziell und unternehmerisch erfolgreich zu sein. Die Modelle müssen Umsatz generieren.
In China gibt es ebenfalls Akteure, die den Unternehmen sagen, was gemacht werden soll. Jedes Land hat Bedingungen, unter denen seine Modelle entstehen.
Wir können unsere Bedingungen nach unseren Werten definieren und versuchen, damit im globalen Wettbewerb erfolgreich zu sein. Dort sollten wir hingehen.
St. Gallen wurde einst durch die Stickereiindustrie geprägt. Könnte KI heute eine neue wirtschaftliche Perspektive für die Stadt und die Schweiz eröffnen?
Auf jeden Fall. Wir haben in der Schweiz sehr gute KI-Forschung. ETH und EPFL gehören zu den führenden Institutionen. Auch an der Universität St. Gallen gibt es inzwischen Informatik mit Lehrstühlen für KI und maschinelles Lernen.
Je mehr Forschung wir betreiben, desto mehr Wissen können wir zusammenbringen und desto stärker werden wir auf europäischer und internationaler Ebene wahrgenommen. Mit dieser Wahrnehmung lässt sich arbeiten.
Ich würde mir wünschen, dass wir diese Entwicklung auf schweizerischer Ebene weiter vorantreiben, wie es mit entsprechenden Initiativen bereits geschieht.
Eine sehr spannende Möglichkeit wäre, die unternehmerische Ausrichtung der Universität St. Gallen mit den stärker technischen Studiengängen der ETH zu verbinden. Mit der Informatik in St. Gallen versuchen wir, genau diese Brücke zu bauen.
Vielleicht könnte zwischen St. Gallen und der ETH ein «Innovation Valley» entstehen. Eine Stadt liegt auch noch dazwischen – ich glaube, sie heisst Winterthur.
Das könnte ein spannender geografischer Raum werden, in dem viel Innovation und Unternehmertum entsteht, auf Grundlage unserer Werte. Da gibt es Potenzial und ein Vakuum. Es wird Arbeit brauchen, aber ich glaube, wir sollten in diese Richtung gehen.
Du hast eine mögliche KI-Blase angesprochen. Kannst du das genauer erklären?
Diese Diskussion führen wir in der KI und darüber hinaus seit Monaten: Haben wir eine Blase? Stecken wir bereits darin?
Meiner Meinung nach ist das eine der grossen Blasen der Geschichte. Innerhalb einer Blase kann man allerdings sehr komfortabel leben, wenn man weiss, wann sie platzt. Das ist die zweite und spannendere Frage.
Sehen wir auf dem globalen Markt technische oder finanzielle Indikatoren, die darauf hindeuten, dass sie zu platzen beginnt?
Die Bewertungen von Unternehmen wie Nvidia, die KI-Chips bauen, enthalten ein Versprechen auf künftige Umsätze und künftiges Unternehmenswachstum.
Ich veranschauliche das so: Die Marktkapitalisierung von Nvidia setzt gewissermassen voraus, dass in den nächsten fünf Jahren zehn neue Googles entstehen. Oder zehn neue Apples oder Metas. Wahrscheinlich bekommen wir zwei – Anthropic und OpenAI –, aber vielleicht nicht zehn.
Deshalb stellt sich die Frage, warum weiterhin so viel Geld investiert wird. Dahinter stehen die Versprechen, über die wir gesprochen haben: Robotik oder KI, die wissenschaftliche Durchbrüche ermöglicht.
Das sind spannende Felder. Engineering, Maschinenbau und Pharma sind Bereiche, in denen wir stark sind. Das müsste auch unseren Unternehmen helfen.
Die entscheidende Frage bleibt aber, ob die Investitionen durch zukünftige Umsätze gerechtfertigt werden.
KI funktioniert. KI wird nicht verschwinden. Ob diese Unternehmensbewertungen korrekt sind, das ist die grosse Frage.
Vielleicht ist KI derzeit zu teuer. Vielleicht müssen wir sie günstiger machen, damit sie stärker in Unternehmen, Märkte und die Wirtschaft hineinwirken kann. Viele arbeiten daran, herauszufinden, wie sie sich monetarisieren und so in Unternehmen einsetzen lässt, dass es sich rechnet.
So spannend das alles ist und so begeistert ich bin: Irgendwann fragen sich die Menschen, ob es das finanziell wert ist. Nicht alles, was heute gemacht wird, wird sich lohnen. Einige Anwendungen werden bleiben, andere nicht. Dann müssen wir sehen, welche Unternehmen das trifft – auch im internationalen Wettbewerb.
Neben dem Profit verändert KI auch das Denken der Gesellschaft. Was beschäftigt dich daran?
Wir müssen uns überlegen, was wir eigentlich tun. Mit generativer KI und Sprachmodellen haben wir ein Werkzeug, das uns immer dann eine Antwort erzeugt, wenn wir selbst nicht weiterwissen. Über die Qualität dieser Antworten können wir diskutieren. Aber was macht das mit den Menschen?
Zu Beginn meiner akademischen Karriere musste ich wissenschaftliche Texte und Berichte schreiben. Manchmal sass ich vor einem leeren Blatt, und eine halbe Stunde lang passierte nichts. Ich habe mich gequält und musste mich selbst aus dieser Situation herausarbeiten.
Dabei habe ich Methoden entwickelt, mit denen ich persönlich solche Situationen bewältige. Ich kenne diese Methoden inzwischen. Ich kenne mich und weiss, wie ich damit umgehen kann.
Wer in solchen Momenten sofort zu einem Sprachmodell greift und sich Antworten liefern lässt, erlebt diese Anstrengung möglicherweise nicht mehr. Das ist sehr verführerisch. Aber dadurch fehlt auch die Erfahrung, sich selbst durch dieses Tal der Tränen zu arbeiten. Das beeinflusst, wie Menschen künftig denken und handeln.
Was bei Sprachmodellen besonders verführerisch ist: sich Meinungen von Dritten auszuleihen. Weil Denken anstrengend ist.
Je öfter man es macht, desto besser wird man darin. Irgendwann macht es Spass. Man kann debattieren und Ideen austauschen. Aber am Anfang ist es anstrengend.
Das betrifft nicht nur junge Menschen. Wenn Menschen immer schnell Meinungen übernehmen, um dem Druck des leeren Blatts zu entgehen, könnten sie auch künftig sehr leicht Meinungen von Dritten übernehmen – von Sprachmodellen, Regierungen oder Unternehmen.
Wir müssen aber kritisch und reflektiert sein, gerade als Gesellschaft, die auf demokratischen Prinzipien aufbaut.
Ich sehe hier eine Entwicklung, auf die ich noch keine abschliessende Antwort habe. Welchen Einfluss wird sie haben? Ist das gut oder schlecht?
Wir müssen Menschen, die KI-Modelle benutzen, auch davon überzeugen, dass Denken Spass macht und dass man Dinge kritisch hinterfragen sollte.
Wenn Werkzeuge alles für mich erledigen, ist es verführerisch, schnell Hunderte Antworten erzeugen zu lassen und zur nächsten Aufgabe überzugehen. Wir alle haben schliesslich To-do-Listen, die abgearbeitet werden müssen. Die Zeit zum Reflektieren ist vielleicht das, was dabei auf der Strecke bleibt.
KI wird auf bestehendem Wissen trainiert. Kann man deshalb sagen, dass ihre Antworten eigentlich nichts Neues enthalten?
KI wird auf historischem Wissen trainiert. Sie spiegelt wider, was im Internet steht oder ihr aus anderen digitalen Quellen als Trainingsmaterial gegeben wurde.
Ich bin aber nicht mehr der Meinung, dass sie ausschliesslich historisches Wissen wiedergibt.
Sogenannte Reasoning-Modelle erzeugen Antworten, verarbeiten sie erneut und prüfen, ob sie diese verbessern können. Sie durchlaufen mehrere Schleifen, bevor sie dem Nutzer eine Antwort geben.
Dabei können sie zwischen zwei Datenpunkten interpolieren, also einen neuen Datenpunkt dazwischen erzeugen. Das kann man als neues Wissen interpretieren. Ob es sinnvoll, gut oder faktisch korrekt ist, muss man gesondert beurteilen. Wenn die Interpolation korrekt ist, lässt sich aus zwei alten Datenpunkten ein neuer gewinnen.
Das Problem: Zwischen einem Samstag und einem Sonntag kann man nicht interpolieren. Es gibt keinen zusätzlichen Tag dazwischen. Sprachmodelle machen es trotzdem – und dann entsteht Unfug, dann entstehen Halluzinationen.
Das eine vom anderen zu unterscheiden, wird aus meiner Sicht eine grosse Herausforderung.
Wenn ich diesen Gedanken auf die Forschung übertrage, wäre es doch grossartig, wenn Modelle so viele Schleifen durchlaufen könnten, bis sie ein Problem gelöst haben – bis sie vielleicht helfen, Krebs zu heilen oder andere Probleme zu bewältigen.
Das ist die Hoffnung. Es gibt viele Herausforderungen und berechtigte Sorgen, die wir angehen müssen. Gleichzeitig sollten wir diese Hoffnung vor Augen behalten. Ich glaube, darin liegt etwas Gutes, das wir uns auch von KI wünschen.
Du bist also optimistisch?
Ich bin sehr optimistisch. Das hat manchmal einen Hang zum Sarkasmus, aber ich versuche immer wieder, zum Optimismus zurückzukommen.