Mit dem Aufstieg von ChatGPT, Gemini oder Claude geraten sogenannte «Guardrails» zunehmend ins Zentrum der Debatte über künstliche Intelligenz. Gemeint sind Schutzmechanismen, die verhindern sollen, dass KI-Systeme beleidigende Inhalte erzeugen, Urheberrechte verletzen oder gefährliche Anleitungen liefern – etwa zum Bombenbau.
Auf den ersten Blick wirken diese Leitplanken sinnvoll. Doch genau hier beginnt laut Caroline de Cock vom belgischen Thinktank Information Labs, einer Organisation, die unter anderem die Auswirkungen digitaler Technologien, künstlicher Intelligenz und sozialer Medien auf Gesellschaft, Politik und öffentliche Debatten untersucht, die eigentliche gesellschaftliche Frage: Ab wann formen diese Schutzmechanismen nicht mehr nur gefährliche Inhalte – sondern das Denken selbst?
Denn immer mehr Menschen benutzen Chatbots nicht mehr nur als Werkzeuge, sondern als Gesprächspartner und Suchmaschinen zugleich. Wer früher eine Suchmaschine konsultierte, stellt heute seine Fragen direkt an eine KI. Damit verändert sich auch die Art, wie Informationen gefiltert werden.
Chatbots als neue Suchmaschinen
«Menschen gehen nicht mehr zu Google, sondern stellen ihre Suchanfragen einem Chatbot», sagt de Cock im Interview mit dem Resetter. Genau darin liege eine fundamentale Verschiebung.
Während klassische Suchmaschinen primär Links liefern, formulieren Chatbots bereits fertige Antworten. Sie entscheiden, welche Perspektiven sichtbar werden, welche Argumente auftauchen – und welche Themen gar nicht erst behandelt werden.
Dadurch erhalten Guardrails eine völlig neue Macht. Denn ein Chatbot sagt nicht nur: «Hier sind verschiedene Quellen.» Er kann sagen: «Darüber kann ich nicht sprechen.» Die Folge: Gespräche werden unmerklich in bestimmte Richtungen gelenkt. Manche Themen erscheinen legitim, andere verschwinden aus dem sichtbaren Diskurs.
Unsichtbare Einschränkungen des Denkens
Besonders problematisch wird dies laut de Cock, weil die Interaktion mit einem Chatbot privat wirkt. Anders als soziale Medien fühlt sich das Gespräch mit einer KI intim und persönlich an – fast wie ein innerer Denkraum. Gerade deshalb sieht die Forschungsleiterin von Information Labs hier nicht nur eine Gefahr für die Meinungsfreiheit, sondern auch für die Gedankenfreiheit.
Wenn ein Mensch zuhause mit einer KI spricht und immer wieder erlebt, dass bestimmte Fragen abgeblockt werden, entsteht langfristig möglicherweise ein neuer Mechanismus gesellschaftlicher Selbstzensur. Nicht nur das, was Menschen sagen, könnte sich verändern. Sondern auch all das, was sie irgendwann nicht mehr sagen.
«Vielleicht beeinflussen Chatbots nicht nur, was wir sagen, sondern auch all die Dinge, die wir nicht mehr sagen, weil sie den Test der Maschine nicht bestehen», warnt de Cock gegenüber dem RESETTER. Diese Einschränkungen bleiben oft unsichtbar. Nutzer:innen wissen meist nicht, nach welchen Regeln ein Modell antwortet oder Inhalte verweigert. Gleichzeitig argumentieren die KI-Unternehmen, sie könnten ihre Guardrails nicht vollständig offenlegen, weil sie sonst von Akteur:innen mit schlechten Absichten leichter umgangen würden. Damit entsteht ein Spannungsfeld zwischen Sicherheit, Transparenz und demokratischer Kontrolle.
Caroline de Cock ist Juristin, Technologie- und KI-Politikstrategin mit langjähriger Erfahrung in europäischer und globaler Digitalpolitik. Sie arbeitet an der Schnittstelle von Recht, künstlicher Intelligenz, Internet Governance, Urheberrecht, Medienregulierung und digitalen Rechten. Als Head of Research bei Information Labs beschäftigt sie sich insbesondere damit, komplexe technologische und regulatorische Fragen für Politik und Öffentlichkeit verständlich zu machen. Zudem ist sie Mitglied des Beirats von Internet Archive Switzerland.
Meinungslenkung durch KI-Systeme
Hinzu kommt eine weitere Gefahr: politische Einflussnahme. Grosse KI-Unternehmen könnten – bewusst oder unbewusst – gesellschaftliche Debatten mitprägen. Modelle könnten unter dem Druck von Regierungen oder politischen Interessen bestimmte Themen anders behandeln oder sogar ausblenden.
Besonders heikel sei dies, weil unterschiedliche Regionen unterschiedliche moralische und politische Vorstellungen in ihre Modelle einschreiben. De Cock verweist etwa auf Themen wie Abtreibung oder gesellschaftliche Wertefragen: Amerikanische Modelle hätten nicht weniger Guardrails als europäische Systeme – sondern andere. Während Modelle in beispielsweise in den USA sensibler auf das Thema Abtreibung reagierten, seien europäische Guardrails bezüglich solcher Themen liberaler.
Die entscheidende Frage lautet deshalb: Wer definiert künftig die Regeln, nach denen KI-Systeme antworten? Und welche Weltbilder, kulturellen Werte oder politischen Interessen werden dadurch unsichtbar in digitale Gesprächspartner eingebaut?
Die neue Macht über Information
Je stärker Chatbots zu zentralen Informationssystemen werden, desto grösser wird ihre gesellschaftliche Macht. KI-Systeme strukturieren nicht nur Wissen – sie entscheiden zunehmend darüber, wie Menschen Wissen wahrnehmen. Damit verschiebt sich die Kontrolle über Öffentlichkeit und Information möglicherweise von klassischen Medien und Suchmaschinen hin zu wenigen KI-Plattformen.
Die Debatte über Guardrails ist deshalb weit mehr als eine technische Frage. Sie betrifft demokratische Grundrechte, Transparenz – und letztlich die Frage, wie frei menschliches Denken in einer KI-geprägten Gesellschaft künftig noch sein wird.