2026-09-13
Wenn ChatGPT zur Suchmaschine wird und der Digital Services Act (DSA) zur Inhaltsaufsicht
1 Einleitung
Am 31. August 2026 hat die Europäische Kommission ChatGPT als „sehr grosse Online-Suchmaschine“ – Very Large Online Search Engine, kurz VLOSE, im Sinne des Digital Services Act eingestuft. Parallel wurden Reddit und Roblox als sehr grosse Online-Plattformen benannt.
Für OpenAI beginnt damit eine viermonatige Frist. Innerhalb dieses Zeitraums müssen zusätzliche Pflichten des Digital Services Act umgesetzt werden:
- Risikobewertungen
- Massnahmen zur Minderung sogenannter systemischer Risiken
- erweiterte Beschwerde- und Transparenzmechanismen
- eine stärkere Kontrolle durch die Europäische Kommission
Bei einem festgestellten Verstoss können Bussgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes verhängt und Maßnahmen zur Behebung angeordnet werden. Das folgt dem DSA: erst Aufsicht und Pflichten, dann – im Streitfall – Abhilfe. Dies stellt noch keine automatische Inhaltssteuerung dar.
Das klingt zunächst nach regulatorischer Routine. Es ist jedoch deutlich mehr.
2 Ein Präzedenzfall für generative KI
Erstmals fällt ein eigenständiges generatives KI-System unmittelbar unter das schärfste Regime des Digital Services Act.
Begründet wird die Einstufung mit der Suchfunktion von ChatGPT: Das System greife bei bestimmten Anfragen auf das Internet zu und sei deshalb als hybrider Dienst einzuordnen.
Mit rund 159 Millionen durchschnittlichen monatlichen Nutzenden in der Europäischen Union liegt ChatGPT zudem deutlich über der Schwelle von 45 Millionen.
Formal ist die Schwelle überschritten. Inhaltlich stellt die Einordnung jedoch eine erhebliche Ausdehnung des Begriffs „Suchmaschine“ dar.
Eine klassische Suchmaschine indexiert, sortiert und rankt vorhandene Inhalte. Ein Sprachmodell erzeugt dagegen Antworten, paraphrasiert Informationen, gewichtet Quellen und kann Aussagen hervorbringen, die in keiner Quelle enthalten sind.
Der Nutzer erhält nicht lediglich eine Auswahl von Webseiten. Er erhält eine sprachlich geschlossene Interpretation.
Wer beide Systeme unter denselben Rechtsrahmen stellt, behandelt die Steuerung generierter Antworten im Ergebnis ähnlich wie die Moderation nutzergenerierter Inhalte. Genau darin liegt die Bedeutung dieses Präzedenzfalls.
3 Das eigentliche Risiko liegt in der Reichweite
Kritik an grossen Sprachmodellen ist berechtigt. Halluzinationen, Verzerrungen, Desinformation, Deepfakes und Risiken für Minderjährige müssen ernst genommen werden. Auch der Schutz von Wahlen und Grundrechten ist nicht verhandelbar.
Genau hier liegt jedoch das eigentliche Risiko.
Nicht darin, dass ChatGPT reguliert wird. Sondern darin, dass der Begriff des „systemischen Risikos“ so weit ausgelegt werden könnte, dass auch legale, kontroverse oder unbequeme Antworten zum Gegenstand behördlicher Korrektur werden.
Regulierung soll vor konkreten Schäden schützen. Sie darf jedoch nicht dazu führen, dass staatliche Stellen mittelbar festlegen, welche Antworten als gesellschaftlich akzeptabel gelten.
Die entscheidende Frage lautet deshalb nicht:
Soll generative KI reguliert werden?
Sondern:
Wie weit darf diese Regulierung reichen und wer zieht die Grenze zwischen notwendiger Risikominderung und unzulässiger Einflussnahme?
4 Wer definiert ein „systemisches Risiko“?
Der Digital Services Act verpflichtet sehr grosse Online-Plattformen und Suchmaschinen dazu, systemische Risiken zu bewerten und zu mindern.
Erfasst werden unter anderem:
- illegale Inhalte
- Risiken für Minderjährige
- Beeinträchtigungen des physischen und mentalen Wohlbefindens
- Gefahren für Grundrechte
- Risiken für Wahlprozesse
- Gefahren für die öffentliche Sicherheit
Diese Kategorien sind weit gefasst. Der Begriff des systemischen Risikos ist kein naturwissenschaftlich eindeutig bestimmbarer Begriff, sondern eine politische und rechtliche Bewertungskategorie.
Wer entscheidet, wann eine Modellantwort Wahlen gefährdet, die mentale Gesundheit beeinträchtigt oder die öffentliche Sicherheit berührt?
Zuständig sind die Europäische Kommission und die nationalen Koordinatoren für digitale Dienste, im Fall von ChatGPT Irland.
Die zuständigen Stellen können Daten anfordern, Systeme prüfen und nach einem festgestellten Verstoss Abhilfemassnahmen anordnen.
Das Wort klingt begrenzt. Unter dem DSA bedeutet es: Ein beanstandeter Zustand muss beseitigt werden, mit offenem Spielraum, wie tief der Eingriff in Prozesse und Systeme reicht.
5 Von Transparenz zu inhaltlicher Steuerung?
Es könnte um nachvollziehbare Transparenzpflichten, bessere Beschwerdewege oder wirksamen Kinderschutz gehen.
Die Einstufung selbst gibt der Kommission keinen direkten Zugriff auf System-Prompts oder Modellgewichte. Sie schafft Aufsicht, Dokumentationspflichten und im Streitfall die Möglichkeit, Abhilfe zu verlangen.
Es könnte aber auch die laufende Funktionsweise des Systems berühren:
- System-Prompts
- Filter
- Ablehnungskriterien
- Quellengewichtung
- Auswahl und Darstellung von Suchergebnissen
Damit verschiebt sich der entscheidende Massstab.
Es geht nicht mehr nur um die Frage:
Ist dieser Output illegal?
Zunehmend geht es auch um die Frage:
6 Ist dieser Output gesellschaftlich akzeptabel und nach welchen Kriterien?
Die Geschichte der Plattformregulierung gibt Anlass zur Skepsis. Was als Bekämpfung illegaler Inhalte beginnt, kann in die Steuerung unerwünschter, aber legaler Inhalte übergehen.
Ein Modell, das kontroverse, unvollständige oder unbequeme Positionen abbildet, könnte dann nicht wegen einer Rechtsverletzung, sondern wegen möglicher Auswirkungen auf „Wohlbefinden“, „öffentlichen Dialog“ oder „gesellschaftlichen Zusammenhalt“ unter Druck geraten.
Der Abstand zwischen Risikominderung und inhaltlicher Feinsteuerung wäre gering.
7 Die wirtschaftliche Dimension
Hinzu kommt die geopolitische Dimension. Die führenden Frontier-Modelle entstehen überwiegend außerhalb der Europäischen Union.
Brüssel reagiert darauf mit extraterritorialer Reichweite und hohen Sanktionsdrohungen.
Kurzfristig kann dies als Ausdruck regulatorischer Durchsetzungskraft verstanden werden. Langfristig besteht jedoch das Risiko, dass Anbieter Funktionen für den europäischen Markt einschränken, Systeme fragmentieren oder Innovation in Regionen verlagern, in denen die regulatorischen Anforderungen geringer sind.
Europa hat bei der Grundlagenforschung und bei der Skalierung generativer KI keinen Vorsprung. Es hat einen Regulierungsvorsprung.
Dieser ist nur dann ein Vorteil, wenn er Präzision statt Symbolpolitik hervorbringt.
8 Regulierung kann Marktmacht verstärken
OpenAI hat signalisiert, sich auf die zusätzlichen Compliance-Anforderungen vorzubereiten. Das ist angesichts möglicher Bussgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes rational.
Die entstehenden Kosten dürften erheblich sein:
- Audits
- Dokumentationspflichten
- Trusted Flagger
- Streitbeilegungsverfahren
- fortlaufende Risikoanalysen
Grosse Anbieter können diese Anforderungen bewältigen. Kleinere europäische Unternehmen können es möglicherweise nicht.
Regulierung, die eigentlich Marktmacht begrenzen soll, kann dadurch ausgerechnet jene Marktmacht stabilisieren.
Je komplexer und teurer die Compliance, desto höher die Eintrittsbarrieren für neue Anbieter.
9 Die Architektur der Kontrolle
Es geht nicht darum, ChatGPT von jeder Regulierung auszunehmen. Es geht um die Architektur der Kontrolle.
Die Einstufung ändert zuerst den Aufsichtsrahmen, nicht automatisch das Modell. Der qualitative Sprung liegt in der Architektur: Aus „Ist dieser Output illegal?“ kann „Ist dieser Output nach Aufsichtskriterien ein systemisches Risiko?“ werden. Das ist heute die strukturelle Gefahr, noch nicht die geltende Praxis.
10 Fazit
Die Europäische Union sollte generative KI regulieren. Sie sollte jedoch präzise zwischen illegalen Inhalten, nachweisbaren Schäden, technischen Fehlfunktionen und politisch unerwünschten Antworten unterscheiden.
Politisch mag die Ausdehnung des Digital Services Act verständlich sein. Rechtlich und ordnungspolitisch bleibt sie unsauber. Eine plausible Lesart lautet, der DSA werde gezogen, weil der AI Act allein politisch nicht schnell oder nicht weit genug wirkt. Belegen lässt sich das Motiv nicht; die Wirkung der Einstufung schon.
Ein derart konstruierter Präzedenzfall wird Nachahmer finden, bei anderen Modellen, anderen Funktionen und anderen gesellschaftlich definierten „Risiken“. Deshalb sollte klar bestimmt werden, welche Maßnahmen dem Schutz der Nutzenden dienen und wo staatliche Einflussnahme auf die inhaltliche Funktionsweise eines Modells beginnt.
Wer Medienkompetenz im KI-Zeitalter ernst nimmt, muss beides gleichzeitig leisten:
Die Grenzen und Gefahren grosser Sprachmodelle klar benennen und die Grenzen staatlicher Eingriffe in die Architektur dieser Modelle ebenso klar markieren.
Sonst wird nicht nur die Technik reguliert.
Dann werden die Antworten reguliert.
#DigitalServicesAct #DSA #KünstlicheIntelligenz #GenerativeAI #ChatGPT #KIRegulierung #AIAct #EuropäischeUnion #DigitalePolitik #Meinungsfreiheit #Plattformregulierung #Technologieregulierung #Demokratie #Innovation #Datenschutz
In meinem Buch «Medienkompetenz im KI-Zeitalter» wird auf den DSA tief eingegangen. Es bietet zudem praxisnahe Tools, um Inhalte kritisch zu bewerten, von Fact-Checking bis KI-gestützter Bias-Erkennung. In Zeiten von Deepfakes und polarisierten Feeds wird Medienkompetenz zum Schlüssel. Ideal für alle, die den Medienwandel navigieren wollen! Wer mag, kann das Buch hier erhalten
https://www.narr.de/medienkompetenz-im-ki-zeitalter-46482/
Der Blog ist in ähnlicher Form als Artikel unter LinkedIn veröffentlicht:
Disclaimer: Dieser Artikel wurde nach meinem eigenen Wissen und meiner Idee erstellt. Ergänzt durch Recherchen und sprachlich mit KI geprüft und optimiert. Dabei habe ich meine eigene Brand voice genutzt, die auf Texten meiner Bücher und Blogs beruht. Das Bild stammt von einem KI-Programm (Nano Banana) und ist selbst nach meiner Vorgabe erstellt. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melden Sie sich, wenn Sie Ungenauigkeiten feststellen.
Admin - 14:47:03 @ Bücherthemen / Medienauftritte