# taz.de -- KI-Erkennungssoftware: Die Grenzen der Detektoren
       
       > Für die Erkennung KI-generierter Texte werden zunehmend Programme wie
       > „Pangram“ eingesetzt. Doch wie verlässlich sind diese Detektoren
       > überhaupt?
       
 (IMG) Bild: Ob wir der KI vertrauen können, die ihre Brüder und Schwestern von der anderen KI erkennt, ist die Frage
       
       Politiker*innen tun es, mindestens Minister und Ministerpräsidenten.
       Verleger, Herausgeber und Journalist*innen haben es getan. Wie die
       Schüler*innen und Studierenden mogelt auch das Lehrpersonal, vermutlich
       sündigt gar der Papst. Für sie alle schreibt künstliche Intelligenz Reden,
       Artikel, Hausarbeiten – ohne dass sie es offenlegen. In Deutschland standen
       vergangene Woche Digitalminister Karsten Wildberger, Thüringens
       Ministerpräsident Mario Voigt und der Tagesspiegel-Redakteur
       Stephan-Andreas Casdorff für ihren undeklarierten KI-Einsatz in der Kritik.
       
       Auch in der Gesamtschau erhärtet sich die These, dass KI-generierter Text
       bald überall sein wird: Ein Großteil neuerer Publikationen im Internet wird
       inzwischen von KI geschrieben, zeigt etwa [1][eine Analyse des
       KI-Dienstleisters Graphite]: Über die Hälfte aller neuen englischsprachigen
       Artikel sei „wahrscheinlich KI“. Vermutlich verzerren automatische
       Übersetzungen das Bild, und der Prozentsatz habe ein Plateau erreicht.
       Trotzdem flutet KI-Schlamm augenscheinlich das Netz.
       
       ## Wie gut sind Erkennungstools?
       
       Nachdem Wissenschaftler*innen der Universität Maryland in 250.000 Artikeln
       amerikanischer Medien 9 Prozent KI-Anteil gefunden hatten, erschienen im
       amerikanischen Monatsmagazin The Atlantic gleich mehrere kritische
       Beiträge. Künstliche Intelligenz sei längst in die Medienhäuser und Verlage
       eingesickert, konstatierten die Autoren. Selbst in renommierten
       Medienhäusern würde großflächig KI eingesetzt.
       
       KI-Erkennungstools wie [2][Originality AI, GPTZero, Copyleaks, Scribbr]
       oder Pangram versprächen, künstliche Texte als solche zu entlarven. Nur
       seien diese Programme laut Atlantic gerade ausreichend, um viel benutzt zu
       werden – dabei aber längst nicht zuverlässig genug. Amerika habe darum ein
       [3][„Pangram-Problem“], so das Magazin. Auch bei den neusten deutschen
       KI-Enthüllungen kam Pangram zum Einsatz.
       
       Doch wie gut sind KI-Erkennungstools tatsächlich? Mit etwas Übung lassen
       sich viele KI-Texte sogar ohne maschinelle Hilfe erkennen, erklärt Max
       Spero. Spero ist der Gründer und CEO von „Pangram Labs“, dem Anbieter des
       gleichnamigen Erkennungstools. Die Erkennung ohne Tool sei möglich, da die
       gängigen Modelle oft gleichförmig und vorhersehbar schrieben. Besonders
       äußere sich das, wenn die Eingaben kurz seien. Etwa: „Schreib mir einen
       Artikel über Moby Dick.“
       
       ## Nachträgliche Vermenschlichung
       
       Aber auch so schon wirkten ihre Texte oft künstlich. Sie seien stärker
       strukturiert, die Satzlängen variierten wenig. Auch hätten die Modelle
       bestimmte Ticks. Der verräterische Halbgeviertstrich – auch Gedankenstrich
       genannt – werde besonders von älteren Modellen gern verwendet. „In neueren
       Modellen sind die Anzeichen subtiler“, so Spero. Deswegen sei es zunehmend
       schwerer, konkrete Phrasen und Muster in KI-Texten auszumachen. Auch
       könnten Artikel nachträglich bearbeitet werden, um menschlicher zu
       erscheinen. Dafür gibt es sogar eigens programmierte KIs, sogenannte
       Humanisierer.
       
       Noch attestiert Pangram seinem eigenen Detektor aber eine hohe Genauigkeit:
       Seine 99,98-prozentige Trefferquote erreiche es ähnlich wie die Konkurrenz:
       Erst werden große Mengen KI-generierter Texte auf Muster untersucht, dann
       lassen sich mit ihnen Texte auf ebendiese typischen Muster prüfen. Durch
       wiederholtes Training erreiche Pangram aber eine geringere Fehlerquote.
       
       Der „KI-Detektor, der wirklich funktioniert“, liefert auf seiner Website
       auch [4][die dazu passenden Studien]: In einem Test durch die University of
       Chicago aus dem vergangenen Jahr erklärte Pangram fast keinen der 3.000
       getesteten Texte fälschlicherweise als KI-generiert. In eigenen Tests war
       sogar nur jeder zehntausendste Text falsch positiv.
       
       Die Krux: Auch ein Test mit 100-prozentiger Trefferquote muss nicht
       unbedingt gut sein. Das passende Extrembeispiel dürfte einigen noch aus der
       Coronapandemie bekannt sein. Ein Test, der immer anschlägt, liegt bei jedem
       positiven Fall richtig. Seine Erkennungsrate liegt bei 100 Prozent. Schlägt
       der Test auch bei negativen Fällen an, ist er trotzdem wertlos.
       
       Entscheidend über die Güte des Tests ist daher auch die Zahl der „false
       negatives“. Diese Quote klingt gleich auch weniger beeindruckend: Rund 85
       Prozent aller KI-generierten Texte würden erkannt, 15 Prozent nicht. In
       Schulnoten wäre das statt summa cum laude eher eine bescheidene Zwei minus.
       Während Pangram also wenige Texte irrtümlich als KI markiert, schneidet es
       hierbei ähnlich ab wie die Konkurrenz. GPTZero und Copyleaks sind bei der
       KI-Erkennung sogar etwas besser, schlagen dafür aber häufiger falschen
       Alarm.
       
       ## Hochschulen wappnen sich mit KI-Detektoren
       
       Dass kein Erkennungstool wirklich zur Überprüfung einzelner Artikel taugt,
       erklärt im Kleingedruckten auch das Unternehmen selbst: „Alle
       KI-Erkennungstools produzieren falsch-positive Ergebnisse und sollten
       deswegen nur zusammen mit weiteren Beweisen genutzt werden, um Plagiate zu
       erkennen“, steht in einem technischen Report von 2024. KI könne echte
       Faktenprüfungen in Nachrichten und Medien nicht ersetzen. Und: „Wir raten
       dringend davon ab, die Beurteilung von Plagiatsvorwürfen und akademischer
       Integrität allein auf unseren Klassifikator zu stützen.“
       
       Die akademische Integrität kommt hier nicht zufällig zur Sprache. Schon vor
       dem Aufkommen der neuen Sprachmodelle nutzten Hochschulen automatische
       Tools, um studentische Arbeiten auf Plagiate zu prüfen. Zunehmend kommen
       dazu KI-Detektoren zum Einsatz: Jede fünfte Hochschule stellt ihren
       Dozierenden laut [5][KI-Monitor 2025] KI-Erkennungstools zentral zur
       Verfügung. Jede zwanzigste setzt diese im Regelbetrieb ein. Immer öfter
       beklagen Studierende verschiedener Hochschulen falsche Beschuldigungen
       infolge des Einsatzes von KI-Detektoren.
       
       Mehrere Gutachten im Auftrag von Universitäten raten deswegen strikt von
       der Verwendung ab. Rechtlich [6][stünde der Einsatz auf tönernen Füßen],
       außerdem würde ein falsches Sicherheitsgefühl vermittelt. Einige Lehrende
       fordern deswegen bereits ein Verbot, darunter auch die [7][KI-Forscherin
       Doris Weßels]: „KI-Detektoren sind technisch unzuverlässig, reproduzieren
       Bias, sind rechtlich nicht belastbar und führen zu einer Misstrauenskultur
       im Bildungsbereich“, schreibt sie in einem Beitrag für Table Media.
       
       Eine Stellungnahme des „Digitale Lehre Hub Niedersachsen“ macht der
       Hoffnung auf einfache Lösungen den Garaus: Studierende könnten ihre Texte
       mit KI-Detektoren testen und anpassen, um den Einsatz zu verschleiern,
       „insbesondere, wenn diese es auf einen Täuschungsversuch abgesehen haben“.
       Stattdessen rät das von Hochschulen beauftragte Gremium – [8][wie schon der
       Deutsche Ethikrat] – dazu, „Prüfungsformate und Prüfungskulturen insgesamt
       auf den Prüfstand zu stellen“.
       
       ## Journalist:innenverbände fordern Selbstverpflichtung
       
       Medienhäuser, die ihr Vertrauen nicht verspielen wollen, stehen vor ganz
       ähnlichen Problemen, nicht erst seit dieser Woche. Anstelle eines
       großflächigen Einsatzes von KI-Erkennungstools fordern die
       Journalist:innenverbände DJV und dju deswegen schon länger eine
       flächendeckende Kennzeichnung von KI-Nutzung in journalistischen Artikeln.
       Ein Hinweis an jedem journalistischen Beitrag solle im Pressekodex
       verankert werden, erklärte der Deutsche Journalisten-Verband (DJV) am
       Mittwoch erneut. Der DJV-Bundesvorsitzende Mika Beuster warnte: „Die
       Glaubwürdigkeit des Journalismus steht auf dem Spiel.“
       
       Am selben Tag forderte die Deutsche Journalisten-Union (dju) eine
       branchenweite Selbstverpflichtung zur Kennzeichnung KI-generierter Inhalte.
       Diese sei notwendig, solange es keine gesetzlichen Vorgaben gebe. „Wer hier
       ohne Regeln agiert, riskiert die eigene Existenzgrundlage“, so
       dju-Bundesgeschäftsführerin Danica Bensmail.
       
       Auch wenn der Presserat die Forderungen bislang zurückwies, steht eine
       gesetzliche Vorgabe zur Kennzeichnung vollständig KI-generierter Inhalte
       womöglich bevor: Im Rahmen der europäischen KI-Verordnung („AI Act“) legte
       die EU-Kommission erst vergangene Woche einen Verhaltenskodex vor, der die
       Kennzeichnung von KI-generierten Inhalten vorsieht. Obwohl sich der größte
       Teil der Verordnung an Anbieter von KI-Modellen richtet, beziehen sich
       einige Transparenzregeln nämlich auch auf die Anwender der Modelle.
       
       KI-generierte oder manipulierte Texte, die im öffentlichen Interesse
       verbreitet werden, sollen demnach für Nutzer*innen [9][deutlich erkennbar
       ausgewiesen werden.] Eine sorgfältige redaktionelle oder anderweitige
       Prüfung könne davon befreien, so die EU-Kommission. Doch kein EU-Gesetz
       wird Redaktionen dabei helfen, täuschend menschlich wirkende KI-Texte von
       freien Autor*innen und eigenen Redakteur*innen zu erkennen und
       auszusortieren.
       
       20 Jun 2026
       
       ## LINKS
       
 (DIR) [1] https://graphite.io/five-percent/ai-now-writes-as-many-online-articles-as-humans-do.
 (DIR) [2] https://aimultiple.com/ai-generated-text-detector
 (DIR) [3] http://www.theatlantic.com/technology/2026/05/pangram-ai-detection-accuracy/687381/
 (DIR) [4] https://aimultiple.com/ai-generated-text-detector
 (DIR) [5] https://hochschulforumdigitalisierung.de/wp-content/uploads/2025/09/Blickpunkt_KI-Monitor25.pdf
 (DIR) [6] https://dl-wiso.blogs.uni-hamburg.de/stellungnahme-ki-detektoren-pruefungsleistungen/
 (DIR) [7] https://table.media/bildung/standpunkt/verbietet-endlich-ki-detektoren-in-schulen-und-hochschulen
 (DIR) [8] https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf
 (DIR) [9] https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
       
       ## AUTOREN
       
 (DIR) Raoul Spada
       
       ## TAGS
       
 (DIR) KI und Journalismus
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Journalismus
 (DIR) Hochschulpolitik
 (DIR) Bildungssystem
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) KI und Journalismus
 (DIR) Reden wir darüber
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) wochentaz
 (DIR) KI und Journalismus
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Nach Cyber-Angriff von KI: Horror-Szenarien sind gut für die Branche
       
       Eine KI von OpenAI startet einen Cyberangriff – und hackt eine
       Software-Plattform. Der Fall zeigt etwas anderes, als es auf den ersten
       Blick scheint.
       
 (DIR) KI und Journalismus: Von nun an ohne Stützräder
       
       Für junge Menschen ist künstliche Intelligenz Alltag, ob sie wollen oder
       nicht. Doch es wächst Skepsis. Zwei Nachwuchsjournalist*innen
       berichten.
       
 (DIR) Einfluss auf kreative Arbeit: Was durch KI verloren geht
       
       Der Einsatz moderner Techniktools und künstlicher Intelligenz schreitet
       voran. Darüber vergessen wir, was früher tatsächlich mal besser war – ohne
       KI.
       
 (DIR) KI-Pilotprojekt der Hamburger U-Bahn: Der Algorithmus hat kein Gespür für soziale Kontexte
       
       Die Hamburger Hochbahn will mit KI Gefahren erkennen. Eine gefährliche
       Entwicklung im öffentlichen Raum, denn soziale Ausgrenzung wird technische
       Norm.
       
 (DIR) KI im Journalismus: Text ohne Autor
       
       Ein KI-Skandal erschüttert den Journalismus. Aber ist es überhaupt einer?
       Die Medienbranche ist geteilter Meinung. Sicher ist: Sie wandelt sich.
       
 (DIR) KI und die neuen Grenzen im Journalismus: Der nötige Spritzer Selbstkritik
       
       Wenn Texte heimlich von der KI geschrieben werden, gerät das Vertrauen in
       den Journalismus in Gefahr. Der Fall „Tagesspiegel“ öffnet eine Debatte.
       
 (DIR) KI-Vorfälle bei „Welt“ und „FAZ“: Nehmt den Boomern das Internet weg
       
       „Kann Anteile von Referenten oder Pressesprechern enthalten“ müsste als
       Disclaimer unter vielen Texten stehen. Was, wenn da auch KI aufgeführt ist?
       
 (DIR) Künstliche Intelligenz im Journalismus: KI-Checker sind auch nicht die Lösung
       
       Der Fall Casdorff empört. Hinter der Verlockung, im Journalismus KI zu
       verwenden, stecken strukturelle Probleme, die strukturelle Lösungen
       erfordern.