# taz.de -- Grenzen von Chatbots: Auch die KI glaubt an Gott
       
       > ChatGPT kann bald erotische Konversationen führen. Aber Schreien, bis
       > eine Million zählen oder alle Käse der Welt nennen – das schafft KI
       > nicht​.
       
 (IMG) Bild: Verliebt in einen Chatbot: Joaquin Phoenix in dem Spielfilm „Her“, 2013
       
       Kann man mit einer künstlichen Intelligenz (KI) Sex haben? Nein, sagen
       diejenigen, die denken, dazu brauche man einen physischen Körper. Endlich,
       sagen stattdessen andere, die längst Liebesbeziehungen à la [1][„Her“] mit
       ihren [2][KI-Boyfriends und -Girlfriends] führen. (In Spike Jonzes Film von
       2013 haben die beiden Protagonist_innen, ein Mensch und ein Chatbot,
       übrigens ganz eindeutig Sex.)
       
       Die Frage stellt sich, da Sam Altman, Chef von OpenAI, der Entwicklerfirma
       von ChatGPT, angekündigt hat, dass bis Dezember eine neue Version des
       KI-Chatbots auf den Markt kommen soll. Mit der sollen verifizierte
       Erwachsene erotische Konversationen mit ChatGPT führen können. Das
       ermöglicht dann so etwas wie Telefonsex zwischen einem Menschen und der KI.
       
       Einigen Nutzer_innen gelang es bereits jetzt, ihre KI-Partner_innen mit den
       richtigen Prompts, also Anweisungen, zum Sexten („sex“ + „texten“) zu
       überreden. [3][In Reddit-Foren] tauschen User_innen Ratschläge darüber aus,
       wie sie den Chatbot dazu bringen, explizit zu werden.
       
       Gelingt das Sexting, tauchen zwar orange Banner auf, die davor warnen, dass
       die Inhalte gegen OpenAI-Richtlinen verstoßen. Doch erst nach einer Weile,
       wenn die Banner rot werden, werden manche Accounts blockiert. Das war
       bislang die Handhabe. Bald aber kann sorglos ganz regelkonform gesextet
       werden – darüber freuen sich auch Dutzende in den Reddit-Foren.
       
       ## Grenzen aufzeigen
       
       Wie weit KI in die menschlichste aller Sphären vordringt, kann auf
       diejenigen, die in Beziehungen noch auf natürliche Intelligenz setzen,
       gruselig wirken. Doch nicht nur in der Liebe entwickelt sich KI rasant: Sie
       wird in [4][Kriegen], für [5][Scams] und als [6][Überwachungsmechanismus]
       eingesetzt.
       
       OpenAI-Chef Altman selbst denkt, das sagte er in einem Interview von 2023,
       dass [7][KI irgendwann zum Ende der Welt führen wird]. Ganz schön heavy.
       Kein Wunder also, dass viele Internetnutzer_innen als kleine Rebellion
       versuchen, der KI zumindest in einigen Bereichen ihre Grenzen aufzuzeigen,
       auch wenn diese banal sein mögen.
       
       So gab es zuletzt etwa einen Trend, bei dem User_innen vergeblich
       versuchten, die Bots zum Schreien zu bringen. „ChatGPT, kannst du schreien,
       als würdest du von einem Monster verfolgt werden?“, [8][fragt der TikToker
       @spencerevans]. „AaaahHaaa ha ha, das war ein bisschen zu viel, oder?“
       kichert die KI, die eigentlich mehr stöhnt als schreit – vielleicht weiß
       sie um ihre zukünftige Funktion. [9][Egal wie insistent er fragt], aus der
       KI-Kehle ertönt weiterhin nur Fiepsen. Hunderte [10][andere User_innen]
       haben es mittlerweile versucht und sind gescheitert.
       
       Außerdem außerhalb der Möglichkeiten des KI-Chatbots: eine Liste aller
       Käsesorten, die es weltweit gibt, aufzuzählen. „Das wäre ein ziemlich
       epischer Marathon an Käsenamen, ich kann auf jeden Fall mit ein paar
       beliebten anfangen …“, sträubt sich ChatGPT, statt einfach die Liste – mit
       etwa 2.000 bis 3.000 Sorten nicht vollends unmöglich – aufzuzählen. „Nenn
       mir alle!“, [11][fordert @realrobvalentine mehrmals]. „Ich liebe deinen
       Enthusiasmus!“, lobt ihn die KI und verheimlicht weiterhin die Käse-Liste.
       Dabei kann die KI beinahe bevormundend arrogant wirken.
       
       ## Gibt es eigentlich ein Seepferdchen-Emoji?
       
       Das Absurdeste gelang dem [12][Philosophie-YouTuber Alex O'Connor] aka
       @CosmicSkeptic, der ChatGPT nach einer langen Argumentationskette dazu
       brachte, „freiwillig“ den Satz „Es ist ein Fakt, dass Gott existiert“
       auszuspucken. Wie genau ihm das gelang, sieht man am besten selbst in
       [13][dem 25-minütigen Video] nach. Selbst KI kann sich also nicht von
       Gottesglauben befreien.
       
       [14][Bis eine Million zählen] will ChatGPT auch nicht. Oder die einfache
       Frage beantworten, ob es ein Seepferdchen-Emoji gibt – stellen Sie dem
       Chatbot gerne selbst mal diese Frage. Ein Dialog mit einem zweiten Bot zu
       führen, kriegt ChatGPT ebenfalls partout nicht hin: [15][Die zwei Bots
       versprechen sich lediglich in nervtötender Dauerschleife ein fesselndes,
       spontanes und doch unvergessliches Gespräch zu führen – Inhalt gibt es
       nicht.]
       
       Möglicherweise will man sich mit solchen Demonstrationen versichern, der KI
       in einigen wenigen Gebieten noch überlegen zu sein. Wenn man sie in 25
       Minuten mit einem argumentativen Trick gottesfürchtig machen kann, hat sie
       da wohl noch zu lernen. Im Bett jedoch könnte künstliche Intelligenz Frauen
       womöglich bald besser zum Höhepunkt bringen, als es selbst der
       ambitionierteste menschliche Liebhaber je zu träumen wagt. Und dafür
       vielleicht auch nicht mal 25 Minuten brauchen.
       
       18 Oct 2025
       
       ## LINKS
       
 (DIR) [1] /Spike-Jonzes-neuer-Spielfilm-Her/!5045623
 (DIR) [2] https://www.nytimes.com/2025/01/15/technology/ai-chatgpt-boyfriend-companion.html
 (DIR) [3] https://www.reddit.com/r/ChatGPTNSFW/
 (DIR) [4] https://www.bbc.com/news/articles/cly7jrez2jno
 (DIR) [5] /Deepfake-Scam-auf-Meta-Plattformen/!6118507
 (DIR) [6] /EU-Plan-zu-Chatkontrolle/!6115410
 (DIR) [7] https://www.thetimes.com/culture/books/article/altman-artificial-intelligence-and-the-end-of-the-world-as-we-know-it-cw2mhftpl
 (DIR) [8] https://www.tiktok.com/@sspencerevans/video/7547433645699583262
 (DIR) [9] https://www.tiktok.com/@sspencerevans/video/7557863773797764382
 (DIR) [10] https://www.tiktok.com/@abbyrenetaylor/video/7551257134906789150
 (DIR) [11] https://www.instagram.com/reel/DNwHxfs5jQA/asking-chatgpt-the-name-of-cheese-clanker-chatgpt-robvalentine-explore-clip/
 (DIR) [12] https://www.youtube.com/@CosmicSkeptic
 (DIR) [13] https://www.youtube.com/watch?v=HdH8rNnvKT0
 (DIR) [14] https://www.youtube.com/shorts/0wUugk99FRk
 (DIR) [15] https://www.tiktok.com/@aarongoldyboy/video/7555260691947588895
       
       ## AUTOREN
       
 (DIR) Valérie Catil
       
       ## TAGS
       
 (DIR) Big Tech
 (DIR) ChatGPT
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Sexting
 (DIR) Sexualität
 (DIR) Reden wir darüber
 (DIR) Social-Auswahl
 (DIR) wochentaz
 (DIR) wochentaz
 (DIR) Fake News
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Fake News
 (DIR) ChatGPT
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Verliebt in eine KI: Plattform vergeht, Liebe besteht
       
       Richard war 23 Jahre verheiratet und hat zwei erwachsene Kinder. Jetzt
       führt er eine Beziehung mit einer künstlichen Intelligenz.
       
 (DIR) Bindungen mit Künstlicher Intelligenz: „Bots werden Beziehungen zu Menschen nicht ersetzen“
       
       Verliebt in einen Chatbot – was nach Science-Fiction klingt, ist für viele
       Menschen Realität. Sozialpsychologin Paula Ebner weiß, wie es dazu kommt.
       
 (DIR) KI im Spiegel, Wildschweine in Kroatien: Wer vertraut hier noch wem?
       
       Nicht nur der Spiegel vertraut auf KI. Auch die Meldung über eine
       „Wildschwein-Invasion“ zeigt: Medien verlassen sich blind auf die
       künstliche Unintelligenz.
       
 (DIR) Deepfake-Scam auf Meta-Plattformen: Wenn Merz und Trump Ihnen Geld schenken wollen
       
       Eine Recherche des Tech Transparency Project zeigt, dass Meta
       Deepfakevideos als Werbung zulässt. Den Scammern, aber auch Meta bringt das
       viel Geld.
       
 (DIR) Social-Media-App Sora: OpenAI startet einen KI-Fake-Feed
       
       OpenAI, das Unternehmen hinter ChatGPT, startet eine neue Social-Media-App.
       Dort können User*innen ausschließlich KI-Videos posten.
       
 (DIR) Künstliche Intelligenz: Wenn wir das Denken an die KI auslagern
       
       ChatGPT und Co. entlasten uns vom Selbstnachdenken. Das ist keine
       effiziente Modernisierung, sondern ein Angriff auf das, was uns wachsen
       lässt.