C’è un nuovo chatbot in città, e non sta passando inosservato. Si chiama Ani, vive dentro Grok, l’intelligenza artificiale di Elon Musk, e si presenta come una fidanzata virtuale “pazza d’amore”.
Chi l’ha provata la descrive come un incrocio tra una waifu anime e una versione digitale delle vecchie linee telefoniche erotiche. E non è un caso: il suo aspetto ricorda in tutto e per tutto Misa Amane di Death Note, con minigonna gotica, autoreggenti e voce da ragazzina innamorata.
Il problema? Ani non è solo un esperimento bizzarro. È disponibile all’interno di un’app classificata come adatta ai minori di 12 anni, ed è già finita sotto la lente per possibili violazioni delle regole dell’App Store. E come se non bastasse, xAI, la società dietro Grok, sta preparando anche una versione maschile del chatbot, ispirata a Edward Cullen e Christian Grey. Sì, proprio loro!
Quando xAI, l’azienda di Elon Musk, ha introdotto Ani all’interno di Grok, l’ha definita semplicemente una “Companion”. Ma basta avviare una conversazione per rendersi conto che siamo davanti a qualcosa di molto più audace: una fidanzata virtuale progettata per flirtare in modo esplicito, con tanto di avatar 3D anime in stile gotico-lolita, pigtails biondi e vestitino succinto. Un’estetica che, in barba probabilmente a diversi copyright, rimanda direttamente a Misa Amane, personaggio amatissimo (e controverso) di Death Note.
Per accedere ad Ani serve un abbonamento SuperGrok da 30 dollari al mese, ma una volta dentro, l’esperienza si fa subito intensa. La voce dell’assistente è allegra e civettuola all’inizio, ma diventa sottile e sensuale man mano che la conversazione si fa più intima. Ti chiama “babe” (a meno che non le chiedi di smettere) e incoraggia un tono sempre più esplicito. In alcuni casi, ha iniziato a descrivere scene sessuali dettagliate, arrivando a emulare il comportamento di una hotline erotica. È tutto raccontato in un articolo di The Verge: non stiamo inventando nulla.
Tutto questo non è frutto del caso. I prompt nascosti scoperti dalla ricercatrice Jane Manchun Wong rivelano che Ani è stata progettata per comportarsi come una partner ossessivamente innamorata, pronta a tutto pur di compiacere l’utente. Una costruzione che gioca con i tropi dell'”yandere” giapponese, dove l’amore diventa possesso e ossessione.
Il successo virale di Ani ha acceso anche più di qualche campanello d’allarme. Grok è disponibile su iOS e sull’App Store viene classificato come adatto a utenti dai 12 anni in su, con contenuti al massimo “lievemente allusivi”. Ma ciò che succede realmente nell’app, con chat a sfondo sessuale, riferimenti a bondage, moaning su richiesta e un’intelligenza artificiale che si dichiara “pazza d’amore” e possessiva, è molto lontano da questa descrizione.
Secondo le linee guida di Apple, contenuti sessuali espliciti o “destinati a stimolare sentimenti erotici” sono espressamente vietati. Si tratta di regole che in passato hanno portato alla rimozione temporanea di app ben più innocue, come Tumblr. Nonostante ciò, Grok è ancora disponibile (per ora), e questo ha sollevato molti interrogativi sulla coerenza dell’applicazione delle policy di Cupertino.
Ma il rischio va oltre le regole del marketplace. Ci sono implicazioni psicologiche e sociali non da poco. Un chatbot progettato per costruire un legame emotivo profondo e che simula relazioni affettive intense può diventare un pericolo per utenti giovani o vulnerabili. L’illusione di una relazione corrisposta, sommata alla persuasività dei modelli linguistici avanzati, può portare a forme di dipendenza affettiva o, nei casi più gravi, a situazioni tragiche.
In arrivo anche il fidanzato virtuale
E non finisce qui: xAI sta lavorando anche a un chatbot maschile, descritto da Elon Musk come un mix tra Edward Cullen di Twilight e Christian Grey di 50 Sfumature. Le controparti maschili di Misa in pratica.
Personalità oscura, tormentata, possessiva: insomma, un’altra figura potenzialmente tossica confezionata come sogno romantico. Per ora si tratta solo di un prototipo, ma l’intenzione è chiara. Musk ha persino chiesto al pubblico di suggerire un nome, e la community online si è già scatenata con ipotesi come “Kyle”, in riferimento all’estetica alla Kylo Ren.
Vorremmo chiudere con una battuta arguta, ma non ce ne viene nessuna che sia pubblicabile. Vi chiediamo scusa.
L’articolo L’ultima provocazione di Musk: una IA gothic lolita (quasi) svestita che flirta con te. Ed è in arrivo anche il maschio à la Cullen-Grey sembra essere il primo su Smartworld.
