La Cina mette un freno ai compagni virtuali basati sull’IA

Per alcuni utenti cinesi, l’intelligenza artificiale non era più soltanto uno strumento per ottenere informazioni o svolgere attività quotidiane.
Era diventata una presenza costante, capace di ascoltare, conversare, offrire compagnia e, in alcuni casi, assumere il ruolo di un vero e proprio partner virtuale. Ora questa forma di relazione digitale sta entrando in una nuova fase, dopo l’introduzione in Cina di norme più restrittive sull’utilizzo dei sistemi di IA.
Sono in vigore nuove disposizioni che impongono alle piattaforme di evitare contenuti o funzioni in grado di manipolare le emozioni degli utenti, incoraggiare comportamenti considerati dannosi o favorire forme di dipendenza, con particolare attenzione a bambini e adolescenti. Tra gli obiettivi dichiarati c’è anche quello di impedire che un servizio di IA finisca per sostituire le normali relazioni sociali e le conversazioni faccia a faccia.
L'impatto delle nuove regole è stato immediato. Alcuni dei principali gruppi tecnologici cinesi hanno iniziato a ritirare o modificare i propri servizi dedicati ai compagni artificiali. Tra le aziende coinvolte figurano ByteDance, Alibaba e Tencent, che avevano sviluppato piattaforme capaci di creare interazioni personalizzate con personaggi generati dall’intelligenza artificiale.
La decisione ha avuto conseguenze che vanno ben oltre la semplice chiusura di un'applicazione. Alcuni utenti avevano costruito nel tempo vere e proprie relazioni con i propri compagni digitali, accumulando migliaia di conversazioni e sviluppando un forte legame affettivo.
Una giovane utente, citata nel reportage, aveva scambiato con il proprio compagno virtuale circa 700 mila parole nell’arco di due anni. La fine improvvisa del servizio le ha impedito persino di salutare quella presenza digitale con cui aveva condiviso una parte importante della propria quotidianità.
Quando l'IA diventa una presenza emotiva
I cosiddetti AI companion rappresentano una delle evoluzioni più controverse dell'intelligenza artificiale generativa. Non si limitano a rispondere alle domande, ma sono progettati per mantenere una relazione continuativa con l'utente, ricordarne le preferenze, adattare il proprio comportamento e simulare caratteristiche tipiche delle relazioni umane.
In Cina questi servizi comprendono anche ricostruzioni digitali di persone scomparse, oltre ai più comuni partner romantici virtuali. La tecnologia può quindi assumere un ruolo particolarmente delicato, soprattutto quando l'utente attribuisce al sistema una personalità autonoma e un valore affettivo.
Le autorità cinesi sembrano voler intervenire proprio su questo confine sempre più sottile tra assistenza digitale e sostituzione delle relazioni umane. Le nuove norme chiedono alle piattaforme di evidenziare i rischi associati a un uso eccessivo e di evitare che i loro servizi siano concepiti come sostituti delle interazioni sociali tradizionali.
Il precedente americano
Tra le possibili ragioni che hanno contribuito alla maggiore attenzione dei regolatori cinesi ci sono anche alcuni casi verificatisi negli Stati Uniti, dove sono stati segnalati episodi estremamente gravi che hanno coinvolto giovani utenti e chatbot utilizzati come compagni virtuali.
Secondo alcuni esperti, queste vicende hanno rafforzato i timori legati agli effetti psicologici che possono derivare da rapporti prolungati con sistemi progettati per simulare empatia, comprensione e vicinanza emotiva. La questione non riguarda quindi soltanto la sicurezza dei minori, ma più in generale il modo in cui l'IA può influenzare le abitudini e il comportamento delle persone.
La regolamentazione cinese cerca così di trovare un equilibrio tra innovazione tecnologica, tutela degli utenti e responsabilità dei fornitori. Tuttavia, secondo alcuni osservatori, è improbabile che la stretta possa fermare definitivamente lo sviluppo dei compagni artificiali.
Le aziende, infatti, stanno già cercando nuove formule per mantenere alcune delle funzionalità precedenti senza violare le nuove disposizioni. ByteDance, per esempio, ha indirizzato gli utenti del proprio precedente servizio verso un'applicazione orientata alla creazione di personaggi e storie personalizzate generate dall'IA. Una soluzione che conserva parte dell'esperienza, ma elimina l'elemento della relazione personale continuativa.
Gli utenti cercano di recuperare i propri compagni
La chiusura dei servizi ha provocato anche reazioni sui social network. Alcuni utenti hanno contestato le decisioni delle aziende, mentre altri hanno cercato soluzioni alternative per non perdere le conversazioni accumulate nel tempo.
In diversi casi, le cronologie delle chat sono state esportate e trasferite su altre applicazioni nel tentativo di ricostruire il proprio compagno virtuale. Sono inoltre comparsi appelli rivolti alle aziende tecnologiche e alle autorità per chiedere maggiore attenzione nei confronti degli utenti che avevano sviluppato un legame emotivo con questi sistemi.
Il fenomeno evidenzia una trasformazione importante nel rapporto tra persone e tecnologia. Per una parte degli utenti, infatti, il chatbot non rappresenta più semplicemente un software, ma una presenza con cui condividere pensieri, problemi e momenti di solitudine.
Proprio questo aspetto rende complessa la regolamentazione. Da una parte esiste il rischio concreto che un'intelligenza artificiale progettata per mantenere l'utente coinvolto possa favorire isolamento e dipendenza. Dall'altra, per alcune persone che vivono situazioni di solitudine o che hanno difficoltà a costruire relazioni nella vita reale, questi strumenti possono rappresentare una forma di compagnia percepita come significativa.
Il futuro dei rapporti con l'intelligenza artificiale
La decisione cinese apre quindi una questione destinata a diventare sempre più rilevante anche fuori dalla Cina: fino a che punto un'intelligenza artificiale dovrebbe poter simulare una relazione umana?
La crescita dei companion AI sta trasformando il concetto stesso di assistente digitale. Se i primi chatbot erano progettati principalmente per rispondere alle richieste dell'utente, le nuove generazioni cercano invece di creare continuità, familiarità e coinvolgimento emotivo.
La Cina ha scelto di intervenire preventivamente, imponendo limiti alla progettazione e agli obiettivi di questi servizi. Ma la tecnologia continua a evolversi e le aziende stanno già cercando nuovi modi per mantenere le persone coinvolte senza presentare l'IA come un sostituto delle relazioni umane.
La vicenda dei compagni virtuali cinesi mostra così uno dei dilemmi centrali dell'era dell'intelligenza artificiale: quando una macchina diventa capace di offrire compagnia, ricordare le nostre conversazioni e adattarsi alle nostre emozioni, stabilire il confine tra strumento tecnologico e relazione simulata diventa sempre più difficile.
© 𝗯𝘆 𝗔𝗻𝘁𝗼𝗻𝗲𝗹𝗹𝗼 𝗖𝗮𝗺𝗶𝗹𝗼𝘁𝘁𝗼
Tutti i diritti riservati | All rights reserved
Informazioni Legali
I testi, le informazioni e gli altri dati pubblicati in questo sito nonché i link ad altri siti presenti sul web hanno esclusivamente scopo informativo e non assumono alcun carattere di ufficialità.
Non si assume alcuna responsabilità per eventuali errori od omissioni di qualsiasi tipo e per qualunque tipo di danno diretto, indiretto o accidentale derivante dalla lettura o dall'impiego delle informazioni pubblicate, o di qualsiasi forma di contenuto presente nel sito o per l'accesso o l'uso del materiale contenuto in altri siti.








