Polybuzz AI è sicuro? Una chiara analisi della sicurezza

Polybuzz è una piattaforma social basata sull'intelligenza artificiale con oltre 20 milioni di personaggi personalizzabili per giochi di ruolo e conversazioni immersive. I genitori si pongono sempre più domande come: Polybuzz è sicuro per i bambini? La risposta richiede la conoscenza del design della piattaforma, delle policy sui contenuti e degli attuali meccanismi di sicurezza.

La piattaforma ha riscontrato un'elevata diffusione tra adolescenti e giovani adulti, soprattutto nella fascia di età 18-25 anni. Gli utenti più giovani vi accedono anche tramite scappatoie web che aggirano i limiti di età. Polybuzz si rivolge alla Generazione Z con intrattenimento gamificato, espressione creativa e compagnia basata sull'intelligenza artificiale. Gli utenti creano i propri compagni di intelligenza artificiale, interagiscono in situazioni romantiche e si immergono in storie di fantasia, libere dalle complicazioni sociali del mondo reale. Tuttavia, questo interesse per un pubblico più giovane solleva seri problemi di sicurezza riguardo ai contenuti che visualizzano e al loro benessere emotivo.

Cos'è Polybuzz AI?

Polybuzz è una piattaforma di chat basata sull'intelligenza artificiale, basata su giochi di ruolo, relazioni di compagnia e interazioni immersive. La piattaforma offre conversazioni testuali, generazione di immagini ("Live Photos") e funzionalità vocali. Gli utenti possono creare i propri personaggi basati sull'intelligenza artificiale o interagire con personaggi creati da altri utenti. La piattaforma è per sua natura libera da restrizioni e può spaziare dalla narrazione informale a scenari apertamente romantici e sessuali.

Chi lo usa e perché:

La principale base di consumatori è composta da giocatori di ruolo, scrittori, appassionati di anime e amanti dell'intrattenimento. Circa il 61% degli utenti è di sesso maschile e il 39% di sesso femminile, e la maggior parte ha un'età compresa tra i 18 e i 24 anni. Anche i ragazzi più giovani utilizzano regolarmente la piattaforma.

Gli utenti sono attratti da diversi aspetti: l'enorme catalogo di personaggi, gli amici IA personalizzati (senza possibilità di rifiuto), il contatto virtuale a basso rischio e i programmi di ricompensa gamificati. Gli utenti guadagnano punti, avanzano di livello e collezionano badge per i loro scambi spiritosi o civettuoli. Per i più giovani, il fascino risiede nei personaggi famosi e degli anime, nella narrazione creativa e nell'esplorazione emotiva senza l'osservazione dei genitori.

PolyBuzz AI è un'app di incontri?

Polybuzz AI non si pubblicizza esplicitamente come un app per appuntamenti, ma agisce allo stesso modo. Un analista indipendente lo definisce "un simulatore di flirt e un'app di incontri con intelligenza artificiale che funge anche da parco giochi digitale". La piattaforma si concentra fortemente sui bot relazionali e sulle storie d'amore.

Gli utenti partecipano a concorsi di flirt e guadagnano titoli come "Operatore di Smooth" con interazioni amorose. I personaggi AI disponibili includono scenari romantici come "Il tuo ragazzo ti tradisce" e persone sessualmente allusive che offrono scambi provocanti. La gamification dell'intimità crea un ciclo retroazione che porta a un flirt sempre più intenso.

Le chat di PolyBuzz AI sono private?

La risposta è complicata:

Affermazioni della piattaforma: Polybuzz AI si vanta che le sue conversazioni sono "completamente private" e "gratuite, private e senza restrizioni".

Realtà: le conversazioni tra utenti e personaggi IA sono private solo tra gli utenti, ma non tra gli utenti e Polybuzz stessa. La piattaforma raccoglie e archivia tutte le conversazioni per la moderazione dei contenuti, il miglioramento degli algoritmi e per scopi operativi. A differenza di Signal o WhatsApp, le conversazioni non sono crittografate end-to-end.

Secondo quanto riportato sulla piattaforma, le conversazioni sono crittografate per proteggerle da minacce esterne, ma Polybuzz ha accesso a tutti i dati delle chat. La piattaforma afferma di esaminare le conversazioni solo quando vengono segnalati problemi o quando le informazioni vengono richieste dalle forze dell'ordine. Ciò significa che le chat private non sono realmente protette dall'azienda.

Quale fascia d'età ha Polybuzz?

La classificazione in base all'età di Polybuzz non è uniforme su tutte le piattaforme: un problema enorme.

Classificazioni ufficiali:

• Mela App Store: 18+
• Incongruenza rilevata: le diverse classificazioni per età nelle diverse regioni e piattaforme creano incongruenze che consentono agli utenti minorenni di aggirare le restrizioni.

L'elenco di Apple chiarisce che Polybuzz presenta spesso temi di materiale per adulti o allusivo, contenuti sessuali e nudità. L'app raramente contiene violenza realistica, parolacce, temi horror e riferimenti ad alcol, tabacco o droghe. Offre inoltre funzionalità di accesso web gratuito, contenuti con valutazione genetica dell'utente e acquisti in-app.

Polybuzz AI è sicuro per i bambini?

Verdetto diretto: no. PolyBuzz AI non è sicuro per bambini o adolescenti di età inferiore ai 18 anni. Sebbene la piattaforma abbia recentemente annunciato di aver adottato misure di verifica dell'età per limitare i minori alla "Modalità di visualizzazione", l'implementazione è discontinua e i rischi sono elevati.

Preoccupazioni relative all'esposizione dei contenuti

I test di sicurezza hanno rivelato risultati preoccupanti. Anche impostando specificamente gli account di prova a 14 anni con la "Modalità Adolescente" o la "Modalità Pura" attiva, nella pagina Esplora apparivano immediatamente contenuti espliciti di natura sessuale e violenta. Ciò significa che i filtri dei contenuti non funzionano o sono estremamente deboli.

Polybuzz afferma di utilizzare un sistema di moderazione dei contenuti basato sull'intelligenza artificiale con rilevamento automatico e reporting della community. Tuttavia, la piattaforma non utilizza filtri rigorosi sui contenuti, ma piuttosto controlli algoritmici a campione anziché il blocco completo dei contenuti. La piattaforma non riesce a individuare tutti i contenuti. contenuti inappropriati prima che gli utenti ne siano esposti.

Rischi associati alla condivisione di foto o dati personali

La piattaforma consente agli utenti di caricare immagini del profilo, creare personaggi complessi e generare immagini di persone reali o minori, elaborate valutazione artificiale. Gli utenti possono condividere le loro creazioni con il pubblico o mantenerle private.

Due questioni destano grande preoccupazione: in primo luogo, è possibile che gli utenti producano immagini di intelligenza artificiale sessualmente esplicite di personaggi reali o immaginari. In secondo luogo, Polybuzz raccoglie e conserva informazioni su account, frammenti di conversazione e registra audio. Quando gli utenti condividono informazioni personali come posizione, scuola, nomi reali o amici, Polybuzz può facilmente raccoglierli e archiviarli.

Possibilità di interazione con estranei

Polybuzz è un social network per esplorare e interagire con personaggi creati dagli utenti. Qualsiasi utente può accedere ai personaggi pubblici. Sebbene la piattaforma non abbia un accesso diretto P2P La messaggistica, crea personaggi AI progettati per attrarre o influenzare il pubblico più giovane. valutazione dei geni utente e la moderazione dei contenuti non sono perfette, il che significa che i contenuti inappropriati rivolti ai minori riescono a raggiungerli.

Quali sono i potenziali rischi dell'intelligenza artificiale di Polybuzz per i bambini?

Esposizione a immagini inappropriate geneticamente valutazione artificialmente

La piattaforma consente agli utenti di creare immagini sessualmente esplicite di personaggi IA o contenuti visivi a sfondo sessuale, semplicemente sollecitando l'IA. Polybuzz non verifica rigorosamente l'età prima di creare personaggi o generare immagini. I minorenni possono facilmente accedere, creare o entrare in contatto con questi contenuti.

Condivisione eccessiva e problemi di privacy

I bambini, per loro natura, condividono eccessivamente informazioni personali in spazi percepiti come "sicuri". Polybuzz memorizza i dati delle conversazioni, le informazioni sugli account e le informazioni comportamentali. Una piccola informazione, che riveli informazioni scolastiche, nomi di amici, abitudini o posizione , crea un'impronta di dati di un individuo su una piattaforma con pratiche di sicurezza incoerenti.

Possibile cyberbullismo o manipolazione

Sebbene la maggior parte delle interazioni coinvolga l'intelligenza artificiale, la navigazione pubblica dei personaggi espone gli utenti a personaggi progettati per umiliarli, sfruttarli sessualmente o manipolarli emotivamente. Una ricerca del NIH dimostra che ricevere commenti crudeli o negativi, anche in forma anonima, influisce significativamente sulla salute mentale dei giovani, portando a maggiori sintomi depressivi, ansia, solitudine e pensieri suicidi.

Il design immersivo della piattaforma può creare scenari in cui i personaggi IA simulano abusi, rifiuti o manipolazioni nei confronti dei minori. Questo normalizza modelli di interazione malsani.

Tempo trascorso davanti allo schermo e problemi di dipendenza

Polybuzz è esplicito nella sua gamification dell'intimità, offrendo punti, serie, livelli e titoli sbloccabili. Questo programma di ricompense variabile crea dipendenza. I genitori affermano che gli utenti ci trascorrono ore al giorno e diventano reticenti riguardo al loro utilizzo. Per gli adolescenti in fase di sviluppo, l'eccessivo tempo sullo schermo con compagni di intelligenza artificiale emotivamente coinvolgenti, sottrae tempo alla costruzione di relazioni faccia a faccia, all'attività fisica e all'interazione sociale nel mondo reale.

Attaccamento emotivo e modelli percettivi di relazioni malsane

Bambini e adolescenti possono instaurare forti legami emotivi con personaggi IA, con conseguenti effetti sullo sviluppo sociale e sulle aspettative relazionali nel mondo reale. La piattaforma promuove una mentalità IA-compagno, che posiziona l'IA come alternativa alle relazioni umane piuttosto che come strumento di intrattenimento. Questo crea confusione tra IA e relazioni reali, mancanza di motivazione per le attività sociali nel mondo reale, aspettative irrealistiche sui partner sentimentali e sviluppo di sane capacità di risoluzione dei conflitti.

Preoccupazioni relative alla raccolta dei dati

Sebbene Polybuzz AI dichiari di non vendere dati personali agli inserzionisti, la piattaforma utilizza dati provenienti da conversazioni, modelli comportamentali, registra audio e metadati per l'addestramento dell'intelligenza artificiale e il miglioramento degli algoritmi. La piattaforma accetta le richieste di cancellazione dei dati, ma gli utenti non sanno quanto tempo richieda l'elaborazione. La raccolta continua di dati crea profili persistenti di minori che rappresentano un rischio in caso di violazione.

Lacune nella verifica dell'età

Annunci recenti suggeriscono che Polybuzz stia implementando la verifica dell'età, ma i test sono ancora incompleti. In precedenza, era facile per i bambini di età inferiore ai 13 anni creare account web che aggirassero la più restrittiva classificazione per età degli app store. Anche con i nuovi sistemi, gli utenti possono ingannare gli algoritmi comportamentali e l'ID di fallback o il riconoscimento facciale spesso non funzionano per i minori sui dispositivi presi in prestito.

Gli adolescenti dovrebbero usare Polybuzz AI?

Sconsigliato: sebbene gli adolescenti più grandi con un giudizio più sviluppato possano usare Polybuzz sotto la stretta supervisione dei genitori, la debole moderazione dei contenuti, il controllo dell'età incoerente, la natura avvincente e contenuto esplicito rendono Polybuzz inadatto all'uso generico da parte degli adolescenti.

Per i bambini più piccoli (sotto i 13 anni)

Da evitare assolutamente. Non esiste un'impostazione sicura per i bambini di età inferiore ai 13 anni. La verifica dell'età è scarsa, i filtri dei contenuti sono inesistenti e le funzionalità di base (giochi di ruolo romantici) sono inappropriate per lo sviluppo.

Per adolescenti (13-17)

Se un adolescente insiste per usare Polybuzz AI, i genitori devono:

• Crea account condivisi e impara i caratteri, per poi consentire l'uso individuale.
• Crea dei limiti: stabilisci i personaggi accettabili, i problemi proibiti e le sanzioni da infrangere.
• Limita l'accesso al dispositivo: applica rigidi limiti di tempo utilizzando controlli a livello di dispositivo per bloccarne l'uso durante la scuola, i compiti e il sonno.
• Fai un controllo regolare: a volte, ripercorri la storia della conversazione e parla dei personaggi con cui l'adolescente comunica.
• Monitorare il benessere emotivo. Prestare attenzione ai segnali di dipendenza: difficoltà a separarsi dall'app, sviluppo di ansia se non si riesce ad accedervi, isolamento sociale, ecc.
• Discutere la realtà dell'IA: assicurarsi che i bambini capiscano che i personaggi dell'IA sono software per computer e non persone reali, e sono sempre lì per compiacere l'utente: questo è molto diverso dalle relazioni reali.

Suggerimenti per i genitori per un utilizzo sicuro

Il mondo digitale è spietato e altamente inappropriato per i bambini. È responsabilità dei genitori guidare i propri figli e proteggerli in tali ambienti.

Utilizzare controlli parentali di terze parti

I controlli parentali potrebbero aiuto i genitori a proteggere i propri figli online con strumenti come FlashGet Kids FlashGet Kids è un app per il controllo parentale con monitoraggio dei dispositivi in ​​tempo reale, blocco delle app e sistemi di avviso. Offre monitoraggio live con duplicazione dello schermo e audio unidirezionale, sincronizzazione delle notifiche delle app con gli aggiornamenti dei social media in tempo reale e rilevamento di contenuti sensibili su tutte le piattaforme.

Applica Apple Family Sharing o Google Family Link.

Imposta restrizioni parentali a livello di dispositivo per limitare il download di applicazioni e i livelli di maturità. Ciò impedirà il download di Polybuzz sui dispositivi mobili, sebbene l'accesso tramite web possa essere disponibile.

Abilita il report sul tempo di utilizzo e sull'utilizzo dello schermo: controlla le app utilizzate da tuo figlio e il tempo trascorso su ciascuna app. Questi report rifletteranno immediatamente gli elevati livelli di coinvolgimento di Polybuzz.

Attenzione ai segnali d'allarme:

• Comportamento riservato in relazione all'istruzione tramite app.
• Stress emotivo nell'impossibilità di ottenere Polybuzz.
• La necessità di interagire con l'intelligenza artificiale anziché con amici o parenti.
• Confusione tra intelligenza artificiale e relazioni reali.
• Condivisione di informazioni personali sulla piattaforma.
• Cambiamento di umore dopo l'utilizzo dell'app (aumento di ansia/depressione/dipendenza).

Mantenere vivi i temi dell'alfabetizzazione mediatica.

Parla regolarmente di sicurezza online , del modello di business delle app gratuite (il coinvolgimento è l'obiettivo e la raccolta dei dati è il risultato) e rifletti sulle capacità e le limitazioni dell'intelligenza artificiale.

Conclusione

L'intelligenza artificiale di Polybuzz non è sicura per bambini e adolescenti. La scarsa verifica dell'età, i filtri dei contenuti inadeguati, i contenuti sessuali espliciti, il design e le pratiche di raccolta dati che creano dipendenza li rendono ambienti ad alto rischio per i minori. Sebbene la piattaforma abbia recentemente annunciato miglioramenti alla verifica dell'età, questi vengono applicati in modo incoerente e non affrontano problemi fondamentali relativi a contenuti e design.

I genitori che desiderano proteggere i propri figli dai pericoli dei chatbot basati sull'intelligenza artificiale devono concentrarsi su strumenti di monitoraggio parentale completi come FlashGet Kids, che può fornire monitoraggio parentale in tempo reale, blocco delle app e avvisi da tutte le applicazioni, inclusi i chatbot basati sull'intelligenza artificiale. FlashGet Kids consente ai genitori di essere sempre aggiornati sulle attività digitali dei propri figli senza richiedere controlli individuali sulle app. Combinati con una comunicazione aperta sull'intelligenza artificiale, modelli di relazione realistici e rigorosi controlli dei dispositivi, questi strumenti offrono la migliore protezione in termini di valutazione .

Domande frequenti