Polybuzz AI güvenli mi: Net bir güvenlik analizi

Polybuzz, sürükleyici rol yapma ve sohbet için 20 milyondan fazla özelleştirilebilir yapay zeka karakterine sahip, yapay zeka destekli bir sosyal platformdur. Ebeveynler giderek daha fazla şu soruyu soruyor: Polybuzz çocuklar için güvenli mi? Bu sorunun cevabı, platformun tasarımı, içerik politikaları ve gerçek güvenlik mekanizmaları hakkında bilgi gerektirir.

Platform, özellikle 18-25 yaş arası gençler ve genç yetişkinler arasında büyük bir ilgi gördü. Daha genç kullanıcılar ayrıca yaş kısıtlamalarına karşı web'deki açıklardan yararlanarak da platforma erişiyor. Polybuzz, oyunlaştırılmış eğlence, yaratıcı ifade ve yapay zeka arkadaşlığı ile Z kuşağına hitap ediyor. Kullanıcılar kendi yapay zeka arkadaşlarını yaratıyor, romantik durumlarda etkileşim kuruyor ve gerçek dünyadaki sosyal karmaşalardan uzak kurgusal hikayelere kendilerini kaptırıyorlar. Ancak, genç kitlelere yönelik bu çekicilik, gördükleri içerik ve duygusal refahları konusunda ciddi güvenlik endişelerini gündeme getiriyor.

Polybuzz AI nedir?

Polybuzz, yapay zekâ merkezli, rol yapma, arkadaşlık ve sürükleyici etkileşim odaklı bir sohbet platformudur. Platform, metin tabanlı konuşmalar, görsel içerik oluşturma ("Canlı Fotoğraflar") ve ses özellikleri sunar. Kullanıcılar kendi yapay zekâ karakterlerini oluşturabilir veya diğer kullanıcılar tarafından oluşturulan karakterlerle etkileşim kurabilirler. Platformun doğası gereği kısıtlamalardan arındırılmış olup, gündelik hikaye anlatımından açık romantik ve cinsel senaryolara kadar geniş bir yelpazeyi kapsayabilir.

Kimler kullanıyor ve neden:

Ana tüketici kitlesi rol yapma oyunları oyuncuları, yazarlar, anime hayranları ve eğlence arayanlardan oluşmaktadır. Kullanıcıların yaklaşık %61'i erkek, %39'u kadındır ve çoğunluğu 18-24 yaş arasındadır. Daha genç gençler de platformu düzenli olarak kullanmaktadır.

Kullanıcıları cezbeden birçok şey var: devasa karakter kütüphanesi, kişiselleştirilmiş yapay zeka arkadaşları (reddedilme yok), düşük riskli sanal iletişim ve oyunlaştırılmış ödül programları. Kullanıcılar, zekice veya flörtöz etkileşimleri için puan kazanır, seviye atlar ve rozet toplar. Daha genç kullanıcılar için ise çekicilik, ünlü ve anime karakterleri, yaratıcı hikaye anlatımı ve ebeveyn gözetimi olmadan duygusal keşif imkanında yatıyor.

PolyBuzz AI bir tanışma uygulaması mı?

Polybuzz AI kendisini açıkça bir yapay zeka olarak pazarlamıyor. flört uygulamasıAncak, tıpkı bir yapay zeka gibi davranıyor. Bağımsız analistler bunu "dijital bir oyun alanı görevi de gören bir flört simülatörü ve yapay zeka-insan tanışma uygulaması" olarak tanımlıyor. Platform, ilişki botlarına ve aşk hikayelerine yoğunlaşıyor.

Kullanıcılar flört yarışmalarına katılır ve aşk etkileşimleriyle "Pürüzsüz Operatör" gibi unvanlar kazanırlar. Mevcut yapay zeka karakterleri, "Erkek arkadaşın seni aldatıyor" gibi romantik senaryolar ve kışkırtıcı diyaloglar sunan cinsel içerikli kişilerden oluşur. Yakınlığın oyunlaştırılması, giderek daha yoğun flörtleşmeye yol açan bir geri bildirim döngüsü yaratır.

PolyBuzz yapay zeka sohbetleri gizli mi?

Cevap karmaşık:

Platformun iddiaları: Polybuzz AI, konuşmalarının "tamamen özel" ve "ücretsiz, özel ve kısıtlamasız" olduğunu övünerek belirtiyor.

Gerçek şu ki: Kullanıcılar ve yapay zekâ karakterleri arasındaki konuşmalar kullanıcılar arasında özeldir, ancak kullanıcılar ve Polybuzz arasında değil. Platform, içerik denetimi, algoritma iyileştirme ve operasyonel amaçlar için tüm konuşmaları toplar ve saklar. Signal veya WhatsApp'ın aksine, konuşmalar uçtan uca şifrelenmez.

Platformdaki tartışmalara göre, konuşmalar dış tehditlere karşı şifreleniyor, ancak Polybuzz tüm sohbet verilerine erişebiliyor. Platform, yalnızca sorunlar bildirildiğinde veya kolluk kuvvetleri tarafından bilgi talep edildiğinde konuşmaları incelediğini söylüyor. Bu da özel sohbetlerin şirket açısından gerçekten güvende olmadığı anlamına geliyor.

Polybuzz'un yaş sınırlaması nedir?

Polybuzz'ın yaş derecelendirmesi platformlar arasında tutarlı değil; bu çok büyük bir sorun.

Resmi değerlendirmeler:

• Elma App Store: 18+
• Tutarsızlık tespit edildi: Bölgeler ve platformlar arasında farklı yaş derecelendirmeleri, reşit olmayan kullanıcıların kısıtlamaları aşmasına olanak tanıyan tutarsızlıklar yaratmaktadır.

Apple'ın listelemesinde Polybuzz'ın sıklıkla yetişkinlere yönelik veya müstehcen içerik, cinsel içerik ve çıplaklık temaları içerdiği açıkça belirtiliyor. Uygulama nadiren gerçekçi şiddet, küfür, korku temaları ve alkol, tütün veya uyuşturucuya dair referanslar içeriyor. Ayrıca ücretsiz web erişimi, kullanıcı tarafından oyla içerik ve benzeri özelliklere de sahip. Uygulama içi satın alma işlemleri.

Polybuzz AI çocuklar için güvenli mi?

Kesin karar: Hayır. PolyBuzz AI, 18 yaşın altındaki çocuklar veya gençler için güvenli değildir. Platform yakın zamanda reşit olmayanları "İzleme Modu" ile sınırlandırmak için yaş doğrulama önlemleri aldığını duyurmuş olsa da, uygulama yetersiz ve riskler yüksek.

İçerik ifşasıyla ilgili endişeler

Güvenlik testleri bazı endişe verici sonuçlar ortaya çıkardı. Test hesapları özellikle 14 yaş olarak ayarlanmış ve "Genç Modu" veya "Saf Mod" açıkken bile, Keşfet sayfasında açık cinsel ve şiddet içerikli materyaller hemen göründü. Bu, içerik filtrelerinin ya çalışmadığı ya da son derece zayıf olduğu anlamına geliyor.

Polybuzz, otomatik tespit ve topluluk raporlamasıyla yapay zeka destekli içerik denetimine sahip olduğunu iddia ediyor. Ancak platform, katı içerik filtreleri kullanmıyor; bunun yerine, tam içerik engellemesi yerine algoritmik rastgele kontroller kullanıyor. Platform tüm ihlalleri tespit edemiyor. uygunsuz içerik Kullanıcılar buna maruz kalmadan önce.

Kişisel fotoğraf veya verilerin paylaşılmasıyla ilgili riskler

Platform, kullanıcıların profil resimleri yüklemelerine, ayrıntılı karakter kişilikleri oluşturmalarına ve gerçek kişilerin veya çocukların yapay zeka oyla oluşturulmuş resimlerini yaratmalarına olanak tanır. Kullanıcılar, oluşturdukları içerikleri kamuoyuyla paylaşabilir veya gizli tutabilirler.

İki konu büyük endişe kaynağıdır: Birincisi, kullanıcıların gerçek veya kurgusal karakterlerin cinsel içerikli yapay zekâ görüntülerini üretmesi mümkündür. İkincisi, Polybuzz hesaplar, konuşma parçaları ve ses kayıt hakkında bilgi toplar ve saklar. Kullanıcılar kişisel bilgilerini paylaştığında, konumİster okul, ister gerçek isimler, ister arkadaşlar olsun, Polybuzz bu bilgileri kolayca toplayıp saklayabilir.

Yabancılarla etkileşim olasılıkları

Polybuzz, kullanıcılar tarafından oluşturulan karakterlere göz atmak ve bunlarla etkileşim kurmak için kullanılan bir sosyal ağdır. Her kullanıcı herkese açık karakterlere erişebilir. Platformda doğrudan etkileşim özelliği bulunmamasına rağmen, Eşler arası Mesajlaşma yoluyla, genç kitlelere hitap etmek veya onları etkilemek üzere tasarlanmış yapay zeka kişilikleri oluşturur. Kullanıcı oyla içerik denetimi mükemmel değildir; bu da reşit olmayanları hedefleyen uygunsuz içeriklerin onlara ulaşması anlamına gelir.

Polybuzz AI'nin çocuklar için potansiyel riskleri nelerdir?

Uygunsuz yapay olarak oluşturulmuş genetik oyla içeren görüntülere maruz kalma

Bu platform, kullanıcıların yapay zeka karakterlerinin veya cinsel içerikli görsellerin açıkça cinsel içerikli görüntülerini oluşturmasına olanak tanır. Polybuzz, karakter oluşturmadan veya görüntü üretmeden önce yaş kontrolü yapmaz. Küçükler bu içeriğe kolayca erişebilir, içerik oluşturabilir veya içerikle temas edebilir.

Aşırı paylaşım ve gizlilik sorunları

Çocuklar, doğaları gereği "güvenli" olarak algılanan ortamlarda kişisel bilgilerini aşırı derecede paylaşırlar. Polybuzz, konuşma verilerini, hesap bilgilerini ve davranışsal içgörüleri depolar. Okul bilgilerini, arkadaş isimlerini, rutinleri veya konum ifşa eden küçük bir bilgi parçası, tutarsız güvenlik uygulamalarına sahip bir platformda bireyin veri izini oluşturur.

Siber zorbalık veya manipülasyon olasılığı mevcuttur.

Çoğu etkileşim yapay zekâyı içerirken, kamuya açık karakter tarama özelliği, kullanıcıları aşağılamak, cinsel istismarda bulunmak veya duygusal olarak manipüle etmek için tasarlanmış karakterlere maruz bırakmaktadır. NIH'den yapılan araştırmalar, acımasız veya olumsuz yorumlar almanın -anonim olsa bile- gençlerde ruh sağlığını önemli ölçüde etkilediğini ve daha fazla depresif belirti, kaygı, yalnızlık ve intihar düşüncelerine yol açtığını göstermektedir.

Platformun sürükleyici tasarımı, yapay zekâ karakterlerinin küçük yaştaki bireylere yönelik istismar, reddetme veya manipülasyon davranışlarını simüle ettiği senaryolar yaratabiliyor. Bu durum, sağlıksız etkileşim kalıplarını normalleştiriyor.

Ekran süresi ve bağımlılık yapan kullanım sorunları

Polybuzz, yakınlığı oyunlaştırma konusunda oldukça açık bir yaklaşım sergiliyor; puanlar, seriler, seviyeler ve kilidi açılabilir unvanlar sunuyor. Bu değişken ödül sistemi oldukça bağımlılık yapıcı. Ebeveynler, kullanıcıların günde saatlerce zaman geçirdiğini ve kullanımları konusunda gizli davrandıklarını söylüyor. Gelişmekte olan ergenler için aşırı kullanım, ekran ZAMANI Duygusal olarak etkileşim kuran yapay zekâ arkadaşlarıyla birlikte olmak, yüz yüze ilişki kurma, fiziksel aktivite ve gerçek dünyadaki sosyal etkileşimden zamanı uzaklaştırır.

Duygusal bağlanma ve sağlıksız ilişkilerin algısal modelleri

Çocuklar ve gençler yapay zekâ karakterleriyle güçlü duygusal bağlar kurabilir ve bu durum gerçek dünyadaki sosyal gelişim ve ilişki beklentileri üzerinde etkiler yaratabilir. Platform, yapay zekâyı eğlence aracı olarak değil, insan ilişkilerine alternatif olarak konumlandıran bir yapay zekâ-arkadaş zihniyetini teşvik etmektedir. Bu durum, yapay zekâ ile gerçek ilişkiler arasında kafa karışıklığına, gerçek dünyadaki sosyal aktivitelere yönelik motivasyon eksikliğine, romantik partnerler hakkında gerçekçi olmayan beklentilere ve sağlıklı çatışma çözme becerilerinin olgunlaşmamasına yol açmaktadır.

Veri toplama endişeleri

Polybuzz AI, kişisel verileri reklamverenlere satmadığını belirtse de, platform yapay zeka eğitimi ve algoritma geliştirme için konuşmalardan, davranış kalıplarından, ses kayıt ve meta verilerden elde edilen verileri kullanmaktadır. Platform veri silme taleplerini yerine getiriyor, ancak kullanıcılar işlemin ne kadar sürdüğünü bilmiyor. Sürekli veri toplama, bir ihlal durumunda risk oluşturan, reşit olmayan kişilerin kalıcı profillerini oluşturmaktadır.

Yaş doğrulama açıkları

Son duyurular, Polybuzz'un yaş doğrulama sistemini devreye aldığını gösteriyor ancak testler henüz tamamlanmadı. Daha önce, 13 yaşın altındaki çocukların uygulama mağazalarının daha katı yaş sınırlamasını atlatacak web hesapları oluşturması kolaydı. Yeni sistemlerle bile, kullanıcılar davranışsal algoritmaları kandırabiliyor ve ödünç alınan cihazlardaki reşit olmayanlar için yedek kimlik veya yüz tanıma sistemleri genellikle başarısız oluyor.

Gençler Polybuzz AI'yı kullanmalı mı?

Tavsiye edilmez: Daha gelişmiş muhakeme yeteneğine sahip ergenler, ebeveynlerinin yakın gözetimi altında Polybuzz'u kullanabilirken, zayıf içerik denetimi, tutarsız yaş kontrolü, bağımlılık yapıcı yapısı ve açık içerik Bu durum Polybuzz'ı gençler arasında genel kullanıma uygunsuz hale getiriyor.

Daha küçük çocuklar için (13 yaş altı)

Kesinlikle uzak durun. 13 yaş altı çocuklar için güvenli bir ortam yok. Yaş doğrulaması yetersiz, içerik filtreleri eksik ve temel işlevsellik (romantik rol yapma) gelişimsel açıdan uygunsuz.

Gençler için (13-17 yaş)

Eğer bir genç Polybuzz AI'da ısrar ederse, ebeveynlerin yapması gerekenler şunlardır:

• Ortak hesaplar oluşturun, karakterleri öğrenin ve ardından bireysel kullanıma izin verin.
• Sınırlar belirleyin: Kabul edilebilir karakterleri, yasaklı konuları ve ihlal durumunda uygulanacak cezaları belirleyin.
• Cihaz erişimini sınırlayın: Okul, ödev ve uyku sırasında kullanımı engellemek için cihaz düzeyinde kontroller kullanarak katı zaman sınırları uygulayın.
• Düzenli olarak iletişim kurun: Bazen, konuşmanın geçmişini gözden geçirin ve gencin iletişim kurduğu kişiler hakkında konuşun.
• Duygusal iyilik halini izleyin. Bağımlılık belirtilerine dikkat edin: Uygulamadan ayrılmakta zorlanma, uygulamaya erişemediğinde kaygı duyma, sosyal izolasyon vb.
• Yapay zekâ gerçekliğini tartışın: Çocukların yapay zekâ karakterlerinin gerçek insanlar değil, bilgisayar yazılımı olduğunu ve her zaman kullanıcıyı memnun etmek için var olduklarını anlamalarını sağlayın; bu, gerçek ilişkilerden çok farklıdır.

Güvenli kullanım için ebeveynlere yönelik ipuçları

Dijital dünya acımasız ve çocuklar için son derece uygunsuz. Çocuklarını bu tür ortamlarda yönlendirmek ve güvende tutmak ebeveynlerin sorumluluğundadır.

Üçüncü taraf ebeveyn denetimi kullanın.

Ebeveyn kontrolleri, ebeveynlerin çocuklarını çevrimiçi güvende tutmalarına yardım olabilecek araçlar sunabilir. FlashGet Kids FlashGet Kids bir ebeveyn kontrolü uygulaması Gerçek zamanlı cihaz izleme, uygulama engelleme ve uyarı sistemleri ile birlikte canlı i̇zleme imkanı sunar. ekran yansıtma Ayrıca tek yönlü ses, uygulama bildirimlerinin gerçek zamanlı sosyal medya güncellemeleriyle senkronize edilmesi ve platformlar arası hassas içerik tespiti özellikleri de bulunmaktadır.

Apple Family Sharing veya Google Family Link'i uygulayın.

Uygulama indirmelerini ve olgunluk seviyelerini sınırlamak için cihaz düzeyinde ebeveyn kısıtlamaları oluşturun. Bu, Polybuzz'un mobil cihazlara indirilmesini engelleyecektir, ancak web üzerinden erişim mümkün olabilir.

Ekran süresi ve kullanım raporunu etkinleştirin: Çocuğunuzun kullandığı uygulamaları ve her uygulamada geçirdiği süreyi inceleyin. Bu raporlar, Polybuzz'un yüksek etkileşim seviyelerini anında yansıtacaktır.

Dikkat edilmesi gereken işaretler şunlardır:

• Uygulama tabanlı eğitimle ilgili gizli davranışlar.
• Polybuzz'a erişememenin yarattığı duygusal stres.
• Arkadaşlar veya akrabalar yerine yapay zeka ile etkileşim kurma ihtiyacı.
• Yapay zekâ ile gerçek ilişkiler arasındaki kafa karışıklığı.
• Platforma kişisel bilgilerin paylaşılması.
• Uygulamayı kullandıktan sonra ruh halindeki değişiklik (kaygı/depresyon/bağımlılıkta artış).

Medya okuryazarlığı konularını gündemde tutun.

çevrimiçi güvenlik hakkında düzenli olarak konuşun, ücretsiz uygulama iş modelini (amaç etkileşim, sonuç ise veri toplama) ele alın ve yapay zekanın yetenekleri ve kısıtlamaları üzerinde düşünün.

Çözüm

Polybuzz AI, çocuklar ve gençler için güvenli değildir. Zayıf yaş doğrulama, yetersiz içerik filtreleri, açık cinsel içerik, bağımlılık yaratan tasarım ve veri toplama uygulamaları, platformu küçükler için yüksek riskli ortamlar haline getirmektedir. Platform yakın zamanda yaş doğrulama konusunda iyileştirmeler duyurmuş olsa da, bunlar tutarsız bir şekilde uygulanmakta ve temel içerik ve tasarım sorunlarını ele almamaktadır.

Yapay zekâ destekli sohbet robotlarının tehlikelerinden çocuklarını korumak isteyen ebeveynler, gerçek zamanlı ebeveyn izleme, uygulama engelleme ve tüm uygulamalardan (yapay zekâ destekli sohbet robotları dahil) uyarılar sağlayan FlashGet Kids gibi kapsamlı ebeveyn izleme araçlarına odaklanmalıdır. FlashGet Kids, ebeveynlerin bireysel uygulama kontrollerine gerek kalmadan çocuklarının dijital aktivitelerinden haberdar olmalarını sağlar. Yapay zekâ hakkında açık iletişim, gerçekçi ilişki modelleri ve sıkı cihaz kontrolleriyle birleştiğinde, bu tür araçlar oyla iyi korumayı sunar.

SSS