Liệu Polybuzz AI có an toàn không: Phân tích chi tiết về độ an toàn.

Polybuzz là một nền tảng mạng xã hội được hỗ trợ bởi trí tuệ nhân tạo (AI) với hơn 20 triệu nhân vật AI có thể tùy chỉnh, cho phép nhập vai và trò chuyện sống động. Ngày càng nhiều bậc phụ huynh đặt ra những câu hỏi như: Polybuzz có an toàn cho trẻ em không? Câu trả lời đòi hỏi phải hiểu rõ về thiết kế của nền tảng, chính sách nội dung và các cơ chế an toàn thực tế.

Nền tảng này đã thu hút được sự chú ý lớn trong giới thanh thiếu niên và người trẻ tuổi, đặc biệt là trong độ tuổi từ 18-25. Người dùng trẻ tuổi cũng truy cập vào nó thông qua các kẽ hở trên web để vượt qua các hạn chế về độ tuổi. Polybuzz thu hút thế hệ Z bằng giải trí dạng trò chơi, khả năng thể hiện sáng tạo và sự đồng hành của trí tuệ nhân tạo. Người dùng tạo ra những người bạn đồng hành AI của riêng mình, tương tác trong các tình huống lãng mạn và đắm mình trong những câu chuyện hư cấu mà không bị ràng buộc bởi các vấn đề xã hội thực tế. Tuy nhiên, việc thu hút đối tượng người dùng trẻ tuổi này làm dấy lên những lo ngại nghiêm trọng về sự an toàn của nội dung mà họ xem và sức khỏe tinh thần của họ.

Polybuzz AI là gì?

Polybuzz là một nền tảng trò chuyện tương tác nhập vai, kết bạn và dựa trên trí tuệ nhân tạo (AI). Nền tảng này cung cấp các cuộc trò chuyện bằng văn bản, tạo hình ảnh trực quan ("Ảnh động") và tính năng giọng nói. Người dùng có thể tạo nhân vật AI của riêng mình hoặc tương tác với các nhân vật do người dùng khác tạo ra. Bản chất của nền tảng là không bị giới hạn và có thể bao gồm từ những câu chuyện thông thường đến các kịch bản lãng mạn và tình dục công khai.

Ai sử dụng nó và vì sao:

Đối tượng người dùng chính bao gồm những người chơi nhập vai, nhà văn, người hâm mộ anime và những người tìm kiếm giải trí. Khoảng 61% người dùng là nam giới và 39% là nữ giới, và đa số nằm trong độ tuổi từ 18-24. Thanh thiếu niên trẻ tuổi hơn cũng thường xuyên sử dụng nền tảng này.

Người dùng bị thu hút bởi nhiều yếu tố: thư viện nhân vật khổng lồ, bạn bè AI cá nhân hóa (không từ chối), giao tiếp ảo ít rủi ro và các chương trình thưởng theo kiểu trò chơi. Người dùng kiếm được điểm, thăng cấp và thu thập huy hiệu nhờ những cuộc trò chuyện dí dỏm hoặc tán tỉnh. Đối với giới trẻ, sức hấp dẫn nằm ở các nhân vật nổi tiếng và anime, cách kể chuyện sáng tạo và khám phá cảm xúc mà không có sự giám sát của phụ huynh.

PolyBuzz AI có phải là ứng dụng hẹn hò không?

Polybuzz AI không tự quảng bá mình một cách rõ ràng là một ứng dụng hẹn hòNhưng nó hoạt động theo cách tương tự như một ứng dụng hẹn hò. Nhà phân tích độc lập gọi nó là “một trình mô phỏng tán tỉnh và ứng dụng hẹn hò giữa AI và con người, đồng thời cũng là một sân chơi kỹ thuật số”. Nền tảng này tập trung mạnh vào các bot hẹn hò và những câu chuyện tình yêu.

Người dùng tham gia các cuộc thi tán tỉnh và giành được các danh hiệu như “Kẻ khéo léo” thông qua các tương tác tình cảm. Các nhân vật AI có sẵn bao gồm các tình huống lãng mạn như “Bạn trai của bạn đang lừa dối bạn” và những người có giọng điệu gợi cảm, đưa ra những lời đối thoại khiêu khích. Việc ứng dụng yếu tố trò chơi vào sự thân mật tạo ra một vòng phản hồi dẫn đến những màn tán tỉnh ngày càng mãnh liệt.

Các cuộc trò chuyện với AI trên PolyBuzz có riêng tư không?

Câu trả lời khá phức tạp:

Nền tảng này tuyên bố: Polybuzz AI tự hào về các cuộc trò chuyện của mình là "hoàn toàn riêng tư" và "miễn phí, riêng tư và không bị hạn chế".

Sự thật là: Các cuộc trò chuyện giữa người dùng và các nhân vật AI là riêng tư giữa người dùng với nhau, nhưng không phải giữa người dùng và chính Polybuzz. Nền tảng này thu thập và lưu trữ tất cả các cuộc trò chuyện để kiểm duyệt nội dung, cải thiện thuật toán và phục vụ các mục đích vận hành. Không giống như Signal hay WhatsApp, các cuộc trò chuyện không được mã hóa đầu cuối.

Theo các cuộc thảo luận trên nền tảng này, các cuộc trò chuyện được mã hóa để chống lại các mối đe dọa từ bên ngoài, nhưng Polybuzz vẫn có quyền truy cập vào tất cả dữ liệu trò chuyện. Nền tảng này cho biết họ chỉ xem xét các cuộc trò chuyện khi có vấn đề được báo cáo hoặc khi cơ quan thực thi pháp luật yêu cầu thông tin. Điều này có nghĩa là các cuộc trò chuyện riêng tư thực sự không an toàn trước công ty này.

Polybuzz được xếp hạng độ tuổi nào?

Hệ thống xếp hạng độ tuổi của Polybuzz không nhất quán trên các nền tảng khác nhau – đây là một vấn đề lớn.

Xếp hạng chính thức:

• Quả táo App Store: 18+
• Ghi nhận sự không nhất quán: Việc xếp hạng độ tuổi khác nhau giữa các khu vực và nền tảng tạo ra sự không nhất quán, cho phép người dùng chưa đủ tuổi vượt qua các hạn chế.

Thông tin trên trang của Apple cho thấy Polybuzz thường xuyên có các chủ đề liên quan đến nội dung người lớn hoặc gợi dục, nội dung tình dục và khỏa thân. Ứng dụng này hiếm khi chứa bạo lực thực tế, lời lẽ tục tĩu, chủ đề kinh dị và đề cập đến rượu, thuốc lá hoặc ma túy. Nó cũng có các tính năng truy cập web miễn phí, nội dung do người dùng tạo đánh giá và... trong ứng dụng mua hàng.

Phần mềm Polybuzz AI có an toàn cho trẻ em không?

Kết luận trực tiếp: Không. PolyBuzz AI không an toàn cho trẻ em hoặc thanh thiếu niên dưới 18 tuổi. Mặc dù nền tảng này gần đây đã thông báo rằng họ đang thực hiện các biện pháp xác minh độ tuổi để hạn chế trẻ vị thành niên chỉ được sử dụng "Chế độ xem", nhưng việc thực hiện còn chưa hoàn thiện và rủi ro vẫn cao.

lo ngại về việc lộ nội dung

Kiểm tra an toàn đã cho thấy một số kết quả đáng lo ngại. Ngay cả khi các tài khoản thử nghiệm được thiết lập cụ thể ở độ tuổi 14 với chế độ "Chế độ thiếu niên" hoặc "Chế độ thuần túy" được bật, nội dung khiêu dâm và bạo lực vẫn xuất hiện ngay lập tức trên trang Khám phá. Điều này có nghĩa là các bộ lọc nội dung hoặc không hoạt động hoặc hoạt động cực kỳ yếu.

Polybuzz khẳng định họ có hệ thống kiểm duyệt nội dung dựa trên trí tuệ nhân tạo, bao gồm phát hiện tự động và báo cáo từ cộng đồng. Tuy nhiên, nền tảng này không sử dụng các bộ lọc nội dung nghiêm ngặt – thay vào đó, họ sử dụng các thuật toán kiểm tra ngẫu nhiên thay vì chặn hoàn toàn nội dung. Nền tảng này không thể phát hiện ra tất cả các nội dung vi phạm. nội dung không phù hợp trước khi người dùng tiếp xúc với nó.

Rủi ro liên quan đến việc chia sẻ ảnh hoặc dữ liệu cá nhân

Nền tảng này cho phép người dùng tải ảnh đại diện, xây dựng các nhân vật ảo phức tạp và đánh giá các bức ảnh do AI thực hiện về người thật hoặc trẻ vị thành niên. Người dùng có thể chia sẻ tác phẩm của mình với công chúng hoặc giữ chúng ở chế độ riêng tư.

Có hai vấn đề đáng lo ngại: Thứ nhất, người dùng có thể tạo ra hình ảnh AI khiêu dâm của các nhân vật có thật hoặc hư cấu. Thứ hai, Polybuzz thu thập và lưu giữ thông tin về tài khoản, các đoạn hội thoại và bản ghi âm âm. Khi người dùng chia sẻ thông tin cá nhân như... vị tríCho dù đó là trường học, tên thật hay bạn bè, Polybuzz đều có thể dễ dàng thu thập và lưu trữ thông tin đó.

Khả năng tương tác với người lạ

Polybuzz là một mạng xã hội cho phép người dùng duyệt và tương tác với các nhân vật do người dùng tạo ra. Bất kỳ người dùng nào cũng có thể truy cập các nhân vật công khai. Mặc dù nền tảng này thiếu tính năng trực tiếp. P2P Trong việc nhắn tin, nó tạo ra các nhân vật AI được thiết kế để thu hút—hoặc gây ảnh hưởng—đến đối tượng khán giả trẻ tuổi. đánh giá nội dung dựa trên gen người dùng không hoàn hảo, điều đó có nghĩa là nội dung không phù hợp nhắm vào trẻ vị thành niên vẫn có thể đến được với họ.

Trí tuệ nhân tạo Polybuzz có những rủi ro tiềm ẩn nào đối với trẻ em?

Tiếp xúc với hình ảnh đánh giá một cách nhân tạo không phù hợp

Nền tảng này cho phép người dùng tạo ra hình ảnh khiêu dâm rõ ràng về các nhân vật AI hoặc nội dung hình ảnh khiêu dâm bằng cách yêu cầu AI thực hiện các thao tác. Polybuzz không kiểm tra nghiêm ngặt độ tuổi trước khi tạo nhân vật hoặc tạo hình ảnh. Trẻ vị thành niên có thể dễ dàng truy cập, tạo ra hoặc tiếp xúc với nội dung này.

Chia sẻ quá mức và các vấn đề về quyền riêng tư

Trẻ em thường hay chia sẻ quá nhiều thông tin cá nhân trong những không gian được cho là “an toàn”. Polybuzz lưu trữ dữ liệu cuộc trò chuyện, thông tin tài khoản và thông tin chi tiết về hành vi. Chỉ một mẩu thông tin nhỏ, tiết lộ thông tin trường học, tên bạn bè, thói quen hoặc vị trí , cũng tạo ra dấu vết dữ liệu của một cá nhân trên một nền tảng có các biện pháp bảo mật không nhất quán.

Có thể xảy ra hành vi bắt nạt hoặc thao túng trên mạng.

Mặc dù hầu hết các tương tác đều liên quan đến trí tuệ nhân tạo (AI), việc duyệt các nhân vật công khai khiến người dùng tiếp xúc với những nhân vật được thiết kế để hạ thấp phẩm giá, lợi dụng tình dục hoặc thao túng cảm xúc của họ. Nghiên cứu từ NIH cho thấy việc nhận được những bình luận tàn nhẫn hoặc tiêu cực – ngay cả khi ẩn danh – ảnh hưởng đáng kể đến sức khỏe tâm thần của giới trẻ, dẫn đến nhiều triệu chứng trầm cảm, lo âu, cô đơn và ý nghĩ tự tử.

Thiết kế nhập vai của nền tảng có thể tạo ra các tình huống trong đó các nhân vật AI mô phỏng hành vi lạm dụng, từ chối hoặc thao túng đối với trẻ vị thành niên. Điều này bình thường hóa các mô hình tương tác không lành mạnh.

thời gian sử dụng màn hình và các vấn đề nghiện ngập

Polybuzz thể hiện rõ việc biến sự thân mật thành trò chơi – bằng cách cung cấp điểm, chuỗi thành tích, cấp độ và danh hiệu có thể mở khóa. Lịch trình phần thưởng thay đổi liên tục này rất dễ gây nghiện. Phụ huynh cho biết người dùng dành hàng giờ mỗi ngày và trở nên bí mật về việc sử dụng ứng dụng. Đối với thanh thiếu niên đang trong giai đoạn phát triển, việc sử dụng quá mức có thể gây hại. thời gian trên màn hình Việc sử dụng các trợ lý AI có khả năng tương tác cảm xúc giúp tiết kiệm thời gian đáng kể, thay vào đó là việc dành thời gian cho các hoạt động thể chất và giao tiếp xã hội trực tiếp.

Sự gắn bó về mặt cảm xúc và các mô hình nhận thức về các mối quan hệ không lành mạnh

Trẻ em và thanh thiếu niên có thể hình thành những mối liên kết tình cảm mạnh mẽ với các nhân vật AI và điều này có thể ảnh hưởng đến sự phát triển xã hội và kỳ vọng về các mối quan hệ trong thế giới thực. Nền tảng này thúc đẩy tư duy coi AI như một người bạn đồng hành, định vị AI như một sự thay thế cho các mối quan hệ giữa người với người hơn là một hình thức giải trí. Điều này dẫn đến sự nhầm lẫn giữa AI và các mối quan hệ thực tế, thiếu động lực tham gia các hoạt động xã hội trong thế giới thực, những kỳ vọng không thực tế về bạn đời và sự thiếu trưởng thành trong kỹ năng giải quyết xung đột lành mạnh.

Các vấn đề liên quan đến thu thập dữ liệu

Mặc dù Polybuzz AI tuyên bố không bán dữ liệu cá nhân cho các nhà quảng cáo, nền tảng này vẫn sử dụng dữ liệu từ các cuộc hội thoại, mô hình hành vi, ghi âm âm và siêu dữ liệu để huấn luyện AI và cải thiện thuật toán. Nền tảng này tôn trọng các yêu cầu xóa dữ liệu, nhưng người dùng không biết quá trình xử lý mất bao lâu. Việc thu thập dữ liệu liên tục tạo ra hồ sơ dai dẳng về trẻ vị thành niên, tiềm ẩn rủi ro nếu xảy ra vi phạm.

Những thiếu sót trong việc xác minh độ tuổi

Các thông báo gần đây cho thấy Polybuzz đang triển khai xác minh độ tuổi nhưng quá trình thử nghiệm vẫn chưa hoàn tất. Trước đây, trẻ em dưới 13 tuổi dễ dàng tạo tài khoản web để vượt qua hệ thống xếp hạng độ tuổi nghiêm ngặt hơn của các cửa hàng ứng dụng. Ngay cả với các hệ thống mới, người dùng vẫn có thể đánh lừa các thuật toán hành vi, và xác thực bằng ID hoặc nhận diện khuôn mặt thường không hiệu quả đối với trẻ vị thành niên khi sử dụng thiết bị mượn.

Liệu thanh thiếu niên có nên sử dụng Polybuzz AI?

Không khuyến khích: Mặc dù thanh thiếu niên lớn tuổi hơn với khả năng phán đoán tốt hơn có thể sử dụng Polybuzz dưới sự giám sát chặt chẽ của cha mẹ, nhưng việc kiểm duyệt nội dung yếu kém, kiểm tra độ tuổi không nhất quán, tính chất gây nghiện và... nội dung rõ ràng Điều này khiến Polybuzz không phù hợp để sử dụng cho thanh thiếu niên nói chung.

Dành cho trẻ nhỏ (dưới 13 tuổi)

Hoàn toàn tránh xa. Không có chế độ an toàn nào cho trẻ em dưới 13 tuổi. Việc xác minh độ tuổi kém, thiếu bộ lọc nội dung và chức năng cơ bản (nhập vai lãng mạn) không phù hợp với sự phát triển của trẻ.

Dành cho thanh thiếu niên (13-17 tuổi)

Nếu một thiếu niên nhất quyết muốn sử dụng Polybuzz AI, cha mẹ cần phải:

• Tạo tài khoản chung, học thuộc các nhân vật rồi sau đó cho phép mỗi người sử dụng riêng.
• Thiết lập ranh giới: Xác định các đặc điểm được chấp nhận, các vấn đề bị cấm và hình phạt khi vi phạm.
• Giới hạn quyền truy cập thiết bị: Áp dụng giới hạn thời gian nghiêm ngặt bằng cách sử dụng các biện pháp kiểm soát cấp độ thiết bị để chặn việc sử dụng trong giờ học, làm bài tập về nhà và giờ ngủ.
• Thường xuyên kiểm tra tình hình: Thỉnh thoảng, hãy xem lại diễn biến cuộc trò chuyện và thảo luận về các nhân vật mà thiếu niên đó đang giao tiếp.
• Theo dõi sức khỏe tinh thần. Quan sát các dấu hiệu phụ thuộc: Khó khăn khi rời xa ứng dụng, lo lắng nếu không thể truy cập ứng dụng, thu mình khỏi xã hội, v.v.
• Thảo luận về thực tế của trí tuệ nhân tạo: Hãy đảm bảo trẻ em hiểu rằng các nhân vật AI là phần mềm máy tính chứ không phải người thật, và luôn luôn tồn tại để làm hài lòng người dùng – điều này khác biệt rất nhiều so với các mối quan hệ thực tế.

Lời khuyên dành cho phụ huynh về việc sử dụng an toàn

Thế giới kỹ thuật số rất khắc nghiệt và cực kỳ không phù hợp với trẻ em. Cha mẹ có trách nhiệm hướng dẫn con cái và bảo vệ chúng trong môi trường như vậy.

Sử dụng tính năng kiểm soát của phụ huynh từ bên thứ ba

Chức năng kiểm soát của phụ huynh có thể trợ giúp cha mẹ giữ an toàn cho con cái trực tuyến với các công cụ như... FlashGet Kids FlashGet Kids là một ứng dụng kiểm soát của phụ huynh Với tính năng giám sát thiết bị theo thời gian thực, chặn ứng dụng và hệ thống cảnh báo. Nó cung cấp giám sát trực tiếp với phản chiếu màn hình và âm thanh một chiều, đồng bộ hóa thông báo ứng dụng với các cập nhật mạng xã hội theo thời gian thực, và phát hiện nội dung nhạy cảm trên nhiều nền tảng.

Hãy áp dụng Apple Family Sharing hoặc Google Family Link.

Thiết lập các hạn chế dành cho phụ huynh ở cấp độ thiết bị để giới hạn việc tải xuống ứng dụng và mức độ phù hợp với lứa tuổi. Điều này sẽ ngăn chặn việc tải xuống Polybuzz trên thiết bị di động, mặc dù vẫn có thể truy cập thông qua trình duyệt web.

Bật báo cáo thời gian sử dụng màn hình: Xem lại các ứng dụng mà con bạn sử dụng và thời gian dành cho mỗi ứng dụng. Các báo cáo này sẽ ngay lập tức phản ánh mức độ tương tác cao của Polybuzz.

Hãy cảnh giác với những dấu hiệu đáng ngờ:

• Hành vi bí mật liên quan đến việc giáo dục về ứng dụng.
• Căng thẳng tinh thần do không thể có được Polybuzz.
• Nhu cầu tương tác với trí tuệ nhân tạo thay vì bạn bè hoặc người thân.
• Sự nhầm lẫn giữa Trí tuệ nhân tạo và các mối quan hệ thực tế.
• Chia sẻ thông tin cá nhân lên nền tảng.
• Thay đổi tâm trạng sau khi sử dụng ứng dụng (tăng lo âu/trầm cảm/phụ thuộc).

Hãy tiếp tục duy trì vấn đề giáo dục về truyền thông.

Hãy thường xuyên thảo luận về vấn đề an toàn trực tuyến , mô hình kinh doanh ứng dụng miễn phí (thu hút người dùng là nhiệm vụ, thu thập dữ liệu là kết quả), và suy nghĩ kỹ về khả năng cũng như những hạn chế của trí tuệ nhân tạo.

Phần kết luận

Polybuzz AI không an toàn cho trẻ em và thanh thiếu niên. Việc xác minh độ tuổi yếu kém, bộ lọc nội dung kém, nội dung tình dục thô tục, thiết kế gây nghiện và các phương thức thu thập dữ liệu khiến chúng trở thành môi trường có rủi ro cao đối với trẻ vị thành niên. Mặc dù nền tảng này gần đây đã thông báo về những cải tiến trong việc xác minh độ tuổi, nhưng chúng được áp dụng không nhất quán và không giải quyết được các vấn đề cơ bản về nội dung và thiết kế.

Các bậc phụ huynh muốn bảo vệ con cái khỏi những nguy hiểm từ chatbot AI cần tập trung vào các công cụ giám sát toàn diện dành cho phụ huynh như FlashGet Kids, có thể cung cấp tính năng giám sát theo thời gian thực, chặn ứng dụng và cảnh báo từ tất cả các ứng dụng – bao gồm cả chatbot AI. FlashGet Kids cho phép phụ huynh nắm được hoạt động kỹ thuật số của con cái mà không cần phải kiểm soát từng ứng dụng riêng lẻ. Kết hợp với việc trao đổi cởi mở về AI, mô hình mối quan hệ thực tế và kiểm soát thiết bị nghiêm ngặt, các công cụ như vậy mang lại sự bảo đánh giá tốt nhất.

Câu hỏi thường gặp