Безопасен ли ИИ Polybuzz: подробное описание мер безопасности.

Polybuzz — это социальная платформа на базе искусственного интеллекта с более чем 20 миллионами настраиваемых персонажей, созданных с помощью ИИ, для захватывающих ролевых игр и общения. Родители всё чаще задают вопросы типа: «Безопасна ли Polybuzz для детей?» Ответ на этот вопрос требует знания структуры платформы, политики в отношении контента и реальных механизмов безопасности.

Платформа пользуется большой популярностью среди подростков и молодых людей, особенно в возрасте от 18 до 25 лет. Более молодые пользователи также получают к ней доступ, используя веб-лазейки, позволяющие обойти возрастные ограничения. Polybuzz привлекает поколение Z игровыми развлечениями, возможностью творческого самовыражения и общением с помощью ИИ. Пользователи создают собственных ИИ-компаньонов, взаимодействуют в романтических ситуациях и погружаются в вымышленные истории, свободные от реальных социальных проблем. Однако эта привлекательность для молодой аудитории вызывает серьезные опасения по поводу безопасности просматриваемого контента и их эмоционального благополучия.

Что такое Polybuzz AI?

Polybuzz — это платформа для ролевых игр, общения и иммерсивного взаимодействия в чате, ориентированная на искусственный интеллект. Платформа предоставляет текстовые диалоги, генерацию изображений («Живые фотографии») и голосовые функции. Пользователи могут создавать собственных персонажей с помощью ИИ или взаимодействовать с персонажами, созданными другими пользователями. Суть платформы заключается в отсутствии ограничений, и она позволяет вести как непринужденные истории, так и откровенные романтические и сексуальные сценарии.

Кто им пользуется и почему:

Основная целевая аудитория состоит из ролевых игроков, писателей, поклонников аниме и просто любителей развлечений. Примерно 61% пользователей — мужчины, 39% — женщины, и большинство из них в возрасте от 18 до 24 лет. Подростки младшего возраста также регулярно пользуются платформой.

Пользователей привлекает множество факторов: огромная библиотека персонажей, персонализированные ИИ-помощники (без возможности отказа), виртуальное общение с низким риском и игровые программы вознаграждения. Пользователи зарабатывают баллы, повышают свой уровень и получают значки за остроумные или кокетливые диалоги. Для более молодой аудитории привлекательность заключается в персонажах-знаменитостях и героях аниме, креативном повествовании и эмоциональном исследовании без родительского контроля.

PolyBuzz AI — это приложение для знакомств?

Polybuzz AI не позиционирует себя как ИИ-платформу. приложение для знакомствНо действует точно так же, как и любой другой. Независимый аналитик называет его «симулятором флирта и приложением для знакомств, сочетающим искусственный интеллект и человека, которое также служит цифровой игровой площадкой». Платформа в значительной степени ориентирована на ботов для построения отношений и любовные истории.

Пользователи участвуют в конкурсах флирта и зарабатывают такие звания, как «Мастер на все руки», благодаря любовным взаимодействиям. Доступные персонажи с искусственным интеллектом включают в себя романтические сценарии, например, «Твой парень тебе изменяет», а также сексуально привлекательных персонажей, предлагающих провокационные диалоги. Геймификация интимности создает обратная связь , который приводит к все более интенсивному флирту.

Являются ли чаты PolyBuzz AI приватными?

Ответ сложный:

Платформа заявляет: Polybuzz AI хвастается тем, что ее беседы «полностью конфиденциальны», «бесплатны, приватны и не имеют ограничений».

Реальность: Разговоры между пользователями и персонажами, управляемыми ИИ, являются конфиденциальными для самих пользователей, но не для пользователей и Polybuzz. Платформа собирает и хранит все разговоры для модерации контента, улучшения алгоритмов и операционных целей. В отличие от Signal или WhatsApp, разговоры не зашифрованы сквозным шифрованием.

Согласно обсуждениям на платформе, переписка защищена от внешних угроз шифрованием, но Polybuzz имеет доступ ко всем данным чата. Платформа заявляет, что проверяет переписку только в случае сообщения о проблемах или по запросу правоохранительных органов. Это означает, что личные чаты на самом деле не защищены от компании.

Какой возрастной рейтинг у Polybuzz?

Возрастной рейтинг Polybuzz не является одинаковым на разных платформах – это огромная проблема.

Официальные рейтинги:

• Яблоко App Store: 18+
• Выявлено несоответствие: Различные возрастные ограничения в разных регионах и на разных платформах создают несоответствия, позволяющие несовершеннолетним пользователям обходить ограничения.

В описании приложения на сайте Apple ясно указано, что Polybuzz часто содержит материалы для взрослых или материалы с сексуальным подтекстом, сексуальный контент и обнаженность. Приложение редко содержит реалистичное насилие, нецензурную лексику, ужасы и упоминания алкоголя, табака или наркотиков. Оно также обладает такими функциями, как бесплатный доступ в интернет, рейтинг контента, определяемый пользователями, и покупки в приложении.

Безопасен ли искусственный интеллект Polybuzz для детей?

Прямой вывод: Нет. PolyBuzz AI небезопасен для детей и подростков младше 18 лет. Хотя платформа недавно объявила о принятии мер по проверке возраста, ограничивающих доступ несовершеннолетних к «режиму просмотра», реализация этих мер неполная, а риски высоки.

опасения по поводу раскрытия контента

Тестирование безопасности выявило некоторые тревожные результаты. Даже при использовании тестовых учетных записей, специально настроенных на возраст 14 лет и с включенными «Режимом для подростков» или «Чистым режимом», откровенные материалы сексуального и насильственного характера немедленно появлялись на странице «Исследовать». Это означает, что фильтры контента либо не работают, либо крайне слабы.

Polybuzz утверждает, что использует модерацию контента на основе ИИ с автоматическим обнаружением и жалобами сообщества. Однако платформа не использует строгие фильтры контента — вместо этого она применяет алгоритмические выборочные проверки, а не полную блокировку контента. Платформа не справляется со всеми задачами. неприемлемый контент до того, как пользователи с ним столкнутся.

Риски, связанные с обменом личными фотографиями или данными.

Платформа позволяет пользователям загружать фотографии профиля, создавать сложные образы персонажей и рейтинг и ранжировать изображения реальных людей или несовершеннолетних с помощью искусственного интеллекта. Пользователи могут делиться своими творениями публично или оставлять их в приватном режиме.

Серьезную обеспокоенность вызывают две проблемы: во-первых, пользователи могут создавать изображения сексуального характера с участием реальных или вымышленных персонажей, созданные с помощью ИИ. Во-вторых, Polybuzz собирает и хранит информацию об учетных записях, фрагментах разговоров и запись . Когда пользователи делятся личной информацией, такой как... местоположениеPolybuzz легко может собирать и хранить любую информацию, будь то название школы, настоящие имена или имена друзей.

Возможности взаимодействия с незнакомцами

Polybuzz — это социальная сеть для просмотра и взаимодействия с созданными пользователями персонажами. Любой пользователь может получить доступ к общедоступным персонажам. Хотя платформа не имеет прямого доступа к другим функциям. P2P В рамках системы обмена сообщениями она создает ИИ-персоны, предназначенные для привлечения или влияния на молодую аудиторию. Система модерации контента, основанная на пользовательском генетическом рейтинг не идеальна, а это значит, что неприемлемый контент, ориентированный на несовершеннолетних, все же доходит до них.

Какие потенциальные риски использования Polybuzz AI существуют для детей?

Воздействие неподходящих искусственно созданных изображений рейтинг генов.

Платформа позволяет пользователям создавать откровенные изображения сексуального характера с участием ИИ-персонажей или визуальный контент сексуального характера, просто по указанию ИИ. Polybuzz не проверяет строго возраст перед созданием персонажа или изображения. Несовершеннолетние могут легко получить доступ к такому контенту, создавать его или контактировать с ним.

Чрезмерное распространение информации и проблемы с конфиденциальностью

Дети по своей природе склонны чрезмерно делиться личной информацией в местах, которые им кажутся «безопасными». Polybuzz хранит данные о переписке, информацию об учетных записях и поведенческие данные. Небольшой фрагмент информации, раскрывающий школьные данные, имена друзей, распорядок дня или местоположение , создает информационный след человека на платформе с непоследовательными методами обеспечения безопасности.

Возможно кибербуллинг или манипуляция.

Хотя большинство взаимодействий происходит с использованием ИИ, публичный просмотр персонажей подвергает пользователей воздействию персонажей, созданных для унижения, сексуальной эксплуатации или эмоционального манипулирования ими. Исследования NIH показывают, что получение жестоких или негативных комментариев — даже анонимных — значительно влияет на психическое здоровье молодых людей, приводя к усилению симптомов депрессии, тревожности, одиночества и суицидальным мыслям.

Благодаря эффекту полного погружения, платформа позволяет создавать сценарии, в которых персонажи, управляемые искусственным интеллектом, имитируют насилие, отвержение или манипуляцию по отношению к несовершеннолетним. Это способствует нормализации нездоровых моделей взаимодействия.

Проблемы, связанные с чрезмерным использованием экранов и зависимостью от них.

Polybuzz явно использует геймификацию интимных отношений, предлагая баллы, серии, уровни и разблокируемые титулы. Эта переменная система вознаграждений очень затягивает. Родители говорят, что пользователи проводят за игрой несколько часов в день и начинают скрывать свое использование. Для подростков в период полового созревания чрезмерное использование может быть вредным. экранное время Благодаря эмоционально привлекательным компаньонам на основе искусственного интеллекта, время, которое можно было бы потратить на построение личных отношений, физическую активность и реальное социальное взаимодействие, сокращается.

Эмоциональная привязанность и модели восприятия нездоровых отношений

Дети и подростки могут формировать сильные эмоциональные связи с персонажами, созданными искусственным интеллектом, что может оказывать влияние на их социальное развитие в реальной жизни и на ожидания от отношений. Платформа продвигает менталитет «компаньона-ИИ», позиционируя ИИ как альтернативу человеческим отношениям, а не как развлечение. Это приводит к путанице между ИИ и реальными отношениями, отсутствию мотивации к реальной социальной активности, нереалистичным ожиданиям в отношении романтических партнеров и развитию навыков здорового разрешения конфликтов.

Вопросы сбора данных

Хотя Polybuzz AI заявляет, что не продает персональные данные рекламодателям, платформа использует данные из разговоров, поведенческих моделей, запись и метаданных для обучения ИИ и улучшения алгоритмов. Платформа выполняет запросы на удаление данных, но пользователи не знают, сколько времени занимает обработка. Непрерывный сбор данных снова создает постоянные профили несовершеннолетних, что представляет опасность в случае утечки данных.

Пробелы в проверке возраста

Недавние заявления свидетельствуют о том, что Polybuzz внедряет проверку возраста, но тестирование еще не завершено. Ранее детям младше 13 лет было легко создавать веб-аккаунты, обходящие более строгие возрастные ограничения магазинов приложений. Даже с новыми системами пользователи могут обмануть алгоритмы распознавания поведения, а резервные способы идентификации или распознавания лиц часто дают сбой для несовершеннолетних на устройствах, взятых напрокат.

Стоит ли подросткам использовать Polybuzz AI?

Не рекомендуется: Хотя подростки старшего возраста с более развитым чувством собственного достоинства могут использовать Polybuzz под пристальным наблюдением родителей, слабая модерация контента, непоследовательная проверка возраста, вызывающий привыкание характер и откровенный контент Это делает Polybuzz непригодным для использования подростками в целом.

Для детей младшего возраста (до 13 лет)

Избегайте этого приложения. Безопасной конфигурации для детей младше 13 лет не существует. Проверка возраста работает плохо, фильтры контента отсутствуют, а базовый функционал (ролевые игры на романтическую тематику) не соответствует возрастным особенностям детей.

Для подростков (13-17 лет)

Если подросток настаивает на использовании Polybuzz AI, родители должны:

• Создавайте совместные учетные записи, изучайте символы, а затем разрешайте индивидуальное использование.
• Установите границы: определите допустимые действия, запрещенные темы и наказания за их нарушение.
• Ограничьте доступ к устройству: установите строгие временные ограничения с помощью элементов управления на уровне устройства, чтобы заблокировать его использование во время учебы, выполнения домашних заданий и сна.
• Регулярно проверяйте, как продвигается разговор: иногда просматривайте историю беседы и обсуждайте персонажей, с которыми общается подросток.
• Следите за своим эмоциональным состоянием. Обращайте внимание на признаки зависимости: трудности с отрывом от приложения, развитие тревожности при невозможности доступа к приложению, социальная изоляция и т.д.
• Обсудите реальность искусственного интеллекта: убедитесь, что дети понимают, что персонажи, созданные с помощью ИИ, — это компьютерная программа, а не реальные люди, и они всегда существуют для того, чтобы угодить пользователю — это кардинально отличается от реальных отношений.

Советы родителям по безопасному использованию

Цифровой мир безжалостен и крайне неподходит для детей. Родители несут ответственность за то, чтобы направлять своих детей и обеспечивать их безопасность в подобной среде.

Используйте сторонние средства родительского контроля.

Родительский контроль может помощь родителям обеспечить безопасность своих детей онлайн с помощью таких инструментов, как... FlashGet Kids FlashGet Kids — это приложение родительского контроля с мониторингом устройств в реальном времени, блокировкой приложений и системами оповещений. Предлагает прямой мониторинг с зеркалирование экрана а также односторонняя аудиосвязь, синхронизация уведомлений приложения с обновлениями в социальных сетях в режиме реального времени и обнаружение конфиденциального контента на разных платформах.

Воспользуйтесь функцией «Семейный доступ» от Apple или Google Family Link.

Установите родительские ограничения на уровне устройства, чтобы ограничить загрузку приложений и установить уровни зрелости. Это предотвратит загрузку Polybuzz на мобильные устройства, хотя доступ через веб-браузер может быть доступен.

Включите отчеты о времени, проведенном ребенком за экраном, и об использовании приложений: просматривайте приложения, которыми пользуется ваш ребенок, и время, проведенное в каждом из них. Эти отчеты немедленно отразят высокий уровень вовлеченности пользователей Polybuzz.

Обращайте внимание на тревожные сигналы:

• Скрытное поведение, связанное с обучением использованию приложений.
• Эмоциональный стресс, вызванный невозможностью получить доступ к Polybuzz.
• Необходимость взаимодействовать с искусственным интеллектом не через друзей или родственников.
• Путаница между искусственным интеллектом и реальными взаимоотношениями.
• Предоставление личной информации платформе.
• Изменение настроения после использования приложения (усиление тревожности/депрессия/зависимость).

Необходимо постоянно поднимать вопросы медиаграмотности.

Регулярно обсуждайте безопасность онлайн , бизнес-модель бесплатных приложений (вовлечение — задача, а сбор данных — результат), а также обдумывайте возможности и ограничения ИИ.

Заключение

Polybuzz AI небезопасен для детей и подростков. Слабая проверка возраста, неэффективные фильтры контента, откровенный сексуальный контент, вызывающий привыкание дизайн и методы сбора данных делают его средой высокого риска для несовершеннолетних. Хотя платформа недавно объявила об улучшении проверки возраста, эти улучшения применяются непоследовательно и не решают фундаментальные проблемы с контентом и дизайном.

Родители, желающие защитить своих детей от опасностей, связанных с чат-ботами на основе ИИ, должны сосредоточиться на комплексных инструментах родительского контроля, таких как FlashGet Kids, которые обеспечивают родительский контроль в режиме реального времени, блокировку приложений и оповещения во всех приложениях, включая чат- рейтинг на основе ИИ. FlashGet Kids позволяет родителям следить за цифровой активностью своих детей без необходимости индивидуального управления приложениями. В сочетании с открытым обсуждением ИИ, реалистичными моделями взаимоотношений и строгим контролем устройств, такие инструменты обеспечивают наилучшую защиту.

Часто задаваемые вопросы