Представьте, что ваш 11-летний ребенок играет в Roblox или Fortnite в наушниках. На другом конце провода вы слышите детский голос, хихиканье и желание объединиться с другим ребенком. Ваш ребенок предполагает, что это другой ребенок.
Однако что, если это не так? Технология дипфейков, позволяющая искусственному интеллекту воспроизводить голос любого человека всего за несколько секунд аудиозаписи, сделала этот обман пугающе простым.
В игровом лобби 40-летний мужчина теперь может говорить как 12-летний мальчик в режиме реального времени. Для родителей это еще один риск, который добавляется к и без того сложной в плане контроля ситуации.
В этом руководстве объясняется, что мы на самом деле подразумеваем под голосовыми дипфейками, почему онлайн игры являются особенно уязвимой целью, какие возможности для их использования они представляют, и что вы можете сделать прямо сейчас, чтобы обучить, обнаружить и защититься.
Как работают голосовые дипфейки: как работает ИИ
Голосовые дипфейки создаются с помощью генеративного искусственного интеллекта и глубоких нейронных сетей. Проще говоря, эти программные инструменты изучают уникальные характеристики голоса человека.
Что такое дипфейки голоса?
Дипфейк — это синтезированный голос, который имитирует голос реального человека. Современные инструменты клонирования позволяют создать правдоподобный клон всего за несколько секунд аудиозаписи.
После обучения этот текст может произносить всё, что набирает оператор. Он может делать это даже в режиме реального времени, во время разговора.
Иными словами, технологии, которые раньше требовали определенного уровня знаний, превратились в программное обеспечение для обычных потребителей.
Человек с ноутбуком и короткой запись, взятой из социальных сетей, может создать обманчивый голос. Весь процесс может занять всего несколько минут.
Почему игровые платформы уязвимы
Игровые платформы не были разработаны для борьбы с этой угрозой. Голосовой чат призван помощь игрокам общаться друг с другом, формировать рейтинг и взаимодействовать во время игры.
В большинстве систем проверка личности говорящего не проводится. Платформа может никогда не просматривать аудиоканал, где происходят настоящие диалоги.
Это различие может облегчить взрослому прохождение первой проверки документов. После этого он сможет использовать синтезированный детский голос для любого последующего взаимодействия.
Угрозы, основанные на голосовом взаимодействии, становятся все более распространенными и масштабными в цифровой среде. Всемирный экономический форум сообщает, что в отчете ФБР о преступлениях в интернете за 2025 год зафиксировано более 22 000 жалоб на преступления, связанные с искусственным интеллектом.
Клонирование голоса было определено как развивающийся способ использования в мошенничестве с выдачей себя за другое лицо. Фактически, недавнее исследование McAfee 2024 показало, что каждый четвертый взрослый уже стал жертвой мошенничества с использованием искусственного интеллекта для клонирования голоса. Каждый десятый подвергся прямой атаке.
Оба примера подчеркивают скорость, с которой этот навык проник в повседневную жизнь онлайн , включая голосовой чат.
Потенциальные риски: как хищники могут использовать голосовые дипфейки
Возможность клонировать или имитировать голос ребенка — это опасное оружие в руках хищников, занимающихся социальной инженерией.
Федеральная торговая комиссия (FTC) выпустила предупреждение для потребителей под названием «Мошенники используют ИИ для усовершенствования своих схем экстренного реагирования на чрезвычайные ситуации в семьях», в котором освещается растущая проблема использования технологии клонирования голоса.
Хотя финансовые мошенничества направлены против взрослых, правоохранительные органы предупреждают, что те же самые методы имитации голоса используются в игровых залах для обмана детей.
Создание ложного доверия с использованием поддельных удостоверений личности
«Клонированный» голос позволяет мошеннику создать поддельный голос с нуля.
Хищник может говорить, а не печатать сообщения, по поводу которых ребенок может задавать вопросы. Он может использовать голос сверстника, модератора или другого доверенного лица.
Такой слуховой реализм приводит к ускоренному и рейтинг самообслуживанию. Когда голос знаком и безопасен, а не просто текст, дети будут более склонны снижать свою бдительность.
Выдача себя за кого-то из знакомых ребенка
Наиболее тревожный случай связан с клонированием голоса, знакомого ребенку. Это может быть голос брата или сестры, школьного друга или другого игрока в той же игре.
Хищник может выдать убедительный аудиофайл, используя короткий фрагмент, взятый из прямой трансляции, видеозвонка или публичного сообщения.
Таким образом, ребёнок, который не доверяет незнакомцу, может сразу же уступить. Это особенно верно, если просьба исходит от знакомого человека.
Вызывание страха или эмоционального давления
Хищники используют эти голоса не только для того, чтобы подружиться с детьми, но и для манипулирования и запугивания.
Они могут притворяться знакомым и заслуживающим доверия человеком и запрашивать личную информацию или фотографии, или даже просить ребенка делать то, чего он или она не стали бы делать с неизвестный человеком.
Известны случаи, когда хищники притворялись «другом», попавшим в беду, что может привести к эмоциональному потрясению, которое подавляет здравый смысл ребенка.
Обучение детей распознаванию рисков, связанных онлайн личностью
Один из лучших способов обеспечить безопасность детей — это их просвещение. Открытые беседы позволяют детям оценивать информацию, которую они слышат в интернете, а не принимать её за чистую монету.
Объясните, как отличить голос от голоса реального человека
Вот суровая правда: если вы слышите детский голос на другом конце гарнитуры, это вовсе не значит, что вы разговариваете с ребёнком.
Родителям необходимо поговорить об этом со своими детьми, и это должно произойти до того, как возникнет сомнительная ситуация.
Объясните своим детям, что современные технологии позволяют взрослым говорить как угодно — будь то ребенок, друг или даже член семьи. Регулярно включайте это в семейные беседы о безопасности онлайн , а не ограничивайтесь одноразовой лекцией.
Предупреждающие знаки, которые следует детям) уведомление
Приучите своих детей доверять своей интуиции. Если что-то кажется подозрительным в отношении вашего игрового партнера, стоит это отметить.
Всемирный экономический форум отмечает, что в некоторых случаях тон или выразительность синтезированного голоса могут быть «неправильными», и платформы не всегда могут это определить.
Поговорите со своими детьми о том, чтобы они обращали внимание на следующее:
- Неестественная интонация: голос может неестественно прерываться, звучать роботизированно или внезапно менять высоту тона.
- Сдержанный эмоциональный диапазон: говорящий может казаться равнодушным или несколько бесстрастным во время очень напряженного момента игры.
- Звуковые помехи: Обратите внимание на любые необычные фоновые шумы, эхо или обрывы звука в момент, когда человек перестает говорить.
- Слишком личные вопросы: выступающий может запросить личную информацию, например, домашние адреса или контактные данные других членов семьи.
Им также следует с крайней осторожностью относиться к любым просьбам перейти на другое приложение, такое как WhatsApp или Snapchat.
Побуждайте детей проверять информацию, прежде чем доверять ей
Главное правило – проверять, проверять и еще раз проверять, используя другой источник.
Допустим, голос, представившийся голосом друга, отправляет необычный запрос. Вашему ребенку следует проверить это с помощью текстового сообщения, другого приложения или задав вопрос, на который знает ответ только сам собеседник.
Помощь детям остановиться и понаблюдать, вместо того чтобы сразу реагировать. Это важно, даже если голос звучит совершенно правильно.
Что должны делать дети, если кто-то выдает себя за другого человека?
Разработайте для детей четкий и понятный план действий, который не вызовет стресса. В случае обнаружения необычной активности, они должны выполнить следующие четыре шага:
Не продолжайте разговор
Первый шаг – это прекращение разговора! Если ребенок подозревает, что кто-то выдает себя за другого, продолжение беседы только помощь злоумышленнику. Это даст ему больше поводов для нападок.
Помощь своему ребенку немедленно выйти из чата. Он не должен пытаться проверить или бросить вызов самозванцу в личном общении.
Сохраните доказательства
Прежде чем блокировать кого-либо, ваш ребенок должен сначала запечатлеть произошедшее. Убедитесь, что он сделал скриншоты имени пользователя, истории чата и временных меток.
Это дает следователям исходные данные для работы. Эта информация может быть полезна родителям, игровым платформам и правоохранительным органам при расследовании ситуации.
Блокировка и отчет
Все основные игровые платформы имеют встроенные системы отчетности, идеально подходящие для такого сценария.
Сразу после того, как ваш ребенок сохранит доказательства, посоветуйте ему заблокировать аккаунт. Он также должен отправить жалобу через систему платформы.
Кроме того, сообщения можно отправлять напрямую в службу CyberTipline организации NCMEC, которая объединяет информацию о предполагаемой эксплуатации уязвимостей со всех платформ.
Расскажите взрослому, которому вы доверяете
Это самый важный из всех упомянутых выше шагов. Детям следует объяснить, что сообщать взрослым о любых подозрительных контактах — это не донос, а разумный и безопасный поступок.
Это относится даже к тем, кто испытывает смущение или не уверен в серьезности инцидента. Хищники рассчитывают на молчание. Поэтому, когда дома есть открытая линия связи, она исчезает.
Если взрослые осведомлены о происходящем, они могут помощь в дальнейших действиях и оказать поддержку.
Создание более безопасной игровой среды дома
Сочетание прямой связи с продуманными техническими средствами защиты обеспечивает надежную защиту от угроз, связанных с подделкой голоса.
Ограничить настройки голосового чата
Большинство игровых консолей и приставок предоставляют родителям возможность устанавливать параметры связи с ребенком.
Настройте чат так, чтобы общаться только с друзьями. Создайте систему, в которой ваш ребенок сможет общаться только с известными ему друзьями.
Отключите публичный чат по близости. Отключите открытый голосовой чат по близости в играх жанра «королевская битва» и «песочница».
Отключить звук неизвестный игроков по умолчанию. Убедитесь, что звук в общем лобби не воспроизводится, если он не включен вручную.
Используйте приложения для родительского контроля и инструменты мониторинга
в игре настройки могут быть дополнены специальными решениями для обеспечения кибербезопасности, которые помощь родителям быть в курсе использования приложений и общего пользовательского опыта на экране.
Приложение, подобное FlashGet Kids, предоставляет широкий спектр возможностей для семейного мониторинга. Родители могут отслеживать время, проведенное в приложениях, устанавливать ограничения на время использования экранаи контролировать разрешения подключенных мобильных устройств.
Голосовые оповещения и геозаборона защищают их от опасности.
Если родители получают уведомления в режиме реального времени об установке новых коммуникационных приложений или игр, они могут обсудить с детьми настройки конфиденциальности перед использованием голосовых каналов.
Заключение
Голосовые дипфейки — еще одна новая угроза безопасности детей онлайн , позволяющая злоумышленникам выдавать себя за взрослых и создавать ложное чувство доверия.
Однако эти риски можно значительно снизить, если люди будут осведомлены и будут придерживаться превентивных мер.
Обучение детей принципам работы искусственного интеллекта в аудиоформате, внедрение процедур проверки и установление ограничений конфиденциальности могут помощь контролировать домашнюю игровую среду.
Сочетание открытого общения в семье и контроля позволяет детям безопасно и уверенно играть в игры с другими.
