Çocuğunuzun görüntü istismarının kurbanı olması için çıplak fotoğraf çektirmesine gerek yok. Aile tatilinizde çektiğiniz basit bir özçekim veya Instagram hikayenizde paylaştığınız bir fotoğraf bile başkası tarafından cinsel içerikli deepfake video oluşturmak için kullanılabilir.
Üretken yapay zekanın gücü sayesinde, herhangi bir teknik bilgiye gerek kalmadan saniyeler içinde bir görüntüyü değiştirmek, birinin yüzünü değiştirmek veya onu 'soyunmak' çok kolay.
Ne yazık ki, UNICEF, ECPATve INTERPOL'ün 11 ülkeyi kapsayan yakın tarihli bir araştırmasında, yalnızca bir yıl içinde en az 1,2 milyon çocuğun görüntülerinin cinsel içerikli deepfake'ler oluşturmak için düzenlendiğini itiraf ettiği ortaya çıktı.
Bu, zorlu bir ebeveynlik durumu yaratıyor. Çocuğunuzun her mesajını veya kaydırmasını gözetlediğinizi hissetmeden nasıl güvenlik sınırları belirleyebilirsiniz ?
Bu makalede, deepfake risklerini, doğru aile kurallarını, güven oluşturma yaklaşımlarını ve işler ters gittiğinde izlenecek adım adım bir eylem planını ele alıyoruz.
Gerçek riskleri anlayın: Yapay zekâ destekli gen oyla ve açık görüntüler çocukları nasıl etkileyebilir?
Yapay zekâ destekli gen oyla müstehcen fotoğraflar, sadece bir başka çevrimiçi sorun olmaktan çok daha fazlası. Bu, gerek fail gerekse katılımcı olarak çocukları birçok farklı şekilde etkileyebilecek bir silah olabilir.
Sıradan fotoğraflar, sahte ve müstehcen görüntülere dönüşebilir
Bir sınıf fotoğrafı, kulüp fotoğrafı, TikTok dans videosu veya doğum günü partisinden bir selfie, yapay zeka ile manipülasyon için temel oluşturabilir.
Örneğin, 9. sınıf futbol takımının fotoğrafını ele alalım. Bir çocuk fotoğrafı indiriyor, bir oyuncunun yüzünü "şaka olsun diye" çıplaklaştırma uygulamasına sokuyor ve şimdi oyuncu aşağılanma yaşıyor.
Onlar bu manipülasyona asla rıza göstermediler, ancak şimdi utanç verici durumlara ve istenmeyen ilgiye katlanmak zorundalar.
Deepfake kötüye kullanımı sadece yabancılar arasında değil, sınıf arkadaşları arasında da yaşanabilir
Deepfake'lere gelince, en yaygın kaynak genellikle tanıdıkları biridir. Bu bir sınıf arkadaşı, eski sevgili, bir arkadaş grubu veya beğeni toplamak için komik olmaya çalışan biri olabilir.
Peki bu neden önemli? Çünkü çocuklar bunu muhtemelen küçümseyeceklerdir. "Jake sadece şaka yapıyordu," diyeceklerdir ki bu da bir yabancının tehdidi kadar ciddi gelmez.
Bu, size söylemeyebilecekleri anlamına gelir. Okulda utanmaya devam etseler bile, çünkü bunu yapan kişi iki sıra ötede oturuyor ve herkes biliyor.
Psikolojik ve sosyal sonuçlar, görüntünün kendisinin ötesine geçer
Şunu da belirtmek gerekir ki, herkes görüntünün sahte olduğunu bilse bile, verilen zarar yine de gerçektir.
Çocuklar kendilerini teşhir edilmiş hissettiklerini, okula gitmekten endişe duyduklarını, tekrar paylaşım yapmaktan gergin olduklarını ve öğretmenlerinin bunu görmesinden endişe ettiklerini ifade ediyorlar.
Bunu, fotoğrafıyla birlikte yayılan korkunç bir söylenti gibi düşünün. Yüz kere "doğru değil" deseler bile, o görüntü insanların zihninde dolaşmaya devam edecektir.
Çocuklar hem kurban hem de katılımcı olabilirler
Bugün hedef alınan çocuğun, ertesi hafta başka bir çocuğun deepfake videosunu paylaşan kişi olması mümkün.
Bunu sadece ortama uyum sağlamak veya bir sonraki hedef olmamak için yapıyor olabilirler. Bu da "kurban olmayın" diyen basit bir kuralın sorunun yarısını gözden kaçırdığı anlamına gelir.
Çocuklar, cinsel içerikli bir görüntülerini oluşturmanın, kaydetmenin veya göndermenin (şaka amaçlı bile olsa) bir kişi için son derece zararlı olduğunu ve yasal sonuçları olabileceğini anlamalıdır.
Yapay zekâ oyla yönelik açık aile kuralları ve belirgin görüntüler oluşturun
İyi kurallar kısa, açık ve hatırlaması kolaydır. İşte ailece benimseyebileceğiniz beş kural.
Kural 1: Gerçek kişilerin cinselleştirilmiş görüntülerini asla oluşturmayın veya talep etmeyin
Yapay zeka araçları, uygulamaları veya filtreleri kullanarak, gerçek olsun ya da olmasın, hiç kimsenin izniyle veya izni olmadan cinselleştirilmiş, çıplak veya "soyulmuş" görüntülerini oluşturmak yasaktır.
Niyet ne olursa olsun, böyle bir şey yapmanın zararlı olduğunu açıkça belirtin. Çocuğunuza takip edeceği bir senaryo verebilirsiniz: "Eğer bir arkadaşın senden birinin fotoğrafını çıplak hale getirmeni isterse, hayır de ve bana söyle."
Kural 2: Açık içerikli deepfake videoları asla kaydetmeyin, iletmeyin veya paylaşımına katılmayın
Eğer birisi tarafından gönderildiyse, kaydetmeyin, ekran görüntüsünü almayın, yanıt vermeyin veya "insanları uyarmak için" iletmeyin. Onlar mesajı kapatmalı, etkileşime girmemeli ve güvendikleri bir yetişkine bildirmelidirler.
İletilerin başkalarına iletilmesi, tek bir kötü davranışı okul çapında bir utanç haline getirir. Her iletilen mesaj yeni bir zarar eylemidir ve ileten kişi için yasal sorunlara da yol açabilir.
Kural 3: Kişisel fotoğrafları ve dijital kimliği koruyun
Hesap gizliliğini koruyun, özel mesajları yalnızca tanıdığınız kişilerle sınırlayın ve yakın çekim fotoğraflar, okul üniformaları veya konum.
Çocuğunuzu çevrimiçi görünmez hale getiremeseniz de, kötüye kullanımı kolay olan yüksek kaliteli fotoğrafların sayısını azaltabilirsiniz.
Kural 4: Tehditlere veya daha fazla resim talebine asla yanıt vermeyin
Sahte görüntüler genellikle şantaj amacıyla kullanılır. Kişilere "Gerçek bir fotoğraf gönder, yoksa bunu yayınlarım" şeklinde bir mesaj gelebilir. Bu durumda, kişiler bu isteğe hemen boyun eğmemelidir.
Thorn'un 2024 anketine göre, yaklaşık her 17 çocuktan 1'i cinsel şantajın kurbanı olmuştur. Bu nedenle, çocuğunuza cevap vermeyi bırakmasını ve size hemen göstermesini öğretin.
Kural 5: Zararlı içeriği araştırmaya çalışmak yerine bildirin
Meraklı çocuklar bazen resmi araştırır veya yaratıcısıyla yüzleşir. Ancak bunu yapmamalılar. Araştırma, onları daha fazla kötü içeriğe maruz bırakır ve yüzleşmeler durumu daha da kötüleştirir.
Bunun yerine, platform üzerinden raporlama yapmak ve yalnızca kullanıcı adını ve tarihi kaydetmek, okul için müstehcen görüntünün on ekran görüntüsüne sahip olmaktan çok daha değerli bir bilgidir.
Ebeveynler, çocuklarının gözetim altında olduklarını hissetmelerine neden olmadan bu kuralları nasıl uygulayabilirler?
Kuralların net olması önemli olduğu kadar, ebeveynlerin bu kuralları nasıl uygulamaya koydukları da önemlidir.
Kısıtlamalar getirmek yerine kuralların ardındaki nedenleri açıklayın
Çocuğunuza sadece "Çünkü ben öyle söyledim!" demeyin. Nedenini açıklayın. Örneğin, "Bunları başkalarına iletmiyoruz çünkü sahte bile olsa birinin okul hayatını mahvedebilir."
Çocuklar insan üzerindeki etkilerini anlarlarsa, siz bakmadığınızda kurala uyma olasılıkları daha yüksek olur.
Kuralları birlikte oluşturmayı deneyin ve çocuğunuzun bazı kısıtlamalar önermesine izin verin. Yazılmasına yardım oldukları bir kural, sizin casus yazılımınız değil, onlar için kendi kuralları gibidir.
Özel konuşmaların her birini okumak yerine güvenlik sinyallerine odaklanın
Çocuğunuzun güvenliğini sağlamak için tüm özel mesajları okumanıza gerek yok. Tek yapmanız gereken, ani bir içine kapanma, gece geç saatlerde yaşanan kaygı veya yeni, gizli bir hesap gibi belirli işaretlere dikkat etmek.
Bu konuda ebeveyn kontrol araçları yardım . Örneğin, bazı aileler FlashGet görüntüleyebilirler olabilir Kids'i kullanarak her şeyi tek tek incelemek zorunda kalmadan uygulama kullanımını , ekran süresini ve etkinlik raporlarını
Coğrafi Çit uyarılar ve uygulama kontrolleri, sağlıklı dijital alışkanlıklar oluşturmanıza yardım .
Buradaki amaç çocuğunuzun yanlış bir şey yaptığını yakalamak değil. Önemli olan, bir değişiklik olup olmadığını tespit edebilmek ve uygun zamanda sorular sorabilmektir.
Yapay zeka ve çevrimiçi deneyimler hakkında düzenli, baskı yaratmayan sohbetler oluşturun
Uzun ve detaylı konuşmalar pek işe yaramaz; ancak kısa ve düzenli görüşmeler daha etkili olur.
Araba kullanırken, yemek pişirirken veya köpeği gezdirirken onlara, "Bu hafta çevrimiçi garip veya yapay zeka oyla bir şey bildiri mi?" diye sorun. Bunun herhangi bir olumsuz sonucu olmadığından emin olun.
Yapay zekâ hakkında konuşmak normal geldiğinde, deepfake'leri bildirmek de normal gelir. Çocuğunuz zaten daha önce bu konuda sakin olduğunuzu gördüğü için patlamayacağınızı bilecektir.
Çocuklara, otomatik olarak cezalandırılma korkusu olmadan yardım istemeleri için güvenli bir yol sağlayın
Şöyle açıklayın: "Bana çevrimiçi bir şeyle gelirseniz, bir kuralı çiğnemiş olsanız bile, ilk tepkim sizi cezalandırmak değil, size yardım olmak olacaktır."
Çocuğunuz deepfake bir videoyu başkalarına iletir ve daha sonra özür dilerse, öncelikle verilen zararı ele alın ve ardından sonuçlarını sakin bir şekilde tartışın.
Çocukları yapay zeka destekli gen oyla cinsel içerikli görüntü olayına karışırsa ebeveynler ne yapmalıdır?
Verdiğiniz ilk tepki, gidişatı belirler. Bu yüzden sakin olun, çocuğunuza size anlattığı için teşekkür edin ve her şeyi adım adım ele alın.
Çocuğunuz deepfake kurbanıysa
- Anında duygusal destek sağlayın. Çocuğunuza hiçbir yanlış yapmadığını ve görüntünün rızası olmadan çekilmiş bir cinsel istismar olduğunu söyleyerek onu rahatlatın.
- Dijital kanıtları koruyun. Herhangi bir şey silinmeden önce içeriklerin, hesap adlarının, doğrudan mesajların, web URL'lerinin ve tarih-saat bilgilerinin ekran görüntülerini kaydedin.
- Okul yöneticilerini bilgilendirin. Eğer fail veya dağıtım sınıf arkadaşlarınız tarafından yapıldıysa, güvenlik protokollerinin devreye girmesi için okul yetkililerine kanıt sunun.
Çocuğunuz başkasının deepfake videosunu oluşturduysa veya paylaştıysa
- Etkinliği derhal sonlandırın. Çocuğunuzun cihazlarından ve bulut depolama hesaplarından tüm kopyaları sildiğinizden emin olun.
- Durumun ciddiyetinden bahsedin. Hukuki ve etik sonuçları şiddet içermeyen ve tehdit edici olmayan bir şekilde tartışın.
- Uygun profesyonellerle iletişime geçin. Durumu düzeltmek ve yasal sorumluluk konusunda bir hukuk uzmanına veya okul danışmanına danışın.
Çocuğunuz başka bir çocuğun müstehcen görüntülerini alırsa veya keşfederse
- Dosyayı başkalarına iletmekten kaçının. Çocuğunuza detaymesajın ayrıntılarını
- Platform moderatörlerine bildirin. İçeriğin derhal kaldırılması için uygulama içi araçları kullanarak işaretleyin.
- Hedef alınan çocuğun ailesini bilgilendirin. Etkilenen aileyi veya okul yetkililerini sorumlu bir şekilde uyarın ve koruyucu önlemlerin alınmasına olanak sağlayın.
Zararlı görsellerin kaldırılması ve daha fazla yardım alınması için nasıl başvurulur?
- İçeriği kaldırınyüklenmesini engelleyin çevrimiçi .
- StopNCII.org. Yasal yaşa yakın kişiler için, rıza dışı özel görüntülerin çevrimiçi.
- CyberTipline. Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi'ne cybertipline.org adresinden resmi bir ihbar gönderin.
Çocuğunuzla birlikte büyüyebilecek bir aile yapay zeka güvenlik anlaşması oluşturun
Farklı yaş grupları için farklı beklentiler belirleyin
çevrimiçi güvenlik kurallarını çocuğunuzun yaşına göre özelleştirin.
- Ergenlik öncesi çocuklar (10-12 yaş)odaklanın ayarlar, özeloylamağazalarına ve ailece paylaşılan ekran alanlarına
- Gençler (13-15 yaş arası) : Resim paylaşımı, grup sohbetlerindeki akran baskısı ve alet güvenliği konularında yönergeler uygulayın
- 16 yaş ve üzeri gençler için: Yasal rıza, dijital ayak izlerinin sonuçları ve uzun vadede itibarınızı koruma konularını ele alın.
Ebeveynlerin neleri izleyip neleri izlemeyeceği konusunda anlaşın
Cihaz kullanımı için net kurallar belirleyin. Hangi güvenlik uygulamalarının açık olduğunu, ne zaman uyarı verileceğini ve bir ebeveynin cihazı ne zaman kontrol etmesi gerektiğini onlara bildirin.
Çocuğunuza karşı dürüst olduğunuzda, bu güven ortamı oluşturmaya yardım olacaktır.
Yapay zeka teknolojisi değiştikçe kuralları birlikte gözden geçirin
Yapay zeka teknolojisi alanı sürekli gelişiyor. Aile anlaşmanızın aylık olarak gözden geçirilmesini planlayın.
Kuralları birlikte gözden geçirmek, yönergelerinizi yeni dijital araçlar ve zorluklarla güncel tutmanıza yardım olacaktır.
Çözüm
Üretken yapay zekadan kaynaklanan riskleri yönetmek için, tam izlemeye değil, güvene dayalı proaktif ebeveynlik gereklidir.
Çocuğunuzun dijital kimliğinin güvenliğini yardım , açık içerikli deepfake'lerin oluşturulmasına veya paylaşılmasına net sınırlar koyabilir ve açık raporlama prosedürleri sağlayabilirsiniz.
FlashGet Kids gibi güvenlik yönetim araçları ve NCMEC'in Take It Down programı gibi destekleyici kaynaklarla birleştiğinde , ebeveynler dayanıklı bir ortam yaratabilirler.
Açık iletişim sayesinde, çevrimiçi zorluklar yaşandığında çocuğunuz sizden tavsiye ve rehberlik alabilir.
