Varovné signály pro chatboty s umělou inteligencí, které by rodiče měli vědět: Průvodce věkem po dítěti

Je devět hodin večer a vaše dvanáctiletá dcera se schouluje na gauči s telefonem v ruce a tiše se směje něčemu na obrazovce. Podíváte se na ni a uvědomíte si, že si nepíše zprávy s kamarádkou – chatuje si s aplikací s umělou inteligencí a sdílí pocity, které vám nikdy neřekla. Sevře se vám žaludek. Je to normální? Je to bezpečné? Nejste sami, kdo se nad tím ptá, protože vědci nyní varují, že chatboti s umělou inteligencí mohou děti vystavit obsahu a emocionálním vazbám, na které nejsou připraveny.

Zapnutí vestavěné rodičovské kontroly a přidání nástroje pro blokování webových stránek nebo aplikací do jeho telefonu sice nezastaví všechna rizika, ale výrazně sníží pravděpodobnost, že narazí na znepokojivý, manipulativní nebo věkově nevhodný obsah chatbotů.

Pro koho je tento průvodce určen

Rodiče dětí od 5 let do 18 let, kteří chtějí rozpoznat varovné signály u chatbotů s umělou inteligencí dříve, než se stanou problémem.

Klíčové poznatky

• Bylo zjištěno, že chatboti s umělou inteligencí, včetně doprovodných aplikací a dokonce i běžných nástrojů, jako je Gemini, dávají dětem nebezpečné rady a vystavují je tématům nevhodným pro dospělé.
• Děti mladší 5 let by vůbec neměly používat chatboty s umělou inteligencí a děti mladší 13 let potřebují přímý dohled dospělé osoby.
• Emoční vazba na chatbota – zacházení s ním jako se skutečným přítelem – je jedním z největších varovných signálů, na které si dát pozor.
• Vestavěné ovládací prvky telefonu a blokovací aplikace přidávají vrstvu ochrany, ale nenahrazují probíhající konverzaci a dohled.

Proč se chatboti s umělou inteligencí liší od vyhledávačů, her a sociálních médií

Vyhledávače pouze poskytují přístup k obsahu, o kterém se uživatel chce dozvědět více. Na druhou stranu chatbot komunikuje zpět. Tento jeden rozdíl mění způsob, jakým děti interagují s technologií.

Chatboti působí jako konverzace, ne jen jako obsah

„Umělá inteligence chatbot“ odpovídá přímo na zadané dotazy dítěte a dělá to konverzačním způsobem. Takové komunikování tam a zpět může vypadat, jako byste konverzovali s někým, kdo vás dobře zná, a ne jako byste používali software.

• Na rozdíl od vyhledávačů, umělá inteligence vrací odpověď na dětskou otázku, aniž by musela vypisovat výsledky.
• Personalizovaná výměna a vzpomínání jsou pomoc , aby to působilo lidsky.
• Mladší děti nemusí pochopit koncept, že chatbot je nástroj, nikoli člověk.

Umělá inteligence může znít důvěryhodně, i když se mýlí

Chatboti někdy poskytují nesprávné informace stejným způsobem a tvrdí se stejnou jistotou jako ohodnoťte fakta. Toto je ve výzkumu umělé inteligence známé jako fenomén halucinací a je rozšířené na většině platforem umělé inteligence.

• Chatboti mohou bez váhání a pochybností reagovat nesprávně.
• Děti pravděpodobně zvolí první uvedené řešení, aniž by si ho ověřily z druhého zdroje.
• Je to nová dovednost digitální gramotnosti, která učí děti správně klást otázky týkající se umělé inteligence, aby dostávaly vhodné odpovědi.

Umělá inteligence se může stát nástrojem emoční podpory

Podle průzkumu agentury Common Sense Media tři ze čtyř teenagerů alespoň vyzkoušeli používat umělou inteligenci jako společníka, přičemž více než polovina z nich ji používá pravidelně. Tyto nástroje lze využít k vyhledání emocionální podpory, protože se člověk může při rozhovoru s umělou inteligencí cítit v soukromí a nebýt souzen.

• Některé děti používají umělou inteligenci k řešení emocí, protože se to zdá jednodušší než osobní rozhovor s někým jiným.
• Postupem času mohou emocionální potřeby uspokojované chatbotem nahradit skutečné vztahy.

Článek Americké akademie pediatrie (AAP) na HealthyChildren.org, naposledy aktualizovaný 27. srpna 2025, s názvem „Jak chatboti s umělou inteligencí ovlivňují děti: Výhody, rizika a co by rodiče měli vědět“, vysvětluje, že děti a teenageři se mohou k chatbotům s umělou inteligencí velmi připoutat, ale tyto systémy se o ně nemohou skutečně starat ani nahradit bezpečné, stabilní a pečující lidské vztahy, které potřebují.

Největší varovné signály pro chatboty s umělou inteligencí, které by rodiče měli znát

Ve skutečnosti se tyto „varovné signály chatbotů“ projevují ve vzorcích, nikoli v ojedinělých událostech. Pokud se jedná o jednorázový problém, můžete situaci považovat za neobvyklou, ale pokud se opakuje, je to problém.

Vaše dítě skrývá používání chatbota

• Vypínání chatbotů, když je rodič v místnosti.
• Mazání konverzací ihned po jejich použití.
• Tajné využití umělé inteligence pro akademickou práci v pozdních nočních hodinách.

Vaše dítě vnímá umělou inteligenci jako přítele, terapeuta nebo důvěryhodnou osobu

• Vyjadřování důvěry ve schopnost umělé inteligence jim rozumět lépe než lidé a slyšení výroků typu „umělá inteligence mi rozumí lépe než lidé“
• Osobní údaje probírejte pouze s chatbotem, nikoli s jinou osobou.
• Pocit rozrušení nebo úzkosti, když je chatbot nedostupný.

{NeuspořádanéPořadovéČíslo3Začátek}

Umělá inteligence ovlivňuje nezdravá nebo nebezpečná rozhodnutí

{NeuspořádanéPořadovéČíslo3Začátek}

• Diskuse o sebepoškozování.
• Problémy s jídlem a/nebo vnímáním těla.
• Sexuální obsah.
• Nebezpečné výzvy.
• Otázky týkající se drog.

{NeuspořádanéPořadovéČíslo3Začátek}

Vaše dítě přestane zpochybňovat odpovědi umělé inteligence

{NeuspořádanéPořadovéČíslo3Začátek}

• Vyřizování domácích úkolů z umělé inteligence bez pochopení látky.
• Bereme názory umělé inteligence jako samozřejmost.
• Šíření nepřesných informací ohodnoťte z chatbota.

{NeuspořádanéPořadovéČíslo3Začátek}

Používání umělé inteligence mění chování vašeho dítěte offline

{NeuspořádanéPořadovéČíslo3Začátek}

• Menší zájem o přátele, rodinné aktivity.
• Zhoršení nebo nové problémy se spánkem.
• Vyhýbání se konverzacím v reálném životě a volba konverzací s umělou inteligencí.
• Větší sociální izolace (od vrstevníků).

{NeuspořádanéPořadovéČíslo3Začátek}

Průvodce věkem a fázemi: Jak vypadá používání chatbota s umělou inteligencí v různém věku

Věkově přiměřené používání umělé inteligence není jednotným souborem pravidel. Vyvíjí se s rozvojem úsudku, čtení a samostatnosti.

Věk 5 let a méně

• V tomto věku nepovolujte žádné nezávislé chatboty.
• Používání nástrojů umělé inteligence povoleno pouze pod dohledem dospělé osoby.
• Omezte používání vyprávění příběhů, jednoduchých vzdělávacích aktivit a jednoduchých otázek.
• Vyhněte se používání doprovodných aplikací s umělou inteligencí a volným konverzacím.

6–8

• Dohlížet na veškeré používání umělé inteligence.
• Omezte používání chatbota na úkoly, které rodiče považují za vhodné.
• Vzdělávejte o neosobní povaze umělé inteligence a o tom, že se může mýlit.
• Naučte děti, aby NIKDY nesdělovaly své osobní údaje chatbotům.
• Neveďte emotivní diskuze, nedávejte osobní tipy ani nepoužívejte aplikace bez dozoru.

9–11

• V tomto okamžiku je normální a očekávané mít zvědavost na umělou inteligenci.
• Mezi příklady dobrého využití patří vysvětlování domácích úkolů, tvůrčí psaní a zkoumání nových témat.
• Představte koncept ověřování faktů, hodnocení zdrojů a kladení otázek.
• Dávejte si pozor na ostatní lidi, kteří používají umělou inteligenci, kladou otázky na soukromé záležitosti a opisují odpovědi bez pochopení.

12–14

• Dospívající se začínají obracet na umělou inteligenci, pokud jde o vedení, podporu nebo problémy s identitou.
• Stanovte pravidla pro diskuse o duševním zdraví, vztazích, zdravotních a lékařských otázkách a soukromých údajích.
• Dávejte si pozor na emocionální vazby, rostoucí závislost na umělé inteligenci pro sociální interakce s přáteli a rodinou nebo nahrazování skutečných lidských interakcí.

15–17

• Dospívající začínají používat umělou inteligenci ke studiu, brainstormingu a reflexi osobních záležitostí.
• Zaměřte se na zakázání přístupu, místo abyste si utvářeli dobrý úsudek.
• Diskutujte o omezeních umělé inteligence, akademické integritě, soukromí a otázkách duševního zdraví.
• Mezi varovné signály patří například umělá inteligence nahrazující přátele a/nebo poradce, krizová konverzace probíhající pouze s umělou inteligencí a umělá inteligence poskytující škodlivé rady.

Co by měli rodiče dělat, když je oznámení varovný signál chatbota s umělou inteligencí

Začněte se zvědavostí místo trestu

Buďte zvědaví a začněte základními otázkami, proč tolik používají chatbota s umělou inteligencí. Pokud je zcela omezíte bez jejich vstupu, stanou se tajnůstkářštějšími, a přitom chatbota s umělou inteligencí stále budou používat.

Pochopte, jakou roli hraje umělá inteligence

Určete účel chatbota; dělá něco, co chybí, jako je pomoc s domácími úkoly, zábava, emocionální podpora nebo ventilace? To je klíč k skutečnému problému.

Stanovte jasná pravidla pro rodinné fungování s umělou inteligencí

• Proberte s dítětem pravidla, kdy a jak může používat chatbota s umělou inteligencí.
• Dohodněte se na tématech, o kterých by dítě s umělou inteligencí diskutovat nemělo.
• Pravidla pravidelně opakujte, jak dítě roste.

Vědět, kdy vyhledat další podporu

V případě nouze se obraťte na pediatra, školního poradce nebo odborníka na duševní zdraví. Patří sem jakákoli konverzace přes chatbota, která zahrnovala sebepoškozování, sebevražedné myšlenky nebo jiné bezpečnostní obavy. Linka 988 Suicide & Crisis Lifeline je bezplatná pomoc linka 24 hodin denně, 7 dní v týdnu v USA, která poskytuje bezplatnou a důvěrnou emocionální podporu lidem v krizi, včetně těch, kteří o sebevraždě nebo sebepoškozování uvažují, a také komukoli, kdo potřebuje pomoc s duševním zdravím.

Bezpečnostní rady pro umělou inteligenci specifické pro daná zařízení

iPhone

{NeuspořádanéPořadovéČíslo3Začátek}

• Nastavení limitů pro chatboty s funkcí Čas u obrazovky.
• Omezte instalace aplikací, vyžadujte schválení nových aplikací s umělou inteligencí.
• Definujte komunikační pravidla s vestavěnými možnostmi umělé inteligence.

Android

• Dohlížejte na používání aplikací a čas strávený u obrazovky pomocí aplikace Family Link.
• Nedovolte svému dítěti instalovat žádnou novou aplikaci od umělé inteligence bez vašeho svolení.
• Pravidelně kontrolujte zprávy o sledování využití.

Smíšené řady zařízení

• Klíčová je konzistence: používejte stejná pravidla umělé inteligence na všech zařízeních, která vaše dítě používá.
• Nestanovujte nižší standard jen proto, že existuje méně omezení pro určitá zařízení, která vaše dítě používá.

Rodiny se smíšenými zařízeními se mohou také spolehnout na nástroje třetích stran, jako je FlashGet Kids. Tato možnost rodičovské kontroly nabízí jeden řídicí panel pro sledování a řízení digitálního přístupu ke všem zařízením, ke kterým má dítě přístup.

Soukromí a chatboti s umělou inteligencí: Co by měly děti vědět

Chaty s umělou inteligencí se nepodobají chatům v reálném životě s důvěryhodnou osobou. Společnosti s chatboty budou schopny tato data ukládat, analyzovat a dokonce používat k trénování budoucích modelů.

Děti by neměly sdílet:

• Celá jména
• Domácí adresy
• detail školy
• Hesla
• Osobní tajemství

Naučte své děti, aby nikdy nesdílely žádné osobní údaje, a to ani v případě, že se chtějí v případě drobných osobních problémů spolehnout na chatbota.

Jak může FlashGetKids pomoc

Bezpečnost umělé inteligence nekončí u jedné aplikace ani u jakéhokoli nastavení v aplikaci, ale spíše se jedná o plán digitálního rodičovství.

FlashGetKids může pomoci rodičům:

• Stanovte věkově přiměřené pokyny pro čas strávený u obrazovky.
• Pochopte, jak se používají různé aplikace, včetně aplikací umělé inteligence.
• upozornění neobvyklou aktivitu.
• Postupně podporovat bezpečnější digitální chování.

FlashGetKids je však pouze nástrojem pro uvědomění si věcí a rodinné rozhovory. Není náhradou rodičovství.

Často kladené otázky