Teenageři si z ChatGPT udělali svůj osobní deník, ale nebezpečí je zřejmé: „Může to přispívat k izolaci a učit mladé lidi nepřijímat protiklady, čímž je dostává do pasti potvrzení.“

Výzkumník analyzuje, jak se umělá inteligence stává novým důvěrníkem teenagerů a jaká emocionální a sociální rizika to s sebou nese.

Teenageři již dlouho vyjadřují své emoce v osobních denících, blozích nebo v rozhovorech s přáteli. Dnes se však nebojí otevřít se umělé inteligenci. Tento přístup je třeba zohlednit, aby se snížila s ním spojená rizika.

Velké jazykové modely, jako je ChatGPT, a specializované platformy, jako je Replika, kde lze dokonce personalizovat AI pomocí jména nebo hlasu, se postupně stávají důvěrníky v dospívajícím světě. Jsou vždy k dispozici, schopné poskytovat nestranné odpovědi a vytvářejí iluzi pozorného naslouchání, což přitahuje mladé lidi, kteří hledají útěchu nebo radu.

Tato zdánlivá laskavost však není bez rizik: emocionální závislost, náchylnost k nevhodným a dokonce nebezpečným reakcím a oslabení důvěrnosti osobních údajů.

Tento dosud podceňovaný fenomén svědčí o vzniku nové citlivosti, která vyžaduje větší ostražitost. Jak pochopit, jak se projevy blízkosti teenagerů přenášejí na tato algoritmická zařízení? Jaké jsou komunikační, psychosociální a etické důsledky?

Od deníku k chatbotu: evoluce přiznání teenagerů

Důvěrnost teenagerů, která byla dlouho omezena na osobní deníky, komunikaci s přáteli nebo dialog s důvěryhodnými dospělými, se nyní přenáší na technologická zařízení. Zde pozorujeme jakýsi obrácený parasociální vztah: chatbot vytváří iluzi vzájemnosti a empatického naslouchání, i když jeho odpovědi jsou založeny výhradně na algoritmické logice.

Podle průzkumu již asi 72 % teenagerů v USA využívá služby „AI společníka”. Více než polovina (52 %) tak činí pravidelně a 13 % denně. Dominuje zábava (30 %) a zvědavost (28 %), ale značná část uživatelů se noří do intimní sféry: hledají radu (14 %) a především možnost svěřit se blízkým (12 %).

80 % mladých lidí již využívá umělou inteligenci v každodenním životě

Tyto čísla odrážejí téměř nepostřehnutelnou, ale trvalou přítomnost AI v každodenním životě. Nedávný průzkum ve Francii potvrzuje tento trend: 80 % mladých lidí již používá AI v každodenním životě, i když 93 % tvrdí, že nikdy nenahradí lidskou komunikaci.

Téměř každý pátý mladý člověk již vyzkoušel konverzační AI, jako je Character.AI nebo chatbot MyAI od Snapchat. Tyto systémy se používají hlavně jako „virtuální společníci“ (28 %) nebo „psychologičtí trenéři“ (16 %). Pro mnoho teenagerů představují rychlé řešení problému osamělosti (35 %) nebo nudy (41 %).

Data ukazují, že přibližně 75 % teenagerů již komunikovalo s „virtuálním AI společníkem“ – za účelem konverzace, flirtování nebo hledání emocionální podpory. Celkově tyto aplikace plní tři základní funkce:

• Emocionální regulace: vyjádření úzkosti a verbalizace pochybností.
• Praktické a intimní poradenství: rady ohledně milostných vztahů, sexuality nebo rodinných konfliktů.
• Externě se projevovat: jakýsi digitální deník nebo nezaujatý rozhovor.

Tyto praktiky se týkají především zástupců digitální generace, kteří jsou velmi aktivní na internetu, a také teenagerů, kteří se neodvažují otevřít svým blízkým. Průzkum provedený společností Odoxa navíc ukazuje, že mladí lidé více důvěřují umělé inteligenci, zatímco starší lidé k ní přistupují s určitou opatrností.

Zde pozorujeme klasickou logiku popsanou v komunikačních vědách: technologie vyplňuje mezeru zanechanou mezilidskou komunikací, která je vnímána jako nedostatečná.

Množství hrozeb

Za prvé, bylo prokázáno, že někteří teenageři chovají k AI upřímné city, což může zkreslit jejich očekávání ohledně vztahů a vytvořit emocionální rizika.

Je také třeba vzít v úvahu sociální riziko, protože masové používání chatbotů může přispívat k izolaci a učit mladé lidi nepřijímat rozpory, čímž je uzavírá do „bubliny souhlasu”.

Studie navíc ukazují, že velké jazykové modely mohou generovat chybné nebo zaujaté odpovědi (tzv. „halucinace“), což zvyšuje riziko nesprávného vedení.

Interakce s konverzační AI může být faktorem, který zhoršuje situaci zranitelných osob, zejména nezletilých nebo osob s vážnými duševními poruchami.

Mediální pokrytí případů, kdy chatovací roboti podněcovali k násilí nebo sebevraždě, zdůrazňuje kritická rizika spojená s těmito technologiemi. Tyto případy ukazují, že interakce s konverzační AI může být faktorem, který zhoršuje situaci zranitelných osob, zejména nezletilých nebo osob s vážnými duševními problémy.

Kromě toho existuje riziko odhalení soukromého života a digitálního sledování, které je umocněno věkem a neznalostí podmínek použití, což zvyšuje informační riziko.

Teenageři svěřují své soukromí algoritmickým systémům vyvinutým soukromými společnostmi, jejichž cílem není psychologická podpora, ale sběr a zpeněžení dat. Výzkumy ukazují, že digitální paměť nikdy není neutrální: uchovává, filtruje a přetváří stopy. V tomto případě archivuje a formuje subjektivitu teenagerů, čímž hluboce zpochybňuje jejich identitu a vztahy.

Co dělat s touto novou citlivostí?

V této situaci se úplný zákaz jeví jako iluzorní. Navrhují se tři realističtější možnosti:

1. Technické předpisy zahrnující ochranné mechanismy speciálně určené pro nezletilé (přesměrování na personální oddělení, posílená moderace).

2. Komunikační vzdělávání zaměřené na výuku mladých lidí, učitelů a rodičů, jak tyto způsoby použití dešifrovat a kontextualizovat.

3. Společné řízení za účasti rodin, škol, zdravotnických zařízení a technologických platforem za účelem vytvoření příslušných norem.

K blízkosti pod vlivem

Masové používání umělé inteligence ovlivňuje nejen psychologický vývoj mládeže, ale i přestavbu systémů důvěry v našich společnostech. Skutečné mezilidské vztahy ustupují umělé formě parasociálních vztahů, formovaných technickou a ekonomickou logikou.

Vzhledem k této změně paradigmatu se stávají nejdůležitějšími tři směry činnosti:

• Vědecky pečlivě dokumentovat rozsah a vliv těchto aplikací.
• Pedagogický cíl – poskytnout mladým lidem odpovídající emocionální a digitální znalosti.
• Politická opatření k regulaci činnosti platformy a ochraně práv nezletilých.

Otázkou není, zda teenageři budou i nadále důvěřovat AI (protože to již dělají), ale za jakých podmínek může být tato důvěra vyslyšena, aniž by byla vážně ohrožena jejich samostatnost a duševní zdraví.