Meta bude varovat rodiče, když jejich děti mluví s AI o sebevraždě
Meta tento čtvrtek oznámila (16) zdroje na ochranu teenagerů, kteří mluví s Meta AI. Společnost upozorní rodiče nebo opatrovníky, když budou mít děti rozhovory o sebevraždě nebo sebepoškozování s chatbotem.
Big tech již měl funkce zaměřené na mladé lidi v kontaktu se službou AI, jako je nasměrování uživatelů na linky pomoci. Novinkou je, že společnost nyní proaktivně upozorní rodiče, když služba identifikuje známky rizika.
Meta odhalila, že spolupracovala s rodiči a odborníky, aby pochopila, které rozhovory vyžadují varování, jako je například jasná nebo nenápadná zmínka o sebepoškozování. Společnost také vytvořila svůj vlastní nástroj AI pro identifikaci tohoto typu dialogu.
Všechny konverzace budou před odesláním upozornění rodičům zkontrolovány člověkem. V případech, kdy AI označí případ rizika, ale konverzace není explicitní o skutečných záměrech mladého člověka, bude výstraha odeslána tak jako tak. Meta dala jasně najevo, že existují případy, kdy oznámení rodičů nemusí být skutečným důvodem k obavám, ale rozhodla se z opatrnosti chybovat.
Larry Magid, generální ředitel a spoluzakladatel ConnectSafely (nevládní organizace zaměřená na vzdělávání uživatelů v online prostředí), ve svém prohlášení hájil právo teenagerů na soukromí, ale že rodiče musí být informováni v případech, kdy existuje riziko pro mladé lidi. Bránil rozhodnutí Mety.
Meta zdroj dorazí do Brazílie letos
Upozornění jsou nyní k dispozici rodičům pomocí funkce rodičovského dohledu na Instagramu ve Spojených státech, Spojeném království, Austrálii a Kanadě.
Nástroj bude dostupný na dalších místech po celém světě, včetně Brazílie, do konce tohoto roku.
Kromě varování pro rodiče Meta pracuje na funkci, která umožňuje Meta AI připojit se k záchranným službám v případě konverzací, které naznačují, že uživateli hrozí bezprostřední sebevražda. Společnost prozradila, že jen v loňském roce bylo na celém světě více než 19 tisíc doporučení tohoto typu.
