Meta nástroj sleduje kliknutí myší zaměstnanců

Plán společnosti Meta shromažďovat podrobné záznamy o používání počítačů zaměstnanců k trénování modelů umělé inteligence je rozsáhlejší, než bylo původně popsáno, a je nastaven tak, aby v procesu zachycoval data ze zemí mimo USA, podle interní dokumentace, kterou viděla agentura Reuters.

Dokumenty zavádějí do projektu nové komplikace, klíčovou součást širšího plánu generálního ředitele Meta Marka Zuckerberga na transformaci toho, jak společnost funguje, řekly agentury Reuters skupiny pro ochranu soukromí.

Meta minulý měsíc týmu řekla, že spouští nástroj pro zachycení toho, jak lidé používají počítače, a uvedla, že tato funkce zahrnuje zaznamenávání pohybů myši, kliknutí a navigaci v rozevíracích nabídkách, aby mohli autonomně provádět každodenní softwarové úkoly.

Nástroj s názvem Model Capability Initiative nebo MCI stahuje data z více než 200 aplikací a webů, podle seznamu, který Meta sdílela se zaměstnanci. Společnost uvedla, že se to týká pouze amerických zaměstnanců a že existují ochranná opatření na ochranu důvěrných informací.

V týdnech po spuštění si však zaměstnanci Meta stěžovali, že MCI spotřebovává tolik dat, že to způsobuje prudký nárůst používání internetu ve společnosti, v některých případech s využitím kvóty na celý měsíc během několika dní, podle interních příspěvků, které viděla agentura Reuters.

Meta také v dokumentu Q&A poskytnutém zaměstnancům uznala, že nástroj bude zachycovat obsah všech e-mailů nebo přímých zpráv odeslaných zaměstnancům v USA, bez ohledu na polohu odesílatele.

Mluvčí společnosti Meta Dave Arnold ve svém prohlášení uvedl, že MCI byl nainstalován pouze na zařízeních severoamerických zaměstnanců a že se soustředil na to, jak lidé komunikují s počítači, nikoli na obsah na jejich obrazovkách.

„V zájmu transparentnosti jsme informovali zaměstnance mimo USA, že byla nasazena do amerických peer počítačů, se kterými mohou e-mailovat nebo chatovat v běžném podnikání,“ řekl Arnold.

Potvrdil přibližný počet aplikací a webů, které nástroj sleduje, ale odmítl odpovědět na podrobné otázky o tom, jaké množství dat přijímá a zda je zákonný.

„Při vývoji i implementaci tohoto nástroje jsme pečlivě zvážili a zmírnili potenciální rizika ochrany soukromí a zavázali jsme se dodržovat platné zákony a předpisy,“ uvedl.

Problémy s dodržováním předpisů

Zjištění by mohla prohloubit regulační potíže země, kde technologické společnosti čelí tvrdým právním sporům o to, jak shromažďují a distribuují data.

Zatímco američtí pracovníci mají před dohledem zaměstnavatelů jen malou ochranu, společnosti fungující podle obecného nařízení EU o ochraně osobních údajů musí mít právní základ pro zpracování osobních údajů, zveřejňování toho, co se shromažďuje, a musí splňovat přísné podmínky pro zvláště citlivé údaje, jako jsou zdravotní informace.

V dokumentu Meta’s MCI FAQ se jeden záznam zabývá sledováním z pohledu zaměstnance mimo USA: „Jsem mimo USA. Budou mé konverzace nebo data zachyceny, když komunikuji s kolegou z USA, který má tento nástroj povolen?“

Odpověď společnosti: „Pokud má kolega z USA aktivovaný nástroj při chatování nebo e-mailu někomu mimo USA, tato aktivita bude zachycena.“

Meta ve FAQ také uvedla, že data shromážděná MCI budou „odpojena“ od identifikačních údajů zaměstnanců, a proto je nebude možné prohledávat nebo smazat jednotlivci, což je v Evropě požadavek.

Kleanthi Sardeli, právní expertka ze skupiny pro ochranu soukromí NOYB („None of Your Business“), řekla agentuře Reuters, že i omezené nebo nepřímé zachycování dat zaměstnanců z EU by mohlo Meta porušit pravidla GDPR.

Mezi klíčové problematické body by mohlo patřit to, zda je shromažďování evropských údajů nástrojem považováno za „náhodné“ nebo se počítá jako monitorování podle obecného nařízení o ochraně údajů a zda iniciativa může projít testem „omezení účelu“, dodal.

„Tato data byla původně shromážděna pro účely komunikace v práci a plnění pracovní smlouvy. Převzít chat zaměstnance a vložit jej do modelu AI je neslučitelné s tímto původním účelem,“ řekl Sardeli.

Meta řekla irské komisi pro ochranu dat, jejímu hlavnímu strážci soukromí v EU, že ani data od zaměstnanců EU, ani záznam obsahu obrazovky „nespadají do hlavního účelu tohoto nástroje“, řekl mluvčí Komise agentuře Reuters, aniž by upřesnil.

Arnold, mluvčí společnosti Meta, odmítl komentovat výměnu informací společnosti s regulátory.

Reakce zaměstnance

Projekt MCI je součástí dalekosáhlé restrukturalizace ve společnosti Meta, jejímž cílem je předat velké objemy práce agentům AI, což vyvolalo zuřivou reakci mezi zaměstnanci, kteří Meta přirovnali k „továrně na extrakci dat zaměstnanců“.

V interním příspěvku se zaměstnanec podělil o zjištění podrobné analýzy souborů protokolu MCI provedené s pomocí Anthropic’s Claude, typu nástroje umělé inteligence, který Meta povzbuzuje zaměstnance, aby začlenili do svých pracovních postupů.

Podle analýzy – replikované ostatními – byl MCI přidán do stávajícího softwaru pro zabezpečení dat společnosti, což mu umožnilo přístup k dalším podrobnostem, včetně změn kódu zaměstnanců, cyklů spánku a probuzení jejich počítačů, adres URL, které navštívili, a veškerého obsahu schránky, který zkopírovali a vložili a který byl uložen v méně bezpečné, nešifrované podobě.

Kompilace tohoto objemu dat by umožnila vytvořit „úplný model chování, jak znalostní pracovník dělá svou práci,“ napsal zaměstnanec.

„Není to ‚AI, která za vás klikne na rozevírací seznam‘, ale ‚AI, která ví, na kterou rozevírací nabídku kliknout, co vybrat, do kterého dokumentu vložit a co dělat dál‘,“ napsala.

Post zaměstnance později zmizel, řekli agentuře Reuters dva další zaměstnanci.

Arnold, mluvčí Meta, označil závěry publikace za „zásadně nepřesné“, ale odmítl odpovědět na otázky týkající se jeho obvinění nebo říci, zda je společnost odstranila.

Johnny Ryan, ředitel jednotky prosazování irské rady pro občanské svobody, uvedl, že výměny názorů v rámci Meta posílily, proč považuje za „nezbytné“, aby DPC prošetřila iniciativu.

„Tato situace, tento případ, se neomezuje na zaměstnance Meta. Týká se všech zaměstnanců ve všech odvětvích, kde by mohli být nahrazeni. Každému na tom záleží, pokud rozumí, o co jde,“ řekl.