Málokdo si umí představit, co vše už AI dokáže: z tisíců lidí najít jednoho konkrétního. Bez biometrických dat a jen na základě toho, jaké po sobě zanecháte stopy na internetu.
Nakonec je tedy dobrá otázka: proč máme mít ověřování věku a digitální identity, když nás lze identifikovat i bez nich? A to je třeba očekávat, že tato identifikace bude stále dokonalejší.
Jenže ono ani tak nejde o identifikaci jako takovou, ale především o nástroj na ovládání mas.
Tedy všechna ta tvrzení, že je nutné každého ověřovat, aby se „ochránily děti,“ dostávají další jasnou trhlinu. Dnes to již lze i bez digitálních identit a jiných nástrojů na ověřování…
Komentář k filmu, název kavárny, města, koníčku nebo profese: samy o sobě takové informace moc neprozradí. Nová studie však ukazuje, že AI ji může využít k sestavení neuvěřitelně přesného digitálního otisku.
Díky velkým jazykovým modelům se výzkumníkům podařilo přiřadit více než polovinu z 987 uživatelů hackerských zpráv pod pseudonymem skutečným identitám.
Zjevné odkazy jako osobní webové stránky, jména na sociálních sítích a GitHub účty byly již dříve odstraněny.
Cena experimentu: pouhých 2 000 dolarů, tedy jeden až čtyři dolary za profil.
Mezi 89 000 uživateli bylo identifikováno 55 procent
Výzkumníci zanechali zdánlivě neškodné informace: jména kolegů, institucí a místních firem, místo pobytu, zájmy, demografii a technické dovednosti.
AI tyto informace zkombinovala a vyhledala příslušné osoby mezi 89 000 uživateli. Výsledek: S přesností 90 procent bylo identifikováno 55,2 procenta požadovaných profilů. S přesností 99 procent to stále bylo 45,1 procenta.
Starší metoda statistické deanonymizace dosáhla pouze 0,1 procenta pro stejná data.
Zásadní rozdíl: To, co dříve vyžadovalo časově náročnou detektivní práci, může nyní AI automatizovat a provádět za extrémně nízké náklady.
Čím více odhalíte, tím snáze vás AI najde
Další experiment s uživateli Redditu ukázal, že i zdánlivě nepodstatné informace o preferencích filmů mohou pomoci s identifikací. Čím více někdo publikuje, tím unikátnější se jeho digitální vzor stává.
Výzkumníci jednoduše shrnují princip: město, profese, účast na konferenci nebo specifický koníček: to vše zužuje okruh možných lidí. Tato kombinace se může stát jedinečným otiskem prstu.
I velikost platformy nabízí omezenou ochranu. Výzkumníci odhadují, že jejich metoda by stále mohla najít asi 45 procent hledaných lidí v jednom milionu a asi 27 procent těch, které hledají, ve 100 milionech kandidátů.
Mocný nástroj pro sledování
Důsledky jsou značné. Vlády by mohly takové metody použít k přiřazování pseudonymních účtů novinářů, disidentů nebo aktivistů skutečným lidem. Firmy a datoví makléři by mohli propojovat profily napříč různými platformami.
Nikdo nemusí kvůli tomu hackovat databáze: Studie používala pouze veřejně dostupné informace, které uživatelé sami publikovali.
Bezpečnostní filtry AI systémů také mohou nabízet jen malou ochranu. Útok lze rozdělit na zdánlivě neškodné úkoly: shrnutí profilů, porovnání dokumentů, hodnocení kandidátů. V případě open source modelů lze také odstranit ochranné mechanismy.
Digitální ID otázku ještě zhoršuje
Tento vývoj je obzvlášť explozivní vzhledem k digitálním identitám a online kontrolám věku. Často se slibuje, že uživatelé mohou jednou prokázat svou identitu a pak zůstat pod pseudonymem.
Pokud však AI už dokáže identifikovat osobu na základě jejího publikovaného obsahu, toto rozdělení se stává stále křehčím. Studie neprokazuje, že digitální ID automaticky odhalují anonymní profily.
Ukazuje však, jak snadno lze rozptýlené online stopy nyní sloučit do skutečné identity.
Nebezpečí nespočívá v krádeži velkých dat, ale v tisících drobností, které lidé v průběhu let dobrovolně zveřejnili. V minulosti byly tyto stopy rozptýleny po internetu.
Dnes je AI dokáže dát dohromady za pár dolarů, dokud za pseudonymem opět nebude skutečné jméno.
Finančním darem pomůžete s náklady na provoz a údržbu webu, zároveň ohodnotíte naši práci se zpracováváním informací, které pravidelně přinášíme bez reklam. Děkujeme
Účet CZK- 2596759016/3030. CZ24 3030 0000 0025 9675 9016
Účet EUR – CZ02 3030 0000 0025 9675 9024. BIC – SWIFT AIRACZPP
