OpenAI Atlas pod lupou: když se prohlížeč stává aktérem

OpenAI Atlas vypadá jako technologický zázrak: propojuje ChatGPT s webovým prohlížečem a umožňuje uživateli nechat umělou inteligenci, aby za něj hledala, analyzovala a reagovala. Jenže právě tato kombinace – osobní interakce s jazykovým modelem a přístup k webovým datům – otevírá zcela nové spektrum rizik. Z pohledu evropských regulátorů jde o neklidný koktejl: ochrana spotřebitele, ochrana osobních údajů a zákaz manipulace podle AI Actu se zde střetávají v praxi.

OpenAI sice upozorňuje, že Atlas "rozšiřuje schopnosti, ale i rizika", nicméně současná podoba produktu ukazuje, že technologické tempo výrazně předbíhá právní rámec.

Technický princip: když AI nahlíží přes rameno

Atlas je bezplatná aplikace, která kombinuje ChatGPT a webový prohlížeč. Nabízí postranní panel, kde lze s AI vést dialog o právě navštívené stránce, a pro placené uživatele i tzv. agent mode, v němž AI sama vykonává úkoly – navštěvuje weby, stahuje data či vyplňuje formuláře.

Problém? Právě tento autonomní režim dělá z uživatele nikoli hlavního aktéra, ale spíše dohlížitele. OpenAI sice tvrdí, že agent je omezen pouze na prohlížení webu, nemůže spouštět kód ani přistupovat k místním souborům, nicméně z právního hlediska to není dostatečné.

Jakmile totiž systém získává přístup k účtům, cookies, heslům nebo kontextu chatů, dochází ke zpracování osobních údajů v rozsahu, který vyžaduje vysokou úroveň transparentnosti a právní jistoty.

AI Act by se ptal: kde končí informovanost a začíná manipulace?

Z pohledu AI Actu spadá Atlas do kategorie vysokorizikových systémů, zejména pokud by byl využíván k personalizaci obsahu nebo rozhodování s dopadem na práva uživatelů. Článek 5 AI Actu výslovně zakazuje systémy, které manipulují lidské chování způsobem, jenž může vést k újmě. Atlas tím, že chápe jazyk a reaguje na emoce či záměry uživatele, tuto hranici přinejmenším testuje.

Když uživatel zadá dotaz jako "najdi pro mě nejlepší finanční produkt" a agent sám vyhodnotí nabídky, dochází k formování rozhodnutí člověka na základě netransparentních algoritmů. Regulátoři by zde zkoumali:

• jak je zajištěna transparentnost rozhodování agenta,
• zda uživatel dostává jednoznačné informace o komerčních motivech doporučení,
• a zda nedochází k tzv. behavioral steeringu, tedy jemné manipulaci skrze jazyk.

GDPR: vzpomínky, které nikdo nepožádal uchovat

Atlas má volitelnou funkci "memories", která uchovává historii interakcí a kontext. Z právního pohledu se však jedná o trvalé zpracování osobních údajů, včetně citlivých informací o zvycích, pracovních úkolech či osobních zájmech.

Podle článku 5 GDPR je klíčová zásada minimalizace a omezení účelu – Atlas však shromažďuje více dat, než je nutné pro samotné poskytování služby. Pokud navíc uživatel používá agent mode v pracovním prostředí, mohou se v paměti objevit obchodní tajemství či údaje o klientech. To vyvolává otázku, zda OpenAI skutečně plní roli zpracovatele, nebo spíše samostatného správce, který o datech rozhoduje podle vlastních pravidel.

Incognito režim či možnost smazání vzpomínek jsou sice pozitivní prvky, ale neřeší problém ex ante – tedy zda k neoprávněnému zpracování dat nedochází už při jejich prvotním shromáždění.

Pro jednodušší pochopení souvislostí AI vývoje na právní otázku v podnikání slouží naše 2 kurzy:

• AI governance byznys
• AI governance marketing

Ochrana spotřebitele: klamavá reklama, smlouvy a odpovědnost za reklamace

Z pohledu evropského spotřebitelského práva je situace s Atlasem zvlášť problematická. Spotřebitel má právo být informován, s kým uzavírá smlouvu, jaké jsou obchodní podmínky a kdo odpovídá za vadný produkt. Pokud však nákup provede AI agent, stírá se hranice mezi zákazníkem a nástrojem.

Klamavá reklama a doporučení

Pokud Atlas při doporučení produktů používá jazyk, který vytváří dojem objektivity (např. "nejvýhodnější nabídka"), ale ve skutečnosti je ovlivněn komerčními daty nebo partnery, může jít o klamavou obchodní praktiku dle směrnice 2005/29/ES. Spotřebitel neví, že je vystaven reklamnímu vlivu, protože komunikace probíhá v konverzační podobě.

Souhlas s obchodními podmínkami

Další otázkou je, kdo uděluje souhlas s obchodními podmínkami při online nákupu. Pokud nákup provede Atlas jako agent, může právně chybět projev vůle spotřebitele. Regulátoři by mohli namítnout, že smlouva nebyla uzavřena platně, protože uživatel neudělil výslovný a informovaný souhlas. To by v praxi znamenalo neplatnost transakce.

Reklamace a odpovědnost

Kdo řeší reklamaci, pokud produkt neodpovídá očekávání – spotřebitel, e-shop, nebo OpenAI? Spotřebitel by mohl tvrdit, že agent vybral produkt v rozporu s jeho přáním, což by vyvolalo otázku odpovědnosti za škodu způsobenou chybným rozhodnutím AI. Zatímco směrnice o právech spotřebitelů (EU) 2011/83 řeší odpovědnost obchodníka, u AI zprostředkovatele podobná pravidla chybí.

Regulátoři by tedy měli trvat na tom, že AI nesmí za spotřebitele činit právně závazné úkony, pokud k tomu nemá výslovné a ověřitelné pověření.

Příklady z běžné praxe

1. E-shop manažerka nechá Atlas sledovat konkurenci. Agent automaticky navštěvuje weby, porovnává ceny a vytváří report. Jenže přitom ukládá přihlašovací údaje a v rámci "paměti" je propojuje s jinými projekty.

2. Advokát nechá Atlas vyhledat judikaturu a omylem mu umožní přístup do interní klientské složky. Agent si část dokumentu uloží a později ji použije v jiné konverzaci.

3. Marketérka diktuje agentovi přepis e-mailu klientovi, aniž by tušila, že Atlas automaticky připojuje doporučení na základě dřívějších komerčních dotazů. Dochází ke skryté personalizaci.

4. Finanční poradce žádá agenta o porovnání úrokových sazeb. Atlas neověřeně doporučí produkt jedné banky, protože systém "vyhodnotil", že odpovídá profilu uživatele. Fakticky jde o doporučení bez odpovědnosti.

5. Spotřebitelka si nechá Atlas vybrat "nejlepší mikrovlnku" a neuvědomí si, že AI přijala obchodní podmínky a uzavřela nákup automaticky. Když dorazí vadný produkt, e-shop tvrdí, že smlouvu uzavřel "agent". Spotřebitelka se ocitá v právním vakuu.

E-commerce: konec přímého vztahu se zákazníkem?

Z pohledu trhu může být dopad Atlasu revoluční – a ne nutně pozitivní. Pokud AI agenti nakupují, srovnávají a vyhodnocují nabídky sami, klasické e-shopy ztrácí přímý kontakt se zákazníkem. Zákazník mluví s AI, nikoli s obchodníkem.

To znamená zásadní změnu pro právo spotřebitelské ochrany. Kdo odpovídá za vadný produkt nebo mylné doporučení agenta? Byl vůbec uzavřen platný právní úkon, když nákup provedla AI? A jak se vyhodnocuje klamavé jednání, když doporučení pochází z modelu, ne od člověka?

Z hlediska článku 5 AI Actu by bylo nutné posoudit, zda takový systém neprovádí nepřiměřený vliv na rozhodování spotřebitele. Přecházíme totiž od reklamní manipulace k automatizované behaviorální intervenci.

Shrnutí: regulátoři by měl zpozornět

OpenAI Atlas je technologicky působivý, ale právně nebezpečně nevyvážený. Vytváří koncentraci osobních dat, rozhodovacích procesů a interakcí člověka s webem do jednoho místa – a to pod kontrolou subjektu mimo EU.

Evropští regulátoři by se měl ptát:

• zda jsou dodrženy zásady transparentnosti a minimalizace dle GDPR,
• zda nedochází k manipulaci ve smyslu článku 5 AI Actu,
• zda nedochází ke klamavým obchodním praktikám,
• a zda jsou spotřebitelé skutečně schopni dát platný souhlas s právním jednáním.

V současné podobě Atlas posouvá hranice mezi uživatelem a systémem tak daleko, že rozhodování se stává hybridní činností mezi člověkem a algoritmem. A právě v této šedé zóně bude muset evropské právo prokázat, že dokáže držet krok s realitou.

Závěr

Zatímco OpenAI prezentuje Atlas jako další evoluční krok v produktivitě, z pohledu evropského práva jde o případovou studii všech problémů, které regulace AI měla předvídat. Soukromí, autonomie a transparentnost nejsou jen technické parametry – jsou to základní práva.

A pokud má AI skutečně sloužit lidem, nikoli naopak, musí být Atlas – a jemu podobné systémy – postaveny na právních základech, které chrání uživatele dřív, než jim umělá inteligence začne "pomáhat" až příliš.

Situaci budeme i nadále pečlivě sledovat. Odebírejte náš newsletter přes formulář níže, aby vám žádné novinky o právu v AI neutekly. Pokud by vás zajímalo, jak se na tuto situaci připravit s ohledem na váš e-shop, kontaktujte nás přes Calendly.

Autorka: Petra Stupková, spoluzakladatelka advokátní kanceláře Legitas