Stačí pár slov do ChatGPT a už zvoní policie? Zjistili jsme, kdy vás AI nahlásí

Proč se o tom mluví právě teď

Od roku 2024 v Evropě platí nový rámec pro internetové služby – Akt o digitálních službách (DSA). Ten ukládá poskytovatelům hostingu a online platforem povinnost neprodleně informovat policii, když se dozvědí o podezření na trestný čin, který ohrožuje život nebo bezpečnost osob. Nejde o dobrovolnost, ale o zákonnou povinnost s tvrdými sankcemi. V praxi to znamená, že obsah, který takové podezření vyvolává, už nemusí zůstat jen uvnitř platformy. ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai), [dsa-info.eu](https://dsa-info.eu/index.php/art-18/?utm_source=openai))

DSA se neuplatňuje pouze na sociální sítě: vztahuje se na široké spektrum online služeb nabízených uživatelům v EU. U vybraných velmi velkých platforem a vyhledávačů začaly povinnosti dříve (od 25. srpna 2023), ostatním hostingovým službám se povinnosti plně otevřely 17. února 2024. ([bka.de](https://www.bka.de/EN/OurTasks/Remit/CentralAgency/DigitalServicesAct/DigitalServicesAct_node.html?utm_source=openai))

Co přesně může být nahlášeno

Klíčový spouštěč je „podezření na trestný čin“ s ohrožením života či bezpečnosti – typicky například hrozby vraždy, únos, terorismus, návod k útoku nebo plánování těžké újmy. Pokud se služba takové informace dovědomě chytí, má povinnost informovat příslušné orgány a předat relevantní detaily (co přesně viděla, kdy a odkud). ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai), [dsa-info.eu](https://dsa-info.eu/index.php/recital-56/?utm_source=openai))

Samotní poskytovatelé AI navíc řeší extrémně citlivé oblasti i mimo rámec DSA. OpenAI například výslovně uvádí, že zjevný materiál sexuálního zneužívání dětí (CSAM) oznamuje americkému národnímu centru NCMEC. To je zcela automatická priorita napříč internetem, ať už se děje kdekoliv. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))

Co říká OpenAI o sdílení dat s úřady

OpenAI ve svých zásadách ochrany soukromí píše, že může sdílet osobní údaje s vládními orgány a dalšími třetími stranami, pokud to vyžaduje zákon, k ochraně práv a bezpečnosti nebo pokud zjistí porušení svých podmínek či zákona. Prakticky to znamená, že pokud úřady vznesou právně platný požadavek, data mohou být předána, a ve výjimečných situacích (např. hrozící újma) i bez něj. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))

Firma zároveň zveřejňuje přehledy vládních žádostí. Za období červenec–prosinec 2024 eviduje 57 „neobsahových“ žádostí (např. o základní údaje), 13 žádostí o obsah a 1 nouzovou žádost. Tyto počty ukazují, že vyžádání dat skutečně probíhá – i když ve srovnání s gigantickými sociálními sítěmi jde o relativně nízké desítky. ([openai.com](https://openai.com/trust-and-transparency/?utm_source=openai))

Jak to funguje v praxi: od detekce k předání

Obsah v ChatGPT a dalších službách se kontroluje kombinací automatických systémů, hlášení uživatelů a v nutných případech i ruční kontroly autorizovaným personálem. Lidé u OpenAI mohou nahlížet do konverzací pouze za jasně vymezených okolností: při vyšetřování zneužití či bezpečnostních incidentů, při podpoře uživatele, z právních důvodů nebo pro zlepšování modelů (pokud jste nevznesli námitku). Každý přístup se loguje a podléhá školením a omezením. ([help.openai.com](https://help.openai.com/en/articles/7039943-data-usage-for-consumer-services-faq%23.doc?utm_source=openai))

Uživatelé mohou hlásit podezřelý či nezákonný obsah přímo v aplikaci, což je vedle automatických filtrů další cesta, jak se podezření dostane k lidskému posouzení. Od uživatelského hlášení se pak může rozjet interní procedura a – pokud hrozí ohrožení života či bezpečnosti – i splnění povinnosti podle DSA. ([help.openai.com](https://help.openai.com/en/articles/10245791-how-to-report-content?utm_source=openai))

Jaké stopy po vás zůstávají

Technicky zůstává stopa téměř po všem: text, který píšete, reakce modelu, časové údaje a technická metadata (například IP adresa či identifikátory zařízení). Tyto informace mohou být v určitých případech sdíleny s úřady – pokud to vyžaduje zákon, k ochraně bezpečnosti či práv nebo při porušení podmínek. Jinými slovy, ChatGPT není anonymní „černá skříňka“, ale běžná online služba s logy. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))

OpenAI zároveň říká, že uživatelé mají nástroje, jak svá data spravovat: možnost vypnout použití konverzací k učení modelů a trvale odstranit smazané chaty či API obsah (typicky do 30 dnů). I když to neznamená „neexistenci“ záznamu pro účely zákonných požadavků, jde o důležitou brzdu pro běžné interní používání dat. ([openai.com](https://openai.com/consumer-privacy/?utm_source=openai))

Příběh ze života: Marek, nevinná zvědavost a ledová sprcha

Marek, 22letý student z jižní Moravy, psal seminární práci o bezpečnosti stadionů. V jedné z pozdně nočních konverzací zadal ChatGPT otázku, jak by „teoreticky“ šlo ublížit davu – prý pro účely analýzy rizik. Model odpověď odmítl a odkázal ho na nenásilné bezpečnostní postupy. Marek mávl rukou a šel spát. O dva dny později mu přistál e‑mail, že jeho účet vykázal porušení zásad a bude přezkoumán. Vše skončilo varováním, ale Marek si uvědomil, že hranice „akademického zájmu“ a „podezřelého dotazu“ je tenká a posuzuje se bez kontextu tónu či záměru.

Jakkoli je to fiktivní příběh, podobné situace nejsou neobvyklé: kombinace automatických filtrů, předchozího chování účtu a konkrétní formulace zadání může vyvolat alarm. A pokud by v obsahu bylo patrné reálné riziko újmy, cesta k oznámení policii podle evropského práva je přímá. ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai))

České zákony: povinnost oznamovat a překazit

Nejde jen o povinnosti platforem. Český trestní zákoník zná dva delikty, které se týkají každého z nás: nepřekažení trestného činu (§ 367) a neoznámení trestného činu (§ 368). Pokud se někdo hodnověrně dozví, že se připravuje nebo páchá vyjmenovaný závažný čin (vražda, teroristický útok, obchodování s lidmi atd.), má povinnost učinit kroky k jeho zmaření nebo jej alespoň oznámit. Jinak se sám vystavuje trestnosti. ([bkb.cz](https://www.bkb.cz/pomoc-obetem/trestne-ciny/neprekazeni-a-neoznameni-trestneho-cinu/?utm_source=openai), [policie.gov.cz](https://policie.gov.cz/clanek/povinnost-oznameni-trestneho-cinu.aspx?utm_source=openai))

Poslední novelizace trestního zákoníku v roce 2025 navíc upravila některé související výčty. I to připomíná, že okruh činů, u nichž zákon vyžaduje aktivní postoj, se může v čase měnit. Pro běžného uživatele to má praktický dopad: pokud v online prostředí narazí na reálné ohrožení života či svobody, jen „překliknout jinam“ nestačí. ([advokatnidenik.cz](https://advokatnidenik.cz/2025/04/11/nad-prvni-novelou-trestniho-zakoniku-v-roce-2025/?utm_source=openai))

Kdy přesně může vaše konverzace skončit u policie

1. Pokud obsah vyvolá důvodné podezření na trestný čin ohrožující život či bezpečnost osob – platforma má podle DSA povinnost informovat příslušné orgány a poskytnout relevantní informace. ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai))
2. Pokud úřady vznesou právně závazný požadavek (např. soudní příkaz) – poskytovatel data vyhodnotí a při splnění zákonných podmínek je poskytne. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))
3. V naléhavých situacích – poskytovatel může sdílet data i mimo běžný proces, pokud je to nutné k ochraně života a zdraví. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))
4. Při nahlášení CSAM – takový obsah se oznamuje specializovanému centru NCMEC. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))

Co není pravda aneb tři mýty

• „ChatGPT automaticky posílá každou zprávu policii.“ – Ne, k nahlášení dochází při splnění zákonných podmínek nebo po právním požadavku; jiné případy řeší interní moderace. ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai), [openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))
• „U AI si mě nikdo nevšimne, je to anonymní.“ – Služby uchovávají logy a metadata; platí stejné principy jako u jiných online platforem. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))
• „Když smažu chat, vše je pryč navždy a okamžitě.“ – Smazání je důležité pro běžné používání a u OpenAI bývá trvalé do 30 dnů, ale zákonné povinnosti (např. uchování či poskytnutí dat pro účely řízení) tím mohou být dotčeny. ([openai.com](https://openai.com/index/response-to-nyt-data-demands/?utm_source=openai))

Jak psát bezpečně: 8 jednoduchých pravidel

1. Nepište dotazy, které popisují konkrétní násilí, výrobu zbraní či útoky. I „teoretická“ formulace může znít jako plán. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))
2. U akademických úkolů vždy uveďte neškodný kontext (např. „pro bezpečnostní analýzu hledám preventivní opatření“), žádejte alternativy k násilí. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))
3. Zapněte si nastavení soukromí: zvažte vypnutí použití konverzací k tréninku modelu a pravidelné mazání chatů. ([openai.com](https://openai.com/consumer-privacy/?utm_source=openai))
4. Nezveřejňujte osobní údaje cizích osob a nezkoušejte získávat citlivé informace – je to proti pravidlům a může to být nezákonné. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))
5. Pokud narazíte na obsah s reálnou hrozbou, nepřehlížejte ho – nahlaste ho v aplikaci a zvažte kontaktování policie. ([help.openai.com](https://help.openai.com/en/articles/10245791-how-to-report-content?utm_source=openai))
6. Počítejte s tím, že vaše interakce může posoudit člověk – proto do chatu nepište nic, co byste neřekli nahlas na veřejnosti. ([help.openai.com](https://help.openai.com/en/articles/7039943-data-usage-for-consumer-services-faq%23.doc?utm_source=openai))
7. U firemních účtů si zjistěte pravidla – administrátor může mít k obsahu přístup, a platí jiné retenční politiky. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))
8. CTF/„red teaming“ testy dělejte jen v povoleném režimu a s jasným mandátem – obcházení pojistek je porušení pravidel. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))

Otázky a odpovědi

Sleduje ChatGPT všechny konverzace?

Nesleduje v reálném čase každé slovo, ale využívá automatické systémy a někdy i lidskou kontrolu pro bezpečnost, podporu či právní účely. Přístupy jsou omezené, auditované a musí mít důvod. ([help.openai.com](https://help.openai.com/en/articles/7039943-data-usage-for-consumer-services-faq%23.doc?utm_source=openai))

Může policie získat moje chaty?

Pokud orgány činné v trestním řízení uplatní platný právní požadavek a poskytovatel ho vyhodnotí jako oprávněný, může data poskytnout. V naléhavých případech může sdílení proběhnout i bez soudního příkazu, pokud je to nutné k odvrácení hrozby. ([openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai))

Je v EU povinnost nahlásit ohrožující obsah?

Pro platformy ano – když se dozvědí o podezření na trestný čin s ohrožením života či bezpečnosti, musí informovat příslušné orgány. V Česku navíc pro občany platí povinnost překazit či oznámit vybrané trestné činy. ([mpo.gov.cz](https://mpo.gov.cz/cz/podnikani/digitalni-ekonomika/jaka-pravidla-a-povinnosti-prinasi-narizeni-o-digitalnich-sluzbach—271930/?utm_source=openai), [policie.gov.cz](https://policie.gov.cz/clanek/povinnost-oznameni-trestneho-cinu.aspx?utm_source=openai))

Kolik žádostí úřadů OpenAI řeší?

Podle transparentnostních údajů OpenAI za 2. pololetí 2024 šlo o desítky případů (57 neobsahových, 13 obsahových a 1 nouzový). Čísla se mohou v čase měnit, důležité je, že proces existuje a je veřejně reportovaný. ([openai.com](https://openai.com/trust-and-transparency/?utm_source=openai))

Co z toho plyne pro Česko

Pro uživatele: to, co napíšete do AI chatu, není mimo dosah zákonů. Platí běžná pravidla internetu, a navíc nové povinnosti z DSA. Pro firmy: pokud v EU poskytují hosting či platformu, musí mít procesy pro hlášení podezření a umět rychle spolupracovat s úřady. To zahrnuje i schopnost identifikovat, který stát je příslušný, nebo komunikovat s Europolem, pokud to není jasné. ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai))

Pro policii a státní zástupce: práce se stále více přesouvá do digitálního prostoru. DSA představuje cenný nástroj, ale zároveň vyžaduje citlivé vyvažování mezi bezpečností a ochranou základních práv – zejména svobody projevu a soukromí. I proto evropské autority a národní koordinátoři vydávají metodiky a často kladou důraz na přiměřenost. ([bka.de](https://www.bka.de/EN/OurTasks/Remit/CentralAgency/DigitalServicesAct/FAQS/FAQS.html?utm_source=openai))

S hraničními situacemi pomůže selský rozum

AI nevidí do hlavy a nezná váš záměr, posuzuje text. Zkuste proto psát tak, aby byl jasný bezpečný účel – ptejte se na prevenci, etiku, právní rámce nebo na bezpečnostní standardy. Pokud pracujete na citlivém tématu (např. krizové plánování), doplňte, že vám jde o ochranu a minimalizaci rizik. Tím snížíte riziko, že váš dotaz bude působit jako návod na škodu. ([openai.com](https://openai.com/policies/usage-policies/?utm_source=openai))

Shrnutí

ChatGPT a podobné nástroje nejsou bezprávný prostor. Evropské právo (DSA) ukládá platformám povinnost oznámit podezření na trestné činy ohrožující život a bezpečnost, OpenAI může sdílet data s úřady, pokud to vyžaduje zákon nebo je to nezbytné k ochraně lidí, a u extrémních případů – jako je dětské zneužívání – se postupuje bezodkladně. Uživatelé v Česku mají navíc vlastní povinnosti podle trestního zákoníku. Základní recept je jednoduchý: pište s rozmyslem, držte se pravidel a využívejte nastavení soukromí. Pak vás umělá inteligence pod drobnohledem nepřekvapí. ([eu-digital-services-act.com](https://www.eu-digital-services-act.com/Digital_Services_Act_Article_18.html?utm_source=openai), [openai.com](https://openai.com/policies/privacy-policy/?utm_source=openai), [policie.gov.cz](https://policie.gov.cz/clanek/povinnost-oznameni-trestneho-cinu.aspx?utm_source=openai))