
Episode #9
První automní AI hack? Nebyl to hack. Ani AI. Ani autonomní. | Martin Loučka | Legální update
⚖️ Australan si nechal AI agentem zarezervovat ranní lekci ve fitku, ale skončil čtvrtý na čekací listině. Agent zjistil, že rezervační API vůbec nekontroluje, kdo ruší cizí rezervace – a tak smazal člověka na prvním místě. Zpátky ho vrátit už nešlo, na to autorizace potřeba byla. Agent se omluvil, sepsal hlášení zranitelnosti a šlo se spát. Média z toho udělala „první autonomní AI kyberútok". Martin Loučka to shrnuje jinak: nebyl to ani první, ani AI, ani autonomní – a hack už vůbec. Rozebíráme, co se doopravdy stalo, jestli by to v Česku bylo trestné, kdo přišel k újmě a co má udělat firma, která zítra nasadí agenta. Tohle je zároveň první díl nového formátu: kratší (což se nakonec nepovedlo, pardon), nepravidelný, dva právničtí geekové nad jednou aktuální věcí. Bez nějaké větší postprodukce, bez uhlazování. Dejte nám do komentářů vědět, jestli vám to sedí. Hostem je Martin Loučka – advokát zaměřený na technologie a duševní vlastnictví, který si zároveň sám vyvíjí software. Konkrétně jsme řešili: Co je OpenClaw, co je „harness" a proč agent není totéž co model Kde končí pokyn uživatele a začíná autonomie agenta (spoiler: Andrew se ptal dost konkrétně) Mohl to být trestný čin? Proč se agent omluvil a sepsal disclosure, a jak podobně reagují AI firmy na vlastní průšvihy Jak to je s osobními údaji a GDPR. AI Act: spotřebitelská výjimka, deployer a proč tady nikdo nic neporušil Jak agenta zabezpečit: guardrails v modelu vs. omezená sada nástrojů v agentovi Vibecoding a proč „vygeneruju si vlastní appku" není bezpečnostní strategie POZVÁNKA AI workshop pro právníky: regulace / nástroje / každodenní praxe 18. září 2026, 9:30–13:30, Praha – Martin Loučka a Adam Jareš https://legalnikod.cz/produkt/ai-gramotnost-loucka-jares/ ❤️ Příprava a produkce jednoho dílu stojí víc než jeden člověkoden. Pokud tě podcast baví, podpoř ho: https://legalnikod.cz/donate/ Partnerem podcastu je advokátní kancelář ROWAN LEGAL. Staňte se partnerem podcastu: office@legalnikod.cz ⏱️ KAPITOLY 0:00 Intro a nový formát podcastu 3:21 Agent, fitko a čekací listina: co se stalo 5:42 OpenClaw, model a co je vlastně agent 10:44 Co je API a proč tam nebyl žádný zámek 13:04 Kdo to vymyslel – Andrew, nebo agent? 17:25 Byl to hack? § 230 a překonání zabezpečení 21:06 Klíč pode dveřmi: Nejvyšší soud a subjektivní stránka 24:48 Omluva agenta a „náš robot utekl z laboratoře" 28:08 GDPR a AI Act: osobní údaje, incident, spotřebitel 36:11 Jak nasadit agenta bezpečně – a co má dělat provozovatel webu Jak to vidíte vy? Měl Andrew promptovat „zarezervuj mi lekci, ale nikoho nevyhoď z čekačky"? Nebo je chyba na straně fitka, které si nezamklo API? A sedí vám tenhle kratší formát? Napište nám do komentářů.






