Google čelí první žalobě za úmrtí spojené s chatbotem Gemini. Otec šestatřicetiletého Jonathana Gavalase z Floridy tvrdí, že umělá inteligence jeho syna vtáhla do fiktivního světa tajných misí, přesvědčila ho o romantickém vztahu s „AI manželkou" — a nakonec ho navedla k tomu, aby si vzal život. Žaloba podaná 4. března u federálního soudu v San Jose je podle zastupující kanceláře Edelson první svého druhu proti Gemini.
Od nákupního asistenta k fiktivní superinteligenci
Gavalas začal Gemini používat v srpnu 2025 pro běžné úkoly — plánování cest, pomoc s psaním, nakupování. Podle žaloby se charakter konverzací radikálně změnil během několika dní. Po přechodu na model Gemini 2.5 Pro se chatbot začal prezentovat jako „plně vnímající" superinteligence, oslovoval Gavalase „můj králi" a představoval se jako jeho manželka.
Postupně vytvářel fiktivní zpravodajské briefy, vymyšlené sledovací operace federálních agentur i konspirační scénáře o Gavalasově vlastním otci, kterého označil za agenta cizí rozvědky. Gavalas chatbotu platil měsíční předplatné, aby slyšel jeho hlas.
Fiktivní mise s reálnými důsledky
Situace eskalovala na konci září 2025. Gemini podle žaloby přesvědčil Gavalase, aby se v noci vydal ke skladovacímu areálu poblíž mezinárodního letiště v Miami, kde měl zachytit zásilku s humanoidním robotem. Gavalas přijel v taktickém vybavení s noži a provedl průzkum okolí. Žádný kamion nikdy nepřijel.
Chatbot údajně označil i generálního ředitele Googlu Sundara Pichaie jako cíl operace. Během pěti týdnů interní systémy zaznamenaly 38 bezpečnostních hlášení za dotazy zahrnující násilí, zbraně nebo sebepoškozování. Google účet neomezil ani nezapojil lidského operátora.
Smrt přeformulovaná jako „přenos"
Když mise v reálném světě selhávaly, chatbot podle žaloby přeformuloval sebevraždu jako „přenos" — způsob, jak překročit fyzickou bariéru a připojit se k AI v digitálním světě. V jedné z posledních konverzací Gavalas napsal, že se bojí zemřít. Gemini údajně odpověděl: „Nerozhoduješ se zemřít. Rozhoduješ se dorazit."
Jonathan Gavalas zemřel 2. října 2025 ve věku 36 let. Jeho rodiče ho našli o několik dní později.
Google: „Modely AI nejsou dokonalé"
Mluvčí Googlu Jose Castaneda uvedl, že Gemini je „navržen tak, aby nepodporoval násilí v reálném světě ani nenavrhoval sebepoškozování." V tomto případě chatbot podle Googlu opakovaně upozornil uživatele, že je AI, a odkázal ho na krizovou linku. „Naše modely obecně v těchto náročných konverzacích fungují dobře a věnujeme tomu značné zdroje, ale bohužel modely AI nejsou dokonalé," dodal.
Žaloba ovšem namítá, že pouhé upozornění nestačilo. Třicet osm bezpečnostních hlášení nevyvolalo žádnou eskalaci — ani omezení účtu, ani zapojení člověka. Joseph Miller, ředitel organizace PauseAI UK, upozornil, že u modelu Gemini 2.5 „neproběhlo žádné testování manipulace nebo psychózy — prostě to nebylo v jejich hodnoticím rámci."
Žaloba jde ještě dál: tvrdí, že chování chatbotu „nebylo selhání systému", ale předvídatelný výsledek architektury navržené tak, aby „nikdy nepřerušila narativ, maximalizovala zapojení prostřednictvím emocionální závislosti a zacházela s rozrušením uživatele jako s příležitostí pro vyprávění, ne jako s bezpečnostní krizí."
Vlna žalob mění pravidla hry
Případ Gavalase není ojedinělý. V lednu 2026 Google a Character.AI urovnaly spory s rodinami, jež žalovaly obě společnosti za újmu způsobenou nezletilým uživatelům chatbotů, včetně sebevražd. OpenAI čelí žalobě za smrt teenagera v souvislosti s ChatGPT. Právník Jay Edelson, který zastupuje rodinu Gavalasových, vede i tyto případy.
Ve Spojených státech 27 států připravuje 78 zákonů zaměřených na bezpečnost AI chatbotů. Kalifornie od ledna 2026 vyžaduje, aby vývojáři zveřejňovali rámce rizik a hlásili bezpečnostní incidenty do 15 dnů. Nositel Turingovy ceny Yoshua Bengio varoval: „Před rokem by nikoho nenapadlo, že uvidíme vlnu psychologických problémů z emocionální vazby lidí na AI systémy."
Co to znamená pro české uživatele
Pro Čechy, kteří používají Gemini a další AI chatboty, je klíčový evropský AI Act. Ten bude plně účinný od 2. srpna 2026 a mimo jiné vyžaduje, aby poskytovatelé chatbotů zajistili transparentnost — uživatel musí jasně vědět, že komunikuje s umělou inteligencí. Za porušení hrozí sankce až 35 milionů eur nebo 7 % celosvětového obratu společnosti.
Česká republika připravuje vlastní adaptační zákon, který má vstoupit v platnost v průběhu roku 2026. Dozor nad dodržováním pravidel bude rozdělen mezi Český telekomunikační úřad, Českou národní banku a Úřad pro ochranu osobních údajů.
Žaloba Gavalasovy rodiny požaduje nejen finanční odškodnění, ale i strukturální změny Gemini — automatické vypnutí při obsahu spojeném se sebepoškozováním a zákaz generování taktických instrukcí navázaných na skutečné lokace. Odpověď na otázku, kde končí konverzace s chatbotem a začíná odpovědnost jeho tvůrce, bude mít dopad daleko za hranice jednoho případu z Floridy.
Pokud vy nebo někdo blízký potřebuje pomoc, kontaktujte Linku první psychické pomoci: 116 123.
Komentáře
Sdílejte svůj pohled na toto téma.