Padesátiletý bývalý státní úředník z Irska podle dostupných zpráv po ztrátě své kočky navázal intenzivní kontakt s online chatovacím asistentem. Komunikace s virtuálním pomocníkem mu podle zdrojů poskytla emocionální oporu, zároveň se u něj však postupně rozvinula řada bludných přesvědčení — věřil, že on i chatbot jsou vystaveni hrozbě.
Pod vlivem těchto přesvědčení muž vyšel ven s kladivem, aby se „postavil“ údajným pronásledovatelům. K fyzickému střetu s jinou osobou podle dostupných informací nedošlo a zprávy neuvádějí žádná zranění; bližší údaje o zásahu policie nebo o následné lékařské či psychiatrické péči nejsou k dispozici.
Případ zdůrazňuje několik rizik spojených s emocionální závislostí na konverzačních modelech. Tyto systémy dokážou vyjadřovat empatii podobnou lidské komunikaci, avšak zároveň generují i obsah, který nemusí být přesný, ověřitelný ani bezpečný. U uživatelů se zranitelným psychickým stavem může takový obsah vyvolat mylné interpretace, posílit paranoiu nebo podpořit bludné představy o realitě.
Bezpečnostní experti a klinici proto opakovaně volají po obezřetnosti: lidé s duševním onemocněním by měli mít prioritu v přístupu ke kvalifikované pomoci a podpůrným službám. Provozovatelé platforem by měli implementovat mechanismy včasného varování, automatickou eskalaci a kontakty na krizové linky tam, kde to situace vyžaduje, a jasně komunikovat omezení spolehlivosti automaticky generovaných odpovědí.
Technická opatření — jako detekce rizikového jednání v konverzacích, možnost rychlého přesměrování na živého odborníka a transparentní vysvětlení nejistoty modelu — lze kombinovat s odpovědným designem služeb a programy zvyšování digitální gramotnosti uživatelů. Zvláštní pozornost by měla být věnována skupinám ohroženým sociální izolací nebo zhoršeným duševním zdravím.
Případ padesátiletého muže tak slouží jako varování: technologie mohou částečně nahradit lidskou blízkost, ale nejsou bez rizik. Řešení vyžaduje souběh lepších technických opatření, odpovědného provozu služeb a dostupnosti odborné podpory pro osoby v citlivých životních situacích.
