V Melbourne vyvolalo rozruch rozhodnutí jedné psychiatričky, která začala od pacientů požadovat písemný souhlas s využitím nástrojů umělé inteligence při zpracování záznamů ze sezení. Praxe podle mediálních reportů využívá algoritmy z oblasti zpracování přirozeného jazyka (NLP) k přepisu poznámek, automatickému doplňování záznamů a ke strukturování klinických dat. Pacienti byli vyzváni, aby tento postup odsouhlasili; někteří, kteří nesouhlasili, podle tvrzení dostali možnost vyhledat jiného poskytovatele péče.
Obavy pacientů: soukromí, sdílení a riziko znovuidentifikace
Část pacientů vnímá používání AI při dokumentaci jako zásah do soukromí. Hlavní obavy se týkají bezpečnosti citlivých zdravotních údajů, možnosti jejich zpřístupnění třetím stranám a nedostatečné transparentnosti fungování modelů – jaké informace se ukládají, kde a jak dlouho, a zda s nimi může být dále „trénován“ komerční software. Zejména v oblasti duševního zdraví jsou zápisy často mimořádně citlivé; v právním rámci Austrálie jde o „sensitive information“ podle Privacy Act 1988; OAIC (Office of the Australian Information Commissioner) ji považuje za zvlášť chráněnou kategorii dat. I pseudonymizace není absolutní ochranou proti znovuidentifikaci, pokud existují doplňující datové zdroje.
Argumenty zastánců: efektivita, kvalita záznamu, auditovatelnost
Zastánci nasazení automatizovaných nástrojů zdůrazňují přínosy: uvolnění času kliniků od administrativy, konzistentnější a přesnější strukturování záznamů a rychlejší dostupnost informací nutných pro kontinuitu péče. Klíčové podmínky, které z jejich pohledu musí být splněny, jsou auditovatelnost softwaru, jasné smluvní podmínky s dodavateli, technická bezpečnost a kvalitní informovaný souhlas pacientů s vysvětlením rizik a účelů zpracování.
Právní a etické mantinely
V Austrálii platí rámec ochrany osobních údajů, který zahrnuje zejména Privacy Act 1988 a Australian Privacy Principles (APPs), a pro elektronicky sdílené zdravotní záznamy i My Health Records Act 2012. Zpracování citlivých zdravotních dat obecně vyžaduje jasné právní základy a často i výslovný souhlas. Kromě zákona hrají roli i profesní standardy – Medical Board of Australia a příslušné etické komise vyžadují, aby lékařská dokumentace byla úplná, přesná a aby byla zachována důvěrnost pacientů.
Odborníci proto doporučují několik základních kroků před nasazením AI v klinické praxi:
– provedení Privacy/Data Protection Impact Assessment (PIA/DPIA), které zhodnotí rizika z hlediska ochrany soukromí a bezpečnosti;
– právní vymezení rolí „data controller“ a „data processor“ v kontraktech s dodavateli;
– zákaz použití identifikovatelných pacientských dat pro další trénink modelů bez výslovného souhlasu;
– technická opatření: šifrování dat v klidu i při přenosu, přísné řízení přístupových práv, auditovací logy a monitoring přístupů;
– použití pseudonymizace nebo robustních anonymizačních postupů tam, kde to je možné, s přihlédnutím k riziku znovuidentifikace;
– podmínky datové rezidentury (servery v Austrálii nebo adekvátní smluvní záruky u mezinárodních poskytovatelů).
Transparentnost, dohled a informovaný souhlas
Zásadní je transparentní komunikace směrem k pacientům: informace o tom, jaký software je používán, za jakým účelem, kdo má k datům přístup, jaká jsou rizika a jak mohou pacienti svůj souhlas odvolat. Informovaný souhlas by měl být konkrétní a srozumitelný, nikoli obecným bodem v souhlasu s léčbou. Mnozí odborníci doporučují rovněž systém „člověk v cyklu“ (human-in-the-loop), kdy finální klinický záznam vždy ověřuje a podepisuje lékař.
Volání po standardech a postupném zavádění
Případ z Melbourne znovu otevřel širší diskusi o rovnováze mezi efektivitou, kterou AI nabízí, a ochranou práv pacientů. Veřejnost i odborníci se shodují na nutnosti jasnějších pravidel – od národních doporučení a standardních operačních postupů pro použití AI ve zdravotnictví, přes etické rámce (NHMRC a profesní sdružení), až po regulaci smluv s poskytovateli softwaru. Mnozí volají po pilotních projektech s robustním dohledem, aby se technologie zaváděly postupně a odpovědně, s důrazem na bezpečné technické řešení, auditovatelnost a respekt k právům pacientů.
Závěr
Spor v Melbourne není jen lokálním incidentem; dotýká se širší otázky, jak integrovat nástroje umělé inteligence do klinické praxe bez ohrožení důvěry pacientů. Řešení vyžaduje kombinaci právních záruk, technických bezpečnostních opatření, transparentnosti a silného klinického a etického dohledu. Jen tak může automatizace administrativy skutečně zlepšit péči, aniž by byla na úkor soukromí a bezpečnosti pacientských dat.
