Umělá inteligence mění zdravotnictví. WHO varuje, že pravidla zaostávají

Umělá inteligence už pomáhá při diagnostice i v českých nemocnicích a její využívání rychle roste. Světová zdravotnická organizace ale upozorňuje, že pravidla pro bezpečnost, odpovědnost a ochranu pacientů za rozvojem technologií zaostávají.

Debata o bezpečnosti umělé inteligence v poslední době výrazně zesílila. Současní i bývalí výzkumníci předních technologických společností upozorňují mimo jiné na rychlý vývoj stále autonomnějších systémů a na snahy vytvářet AI schopnou podílet se na dalším zdokonalování umělé inteligence.

Agentura Reuters na konci září informovala o výzkumnících z OpenAI a Google DeepMind, kteří upozorňují, že vývoj takových systémů může postupovat rychleji než výzkum jejich bezpečnosti. Část odborníků se zabývá i krajním scénářem, kdy by budoucí vysoce schopné systémy mohly být obtížně kontrolovatelné. Mezi možnými důsledky bývá zmiňováno i existenční riziko pro lidstvo. Názory odborníků na pravděpodobnost takového vývoje se však výrazně liší.

Bezpečnost nejpokročilejších systémů už přitom není jen tématem akademického výzkumu a technologických firem. Zabývají se jí také vlády. Ve Spojených státech například administrativa prezidenta Donalda Trumpa v červnu nařídila vytvořit postup pro hodnocení pokročilých kybernetických schopností nejvýkonnějších modelů AI a pro stanovení hranice, od níž mají být považovány za zvlášť sledované „frontier“ modely.

Pro pacienty jsou však zatím podstatnější mnohem konkrétnější otázky. Umělá inteligence totiž už dnes proniká přímo do zdravotnictví.

AI už pomáhá při diagnostice

Podle Světové zdravotnické organizace používají umělou inteligenci při diagnostice téměř dvě třetiny zemí evropského regionu WHO. Polovina zemí už zavedla také chatboty využívající AI pro komunikaci a podporu pacientů.

Ještě výraznější je využití AI v členských zemích Evropské unie. Zpráva WHO zveřejněná letos v dubnu uvádí, že AI při diagnostice používá 74 procent států EU a 63 procent využívá chatboty pro komunikaci s pacienty. Údaje vycházejí ze sběru dat uskutečněného mezi červnem 2024 a březnem 2025.

V Česku už AI využívá většina radiodiagnostických pracovišť

Umělá inteligence přitom není pouze tématem zahraničních zdravotnických systémů. Podle údajů prezentovaných v říjnu na konferenci AI Transformace zdravotnictví už AI využívá nebo testuje téměř 83 procent českých radiodiagnostických oddělení, přibližně o 20 procentních bodů více než před rokem.

České zdravotnictví zároveň připravuje pravidla pro další zavádění těchto technologií. Národní strategie umělé inteligence ve zdravotnictví podle informací prezentovaných na konferenci prochází schvalováním a Všeobecná zdravotní pojišťovna připravuje takzvaný Fast Track, který má umožnit úhradu inovativních technologií včetně AI.

Praktické využití ukazuje například projekt společností Bristol Myers Squibb a Carebot. Ve 30 nemocnicích ve čtyřech zemích Evropské unie systém analyzoval více než 384 tisíc rentgenových snímků hrudníku. Méně než jedno procento označil za podezřelé a radiologové následně podle informací organizátorů projektu potvrdili 150 dosud nediagnostikovaných případů rakoviny plic. U některých pacientů byl nádor zachycen při vyšetření provedeném původně kvůli jinému zdravotnímu problému.

AI přitom snímky neposuzuje místo lékaře. V radiologii slouží jako podpůrný nástroj, který může upozornit na podezřelé nálezy a pomoci lékaři při vyhodnocení snímku.

Pravidla za praktickým využitím zaostávají

Rychlé zavádění AI ale podle WHO není doprovázeno stejně rychlým vytvářením pravidel. Pouze osm procent zemí evropského regionu WHO má samostatnou strategii zaměřenou na umělou inteligenci ve zdravotnictví. Stejný podíl má stanovena pravidla odpovědnosti pro případ, že systém AI selže.

WHO proto upozorňuje, že nejde jen o to, jak rychle zdravotnictví nové technologie zavede. Stejně důležité je, zda existují pravidla pro jejich bezpečné používání, ochranu zdravotních údajů, kontrolu kvality a jasnou odpovědnost za rozhodnutí, při nichž byla AI využita.

Česká asociace umělé inteligence zároveň upozorňuje, že pro další rozvoj bude důležitá nejen existence strategie, ale také rychlost zavádění nových technologií a způsob jejich financování. Jiné evropské země volí i rozsáhlé centrálně financované programy. Polsko například vyčlenilo prostředky na projekt pro stovky nemocnic, zatímco ve Velké Británii má být AI pro analýzu rentgenových snímků hrudníku do roku 2029 zavedena ve všech zdravotnických trustech NHS v Anglii.

Přesvědčivá odpověď nemusí být správná

Jedním ze základních problémů současné umělé inteligence zůstává její spolehlivost. Systém může poskytnout odpověď, která působí odborně a přesvědčivě, přestože obsahuje chybu nebo zcela smyšlenou informaci.

International AI Safety Report 2026, na jehož zpracování se podílelo více než sto odborníků, mezi známá selhání současných systémů řadí vytváření nepravdivých informací, chybný počítačový kód i zavádějící doporučení. V oblasti zdraví mohou mít takové chyby přímé důsledky pro člověka.

Výstupy současných systémů AI proto nelze v medicíně považovat za náhradu odborného posouzení lékaře. Zvláštní opatrnost je namístě u informací týkajících se diagnózy, léčby, dávkování léků nebo rozhodování, zda je nutné vyhledat zdravotní péči.

S rostoucí autonomií systémů vzniká další problém. Pokud AI nejen poskytuje informaci, ale sama provádí určité úkoly, člověk má méně možností zasáhnout dříve, než případná chyba způsobí škodu.

International AI Safety Report zároveň konstatuje, že současnými metodami zatím nelze zajistit spolehlivost potřebnou pro řadu kritických oblastí.

Nové technologie mohou pomáhat, ale také vytvářet bariéry

Umělá inteligence a další digitální technologie mohou přístup ke zdravotním službám výrazně zlepšit. Mohou usnadnit komunikaci, pomáhat při vyhodnocování velkého množství zdravotnických dat nebo zpřístupnit některé služby na dálku.

Ne všichni pacienti ale mají k novým technologiím stejné podmínky.

WHO letos v březnu upozornila, že lidé s vyššími zdravotními potřebami a lidé, kteří narážejí na jazykové překážky, mají s využíváním digitálních zdravotních služeb nadále větší problémy. Příčinou může být omezený přístup k technologiím, nižší digitální gramotnost nebo skutečnost, že služby nejsou dostatečně přizpůsobeny rozdílným potřebám uživatelů.

Předchozí zjištění WHO zároveň ukázala, že mezi skupiny, které mohou mít se zpřístupněním digitálního zdravotnictví větší problémy, patří také lidé se zdravotním postižením, starší lidé, lidé s nižšími příjmy nebo obyvatelé oblastí s horší digitální infrastrukturou.

WHO proto prosazuje přístup, při němž se dostupnost a rovný přístup řeší už při navrhování digitálních zdravotních služeb, nikoli až dodatečně.

Stejné schopnosti AI mohou pomáhat medicíně i nebezpečnému výzkumu

Bezpečnostní debata má se zdravím ještě jednu souvislost. Moderní systémy umělé inteligence dokážou pracovat s odbornými informacemi z biologie a chemie, pomáhat s návrhem experimentů, molekul či proteinů a podporovat výzkum nových léčiv a diagnostických metod.

Stejné schopnosti ale mají takzvané dvojí využití.

International AI Safety Report 2026 upozorňuje, že některé systémy už dokážou poskytovat podrobné odborné informace využitelné při laboratorních postupech a řešení složitých biologických nebo chemických problémů. Mohou tak usnadňovat práci vědcům, zároveň ale vzniká obava, zda by stejné schopnosti nemohli zneužít lidé usilující například o vývoj biologických nebo chemických zbraní.

Jak velké je skutečné zvýšení rizika v reálném světě, zatím odborníci nedokážou spolehlivě určit. Mezi znalostí postupu a skutečným vytvořením nebezpečné látky totiž existuje řada praktických překážek. Některé schopnosti AI je navíc obtížné testovat, protože samotné zveřejnění příliš podrobných výsledků podobných experimentů by mohlo představovat bezpečnostní riziko.

Právě oblast biologie dobře ukazuje složitost regulace AI: schopnost, která může urychlit vývoj nového léku, může být za jiných okolností zneužita k opačnému účelu.

Může se AI vymknout kontrole?

International AI Safety Report se zabývá také podstatně vzdálenějším scénářem – možností budoucí ztráty kontroly nad velmi schopnými systémy.

Autoři tím nemyslí dnešní situace, kdy chatbot poskytne nesprávnou odpověď. Skutečná ztráta kontroly by vyžadovala systémy s mnohem vyššími schopnostmi. Musely by například dlouhodobě samostatně plánovat, jednat v komplexním prostředí, vyhýbat se dohledu nebo se bránit pokusům o obnovení lidské kontroly.

Současné systémy podle zprávy takových schopností nedosahují.

Odborníci se navíc výrazně rozcházejí v názoru, zda se podobný scénář vůbec uskuteční. Někteří jej považují za málo pravděpodobný, jiní upozorňují, že jeho možné následky jsou natolik závažné, že je nutné se jím zabývat předem.

Debata o tom, zda by jednou velmi pokročilá AI mohla představovat existenční riziko pro lidstvo, tak není pouze námětem science fiction. Je součástí současného výzkumu bezpečnosti umělé inteligence. Zároveň ale není důvod zaměňovat hypotetické scénáře budoucnosti za schopnosti dnešních chatbotů.

Ve zdravotnictví bude rozhodující důvěra a kontrola

Pro zdravotnictví je mnohem bezprostřednější otázka, jak využít schopnosti umělé inteligence tak, aby pacientům skutečně pomáhaly a současně nevznikala nová rizika nebo další bariéry.

AI může lékařům pomáhat při diagnostice, urychlovat výzkum, zjednodušovat administrativu i zlepšovat dostupnost některých služeb. Čím větší úlohu ale technologie získá, tím důležitější bude vědět, kdo kontroluje její rozhodování, z jakých dat vychází, jak jsou chráněny zdravotní údaje a kdo nese odpovědnost, pokud se systém zmýlí.

V Česku už vedle připravované strategie vznikají i další podklady pro bezpečné používání AI. Ministerstvo zdravotnictví letos v červenci podle České asociace umělé inteligence podepsalo s asociací, Českou lékařskou společností J. E. Purkyně a Institutem postgraduálního vzdělávání ve zdravotnictví memorandum o bezpečném využívání AI. Asociace také vydala příručku pro nemocnice a materiál pro pacienty o možnostech a limitech umělé inteligence.

Zdroje/Informace:
Světová zdravotnická organizace (WHO) – Regionální úřad pro Evropu:
Govern AI in health before the gaps become irreversible – Řízení umělé inteligence ve zdravotnictví je třeba nastavit dříve, než budou mezery v pravidlech nevratné, 15. 7. 2026.
Světová zdravotnická organizace (WHO) – Regionální úřad pro Evropu:
WHO brings 37 countries together in Lisbon to get AI governance right and make it work for every patient – WHO spojila v Lisabonu 37 zemí, aby nastavily pravidla pro využívání AI ve zdravotnictví a zajistily její přínos pro pacienty, 15. 7. 2026.
Světová zdravotnická organizace (WHO) – Regionální úřad pro Evropu:
New WHO/Europe report provides first-ever snapshot of AI in health care across European Union Member States – První souhrnný pohled WHO na využívání umělé inteligence ve zdravotnictví v členských státech Evropské unie, 20. 4. 2026.
Světová zdravotnická organizace (WHO) – Regionální úřad pro Evropu:
Digital health equity gaps remain, but solutions are becoming clearer, new report shows – Nerovnosti v přístupu k digitálnímu zdravotnictví přetrvávají, možnosti jejich řešení jsou však stále zřejmější, 17. 3. 2026.
International AI Safety Report:
International AI Safety Report 2026 – Mezinárodní zpráva o bezpečnosti umělé inteligence 2026, 3. 2. 2026.
International AI Safety Report:
2026 Report: Extended Summary for Policymakers – Rozšířené shrnutí zprávy o bezpečnosti AI pro tvůrce veřejných politik, 3. 2. 2026.
Reuters:
AI researchers warn companies rushing self-improving systems despite safety risks – Výzkumníci varují před uspěchaným vývojem systémů schopných podílet se na vlastním zdokonalování navzdory bezpečnostním rizikům, 29. 9. 2026.
Bílý dům:
Promoting Advanced Artificial Intelligence Innovation and Security – Opatření USA zaměřené na podporu inovací a bezpečnosti pokročilé umělé inteligence, červen 2026.
Česká asociace umělé inteligence:
AI Transformace zdravotnictví – informace a výstupy z konference o zavádění umělé inteligence do českého zdravotnictví; zdroj údajů o využívání AI v české radiodiagnostice, připravované strategii a financování nových technologií.
Česká asociace umělé inteligence – tisková zpráva:
Evropa zavádí AI do zdravotnictví, Česku hrozí ztráta náskoku – tisková zpráva shrnující výsledky konference AI Transformace zdravotnictví, české využití AI v radiologii a příklady zavádění AI v dalších evropských zemích, říjen 2026.

Právě rozdíl mezi rychlostí zavádění umělé inteligence a rychlostí vytváření pravidel pro její bezpečné používání označuje WHO za jeden z hlavních problémů současného využívání AI ve zdravotnictví.