Zatímco se v nemocnicích prosazují specializované systémy umělé inteligence, část zdravotníků sahá i po obecných nástrojích typu ChatGPT. Upozorňuje na to Česká asociace umělé inteligence (ČAUI).
Použití veřejně dostupných modelů mimo kontrolované prostředí může narážet na pravidla ochrany dat a přinášet klinická i bezpečnostní rizika, varuje ČAUI. Podle asociace nejde pouze o situace, kdy model „stanoví diagnózu“. Problém nastává i tehdy, když generativní nástroj upravuje klinické texty tak, že mění jejich význam, doplňuje je o nové závěry nebo začne navrhovat další vyšetření či léčbu. Cesta „může být vysoce riziková pro pacienty, snadno vytvářet nesplnitelná očekávání a v krajním případě podrývat ty, kteří AI zavádějí správně a podle pravidel,“ říká Matěj Misař, předseda zdravotnické sekce ČAUI a člen výboru pro AI na ministerstvu zdravotnictví. Instituce zároveň varuje, že bez systematického vzdělávání personálu hrozí nekritické spoléhání na výstupy generativních modelů.
Podle dřívějších zjištění ČAUI využívá nějakou formu AI 64 procent českých nemocnic. Vysoký zájem potvrzuje i průzkum mezi největšími zařízeními, který provedla Lupa. Řada používaných technologií pochází od českých startupů. Misař působí také v soukromém sektoru jako spoluzakladatel zdravotnického startupu Carebot.
ČLÁNKY DO MAILU