Wybór aplikacji AI dla lekarza. Jakie pytania trzeba postawić?

W kolejnym artykule poświęconym problemom, jakie wynikają dla branży opieki zdrowotnej z Rozporządzenia Parlamentu i Rady UE o sztucznej inteligencji (Rozporządzenie o SI, AI act), spróbuję wyjaśnić jakie podstawowe pytania powinien postawić sobie lekarz chcąc w ramach swojej praktyki wykorzystywać narzędzia sztucznej inteligencji.

Najpierw kilka przykładów narzędzi AI dla lekarzy, które są dostępne na rybku.

1. Diagnostyka Obrazowa – AI jest szeroko stosowane do analizy obrazów medycznych, takich jak prześwietlenia rentgenowskie, CT, MRI, i ultrasonografia. Algorytmy mogą pomagać w wykrywaniu raka, identyfikacji złamań kości, czy analizie skanów mózgu pod kątem udarów lub innych nieprawidłowości.
2. Analiza EKG – AI pomaga w interpretacji elektrokardiogramów (EKG), co może prowadzić do szybszego wykrywania arytmii serca, które mogą być trudne do zauważenia przez ludzkie oko.
3. Systemy wspomagania decyzji klinicznej – Te systemy analizują dane pacjenta w kontekście najnowszych badań i wytycznych klinicznych, aby sugerować najlepsze praktyki leczenia.
4. Zarządzanie Lekami – AI może pomagać w monitorowaniu interakcji leków, przypominaniu o dawkowaniu, oraz sugerowaniu alternatyw leków na podstawie historii medycznej pacjenta i efektów ubocznych.
5. Zarządzanie dokumentacją medyczną – narzędzia, które integrują się np. z OpenAI GPT-4, pomagają lekarzom w sporządzaniu notatek z wizyt, co pozwala na większe skupienie na interakcji z pacjentem zamiast na dokumentacji.
6. Kontakt z pacjentem, chatboty – AI może odpowiadać na podstawowe pytania pacjentów, zbierać dane przed wizytą lub nawet prowadzić wstępne konsultacje.
7. Predykcja i zarządzanie ryzykiem – algorytmy AI mogą przewidywać ryzyko wystąpienia różnych chorób na podstawie historii medycznej i stylu życia pacjenta, pomagając w profilaktyce i wczesnym wykrywaniu.

Powyżej wskazane rodzaje zastosowania AI w medycynie obejmuje aplikacje, które nie są zintegrowane z urządzeniami medycznymi podlegającymi harmonizacji na podstawie odrębnych przepisów prawa UE (Rozporządzenie UE 2017/745; tzw. MDR oraz Rozporządzenie UE 2017/746; tzw. IVDR). Trzeba przypomnieć, że jeśli system AI jest zintegrowany z takim urządzeniem, które jest certyfikowane do obrotu i używania na terenie UE, to istnieje domniemanie, że system AI, w który urządzenie jest wyposażony, także jest objęty procedurą certyfikacji, a zatem lekarz nie powinien mieć wątpliwości, czy dany system AI występujący wraz z certyfikowanym urządzeniem spełnia wymagania określone w Rozporządzeniu.

W sytuacji powyżej wskazanych rodzajów aplikacji obejmujących systemy sztucznej inteligencji lekarz powinien jednak poświęcić czas na ocenę aplikacji, z której zamierza korzystać w relacjach ze swoimi pacjentami. Podstawową kwestią jest umiejętność rozróżnienia aplikacji, które należy kwalifikować jako systemy AI wysokiego ryzyka od systemów ograniczonego lub niskiego ryzyka.

Z góry należy zakładać, że w obszarze medycyny każdy system AI jest systemem wysokiego ryzyka, a tylko w szczególnie uzasadnionych przypadkach uznać można, że system AI ma niższy poziom ryzyka oraz, co za tym idzie, niższy poziom zabezpieczeń wymaganych od danej aplikacji. W obszarze medycyny uznać można, że systemy AI, które nie mają istotnego wpływu na proces decyzyjny mogą być uważane za systemy o ograniczonym lub niskim poziomie ryzyka. Są to zatem takie systemy, które nie mają istotnego wpływu na wynik procesu decyzyjnego, bez względu na to czy proces ten jest w pełni zautomatyzowany czy też nie. System taki może służyć w szczególności do wykonywania wąsko określonych zadań proceduralnych – jak np. system kategoryzujący przychodzące dokumenty albo do poprawy wyników już zakończonego działania przeprowadzonego przez człowieka.

Uwzględniając powyższe założenia, za aplikacje AI ograniczonego lub niskiego ryzyka w medycynie można zatem, moim zdaniem, uznać wyłącznie te, które zostały w zaprezentowanym przykładowym zestawieniu ujęte w punkcie 5, to znaczy aplikacje służące do porządkowania dokumentacji medycznej, a częściowo także aplikacje ujęte w punkcie 6 to jest chatboty wykonujące wstępny wywiad z pacjentem. Tego rodzaju aplikacje nie mają bowiem istotnego wpływu na proces decyzyjny. Wszystkie pozostałe rodzaje aplikacji AI mogą mieć istotny wpływ na proces decyzyjny, a co za tym idzie, bez wątpienia muszą być kwalifikowane jako systemy wysokiego ryzyka w rozumieniu przepisów Rozporządzenia.

Podsumowując, lekarz, chcący korzystać w swojej praktyce z narzędzi obejmujących systemy AI, powinien w pierwszej kolejności odpowiedzieć sobie na pytanie czy system AI jest zintegrowany z certyfikowanym urządzeniem, którego nieodzowną częścią jest system AI. W kolejnym kroku powinien ocenić czy dana aplikacja, która nie jest zintegrowana z certyfikowanym urządzeniem, obejmuje system AI wysokiego ryzyka, czy może można kwalifikować ją jako system ograniczonego lub niskiego ryzyka.

Na omówienie konsekwencji korzystania z aplikacji obejmujących systemy AI wysokiego ryzyka przyjdzie czas w kolejnych odsłonach tej serii.