Opracowanie na podstawie: AI in medicine: creating a safe and equitable future. Lancet 2023;402:503; DOI:10.1016/S0140-6736(23)01668-9.

Autor: Maja Micińska

Ogromny postęp w rozwoju generatywnej sztucznej inteligencji (ang. generative AI), np. modeli pozwalających na prowadzenie konwersacji, takich jak ChatGPT, lub na tworzenie realistycznych obrazów, wzbudził zainteresowanie jej możliwościami, także w sferze zdrowotnej. Pojawiły się jednak również wątpliwości i zagrożenia z tym związane, na temat których wypowiedział się m.in. sekretarz generalny Organizacji Narodów Zjednoczonych (ONZ) António Guterres.

Sztuczna inteligencja w medycynie jest stosowana od dawna. Niegeneratywne maszyny, czyli wykorzystujące gotowe dane, sprawdzają się np. w interpretowaniu wyników badań obrazowych. Mammografia wspomagana sztuczną inteligencją ma podobny wskaźnik wykrywalności nowotworów oraz o połowę zmniejsza czas poświęcony na analizę w porównaniu z badaniem wykonanym przez lekarza samodzielnie. AI przyczynia się do postępu w sferze chorób zakaźnych, medycyny molekularnej czy narzędzi diagnostycznych. Wykorzystanie generatywnej sztucznej inteligencji znacznie przyspieszy badania kliniczne oraz ułatwi pracownikom służby zdrowia prace administracyjne. Pojawiają się ponadto inicjatywy takie jak Global Grand Challenges fundacji Bill & Melinda Gates Foundation, których celem jest poszukiwanie zastosowań modeli w krajach o niższym średnim poziomie dochodu.

Postępy te wiążą się jednak z poważnym ryzykiem. AI sprawdza się najlepiej w zadaniach zdefiniowanych, wobec czego stosowanie jej do analizy zróżnicowanych danych może się okazać problematyczne. Modele językowe mogą popełniać błędy, a nawet halucynować nieistniejące dane i źródła. Dodatkowo przekazywanie danych osobowych firmom technologicznym bez odpowiednich regulacji zagrażałoby prywatności pacjentów. Kolejnym problemem jest tendencyjność modeli, która może wpłynąć na równość w sferze zdrowotnej. Algorytmy wytrenowane na stronniczych zbiorach danych pogłębiły różnice rasowe w dostępie do opieki zdrowotnej w USA. Ponadto dane pochodzą z krajów o wysokich dochodach, co może wpływać na modele, gdy zostaną wykorzystane w mniej zamożnych państwach. Wszystko to wskazuje, że sztuczna inteligencja wzmocni, nie zaś całkowicie zastąpi ludzki osąd.

Obecnie podejmowane są działania mające sprawić, by sztuczna inteligencja stała się narzędziem służącym, a nie zagrażającym medycynie. ONZ powołuje organ doradczy, którego celem będzie stworzenie bezpiecznej i zrównoważonej AI – ważne, by służba zdrowia była w nim dobrze reprezentowana. Światowa Organizacja Zdrowia (World Health Organization, WHO) nawiązała współpracę z International Digital Health and AI Research Collaborative, co zwiększy udział mniej zamożnych państw w zarządzaniu sztuczną inteligencją w medycynie i umożliwi równościowe podejście. Obecnie jednak tempo postępu technologicznego znacznie przekracza tempo powstawania wytycznych dotyczących wykorzystania AI, a brak równowagi sił między środowiskiem medycznym a firmami technologicznymi wzrasta.

Poważnym niebezpieczeństwem jest pozbawiony uregulowań wpływ prywatnych firm technologicznych. Wobec tego konieczne jest utworzenie organów regulacyjnych zapewniających bezpieczeństwo, prywatność i etyczne praktyki. Dla przykładu, „Unijna ustawa o sztucznej inteligencji” będzie wymagać oceny systemów sztucznej inteligencji wysokiego ryzyka przed ich zatwierdzeniem. Regulacja powinna być także głównym tematem pierwszego międzynarodowego szczytu bezpieczeństwa sztucznej inteligencji, który odbędzie się na początku listopada 2023 r. w Wielkiej Brytanii. Istnieje jednak konflikt pomiędzy komercyjnymi interesami firm technologicznych a koniecznością przejrzystości ich działań – Amazon, Google i Epic sprzeciwiły się proponowanym przepisom w technologiach medycznych. Może to zagrażać dobru pacjentów, a jako pierwsze ucierpią grupy zmarginalizowane.

Lancet podkreśla, że sztuczna inteligencja może przynieść ogromne korzyści, jeśli zostanie wprowadzona z zachowaniem ostrożności. Dzięki temu stanie się pomocą – a nie zamiennikiem – dla lekarzy. Przy tworzeniu uregulowań politycy muszą współpracować z firmami technologicznymi oraz ekspertami w dziedzinie zdrowia, by priorytetem pozostała równość w dostępie do opieki medycznej. Obecnie najważniejszą kwestią jest wprowadzenie rygorystycznych regulacji związanych z użytkowaniem sztucznej inteligencji.