AI odnawia recepty w Utah. Eksperci: "Niebezpieczny pierwszy krok"
W stanie Utah rozpoczął się pilotaż usługi, w której sztuczna inteligencja samodzielnie odnawia recepty. Wszystko dzięki ograniczeniu regulacji, co wzbudza kontrowersje w światku medycznym.
Doctronic to firma, która implementuje usługę wizyty u wirtualnego lekarza. W Stanach Zjednoczonych pacjenci mogą porozmawiać ze specjalnym chatbotem bez dodatkowych opłat, a następnie skorzystać z wizyty zdalnej u prawdziwego lekarza za 39 dolarów. Przejście przez etap "lekarza AI" jest obowiązkowe, by skorzystać z porady medycznej lekarza. Dzięki temu firmie udało się stworzyć eksperymentalne rozwiązanie.
W stanie Utah firma Doctronic rozpoczęła pilotażowy program, który pozwala, by AI odnawiała recepty bez bezpośredniego nadzoru lekarza. Program działa w ramach stanowej "piaskownicy regulacyjnej", czyli środowiska, w którym czasowo, na potrzeby eksperymentu nie obowiązują standardowe przepisy. Omija w ten sposób przepisy krajowego regulatora, podobnie jak zapowiedziany ostatnio ChatGPT Health.
Jak działa odnawianie recept przez AI w Utah?
Po potwierdzeniu zamieszkania w Utah chatbot Doctronic pobiera historię recept i proponuje listę leków kwalifikujących się do odnowienia. Za taką usługę płaci się 4 dolary. System obejmuje 190 powszechnie stosowanych preparatów na choroby przewlekłe, z wyłączeniami mocniejszych leków przeciwbólowych, środków na ADHD i substancji wstrzykiwanych.
ChatGPT zabierze nam pracę? AI ma jeszcze sporo do nadrobienia
Doctronic angażuje lekarzy w proces weryfikacji pierwszych 250 odnowień recept w każdej klasie leków. Następnie decyzje podejmować ma wyłącznie sztuczna inteligencja. W przypadku wątpliwości oprogramowanie może zwrócić się o konsultację do prawdziwego lekarza. Jak zapewnia Adam Oskowitz, współzałożyciel firmy, model ma zachowywać ostrożność.
W niezrecenzowanym artykule naukowym poświęconym narzędziu, opartym na bazie 500 przypadków, Doctronic określa skuteczność swojego rozwiązania. Firma podaje, że rozpoznanie AI pokrywało się z oceną lekarza klinicznego w 81 proc. przypadków, a plan leczenia był "spójny" w 99 proc z tym, co proponował lekarz.
Czy nadzór federalny obejmie lokalny test AI?
Program nie jest objęty nadzorem federalnym, więc nie zajmuje się nim krajowa agencja żywności i leków (FDA). Co prawda FDA może zajmować się nadzorowaniem narzędzi, ale w tym momencie to inicjatywa kontrolowana na poziomie stanowym przez Departament Handlu Utah. Ten brak większej kontroli jest źródłem krytyki środowisk zajmujących się medycyną.
Robert Steinbrook z organizaciji sygnalistów Public Citizen, odpowiedzialny za tematy dotyczące zdrowiwa, że brak nadzoru jest niedopuszczalny. "Sztuczna inteligencja nie powinna anonimowo odświeżać recept ani identyfikować się jako doktor AI" - napisał w oświadczeniu. "Choć przemyślane wdrożenia sztucznej inteligencji mogą pomóc w poprawianiu aspektów opieki medycznej, program pilotażowy Utah to niebezpieczny pierwszy krok ku bardziej autonomicznym praktykom medycznym" - dodał.
Michał Mielnik, dziennikarz Wirtualnej Polski
