Повстання машин в операційній: ШІ покалічив десятки пацієнтів

Про це пише Reuters.

У Сполучених Штатах Америки пацієнти звернулися до суду з позовами проти розробника медичного інструмента, що використовує штучний інтелект. Позивачі стверджують, що під час хірургічних втручань із застосуванням цієї технології зазнали тяжких травм, зокрема інсультів.

Що відомо про медичний пристрій з ШІ?

Компанія Acclarent, що є підрозділом корпорації Johnson&Johnson, 2021 року оголосила про «значний прорив», інтегрувавши ШІ в медичний пристрій для лікування хронічного синуситу — запалення придаткових пазух носа.

За майже три роки використання пристрою на ринку США Управління з контролю за продуктами і ліками (FDA) отримало непідтверджені повідомлення щонайменше про 100 випадків несправностей та побічних ефектів, пов’язаних із системою TruDi.

Згідно зі звітами регулятора, більшість інцидентів нібито виникла через введення лікарів в оману щодо точного розташування хірургічних інструментів у тілі пацієнтів.

На що скаржились пацієнти?

У результаті в одному з випадків у хворого стався витік спинномозкової рідини через ніс, а в іншому хірург випадково пошкодив основу черепа. Ще щонайменше у двох ситуаціях пацієнти, за повідомленнями, перенесли інсульт через ушкодження великої артерії.

Водночас у FDA наголошують, що подібні звіти можуть бути неповними і не призначені для встановлення причин медичних інцидентів, тож роль штучного інтелекту в кожному випадку залишається нез’ясованою.

Попри це, дві пацієнтки, які пережили інсульт, подали судові позови проти виробника технології.

Розрив сонної артерії та видалення частини черепа

Як випливає з матеріалів справи, у травні 2023 року під час операції в Донни Фернігаф, ймовірно, розірвалася сонна артерія. За словами позивачки, кровотеча була настільки сильною, що кров розбризкувалася по операційній і навіть потрапила на представника компанії Acclarent, який був присутній під час втручання. Того ж дня жінка нібито перенесла інсульт.

В іншому позові йдеться про Ерін Ральф — матір чотирьох дітей, яка після аналогічної операції провела п’ять днів у реанімації. Лікарі були змушені видалити частину її черепа, аби зменшити тиск через набряк мозку.

У компанії Integra LifeSciences, яка придбала цю технологію 2024 року, заявили, що звіти FDA «лише вказують на факт використання системи TruDi в операційній, де стався інцидент». Там також наголосили, що наразі немає переконливих доказів прямого причинно-наслідкового зв’язку між роботою системи та отриманими пацієнтами травмами.

Інші сумнівні медпристрої з ШІ

Зауважимо, що TruDi — не єдиний медичний пристрій із елементами штучного інтелекту, ефективність якого викликає питання. FDA повідомляє про десятки подібних випадків із іншими ШІ-рішеннями. Серед них — кардіомонітор, який, за повідомленнями, не зафіксував небезпечні порушення серцевого ритму, а також ультразвуковий апарат, що неправильно визначав частини тіла плода.

За результатами досліджень, 60 медичних пристроїв із використанням ШІ були пов’язані зі 182 відкликаннями продукції, схваленої FDA. Водночас 43% таких випадків сталися менш ніж через рік після отримання дозволу на використання.

До слова, раніше хірургічний робот SRT-H, розроблений вченими зі Стенфорда, Колумбії та Університету Джонса Гопкінса, вперше повністю автономно провів видалення жовчного міхура на свинях зі 100% точністю. Використовуючи дворівневу архітектуру ШІ та навчання на 16 тис. прикладів, система самостійно виконала всі 17 етапів операції, включно з розрізами та кліпуваннями. На відміну від системи da Vinci, SRT-H працює з рівнем автономності IV: він повільніший за людину, але його рухи точніші та позбавлені ривків.