В последние годы есть довольно много работ, посвященных использованию алгоритмов машинного обучения (или как в статьях любят писать, ИИ) в медицинских задачах. Чаще всего речь, конечно, о диагностике или прогнозировании - скажем, по снимку проверить наличие диагноза. Вот здесь есть статья про прогнозирование фиброза легких при COVID
Здесь про прогнозирование рака
А здесь в тезисах есть статья об алгоритме, неплохо ловящем предпосылки перелома позвонка (что является острой социальной проблемой для людей в возрасте)
https://insightsimaging.springeropen.com/articles/supplements/volume-12-supplement-1
Вроде бы в разговорах люди честно говорят, что алгоритмы работают хуже, чем врач-специалист высокой квалификации, но лучше, чем врач-неспециалист в данной области и во всяком случае дают какой-то результат.
У любого диагностического метода есть информативность, достоверность, количество ложноположительных/ложноотрицательных результатов, поэтому доверять ИИ стоит, если эти показатели хорошие, как у других диагностических методов! Поэтому довериться можно :)