全部商品分類
近日，Ｎａｔｕｒｅ上發(fā)表了一篇文章，探討關(guān)于醫(yī)療領(lǐng)域ＡＩ應(yīng)用的測(cè)試問(wèn)題。
文章認(rèn)為，ＡＩ模型的應(yīng)用有望顯著提高醫(yī)療效率，但當(dāng)前ＡＩ醫(yī)療應(yīng)用的審批標(biāo)準(zhǔn)往往不如藥物嚴(yán)格，許多應(yīng)用在未經(jīng)充分臨床驗(yàn)證的情況下就已投入使用。監(jiān)管機(jī)構(gòu)如美國(guó)ＦＤＡ已批準(zhǔn)數(shù)百種ＡＩ驅(qū)動(dòng)的醫(yī)療設(shè)備和應(yīng)用，但臨床驗(yàn)證數(shù)據(jù)往往不足，引發(fā)了對(duì)其安全性和有效性的擔(dān)憂。
ＡＩ系統(tǒng)的實(shí)際應(yīng)用效果受多種因素影響，包括醫(yī)療人員與算法的互動(dòng)、不同人群和環(huán)境中的表現(xiàn)差異等。ＡＩ應(yīng)用中要考慮哪些問(wèn)題，如何進(jìn)行測(cè)試，有哪些解決方案？文章進(jìn)行了詳細(xì)探討，全文如下：
當(dāng)?shù)挛摹ば粮瘢ǎ模澹觯椋睢。樱椋睿纾瑁┻€是一名兒科住院醫(yī)師時(shí)，他曾照顧過(guò)一名在急診室長(zhǎng)時(shí)間等待就診后心臟驟停的小孩。“我記得當(dāng)時(shí)在為這個(gè)孩子進(jìn)行心肺復(fù)蘇，感受到他慢慢離去”，他說(shuō)。孩子的死亡讓他深受打擊，同時(shí)他也在思考，如果等待時(shí)間能縮短，是否能夠避免這種悲劇。
這件事促使他將自己的兒科專長(zhǎng)與另一領(lǐng)域——計(jì)算機(jī)科學(xué)結(jié)合起來(lái)，探索人工智能（ＡＩ）是否能夠幫助縮短等待時(shí)間。辛格目前在加拿大多倫多的兒童醫(yī)院（ＳｉｃｋＫｉｄｓ）工作，他和同事們利用該醫(yī)院急診科的分診數(shù)據(jù)，構(gòu)建了一系列ＡＩ模型，這些模型可以提供潛在的診斷建議，并指出可能需要進(jìn)行的檢查。“例如，如果我們可以預(yù)測(cè)一名患者很可能患有闌尾炎，并需要進(jìn)行腹部超聲檢查，我們可以在患者到達(dá)后幾乎立即自動(dòng)安排這項(xiàng)檢查，而不是讓他們等待６到１０個(gè)小時(shí)才能見(jiàn)到醫(yī)生”，他說(shuō)。
一項(xiàng)利用ＳｉｃｋＫｉｄｓ醫(yī)院超過(guò)７７，０００次急診就診數(shù)據(jù)的回顧性研究表明，這些模型可以加速２２．３％的就診進(jìn)程，為每位需要進(jìn)行檢查的患者節(jié)省近３小時(shí)的時(shí)間。然而，ＡＩ算法在研究中取得成功，僅僅是驗(yàn)證這種技術(shù)干預(yù)措施能否在現(xiàn)實(shí)中真正為人們提供幫助的第一步。
在醫(yī)療環(huán)境中正確測(cè)試ＡＩ系統(tǒng)是一個(gè)復(fù)雜的多階段過(guò)程，但只有相對(duì)較少的開(kāi)發(fā)者發(fā)布了此類分析的結(jié)果。數(shù)據(jù)顯示，２０２０年至２０２２年間，僅有６５項(xiàng)ＡＩ干預(yù)措施的隨機(jī)對(duì)照試驗(yàn)被發(fā)表。與此同時(shí)，美國(guó)食品藥品監(jiān)督管理局（ＦＤＡ）等監(jiān)管機(jī)構(gòu)已經(jīng)批準(zhǔn)了數(shù)百種ＡＩ驅(qū)動(dòng)的醫(yī)療設(shè)備在醫(yī)院和診所使用。
“醫(yī)療機(jī)構(gòu)發(fā)現(xiàn)許多獲批的設(shè)備沒(méi)有經(jīng)過(guò)臨床驗(yàn)證”，洛杉磯加州西奈山醫(yī)學(xué)中心的心臟病專家大衛(wèi)·歐陽(yáng)（Ｄａｖｉｄ Ｏｕｙａｎｇ）說(shuō)道。一些醫(yī)院選擇自行測(cè)試這些設(shè)備。
盡管研究人員知道理想的ＡＩ干預(yù)臨床試驗(yàn)應(yīng)該是什么樣子，但在實(shí)踐中，測(cè)試這些技術(shù)充滿挑戰(zhàn)。實(shí)施效果取決于醫(yī)療專業(yè)人員與算法的互動(dòng)情況，如果醫(yī)療專業(yè)人員忽視ＡＩ的建議，那么再好的工具也會(huì)失效。ＡＩ程序?qū)τ谟?xùn)練中使用的數(shù)據(jù)集，與實(shí)際應(yīng)用目標(biāo)人群之間的差異特別敏感。此外，如何以最好的方式向患者及其家屬釋明這些技術(shù)，并征得他們的同意使用其數(shù)據(jù)進(jìn)行測(cè)試，目前尚不明確。
一些醫(yī)院和醫(yī)療系統(tǒng)正在嘗試在醫(yī)學(xué)領(lǐng)域中使用和評(píng)估ＡＩ系統(tǒng)。隨著越來(lái)越多的ＡＩ工具和公司進(jìn)入市場(chǎng)，相關(guān)各方正在共同努力，尋求最佳評(píng)估方式，確定最嚴(yán)格的測(cè)試標(biāo)準(zhǔn)。
誰(shuí)在測(cè)試醫(yī)療ＡＩ系統(tǒng)？
由辛格（Ｓｉｎｇｈ）等人開(kāi)發(fā)的基于ＡＩ的醫(yī)療應(yīng)用，通常被監(jiān)管機(jī)構(gòu)（包括美國(guó)ＦＤＡ和英國(guó)藥品與保健產(chǎn)品管理局）視為醫(yī)療設(shè)備。因此，審查和批準(zhǔn)它們的標(biāo)準(zhǔn)往往不如藥物嚴(yán)格。只有一小部分可能對(duì)患者構(gòu)成高風(fēng)險(xiǎn)的設(shè)備，才需要臨床試驗(yàn)數(shù)據(jù)才能獲得批準(zhǔn)。
許多人認(rèn)為門檻太低了。費(fèi)城賓夕法尼亞大學(xué)的重癥醫(yī)學(xué)專家加里·魏斯曼（Ｇａｒｙ Ｗｅｉｓｓｍａｎ）在審查ＦＤＡ批準(zhǔn)的ＡＩ設(shè)備時(shí)發(fā)現(xiàn)，在他審查１０種設(shè)備中，只有３種在其授權(quán)文件中引用了已發(fā)表的數(shù)據(jù)。只有４種提到了安全性評(píng)估，沒(méi)有一種包括偏見(jiàn)評(píng)估。“令人擔(dān)憂的是，這些設(shè)備確實(shí)能夠并且正在影響臨床護(hù)理”，他說(shuō)，“患者的生命可能就取決于這些決策。”
數(shù)據(jù)的缺乏使得醫(yī)院和醫(yī)療系統(tǒng)難以決定是否要使用這些技術(shù)。在某些情況下，經(jīng)濟(jì)激勵(lì)措施也會(huì)產(chǎn)生影響。例如，在美國(guó)，健康保險(xiǎn)計(jì)劃已經(jīng)為使用某些醫(yī)療ＡＩ設(shè)備的醫(yī)院進(jìn)行報(bào)銷，這使得這些設(shè)備從經(jīng)濟(jì)角度具有吸引力。這些機(jī)構(gòu)可能也傾向于采用那些承諾可以節(jié)省成本的ＡＩ工具，即使它們不一定能改善患者護(hù)理。
歐陽(yáng)（Ｏｕｙａｎｇ）表示，這些激勵(lì)措施可能會(huì)讓ＡＩ公司不愿投資于臨床試驗(yàn)。對(duì)于許多商業(yè)企業(yè)來(lái)說(shuō)，他們可能更傾向于確保他們的ＡＩ工具可以獲得報(bào)銷，并具有良好的財(cái)務(wù)回報(bào)，因?yàn)樗麄兛吹剑@些激勵(lì)措施已經(jīng)推動(dòng)了ＡＩ工具的采用。
根據(jù)市場(chǎng)的不同，情況可能會(huì)有所不同。例如，在英國(guó)，政府資助的全國(guó)性健康計(jì)劃可能會(huì)在醫(yī)療機(jī)構(gòu)采用某種產(chǎn)品之前，設(shè)置更高的證據(jù)標(biāo)準(zhǔn)，英國(guó)伯明翰大學(xué)研究負(fù)責(zé)任創(chuàng)新的臨床研究員劉曉軒（Ｘｉａｏｘｕａｎ Ｌｉｕ）表示。“這樣一來(lái)，企業(yè)就有動(dòng)力進(jìn)行臨床試驗(yàn)了。”
一旦醫(yī)院購(gòu)買了某款ＡＩ產(chǎn)品，他們不需要進(jìn)行進(jìn)一步測(cè)試，就可以像使用其他軟件一樣立即使用它。然而，一些機(jī)構(gòu)認(rèn)識(shí)到，監(jiān)管批準(zhǔn)也不保證該設(shè)備真正有益。因此，它們選擇自行測(cè)試這些設(shè)備。歐陽(yáng)表示，目前許多這類工作是由學(xué)術(shù)醫(yī)療中心開(kāi)展和資助的。
２０１７年，阿姆斯特丹大學(xué)醫(yī)學(xué)中心的重癥醫(yī)學(xué)主任亞歷山大·弗拉爾（Ａｌｅｘａｎｄｅｒ Ｖｌａａｒ）和該機(jī)構(gòu)的麻醉師丹尼斯·維洛（Ｄｅｎｉｓｅ Ｖｅｅｌｏ）發(fā)起了這樣一個(gè)項(xiàng)目。他們的目標(biāo)是測(cè)試一種旨在預(yù)測(cè)術(shù)中低血壓的算法。術(shù)中低血壓可能導(dǎo)致危及生命的并發(fā)癥，如心肌損傷、心臟病發(fā)作和急性腎衰竭，甚至死亡。
該算法由加利福尼亞州爾灣市的愛(ài)德華生命科學(xué)公司（Ｅｄｗａｒｄｓ Ｌｉｆｅｓｃｉｅｎｃｅｓ）開(kāi)發(fā)，使用動(dòng)脈波形數(shù)據(jù)——即在急診室或重癥監(jiān)護(hù)室的監(jiān)視器上看到的紅色波峰和波谷線。它可以在低血壓發(fā)生前幾分鐘進(jìn)行預(yù)測(cè)，進(jìn)而實(shí)現(xiàn)早期干預(yù)。
弗拉爾、維洛及其同事們進(jìn)行了一項(xiàng)隨機(jī)臨床試驗(yàn)，在６０名接受非心臟手術(shù)的患者中測(cè)試了這個(gè)工具。那些在手術(shù)過(guò)程中使用該設(shè)備的患者，其低血壓持續(xù)時(shí)間的中位數(shù)為８分鐘，而對(duì)照組患者的低血壓持續(xù)時(shí)間接近３３分鐘。
該團(tuán)隊(duì)進(jìn)行了第二次臨床試驗(yàn)，確認(rèn)該設(shè)備與明確的治療方案相結(jié)合，在更復(fù)雜的環(huán)境中也有效，包括在心臟手術(shù)期間和重癥監(jiān)護(hù)室內(nèi)。這些結(jié)果尚未發(fā)表。
成功不僅僅是因?yàn)樗惴ǖ木_性，麻醉師對(duì)警報(bào)的響應(yīng)也至關(guān)重要。因此，研究人員確保醫(yī)生們進(jìn)行充分的準(zhǔn)備：“我們提供了一份診斷流程圖，詳細(xì)說(shuō)明了當(dāng)警報(bào)響起時(shí)的步驟”，維洛說(shuō)道。同一算法在另一家機(jī)構(gòu)進(jìn)行的臨床試驗(yàn)中就未能顯示出益處，弗拉爾表示，在那個(gè)試驗(yàn)中，“床邊醫(yī)生在警報(bào)響起時(shí)沒(méi)有按照規(guī)定采取行動(dòng)”。
人機(jī)協(xié)作
一個(gè)非常好的算法可能會(huì)因?yàn)槿祟愋袨榈钠疃鴮?dǎo)致失敗，這包括醫(yī)療專業(yè)人員和接受治療的患者的行為差異。
明尼蘇達(dá)州羅切斯特的梅奧診所測(cè)試了一個(gè)其內(nèi)部開(kāi)發(fā)的算法，該算法用于檢測(cè)一種名為低射血分?jǐn)?shù)的心臟病狀況。測(cè)試時(shí)，該中心的人機(jī)交互研究員芭芭拉·巴里（Ｂａｒｂａｒａ Ｂａｒｒｙ）負(fù)責(zé)彌合開(kāi)發(fā)人員和使用該技術(shù)的初級(jí)保健提供者之間的差距。
該工具旨在標(biāo)記可能處于這種病癥的高風(fēng)險(xiǎn)個(gè)體，這種狀況可能是心力衰竭的征兆，雖然可以治療，但往往未被診斷出來(lái)。臨床試驗(yàn)表明，該算法確實(shí)提高了診斷率。然而，在交流中發(fā)現(xiàn)，醫(yī)療服務(wù)提供者希望得到更多指導(dǎo)，尤其是在如何向患者解釋算法結(jié)果方面。這引出了一項(xiàng)建議，即如果廣泛實(shí)施該應(yīng)用，應(yīng)包含一些要點(diǎn)，列出與患者溝通的重要信息，這樣醫(yī)療提供者就不必每次都考慮如何進(jìn)行那樣的對(duì)話。“這是我們?nèi)绾螐膶?shí)用性試驗(yàn)過(guò)渡到實(shí)施策略的一個(gè)例子，”巴里說(shuō)。
另一個(gè)可能限制某些醫(yī)療ＡＩ設(shè)備成功的問(wèn)題是“警報(bào)疲勞”——當(dāng)臨床醫(yī)生接收到大量ＡＩ生成的警報(bào)時(shí)，他們可能會(huì)對(duì)其變得麻木。梅奧診所家庭醫(yī)學(xué)部主任大衛(wèi)·拉什洛（Ｄａｖｉｄ Ｒｕｓｈｌｏｗ）表示，這一點(diǎn)應(yīng)該在測(cè)試過(guò)程中加以考慮。
他說(shuō)：“我們已經(jīng)每天多次收到關(guān)于患者可能面臨的風(fēng)險(xiǎn)狀況的警報(bào)，對(duì)于忙碌的一線臨床醫(yī)生來(lái)說(shuō)，這實(shí)際上是一項(xiàng)非常艱難的任務(wù)。我認(rèn)為這些工具確實(shí)能夠幫助我們，但是，如果它們沒(méi)有被準(zhǔn)確地引入，默認(rèn)的情況下，大家就會(huì)繼續(xù)按照原來(lái)的方式做事，因?yàn)槲覀儧](méi)有精力去學(xué)習(xí)新的東西。”
考慮偏見(jiàn)
測(cè)試醫(yī)療ＡＩ的另一個(gè)挑戰(zhàn)是臨床試驗(yàn)結(jié)果很難推廣到不同的人群中。“眾所周知，當(dāng)ＡＩ算法在用于與其訓(xùn)練數(shù)據(jù)不同的數(shù)據(jù)時(shí)，它們非常脆弱”，劉曉軒指出，只有當(dāng)臨床試驗(yàn)的參與者能夠代表該工具將要應(yīng)用的人群時(shí)，才能安全地推廣。
此外，基于資源豐富的醫(yī)院中收集到的數(shù)據(jù)訓(xùn)練出的算法，在資源較少的環(huán)境中應(yīng)用時(shí)可能表現(xiàn)不佳。例如，谷歌健康（Ｇｏｏｇｌｅ Ｈｅａｌｔｈ）在加州帕洛阿爾托開(kāi)發(fā)的用于檢測(cè)糖尿病視網(wǎng)膜病變的算法在理論上非常準(zhǔn)確。然而，當(dāng)該工具在泰國(guó)的診所中使用時(shí)，其性能顯著下降。一項(xiàng)觀察性研究揭示，泰國(guó)診所的照明條件導(dǎo)致眼部圖像質(zhì)量低，降低了該工具的有效性。
患者同意
目前，大多數(shù)醫(yī)療ＡＩ工具幫助醫(yī)療專業(yè)人員進(jìn)行篩查、診斷或制定治療計(jì)劃。患者可能不知道這些技術(shù)正在他們的護(hù)理中進(jìn)行測(cè)試或常規(guī)使用，并且目前在任何國(guó)家都沒(méi)有要求醫(yī)療提供者披露這一點(diǎn)。
關(guān)于應(yīng)將哪些ＡＩ技術(shù)的內(nèi)容告知患者，仍在持續(xù)討論中。其中一些應(yīng)用正在將患者同意的問(wèn)題推到開(kāi)發(fā)者關(guān)注的前沿。辛格（Ｓｉｎｇｈ）和他的同事正在開(kāi)發(fā)的ＡＩ設(shè)備就是這種情況，該設(shè)備旨在優(yōu)化ＳｉｃｋＫｉｄｓ兒童醫(yī)院急診科的兒童護(hù)理流程，這項(xiàng)技術(shù)的不同之處在于，它將臨床醫(yī)生排除在外，使孩子或者他們的父母、監(jiān)護(hù)人成為最終用戶。
辛格說(shuō)：“這個(gè)工具的作用是獲取急診分診數(shù)據(jù)，做出預(yù)測(cè)，并讓家長(zhǎng)直接決定是否可以對(duì)孩子進(jìn)行檢測(cè)。”這減輕了臨床醫(yī)生的負(fù)擔(dān)，并加快了整個(gè)過(guò)程。但它也帶來(lái)了許多前所未有的問(wèn)題。如果患者出現(xiàn)問(wèn)題，誰(shuí)應(yīng)承擔(dān)責(zé)任？如果進(jìn)行了不必要的檢查，誰(shuí)將為此買單？“我們需要以自動(dòng)化的方式獲得家庭的知情同意”，辛格說(shuō)，并且這種同意必須是可靠和真實(shí)的，“它不能像你注冊(cè)社交媒體時(shí)那樣，給你２０頁(yè)小字，你不仔細(xì)看只點(diǎn)擊‘接受’ ”。
在辛格和他的同事等待資金以啟動(dòng)患者試驗(yàn)的同時(shí)，該團(tuán)隊(duì)正在與法律專家合作，并讓加拿大衛(wèi)生部（Ｈｅａｌｔｈ Ｃａｎａｄａ）審查其提案并考慮其監(jiān)管影響。
尋找解決方案
各機(jī)構(gòu)正在合作討論如何應(yīng)對(duì)這些挑戰(zhàn)。一些專家表示，最好的方法是每個(gè)醫(yī)療機(jī)構(gòu)在采用醫(yī)療ＡＩ工具之前進(jìn)行自己的測(cè)試。其他人則指出，由于涉及的成本，這是不可行的，因此研究人員和醫(yī)療機(jī)構(gòu)正在探索其他方案。
“對(duì)于大型機(jī)構(gòu)來(lái)說(shuō)，已經(jīng)很困難了，而對(duì)于小型機(jī)構(gòu)來(lái)說(shuō)將更加艱難”，梅奧診所的醫(yī)療ＡＩ專家肖娜·歐弗加德（Ｓｈａｕｎａ Ｏｖｅｒｇａａｒｄ）說(shuō)。她參與領(lǐng)導(dǎo)了梅奧診所的ＡＩ驗(yàn)證和管理研究項(xiàng)目，該項(xiàng)目旨在以標(biāo)準(zhǔn)化和集中的方式測(cè)試醫(yī)療ＡＩ工具，以便它們可以在梅奧診所健康系統(tǒng)相關(guān)的社區(qū)醫(yī)療機(jī)構(gòu)中使用。
歐弗加德也是健康ＡＩ聯(lián)盟（Ｃｏａｌｉｔｉｏｎ ｆｏｒ Ｈｅａｌｔｈ ＡＩ）的成員，該聯(lián)盟包括來(lái)自行業(yè)、學(xué)術(shù)界和患者倡導(dǎo)組織的代表。該聯(lián)盟由谷歌、亞馬遜、微軟和ＣＶＳ Ｈｅａｌｔｈ等公司資助，提議創(chuàng)建一個(gè)健康ＡＩ保障實(shí)驗(yàn)室網(wǎng)絡(luò)，該網(wǎng)絡(luò)將使用一套商定的原則，以集中的方式評(píng)估模型。
北卡羅來(lái)納州達(dá)勒姆市杜克健康創(chuàng)新研究所的臨床數(shù)據(jù)科學(xué)家馬克·森達(dá)克（Ｍａｒｋ Ｓｅｎｄａｋ）表示，這種集中式方法并不理想。“每個(gè)環(huán)境都需要擁有自己的內(nèi)部能力和基礎(chǔ)設(shè)施來(lái)進(jìn)行測(cè)試”，他說(shuō)。
他是健康ＡＩ伙伴關(guān)系（Ｈｅａｌｔｈ ＡＩ Ｐａｒｔｎｅｒｓｈｉｐ）的成員，這是一個(gè)由學(xué)者和醫(yī)療組織組成的團(tuán)體。該合作組織獲得了位于加利福尼亞州帕洛阿爾托的戈登和貝蒂·摩爾基金會(huì)的初始資金支持，旨在建立能力，并為任何組織提供技術(shù)支持，使其能夠在本地測(cè)試ＡＩ模型。
美國(guó)大型醫(yī)學(xué)影像實(shí)踐集團(tuán)放射學(xué)合作伙伴（Ｒａｄｉｏｌｏｇｙ Ｐａｒｔｎｅｒｓ）的放射科醫(yī)師和臨床ＡＩ副首席醫(yī)療官尼娜·科特勒（Ｎｉｎａ Ｋｏｔｔｌｅｒ）也認(rèn)為，本地驗(yàn)證至關(guān)重要。她希望這些研究的見(jiàn)解可以用來(lái)教育那些將要操作這些工具的專業(yè)人員。她表示，這一人類因素將是最重要的。“幾乎沒(méi)有在醫(yī)療中完全自主的ＡＩ”，她說(shuō)，“我們必須開(kāi)始考慮，不僅要測(cè)量ＡＩ的準(zhǔn)確性，還要測(cè)量ＡＩ與最終用戶的結(jié)合效果。”
注：文章來(lái)源于網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系刪除
