如果您想知道人工智慧( AI )將如何影響您的醫療機構，公司或職業，那麼美國醫療儀器發展協會( AAMI )已經涵蓋之。
AAMI最近發布了一份深入的報告【人工智慧，信任問題】為產品開發人員，監管機構，標準開發人員，醫院系統，醫療保健技術管理提供專家見解( HTM )專業人員，風險管理人員和臨床醫生。該報告是雄心勃勃的AAMI新系列的第一本【醫療器材安全重點】報告，著重探討醫療保健技術的熱門話題。
根據醫療儀器發展協會(AAMI)行業副總裁Joe Lewelling的說法，該電子版報告大約40頁，內容包括豐富的圖表、數字和專家見解， 將作為「介紹需要更多地了解AI但不一定是AI的專家的醫療保健人員。」
Lewelling說：「人工智慧是醫療保健行業在未來十年或更長時間內的關注重點，與之合作並努力奮鬥的東西」， 「該文件不會瞬間成為人工智慧的專家，但將為您做出重要決策做好準備。」
「人工智慧，信任問題」描述了一個關於人工智慧在醫療保健中的機會和風險的引人入勝故事，並在風險和機會的努力爭取平衡方面提供廣泛的觀點。
儘管挑戰比比皆是，但人工智慧將不可避免地對整個醫療生態系統及其他領域的人員、流程和系統產生深遠影響。一個大問題是人工智慧所承諾的潛在進步和突破是否最終會超過現今顯露的一系列技術風險和潛在併發症。 ECRI專案主持弗朗西斯科·羅德里格斯·坎波斯說：「人工智慧將繼續存在。它不會消失。偉大的事情即將到來，並且將會冒出更多的人工智慧應用件。我們需要為此做好準備。 」此份報告邀請行業專家對人工智慧將如何改變醫療保健的預測、對漏洞和風險的警告，以及對這兩種嘗試的見解，和平衡機會與風險的真實及嶄新的方法。
該報告分為三個部分:
第一部分，用AI重新人性化醫療保健
著眼於人工智慧重塑醫療保健的潛力以及推動深深期許的原因。許多專家認為，人工智慧可以在獲利，品質和成果(包括健康公平)方面徹底改變醫療保健的交付方式。人工智慧還可以通過釋放臨床醫生專注於患者護理和提高患者體驗效率從而提高醫療保健的人性化。
如果您仍在努力解決人工智慧可以做的事情，那麼本章節是個很好的入門指引。有許多示例說明了支持人工智慧的健康技術已經帶來的好處。但是AI時代仍處於起步階段。市場指標和醫生採用率表明未來幾年可能呈指數增長。
報告貢獻者傑西．艾倫菲爾德(Jesse
Ehrenfeld)指出：「正確完成時，人工智慧具有巨大的潛力」，身為美國醫學會當選主席，威斯康辛州醫學院麻醉學教授，
也是AAMI人工智慧委員會的聯席主席。「數位化醫學有改善健康結果的巨大機會。只要具有臨床確證，對破壞性創新就會激發極大熱情。在我們聽到擔憂的地方，我一直都聽見此方面的擔憂聲音，因為缺乏透明度會干擾這種信任，並且了解這些工具是如何設計和確證的」。
截至2023年春季，宣稱帶有人工智慧和機器學習功能的數百種醫療器材已經獲得美國FDA器材許可證並放入市場，目前僅是序幕，在醫療器材產業，產品開發人員正在將人工智慧和機器學習功能整合到各種醫療保健技術中，從影像和手術系統到生命體徵象監視器材、內視鏡和診斷器材。人工智慧正在激勵現有醫療器材產業之外的創新者。新參與者包括大型科技巨頭、新創公司以及個人夢想家，大家都在數位時代創造可能帶來下一次突破的演算法技術。
在 COVID-19疫情之前，智慧型手機和穿戴式裝置的日益普及產生了以健康為中心的資料聚集領域。F. R. 坎波斯說：「疫情導致收集電子健康資料需求一飛沖天。」 其他需要考慮的促成因素，如：預算挑戰、持續的人員短缺以及減少人為錯誤的技術潛力。 電子健康記錄和其他龐大的資料聚集正在推動人工智慧的崛起。如果沒有人工智慧技術協助，「大數據」將難以處理，意指大量且複雜的資料集合，包括大量結構化、半結構化和非結構化資料。
第二部份：人工智慧內部的【黑箱】
AAMI TIR 34971序言： 「人工智慧可以為醫療保健帶來好處，包括改善臨床結果、提高效率以及改善醫療保健本身的管理。然而，人工智慧創新技術的實施也可能帶來風險，可能危及患者的健康和安全，增加不平等和效率低下，破壞對醫療保健的信任，並對醫療保健產生不利影響。 醫療保健管理。」
人們擔心使人工智慧得以實現的大數據技術，包括資料品質、存取、偏差、選擇和控制，
以及人工智慧系統的變更管理，雲服務的安全性，相當難以一目瞭然。此外，與其他醫療保健技術不同，人工智慧醫療器材以神秘且意想不到的方式運行，從而引入一系列全新的不確定性。人類不一定能理解或解釋人工智慧的所有功能、預測或決策，即使對於開發理解資料集指令的演算法工程師來說，人工智慧的這些功能、預測或決策也可能是不透明的。這就是所謂的「黑箱難題」：知道系統輸入什麼、輸出什麼，但不知道其間發生的事情可能令人無從捉摸。
黑箱難題使人們很難理解在非常複雜的多層級系統中發生的事情，這些系統能夠從大型資料集中學習，從而引起不信任。人工智慧也可能以「怪異的方式失敗」並犯下人類通常不會犯下的錯誤。網域安全是個巨大的關注點，且各方注意力日漸增加。
畢竟人工智慧在醫療保健中的潛力還在於誘使演算法工程師進行產品開發，但是對醫療器材開發，標準和法規的經驗不足可能會帶來潛在風險。人工智慧健康技術亦為醫療保健系統和醫療提供者帶出財務風險的基本問題。
「擅長開發人工智慧系統但從未在生命科學環境中完成開發人工智慧系統的資訊工程及開發人員的數目激增，也可能會導致安全性、功效的失焦
」。Hologic
Inc. 全球監管政策和情報的負責人，亦為參與貢獻者斯科特·泰爾(Scott
Thiel)說，這是。「坦率地說，由於對這些系統的法規要求一無所知，也可能導致符合法規要求的問題。」
AAMI邀請各方代表，包括律師、健康軟體資深顧問、國會立法事務祕書及臨床醫師等，提出眾人關切的問題，如：
- 是否使用代表醫療保健系統和提供者群體的資料集開發人工智慧技術？
- 這些技術係如何學習並做出預測或決策？
- 是否有安全性和有效性的臨床證據？
- 他們支持照護準則嗎？
- 它們將如何影響臨床工作流程？
- 與現有技術相比，成本效益如何？
- 付款單位是否承保人工智慧醫療保健？
- 誰該為病人的不良結果負擔責任？
第三部份：平衡機會和風險
鑑於對人工智慧改變醫療保健的崇高期望以及脆弱性和風險的廣泛範圍，將需要更廣泛的利益相關者之間的廣泛合作以確保質量，安全性，
以及支持人工智慧的醫療保健技術的有效性。
管理風險包括風險管理的標準和指引，法規的清晰度以及醫療機構中的風險管理和治理資源。該報告包括實踐指南和HTM專業人員的AI供應商清單。它還解決了AI健康技術的發展以及與之相關的複雜挑戰的諷刺意味：參與開發，管理的每個人，使用它需要增強他們的知識和能力。
「溝通獲得寬限期Communication
buys grace，」Intermountain
Healthcare醫療保健技術管理系統總監麥克．鮑威爾
(Mike
Powers)
和AAMI人工智慧委員會成員加上此句。「愈多具有人工智慧產品經驗的製造商，人工智慧開發人員和組織，他們愈可以傳達人工智慧技術的風險和利益，而知悉情況的其他各方人士則可以做出明智的決定。」
該報告的源頭在於眾人投資未來，各種專業人士將促進人工智慧使醫療範疇更加豐富而不是增加負擔。
「我們知道人工智慧將改變世界。那些使用醫療保健技術的人可能想知道他們在哪裡適合或可以做什麼。您可以立即採取的最佳措施，只是需要了解現況，」協會出版物總監加文．斯坦恩( Gavin Stern) 說， MSH， AMI總編輯。「這就是我們開發本項目的原因。【醫療器材安全重點】， 一種新型態出版品，得以深入研究特定的醫療保健技術主題。第一版【人工智慧，信任問題】(MDSIF) 從多個領域和角度出發，將您與從事人工智慧和醫療保健融合工作的最重要的專家一起放在同一個場域裡。這就是您一直在等待的人工智慧入門。」
該報告涵蓋醫療人工智慧的多個主題領域，如：
- 利用人工智慧使醫療保健重新人性化
- 對醫療保健服務的影響
- 人工智慧如何推動臨床決策支援並改進結果
- 深入了解人工智慧神秘的「黑箱」
- 大數據的作用
- 網域安全考量事項
- 風險管理的標準和指南
- 資料品質、存取、偏差、選擇和控制
- 來自該領域頂尖專家的重要見解
傑西‧埃倫菲爾德 (Jesse Ehrenfeld)，美國醫學會候任主席、威斯康辛醫學院麻醉學教授， 兼 AAMI 人工智慧委員會聯合主席表示： 「(我們)確實無法預測當今正在使用和開發的數位工具中有多少真正會改變我們提供的護理。但我所知道的是，醫生在這項努力中可以發揮關鍵作用。如果沒有醫學界數位健康創新所需的知識、專業知識和指導，這些數位工具在最基本任務階段就會失敗，整體目標是簡化我們的工作流程並改善患者的治療效果。」
飛利浦高級監管專家，兼AAMI人工智慧委員會聯合主席派特．巴德表示：「首先要認識人工智慧系統、資料和數位雲將發生變化的事實，這是你無法控制的。計劃它。不要等到壞事發生，然後試著弄清楚你要怎麼做。建立基礎設施和機制。」
備註：
此文並未涵蓋該文全部事項，相關內容務須參閱各項文獻原本及最新版次。此處係閱讀隨筆，僅供個人學習，非供印刷或潛在意圖出版。
「人工智慧，信任問題」報告對AAMI會員免費，由官網購買aami.org/MDSIF-AI。利害關係方可以免費閱讀執行摘要aami.org/MDSIF-AI摘要。
文件參考網站：https://array.aami.org/content/news/aami-releases-special-report-artificial-intelligence
沒有留言:
張貼留言