Google AI出包？ 外媒踢爆Google AI健康摘要陷阱

谷歌（Google）搜尋引擎的人工智慧（AI）摘要可能提供不實且誤導的健康資訊，讓用戶面臨風險，Google因此已移除部分相關AI摘要。（擷取自Google頁面）

〔中央社〕英國「衛報」調查發現，谷歌（Google）搜尋引擎的人工智慧（AI）摘要可能提供不實且誤導的健康資訊，讓用戶面臨風險，Google因此已移除部分相關AI摘要。

Google表示，其AI摘要（AI Overviews）運用生成式AI，針對特定主題或問題提供重點資訊的概要，這項功能「實用又可靠」。

請繼續往下閱讀...

然而《衛報》（The Guardian）報導，部分出現在搜尋結果頂端的AI摘要提供了不準確的健康資訊，用戶因此面臨健康受損的風險。

在專家稱為「危險且令人憂心」的一項案例中，Google提供了關於重大肝功能檢查（LFT）的不實資訊，恐導致罹患嚴重肝病的民眾誤以為自己還很健康。

衛報發現，在Google搜尋「肝臟血液檢查結果正常範圍」會出現一大堆數字，卻缺乏相關脈絡說明，也沒有考慮到患者的國籍、性別、族裔或年齡。

專家指出，Google的AI摘要提供的正常數值，可能與實際臨床的正常數值具有顯著差距。摘要恐導致重症患者誤以為自己檢驗結果正常，因此未再接受後續醫療評估。

在衛報進行調查之後，Google已移除搜尋「肝臟血液檢查結果正常範圍」及「肝功能檢查結果正常範圍」等問題會出現的AI英文摘要。

Google發言人表示：「我們不針對搜尋結果中個別移除的內容發表評論。AI摘要呈現的脈絡若有部分疏漏，我們會致力改進，同時按照我們的政策採取適當行動。」

英國肝臟信託基金會（British Liver Trust）的傳播與政策主管赫布迪奇（Vanessa Hebditch）對此表示肯定，但也警告「若以別種方式提出問題，仍可能出現含有誤導資訊的AI摘要」，且他們擔心其他AI產出的健康資訊可能也有不實狀況。

衛報發現，若在Google輸入「肝功能檢查參考範圍」等陳述稍有變化但其實相同的問題，仍會觸發AI摘要出現，赫布迪奇對此深表擔憂。

赫布迪奇說明：「肝功能檢查是多項血液檢查的組合，解讀檢查結果並決定後續行動的判斷相當複雜，遠非對照一組數字那麼簡單。」

「然而，AI摘要以粗體呈現一系列檢查（的數值），讀者很容易就忽略這些數值甚至未必適用他們自己的檢查。」

「此外AI摘要未警告用戶，即便檢查結果正常，他們仍可能患有嚴重肝病，需要接受進一步治療。這類虛假的安心感可能非常有害。」

Google在全球搜尋引擎市場擁有91%市占率，這家科技巨擘表示正在檢查衛報提供的其他新案例。

赫布迪奇也談到，他們更擔心的是Google只處理單一搜尋結果、下架特定的AI摘要，「卻沒有正視AI摘要對醫療健康領域造成的更廣泛問題」。

☆健康新聞不漏接，按讚追蹤粉絲頁。
☆更多重要醫藥新聞訊息，請上自由健康網。

不用抽 不用搶 現在用APP看新聞 保證天天中獎　 點我下載APP　 按我看活動辦法