Google近日緊急撤除多項AI健康摘要功能,因《衛報》調查發現這些置頂搜尋結果可能導致使用者誤判醫療數據,英國肝臟信託基金會直指:
『這些錯誤資訊可能讓重症患者錯失就醫黃金期!』專家警告,AI提供的肝機能檢測參考值完全忽略個體差異,恐釀成嚴重醫療風險。
當用戶搜尋「肝機能血液檢查正常範圍」時,AI摘要僅呈現未經分類的數據表格,完全未考量國籍、性別、種族與年齡等關鍵因素。《衛報》實驗更發現,只要微調搜尋關鍵字如「LFT檢測參考值」,系統仍會繼續推送可能誤導的AI摘要內容。
英國肝臟信託基金會政策總監Vanessa Hebditch嚴正指出:
『這些加粗標示的數值列表,會讓讀者誤以為適用於所有人,實際上肝機能評估需要專業臨床判斷。更危險的是,AI完全未提醒「檢測正常仍可能患有重病」的關鍵資訊!』
儘管Google聲稱已移除有疑慮內容,並表示「AI摘要僅在高度確信時顯示」,患者資訊論壇主席Sue Farrington仍質疑:
『這只是維護醫療搜尋可信度的第一步,我們仍發現大量癌症與心理健康的AI摘要存在「完全錯誤」的敘述,科技媒體Futurism資深編輯更直言Google的防護機制明顯不足!』
目前已知Google採用內部臨床團隊審核機制,強調AI摘要會標示知名醫療機構連結,並在必要時提醒諮詢專業醫師。但專家團體聯合呼籲,應全面禁用醫療領域的AI摘要功能,直接引導用戶至權威醫療機構頁面。
隨著全球91%搜尋市場被Google壟斷,醫療資訊的正確性已成重大公共衛生議題。業界分析師警告,當AI開始介入專業醫療領域,現行「事後補救」機制已遠遠跟不上潛在風險的擴散速度。
手機巴士






