【大公報訊】據《衛報》報道:美國科技巨擘谷歌公司日前被曝,其人工智能(AI)摘要(AI Overview)功能存在虛假或誤導性的醫療資訊。目前谷歌已撤下部分AI摘要。
谷歌的AI摘要功能內置於谷歌搜索引擎,用戶搜索相關詞彙時,AI摘要的內容會出現在搜索結果頁面的最上方。該公司此前稱,AI摘要提供的信息「有用」「可靠」。然而,《衛報》2日公布調查報道指,谷歌AI摘要涉及向用戶提供錯誤醫療資訊。當用戶搜索「肝臟血液檢測的正常範圍」時,AI摘要提供了大量數字,但未說明背景信息以及患者的國籍、性別、族裔或年齡。
專家指出,谷歌AI摘要所謂的「正常值」與醫學上實際認定的正常範圍存在巨大落差,若患有嚴重肝病的患者參考谷歌提供的「正常數值」,會誤以為自己的檢測結果正常,從而不願意接受後續的醫療檢查。
調查曝光後,谷歌移除了針對搜索詞「肝功能檢測的正常範圍是多少」和「肝功能檢測的正常範圍是多少」的AI摘要內容。但有專家指出,若以不同方式提出問題,AI摘要仍可能產生誤導性結果。「患者信息論壇」主席法靈頓也表示,谷歌AI摘要出現錯誤健康信息的案例依然層出不窮。
據報道,谷歌AI摘要在女性癌症檢測、心理健康狀況等搜索中都提供了誤導性信息,專家稱其「完全錯誤」且「極其危險」,這些內容仍未被刪除。
評論
查看更多評論>>
加載中……
熱榜
