台灣醒報

美國人工智慧研究顯示，AI生成的影片摘要若包含錯誤資訊，可能直接重塑並扭曲人類記憶。（Photo by Zach M on Unsplash under C.C License）

【台灣醒報記者莊宇欽綜合報導】AI產出的摘要可信嗎？美國人工智慧研究顯示，AI生成的影片摘要若包含錯誤資訊，可能直接重塑並扭曲人類記憶。專家指出，即便告知使用者摘要是由AI所撰寫，人們仍會不自覺地接納其中的錯誤細節，導致記憶準確度急劇下滑。

摘要錯誤重塑記憶

《神經科學新聞》報導，喬治城大學與華盛頓大學研究團隊發表最新研究，評估大型語言模型在摘要影片時的準確性，以及這些摘要對人類記憶造成的認知影響。實驗分析了包含ChatGPT與Gemini在內的多款主流商業AI模型，發現這些系統在處理影片摘要時存在嚴重的資訊遺漏與幻覺現象。

以交通事故影片為例，AI模型在摘要過程中平均遺漏了高達51.6%的核心情節，甚至在95%的測試案例中，完全忽視了「車輛撞擊行人」這一最關鍵的事故瞬間。研究團隊警告，人類的記憶屬於重構性質，容易受到事後錯誤資訊的污染，而AI的嚴重瑕疵正成為傳播錯誤資訊並植入虛假記憶的全新媒介。

人機監管恐生破綻

《地球報》報導，研究團隊進一步針對受試者進行記憶實驗，讓他們觀看交通事故影片，並於24至48小時後閱讀準確或包含單一錯誤細節的摘要。結果顯示，閱讀準確摘要者對原事件的記憶準確度達83.6%，但接觸錯誤摘要者的記憶準確度卻陡降至44.8%，顯示錯誤細節已成功扭曲受試者的真實記憶。

儘管政策制定者常主張以「人機協同監管」作為安全防線，但研究指出，這種防禦機制在記憶污染面前幾乎失效。如此一來，標註摘要來源為AI並不能降低記憶被污染的風險，人類記憶反而可能會直接被AI的錯誤所修改。