(資料圖)
據(jù)悉,最近一項研究發(fā)現(xiàn),AI在長期接觸垃圾數(shù)據(jù)后,其推理能力和長文本理解力會出現(xiàn)斷崖式下跌,甚至在安全和倫理方面的表現(xiàn)也會下降。研究人員通過模擬人類無休止地刷低質(zhì)量、碎片化內(nèi)容的互聯(lián)網(wǎng)生活,將從社交媒體平臺上篩選出的垃圾數(shù)據(jù)以不同比例混合,持續(xù)喂食給模型。結(jié)果顯示,當垃圾數(shù)據(jù)比例從0%提升到100%時,模型的推理準確率急劇下降。研究還發(fā)現(xiàn),模型在被垃圾數(shù)據(jù)腐蝕后,會跳過中間推理過程,直接給出粗糙答案。更令人擔憂的是,這種退化過程是不可逆的,即使重新投喂高品質(zhì)數(shù)據(jù)并進行指令微調(diào),模型的認知能力也無法完全恢復(fù)到初始水平。
關(guān)鍵詞: 推理 垃圾數(shù)據(jù) 認知退化