(資料圖)

據(jù)悉，最近一項研究發(fā)現(xiàn)，AI在長期接觸垃圾數(shù)據(jù)后，其推理能力和長文本理解力會出現(xiàn)斷崖式下跌，甚至在安全和倫理方面的表現(xiàn)也會下降。研究人員通過模擬人類無休止地刷低質(zhì)量、碎片化內(nèi)容的互聯(lián)網(wǎng)生活，將從社交媒體平臺上篩選出的垃圾數(shù)據(jù)以不同比例混合，持續(xù)喂食給模型。結(jié)果顯示，當垃圾數(shù)據(jù)比例從0%提升到100%時，模型的推理準確率急劇下降。研究還發(fā)現(xiàn)，模型在被垃圾數(shù)據(jù)腐蝕后，會跳過中間推理過程，直接給出粗糙答案。更令人擔憂的是，這種退化過程是不可逆的，即使重新投喂高品質(zhì)數(shù)據(jù)并進行指令微調(diào)，模型的認知能力也無法完全恢復(fù)到初始水平。

關(guān)鍵詞： 推理 垃圾數(shù)據(jù) 認知退化