(資料圖)

據(jù)悉，最近一項(xiàng)研究發(fā)現(xiàn)，AI在長(zhǎng)期接觸垃圾數(shù)據(jù)后，其推理能力和長(zhǎng)文本理解力會(huì)出現(xiàn)斷崖式下跌，甚至在安全和倫理方面的表現(xiàn)也會(huì)下降。研究人員通過模擬人類無休止地刷低質(zhì)量、碎片化內(nèi)容的互聯(lián)網(wǎng)生活，將從社交媒體平臺(tái)上篩選出的垃圾數(shù)據(jù)以不同比例混合，持續(xù)喂食給模型。結(jié)果顯示，當(dāng)垃圾數(shù)據(jù)比例從0%提升到100%時(shí)，模型的推理準(zhǔn)確率急劇下降。研究還發(fā)現(xiàn)，模型在被垃圾數(shù)據(jù)腐蝕后，會(huì)跳過中間推理過程，直接給出粗糙答案。更令人擔(dān)憂的是，這種退化過程是不可逆的，即使重新投喂高品質(zhì)數(shù)據(jù)并進(jìn)行指令微調(diào)，模型的認(rèn)知能力也無法完全恢復(fù)到初始水平。

關(guān)鍵詞： 推理 垃圾數(shù)據(jù) 認(rèn)知退化