聊天機器人ChatGPT能力波動：質數識別準確率下降

(資料圖片)

斯坦福大學的一項新研究發現，熱門生成式人工智能（AI）聊天機器人ChatGPT的能力在幾個月內有所波動。研究人員評估了ChatGPT在幾個月內如何處理不同的任務，發現ChatGPT的能力隨時間推移而出現不一致。目前，ChatGPT有兩個版本，免費的GPT-3.5模型和更智能、更快速的付費GPT-4版本。研究人員發現，GPT-4在3月份能夠有效地解決數學問題，識別質數的準確率為97.6%。但三個月后，其準確率下降到了2.4%。而另一方面，GPT-3.5卻變得更好，從7.4%的準確率提高到了86.8%。研究人員還注意到，在編寫代碼和視覺推理方面也有類似的波動。斯坦福大學計算機科學教授James Zou表示：“當我們調整一個大型語言模型來提高它在某些任務上的表現時，那可能會有很多意想不到的后果，可能會損害這個模型在其他任務上的表現……這個模型回答問題的方式有各種各樣的相互依賴性，這可能導致我們觀察到的一些惡化行為。”研究人員認為，結果并不能真正反映ChatGPT性能的準確性狀態，而是顯示了微調模型帶來的意外后果。本質上，當修改模型的一部分來改善一個任務時，其他任務可能會受到影響。為什么會這樣很難確定，因為沒有人知道ChatGPT是如何運作的，而且它的代碼也不是開源的。隨著時間的推移，研究人員注意到，ChatGPT的回答不僅變得不太準確，而且還停止了解釋其推理過程。由于ChatGPT的運作方式，要研究和衡量其表現可能很困難。這項研究強調了觀察和評估驅動ChatGPT等工具的大型語言模型（LLM）性能變化的必要性。該研究已經在arXiv上發布，并正在等待同行評審。

推薦DIY文章

性價比提升30%+，火山引擎第三代AMD實例 ECS g3a邀測上線

場景化新品登場，北汽藍谷蓄力增長新周期

北京衛星制造廠科技園：網紅“北京城市更新最佳實踐”打卡地

姿素華品牌全面煥新，苦參堿成分洗頭水正式上市

全新門派“萬靈山莊”首曝 《劍網3》十四周年發布會全回顧

刷新全智能手表體驗上限，OPPO Watch 4 Pro發布：2199元起