在線客服
微信客服
咨詢電話
021-80392549
當(dāng)下GPT-4模型最大的短板主要是算術(shù)能力，由于模型的邏輯推理能力尚待提升，因此即使是許多人認(rèn)為相對簡單的計算問題，GPT-4卻無法得出正確的結(jié)果。
近日，新加坡國立大學(xué)研究者推出了Goat模型，稱該模型“專門用于算術(shù)問題”。研究人員表示“在對LLaMA模型進(jìn)行微調(diào)后，Goat在算數(shù)上實現(xiàn)了比GPT-4更高的準(zhǔn)確度與更出色的性能”。
▲圖源Arxiv
研究人員提出了一種新辦法，將任務(wù)根據(jù)算數(shù)的可學(xué)習(xí)型進(jìn)行分類，然后利用基本算術(shù)原理將不可學(xué)習(xí)的任務(wù)分解為一系列可以學(xué)習(xí)的任務(wù)（IT之家注：把復(fù)雜的計算過程分點拆解成簡單的步驟）后導(dǎo)入AI模型。
這種新方法可以令模型學(xué)習(xí)答題模式，并將過程泛化為看不見的數(shù)據(jù)，而非僅僅依靠純粹的“權(quán)重記憶計算”，因此能夠有效地提高算數(shù)性能，可以在零樣本學(xué)習(xí)中以“近乎完美的精度”為大數(shù)加法和減法生成答案。
研究人員在具備24 GB顯存的GPU上進(jìn)行訓(xùn)練，并將最終得到的模型使用BIG-bench算數(shù)子任務(wù)進(jìn)行測試，準(zhǔn)確率結(jié)果較為出眾，領(lǐng)先于業(yè)內(nèi)的Bloom、GPT-NeoX、OPT等模型。其中零樣本的Goat-7B的準(zhǔn)確率甚至一度超過了少樣本學(xué)習(xí)后的PaLM-540模型，在大數(shù)計算方面遠(yuǎn)超GPT-4。
