【資料圖】

谷歌DeepMind于8月21日發(fā)布論文，提出一種使LLM與人類偏好對齊更簡單的算法ReST（Reinforced Self-Training）。不同于RLHF（基于人類反饋的強(qiáng)化學(xué)習(xí)）使用人類反饋改進(jìn)語言模型，ReST通過生成和使用離線數(shù)據(jù)進(jìn)行訓(xùn)練，從而使得LLM與人類偏好保持一致。研究團(tuán)隊表示，雖然ReST可用于所有生成任務(wù)，但本文的重點是機(jī)器翻譯。研究者在機(jī)器翻譯任務(wù)上進(jìn)行了實驗，測試基準(zhǔn)包括IWSLT 2014、WMT 2020和Web Domain。結(jié)果表明，ReST可以極大地提高翻譯質(zhì)量。

關(guān)鍵詞：