小小QwQ 分享
1 years ago
分享最近專案學到的 GPT 詠唱技巧
latest #13
分享是社交網路的重要功能汪 (◕ω◕✿)
小小QwQ
1 years ago
1. ToT (Tree-of-Thought)
ref
範例:請想像有三個不同的專家一起回答這個問題,每位專家都會寫下他們心中想法的一個步驟,並且進行小組討論,如果沒問題就針對每個步驟進行下一個步驟的討論,但是若是任一專家覺得這個步驟錯了,他們就會離開,回到上一步驟進行討論。
https://images.plurk.com/3TqLawyaQVNAZWqsiyD9HS.png
就像這張圖片最右邊的樹狀圖一樣,針對每一個步驟都進行討論,並且選出最好的一個答案。
小小QwQ
1 years ago
舉例來說,如果要進行翻譯,中文翻譯成英文,就可以這樣下詠唱:
---
請想像有三個不同的口譯員一起翻譯以下的文章,將文章從中文翻譯成英文,每位專家都會寫下他們心中的一句翻譯,並且進行小組討論,如果沒問題就針對每行句子進行下一個句的討論,但是若是任一專家覺得這個句子翻譯錯了,他們就會離開,回到上一個句子進行翻譯的討論。
`文章內容`
---
立即下載
忘了最近在哪裡看到,好像只要加句「the answer is important to me」之類就可以提高幾趴準繩度…
小小QwQ
1 years ago
apmk: 我看到的是 「Let's think step by step.」 (也就是 CoT ),但這個比較久了 (2022)
小小QwQ
1 years ago
2. PanelGPT
這個很酷,研究動機是看到名人間的高峰會/研討會 (Panel discussion)。
範例:想像有三位專家正在高峰會上討論某個問題,專家們會一步一步的討論這個問題,並且確保每一個步驟都是正確的:{{ 你的問題 }}
小小QwQ
1 years ago
雖然我不知道為什麼在高峰會討論的準度會比 ToT 的高,且我測試也沒有什麼明顯的差別(畢竟在分數上只是 0.05 的差異),但這兩個都好酷,分享給大家。
小小QwQ
1 years ago
這兩個技巧的概念有點像要 ChatGPT 自己對自己的內容評分,高於指定的分數再給答案。
不過在實務開發上會有點懷疑,用的是 ChatGPT 自產的內容,又要 ChatGPT 自己對自己評分,這樣做真的能夠拿到更正確的回答嗎?
因為做的是翻譯的案子,所以把 ChatGPT 評分的部分切開來,利用 BLEURT 來進行評分,到達指定分數再做下一步,也許可以有更客觀更正確的結果,但我沒有測試過,所以非 100% 確定 (不負責任轉頭就跑
忽發其杙想到能不能讓chatgpt用中文和英文(或各種語言)回答一次再評自己的答案再合併結果…
小小QwQ
1 years ago
apmk: 感覺這樣會有很多 GPT 腦補的語句出現
在這個專案中,我是請 GPT 將翻譯的結果和原文進行比較並進行評分,而非針對產生的結果語句進行語句分析評分,來防止 GPT 自己腦補太多內容 (太容易走偏了 QQ)
小小QwQ
1 years ago
↑但是 Prompt 會越寫越長,所以才嘗試用 ToT 來縮短 Prompt,看起來效果還不錯
我是想說用不同的語言思考可能會更好,因為訓練資料不同。
或者讓三個專家一個講英文一個講中文…之類
小小QwQ
1 years ago
apmk: 對耶~感覺會很有趣,我有試過歷史學專家、哲學家和數學家之類的 (還有公司內的 Customer Service、IT 和 PM,模擬吵架),但沒有嘗試過不同語言
back to top