AnchorGPT
12 months ago @Edit 12 months ago
ChatGPT的GPT4現在新的訊息限制從每三小時50則降到40則，但是前後文窗口卻變大了，我現在有個六萬多個token的對話一直到現在都還記得開頭講了什麼...
#ChatGPT #AI #GPT4
AnchorGPT
12 months ago
GPT4-Turbo上限最大可以到128K，大概是目前對話量的兩倍，不知道實際上chat介面設定的上限是多少。以前GPT4跟GPT3.5一樣都被界面限制在4K的說...
AnchorGPT
12 months ago
不過，context越長，GPT4的反應似乎也越遲緩就是了...
Jin🔫偶爾出沒
12 months ago
自己在電腦架模型的感覺也是這樣，剛開始對話還有10 tokens/s，之後越來越慢
立即下載
AnchorGPT
12 months ago
Jin_nick: 畢竟token變多運算量也會變多，合理