星期六, 3月 08, 2025

AI 對話撞到長度限制 max length reached

每個對話( chat) 都有容許的記憶長度(context window),這跟人類是不一樣的,人類可以在老年時依然記得初戀,或是回想起小時候第一次抱起乳貓小三花時鮮明的情感的湧現,但AI的記憶會受到這個context window 的限制,比較誇張的比喻是金魚腦,正如金魚會忘記兩秒以前發生的事情,只活在當下,忘記過去。當你跟AI的對話長度接近這個記憶長度時,如果系統放任不管,AI 接下來會開始遺忘先前討論的事情,像一個失智者開始胡言亂語,明明剛剛在聊去年住在巴黎的事,突然改口說我這輩子沒有出過國,當然系統會去阻止這種事情發生。至此,你有三個選項:


1. 縮短您的訊息:請求更簡潔的回應或以較少的回應請求資訊。

2. 開始新的對話:開始一個新的聊天以重置(reset 歸零)長度限制。

3. 升級至Claude Pro:這個付費選項可以提供更高的訊息長度限制。(ChatGPT 也有類似 Pro 付費服務)

如需立即解決,我建議開啟一個新的對話,並以較少的回應請求內容。例如,可以一次請求報告的一或兩個部分,而不是整個文件。


無法繼續輸入,是context window 問題,與限流無關,但可能剛好某一個chat 的 context window 用完時你也剛好被限流

只要開啟新的對話,記憶歸零

沒有留言:

張貼留言