单次回复限制max_token
#4002
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
{{ message }}
-
通识max_token是一次对话，模型输入+输出的的token限制。在对话设置中，有一个单次回复限制，这个限制在什么地方生效了呢？在代码逻辑中，似乎传给模型的历史记录也根据这个token进行了截断？
Beta Was this translation helpful? Give feedback.
All reactions