Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

sentence-transformers/bge-base-zh-v1.5/ directory #26

Open
jeremycp3 opened this issue Nov 10, 2024 · 7 comments
Open

sentence-transformers/bge-base-zh-v1.5/ directory #26

jeremycp3 opened this issue Nov 10, 2024 · 7 comments

Comments

@jeremycp3
Copy link

我把下载好模型放到了/home/project/CRUD_RAG/sentence-transformers/bge-base-zh-v1.5/目录下,出现以下报错,请问应该放到哪里?

image
image

@jeremycp3
Copy link
Author

请问你用的是这个embedding吗?https://huggingface.co/BAAI/bge-base-zh-v1.5
如果是这个的话,embedding_name 命名为sentence-transformers/bge-base-zh-v1.5 会导致huggingface不认识这个name

@jeremycp3
Copy link
Author

1731252776448

请问在运行过程中有这种警告是正常的吗

@haruhi-sudo
Copy link
Collaborator

1731252776448

请问在运行过程中有这种警告是正常的吗

你好,似乎不太正常。看起来模型没有正确生成内容。建议定位到具体哪行代码出了错误

@jeremycp3
Copy link
Author

1731252776448
请问在运行过程中有这种警告是正常的吗

你好,似乎不太正常。看起来模型没有正确生成内容。建议定位到具体哪行代码出了错误

我怀疑是不是因为我用的是qwen-7B-chat,我现在切换成了1.0版本的qwen-7B,我再测试一下看看效果。我想再请问一下QuestEval中只能用GPT吗,我切换成qwen好像不能work。

@haruhi-sudo
Copy link
Collaborator

1731252776448
请问在运行过程中有这种警告是正常的吗

你好,似乎不太正常。看起来模型没有正确生成内容。建议定位到具体哪行代码出了错误

我怀疑是不是因为我用的是qwen-7B-chat,我现在切换成了1.0版本的qwen-7B,我再测试一下看看效果。我想再请问一下QuestEval中只能用GPT吗,我切换成qwen好像不能work。

  1. 应该和chat版本无关,我们测试的就是chat版本,可以正常运行
  2. 目前只支持gpt,如果想修改成其他大模型,需要对代码进行比较大的改动

@jeremycp3
Copy link
Author

image

在我将--num_threads 改成1之后就没有上述警告了,但是生成的overall结果只有这么多,比文章中低很多,请问应该怎么解决呢?

@haruhi-sudo
Copy link
Collaborator

image

在我将--num_threads 改成1之后就没有上述警告了,但是生成的overall结果只有这么多,比文章中低很多,请问应该怎么解决呢?

  1. 确认你使用的模型是chat版本而不是base版本
  2. 参考这个issue: 我们的千问1.5-7B模型,复现论文结果,发现比论文结果偏低,长度看起来比论文中更长,请问可能是什么原因呐? #17

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants