怎么自定义嵌入模型？

[qinguoluo]

我想使用gemini的嵌入模型。我在env文件里添加了一条：DEFAULT_FILES_CONFIG="embedding_model=gemini/text-embedding-004"。但是没有生效，分块向量化文档的时候仍然用的是openai的Text Embedding 3 Smal。是我的设置不对吗？

[Sun-drenched]

尝试去掉配置中的双引号

[qinguoluo]

去掉双引号后再次尝试，报错如下：

embeddingChunks error {
message: '{"endpoint":"https://free.***.cm/v1","error":{"message":"当前分组 default 下对于模型 text-embedding-004 无可用渠道 (request id: 202502031417293908620913529581)","type":"v_api_error"},"errorType":"ProviderBizError","provider":"openai"}',
name: 'EmbeddingError'

我猜测是不是gemini的text-embedding-004模型是收费的缘故。但是为什么信息里又提到“provider":"openai"，关openai什么事？

[git268]

按照这个配置：DEFAULT_FILES_CONFIG="embedding_model=github/embedding-text-3-large"，还是报错。我的是部署在vps上的。 embeddingChunks error { message: '{"length":93,"name":"error","severity":"ERROR","code":"22000","file":"vector.c","line":"72","routine":"CheckExpectedDim"}', name: 'EmbeddingError'

不清除你的，我使用large或者small模型都能正常使用。希望官方提供动态切换设置

[qinguoluo]

你在openai这里api key填没有填？如果填了是官方的key吗？

[git268]

你在openai这里api key填没有填？如果填了是官方的key吗？

这个填不填都不影响，我填的国内中转商API。如果上面设置为Open AI的模型也能正常使用

[muwubbq]

如果使用 github模型 环境变量是否需要加入github api 的相关环境变量 默认这个模型应该是未启用状态 环境变量中是否应该先启用 才能被调用？

[git268]

如果使用 github模型 环境变量是否需要加入github api 的相关环境变量 默认这个模型应该是未启用状态 环境变量中是否应该先启用 才能被调用？

经过我的测试，文生图、向量嵌入等非常规语言模型似乎并不需要将其启用。只需要在应用设置中对应的AI服务商填入正确的api key即可使用。哪怕该AI服务商并未启用也能正常使用其中的向量嵌入模型。

[bbbugg]

embedding_model=google/text-embedding-004 google 才是gemini的模型服务商，但是也会报错 #6891

[MacKenia]

根据链接自定义 Embedding（可选），目前仅支持：zhipu/github/openai/bedrock/ollama

[bbbugg]

希望作者能加一个，毕竟google的免费，目前也最强

[MacKenia]

需要@一个大佬 @cookieY 求帮助

[EdwardChenz]

希望作者能加一个，毕竟google的免费，目前也最强

谷歌的这个模型免费使用吗，怎么申请？

[bbbugg]

希望作者能加一个，毕竟google的免费，目前也最强

谷歌的这个模型免费使用吗，怎么申请？

申请一个gemini api就可以用了, 和其他gemini模型的api通用

[YANANEER]

+1 希望能使用谷歌的嵌入模型