ChromaDB：安装包时提前下载嵌入

Question

是否可以选择安装 Chroma DB Python pip 包 (

chromadb

) 以及下载嵌入（例如

all-MiniLM-L6-v2

），而不是按需下载嵌入？

Answer 1

如果您下载嵌入模型的存储库，则可以将存储库根的路径而不是模型名称传递给

SentenceTransformerEmbeddingFunction(model_name)

from chromadb.utils.embedding_functions.sentence_transformer_embedding_function import (
    SentenceTransformerEmbeddingFunction
)

chromadb_embedding = SentenceTransformerEmbeddingFunction(model_path)

类似的解决方案适用于 llamaindex：

from llama_index.embeddings.huggingface import HuggingFaceEmbedding

llamaindex_embedding = HuggingFaceEmbedding(model_path)

以及排序模型的指导使用：

from sentence_transformers import SentenceTransformer

embedding = HuggingFaceEmbedding(model_path)

遗憾的是您可以将

HuggingFaceEmbedding

对象直接传递给 chromadb 和 llamaindex，因为它们无论如何都会创建这个对象。