使用 Hugging Face Inference Endpoints 進行語義搜尋

本指南將逐步引導您設定 Meilisearch REST 嵌入器與Hugging Face Inference Endpoints，以啟用語義搜尋功能。

要遵循本指南，您需要：

• 一個執行 1.10 或以上版本並啟用了向量儲存的 Meilisearch Cloud 專案
• 一個具有已部署推論端點的 Hugging Face 帳戶
• 您 Hugging Face 帳戶上已部署模型的端點 URL 和 API 金鑰

使用更新設定端點設定嵌入器

{
  "hf-inference": {
    "source": "rest",
    "url": "ENDPOINT_URL",
    "apiKey": "API_KEY",
    "dimensions": 384,
    "documentTemplate": "CUSTOM_LIQUID_TEMPLATE",
    "request": {
      "inputs": ["{{text}}", "{{..}}"],
      "model": "baai/bge-small-en-v1.5"
    },
    "response": ["{{embedding}}", "{{..}}"]
  }
}

在此設定中：

• source：宣告 Meilisearch 應透過其 REST API 連接到此嵌入器
• url：將 ENDPOINT_URL 替換為您的 Hugging Face 模型端點位址
• apiKey：將 API_KEY 替換為您的 Hugging Face API 金鑰
• dimensions：指定嵌入的維度，對於 baai/bge-small-en-v1.5 為 384
• documentTemplate：一個可選但建議使用的範本，用於您將傳送給嵌入器的資料
• request：定義 Meilisearch 將傳送給嵌入器的請求的結構和參數
• response：定義嵌入器回應的結構

設定好嵌入器後，Meilisearch 會自動為您的文件產生嵌入。使用 Cloud UI 或 get task 端點來監控任務。

設定好嵌入器後，您現在可以執行語義搜尋。使用 hybrid 搜尋參數發出搜尋請求，並將 semanticRatio 設定為 1

{
  "q": "QUERY_TERMS",
  "hybrid": {
    "semanticRatio": 1,
    "embedder": "hf-inference"
  }
}

在此請求中：

• q：搜尋查詢
• hybrid：啟用 AI 驅動的搜尋功能
  • semanticRatio：控制語義搜尋和全文搜尋之間的平衡。設定為 1 表示您只會收到語義搜尋結果
  • embedder：用於產生嵌入的嵌入器名稱

您已使用 Hugging Face Inference Endpoints 設定好嵌入器。這讓您可以在應用程式中使用純語義搜尋功能。

請參閱嵌入器設定文件，以取得有關其他嵌入器設定選項的更多資訊。