繁中

Proxy-lite:一個輕量級、開源、加權的自主助手項目

代理Lite:如果您想在本地部署後使用它,則服務運行後的端點地址為 http://localhost:8008/v1。此外,代理 Lite默認為。Convergence AI是代理/助理框架的開源(迷你)版本。它允許模型自主使用工具(例如,瀏覽器、單擊、搜索)在環境中完成任務。

1.項目居間

  • 姓名: 羥酸鹽 - 「我們的代理助理的迷你、開放重量版本。"
  • 它是代理助手(Weights Open)的輕量級開源版本。
  • 目標是成為「自治代理」:用戶發送一個高級任務(例如「幫我找到某個地方附近的餐廳並進行評估」),代理調用工具、瀏覽器,分析結果,做出動作,最終反饋結果。

2.關鍵零部件運營機制

以下是proxy-lite的核心組件和工作流程:

模塊/組件功能/功能
跑步者跑步者配置在Python中啟動代理的主邏輯,配置環境、策略、模型、工具等
環境例如「網絡瀏覽器」環境:代理可以在瀏覽器中操作(點擊、輸入、跳轉等)。
工具代理可以在環境中使用的操作,例如 瀏覽器工具,ReturnValueTools 等。
模型/客戶端(客戶端、模型_id、api_base)負責特定的語言推理、規劃、工具調用等。您可以調用遠程API或本地服務。
消息歷史記錄(Message_history)結構化對話/觀察歷史,為模型提供背景。
工具調用(tool_call)該模型以指令形式輸出調用,例如「點擊」、「輸入」等,並且代理在執行後繼續交互。

操作過程大致如下:

  1. 用戶給出任務(高級意圖)
  2. Runner將任務包裝在消息歷史記錄中
  3. 該模型基於當前觀察+歷史+可用工具來生成下一步「思考+工具調用」
  4. 環境/工具模塊執行工具調用(例如,瀏覽器點擊、搜索、獲取頁面內容)
  5. 反饋觀察結果,然後讓模型決定下一步
  6. 重複上述步驟,直到任務完成或超時

在模型響應中,將會有 <觀察./觀察>一種結構,就像, <思考./思考><tool_call../tool_call>,區分「觀察/推理/行動」的三個部分。

3.如何使用/部署

以下是一些使用步驟和部署建議:

  • 本地運行/安裝
    • 克隆倉庫
    • 使用 製作代理(由項目提供的腳本),或者使用pip /虛擬環境手動安裝
    • 安裝Playwright(用於瀏覽器操作)
  • 警告/使用
    • 等任務 代理「查找國王十字車站附近的一些市場並告訴我它們的評級。" 這可以在命令行上執行
    • 您還可以打開本地Web界面(Web UI)以進行交互式演示
    • 或者在Python中,使用 流道 班+ RunnerProfile 構建為圖書館呼叫
  • 型號/界面
    • 默認的代理精簡版指向HuggingFace Spaces上的演示端點(不適合高壓使用)
    • 建議用戶部署自己的模型端點,例如使用 vLLM 回饋Convergence-ai/proxy-Lite-3b  模型並使工具能夠調用解析器 --tool-call-parser Hermes 和其他參數
    • 部署後,通過或指定客戶端上的端點地址 代理_LITE_API_Base --api-base 

4.優勢應用場景

好處/價值:

  • 自主執行能力:給定高級目標,代理可以調用工具、瀏覽器、搜索、點擊等來完成中間步驟
  • 可擴展/模塊化:可以替換或擴展環境、工具和模型以適應不同的任務
  • 開源加權開放性:這使得社區能夠比那些完全開源的大型模型系統更自由地進行實驗
  • 輕量級/相對簡化:雖然是簡化版本,但可能不具備代理的所有功能,但足以滿足許多基於代理的任務的原型探索

應用場景:

  • Web自動化任務(例如「幫我找個地方」+自動抓取、排序、比較)
  • 助理/代理任務(不僅僅是問答,還有行動+執行)
  • 研究和原型設計:想要在開放環境中測試代理智能和工具調用能力
  • 作為子模塊組裝到更複雜的系統中

5.限制/預防措施

該項目也存在一些限制和挑戰:

  • 性能/穩定性:默認演示端點專為演示而設計,不適合高負載或生產使用
  • 反機器人/反機器人挑戰:網站可能會檢測到或阻止瀏覽器自動化/可能會發生Captcha問題
  • 安全/隱私:自動代理可能會訪問敏感頁面、提交表格等,需要用戶仔細控制授權、憑據等
  • 任務複雜性限制:Proxy-Lite可能難以應對極其複雜的任務,這些任務需要大量的條件判斷和用戶交互
  • 模型能力瓶頸:作為輕量級版本,它在推理智能、工具調用判斷能力以及對複雜上下文的理解方面可能不如代理系統的更旗艦版本

擁抱面部空間的演示端點: https://convergence-ai-demo-api.hf.space/v1
GitHub:https://github.com/convergence-ai/proxy-lite

管材:

返回頂端