繁中

Chat-With-MLX:在Mac上輕鬆運行各種開源模型

並以RAG風格聊天
是一個高效的多語言聊天界面,使用支持搜索增強一代(RAG)的Apple MLX框架實現。

您可以輕鬆自動集成任何HuggingFace和MLX兼容的開源模型。支持通過URL與Doc(x)、PDF、文本文件和YouTube視頻進行聊天交互。

主要功能:

1.與數據聊天:支持通過URL與Doc(x)、pdf、文本文件和YouTube視頻進行聊天交互。
2.多語言支持:支持中文、英語、法語、德語、印地語、義大利語、日語、韓語、西班牙語、土耳其語和越南語。
3.輕鬆集成:您可以輕鬆集成任何HuggingFace和MLX兼容的開源模型。
4.支持的型號:包括Google Gemma、Mistral、OpenHermes、NousHermes、Mixtral、Quyen、StableLM 2 Zephyr、Vistral、VBD-Llama 2等型號。

項目地址:https://github.com/qnguyen3/chat-with-mlx

視頻:

返回頂端