您可以離線使用它並保護您的數據隱私。
最重要的是,您可以免費安裝它!
方法如下:(1/5)

1.訪問LMTustudio(dot)AI並下載與您的設備兼容的工作室版本。
打開安裝文件並在計算機上安裝LM Studio。
2.安裝LM Studio後,打開它。
在搜索欄中輸入您要使用的LLM名稱,然後單擊「Go」。
在本教程中,作者將使用Meta AI的開源模型LLaMa。
在屏幕左側,您會看到LLaMa的不同版本。右側是不同模型的「量化」。
在「量化」列的頂部,您會看到帶有「Should Work」的複選標記。這表明您的計算機硬體滿足該型號的要求。
如果您的硬體不滿足特定型號的要求,您將不會看到「Should Work」。
列出Falcon,它告訴我運行該模型需要超過150 GB的內存。
3.選擇您要下載的型號和版本。
單擊「下載」按鈕並等待下載完成。
如果您剛剛開始,我建議下載10 GB以下的型號。
較大的型號需要大量時間來下載,並且可能會減慢下載速度。
4.下載模型後,點擊左側收件箱中的聊天氣泡。
單擊頂部的欄以加載模型。加載模型後,您可以通過高級配置自定義其推理參數。
您可以自定義您的回答的隨機性和長度。
5.現在您可以開始使用該模型了。
在聊天欄中輸入您的問題,它就會回答。
響應質量:我使用LLaMa 2 7 B進行了這個聊天,一開始就產生了幻覺。看來,這個模型很努力,但還不夠。
儘管如此,在您的計算機上擁有本地聊天機器人仍然非常有用。它當然可以幫助您集思廣益期刊論文和資助提案的大綱。