<aside> ✏️

以下文字來源為

</aside>

1. LM Studio(https://lmstudio.ai/)

LM Studio是一個可以使用圖形化介面,超低門檻輕鬆部署大型語言模型的程式,該程式可以同時使用主流的圖形化作業系統上,例如Windows、Linux、MacOS。

而且他是一個可以運作於離線情況下的免付費程式,也不會存取使用者使用的資料,很適合想要使用敏感性資料,嘗試一下開源LLM效果的使用者。

2. Anything LLM(https://useanything.com/)

Anything LLM 是一款桌面型的圖形化應用程式,我們可以用該程式連結現有的LLM伺服器,例如ChatGPT或各式私人建立的LLM服務。

成功連結後,Anything LLM就可以顯示一個非常友善一般使用者的聊天室視窗,讓你可以像是使用通訊軟體一樣與大型語言模型對話。除此之外他最重要的功能是~ 可以在一行程式都無須撰寫的情況下,使用RAG讓LLM可以輕鬆索引使用者指定的權威資料來源。

極簡單入門教學!! 免寫程式!! 手把手教你在本地端使用大型語言模型+RAG