<aside> ✏️
以下文字來源為
</aside>
LM Studio是一個可以使用圖形化介面,超低門檻輕鬆部署大型語言模型的程式,該程式可以同時使用主流的圖形化作業系統上,例如Windows、Linux、MacOS。
而且他是一個可以運作於離線情況下的免付費程式,也不會存取使用者使用的資料,很適合想要使用敏感性資料,嘗試一下開源LLM效果的使用者。
Anything LLM 是一款桌面型的圖形化應用程式,我們可以用該程式連結現有的LLM伺服器,例如ChatGPT或各式私人建立的LLM服務。
成功連結後,Anything LLM就可以顯示一個非常友善一般使用者的聊天室視窗,讓你可以像是使用通訊軟體一樣與大型語言模型對話。除此之外他最重要的功能是~ 可以在一行程式都無須撰寫的情況下,使用RAG讓LLM可以輕鬆索引使用者指定的權威資料來源。