KoboldCpp GUI

結論(先に要点) 軽量LLMをGUIで試したい人向け。 概要 小型LLMをGPU/CPUで動かすためのGUI。比較的軽量に試せます。 主な機能 GUIで簡単起動 軽量モデル向け GPU活用 強み 導入が簡単 軽量モデルに … 続きを読む

LM Studio

結論(先に要点) ローカルLLMをGUIで扱いたい人向け。 概要 ローカルLLMの管理・実行をGUIで行えるツール。GPUを活用できる場合もあります。 主な機能 モデル管理 GUI操作 ローカル実行 強み 導入が簡単 G … 続きを読む