LM Studio je nástroj, který vám umožní Spusťte místní modely velkých jazyků (LLM) na počítači. Jednou z nejlepších věcí na tomto nástroji je to, že umožňuje spustit modely lokálně, abyste zajistili maximální soukromí. V této příručce se chystáme Nakonfigurujte LM Studio pro používání více AI na offline PC, Pokud máte zájem, pokračujte ve čtení.
Nakonfigurujte LM Studio tak, aby používalo více AI na offline PC
LM Studio Umožňuje vám stáhnout a spustit velké jazykové modely v počítači, aniž byste museli internet. Pomáhá udržovat vaše data soukromá zpracováním všeho místně. S tím můžete použít více modelů AI pro úkoly, jako je vytváření obsahu a analýza dat. Pokud chcete nakonfigurovat LM Studio pro používání více AI na offline PC, postupujte podle níže uvedených kroků.
- Nainstalujte LM Studio
- Nainstalujte více modelů
- Začněte používat model
Pojďme o nich podrobně diskutovat.
Treecomp
1] Nainstalujte studio LM
Nejprve musíme získat nástroj LM Studio z jejich oficiálních webových stránek. Za to tedy musíte jít lmstudio.ai . Protože používám Windows, vyberu Stáhněte si LM studio pro Windows, Ale v závislosti na vaší platformě si musíte stáhnout verzi LM Studio. Po dokončení to spustí stahování respektovaného souboru EXE.
Po stažení instalační média LM Studio na něj poklepejte a poté vyberte uživatele, pro kterého chcete aplikaci nainstalovat. Pokud jej chcete nainstalovat pro všechny uživatele, potřebujete přístup admin, protože získá výzvu UAC. Protože mám přístup, udělal jsem to, pak jsem vybral složku a nakonec spustil aplikaci.
2] Nainstalujte více modelů
Jakmile spustíte studio LM, budete vyzváni ke stažení prvních modelů LLM, klikněte na Získejte první LLM, a poté si stáhněte navrhovaný model. V případě, že chcete vybrat svůj vlastní model, klikněte na Přeskočit na palubu.
Chcete -li stáhnout jakýkoli model LLM, musíte kliknout na Objevte (zvětšovací sklo) ikona. Nyní vyhledejte model, který chcete stáhnout. Jednou z nejlepších věcí na studiu LM je skutečnost, že kontroluje podrobnosti o vašem systému a řekne vám, zda je model pro váš stroj příliš velký. Například Deepseek Coder V2 Lite je příliš velké pro mé zařízení, zatímco, Volejte 3.2 1b bude běžet hladce.
nelze změnit nastavení ovládání uživatelských účtů Windows 10
Jakmile víte, který model bude fungovat na vašem počítači, klikněte na Stáhnout ikona a nechte jej stáhnout model. V závislosti na šířce pásma sítě to může nějakou dobu trvat.
Tím se stáhne model LLM spolu s runtime. Pokud však chcete upgradovat na jiný model, v mém případě řekněme, že jsem chtěl nainstalovat CPU LLAMA.cpp, protože nemám výkonnou GPU a GPU-Acceleration není něco, co můj stroj zvládne. Šel jsem do Runtime karta a kliknutí na Aktualizovat tlačítko vedle modelu runtime.
Za účelem stažení další model, Musíte jít do Objevit Tlačítko znovu vyhledejte model, který chcete stáhnout. Poté klikněte na Stáhnout tlačítko spojené. Počkejte několik minut, když si stáhne váš model. Jakmile je stažen, můžete přejít na Runtime Stáhněte si jakékoli aktualizace, pokud jsou k dispozici, a v případě potřeby a poté vše, co musíte udělat, je kliknout Načíst modely. Tím se spustí server tohoto modelu lokálně na počítači.
POZNÁMKA: Pokud jste uzavřeli výzvu Discover bez spuštění modelu, přejděte na ikonu stahování z levého dolního rohu obrazovky a poté vyberte načíst model spojený s vaším modelem.
3] Začněte používat model
Po stažení modelů je vše, co musíte udělat, přejít na ikonu chatu. Poté se podívejte na horní část okna a uvidíte všechny své modely, klikněte na Model které chcete vybrat.
systém Windows nemohl spustit službu zásad diagnostiky
Před použitím můžete dokonce změnit preference modelu. Za tímto účelem klikněte na boční šipku, která je vedle modelu, a poté změňte nastavení, jako například Offload GPU, velikost fondu vláken CPU, délka kontextu, a další možnosti. Jakmile to uděláte, stačí kliknout Načíst model.
Jakmile je model načten, přejděte do Chatbot a začněte chatovat s modelem AI. Nezapomeňte si všimnout počtu RAM a CPU v pravém dolním rohu okna.
Doufejme, že s pomocí této příručky budete moci spustit více modelů LLM v LM Studio. Existují však i jiné nástroje pro spuštění LLM lokálně, Měli byste je také zkontrolovat.
Číst: Je MSTY LLM pro Windows Safe? Jak to nainstalovat?
Funguje LM Studio offline?
Ano, LM Studio funguje offline. Jakmile si stáhnete potřebné modely a runtime, můžete je použít zcela bez připojení k internetu. Veškeré zpracování se provádí lokálně na vašem počítači a zajišťuje, aby vaše data zůstala soukromá.
Číst: Vytvořte agenty AI pomocí LLMS Claude, Copilot, Chatgpt, Gemini
Kolik RAM potřebuji pro LM Studio?
Každý model ve studiu LM má různé požadavky RAM. Doporučujeme však, abyste měli alespoň 16 GB RAM, pokud chcete spustit jakýkoli model bez problémů. Navíc, pokud máte schopnost přidat GPU, udělejte to také.
Přečtěte si také: Spusťte qwen ai lokálně na Windows 11 .
