Jak nainstalovat LLaMA 3 na Windows 11 PC?

Llama 3 je nejnovějším velkým jazykovým modelem Meta. Můžete ji použít pro různé účely, jako je řešení vašich dotazů, získání pomoci se školními domácími úkoly a projekty atd. Lokální nasazení Llama 3 na vašem počítači s Windows 11 vám pomůže ji používat kdykoli, i bez přístupu k internetu. Tento článek vám to ukáže jak nainstalovat Llama 3 na Windows 11 PC .

Jak nainstalovat Llama 3 na Windows 11 PC

Instalace Llama 3 na Windows 11 PC prostřednictvím Pythonu vyžaduje technické dovednosti a znalosti. Některé alternativní metody vám však umožňují lokálně nasadit Llama 3 na vašem počítači s Windows 11. Ukážu vám tyto metody.

Chcete-li nainstalovat Llama 3 do počítače se systémem Windows 11, musíte provést některé příkazy v příkazovém řádku. To vám však umožní používat pouze jeho verzi pro příkazový řádek. Pokud chcete používat jeho webové uživatelské rozhraní, musíte podniknout další kroky. Ukážu vám obě tyto metody.

Nasaďte Llama 3 na Windows 11 PC přes CMD

Chcete-li nasadit Llama 3 na vašem počítači s Windows 11, musíte nainstalovat Ollama na vašem počítači s Windows. Kroky pro totéž jsou následující:

1. Návštěva Oficiální webové stránky Ollama .
2. Klikněte na Stáhnout a poté vyberte Windows .
3. Nyní klikněte na Stáhnout pro Windows tlačítko pro uložení exe souboru do vašeho PC.
4. Spusťte soubor exe a nainstalujte Ollama na váš počítač.

Jakmile se Ollama nainstaluje do vašeho zařízení, restartujte počítač. Mělo by to běžet na pozadí. Můžete to vidět na systémové liště. Nyní klikněte na možnost Modely na webu Ollama. Uvidíte jeho různé modely.

Llama 3.1 je k dispozici v následujících třech parametrech:

• 8B
• 70B
• 405B

Poslední je největší parametr a evidentně jej nelze spustit na low-end PC. Llama 3.2 má následující dva parametry:

• 1B
• 3B

Klikněte na verzi Llama, kterou chcete nainstalovat do počítače. Pokud chcete například nainstalovat Llama 3.2, klikněte na Llama 3.2. V rozevíracím seznamu můžete vybrat parametr, který chcete nainstalovat. Poté zkopírujte příkaz vedle něj a vložte jej do příkazového řádku.

Pro vaše pohodlí jsem oba příkazy napsal pro model Llama 3.2. Chcete-li nainstalovat model Llama 3.2 3B, spusťte následující příkaz:

ollama run llama3.2:3b

Chcete-li nainstalovat model Llama 3.2 1B, použijte následující příkaz:

ollama run llama3.2:1b

Otevřete příkazový řádek, zadejte některý z výše uvedených příkazů (na základě vašich požadavků) a stiskněte Vstupte . Stažení požadovaných souborů bude nějakou dobu trvat. Doba stahování bude také záviset na rychlosti vašeho internetového připojení. Po dokončení uvidíte úspěch zprávu v příkazovém řádku.

Nyní zadejte svou zprávu, abyste použili model Llama 3.2. Pokud chcete nainstalovat model Llama 3.1, použijte příkazy dostupné na webu Ollama.

Okno Microsoft Security Essentials 7 64bitové

Při příštím spuštění příkazového řádku použijte stejný příkaz ke spuštění Llama 3.1 nebo 3.2 na vašem PC.

Instalace Llama 3 přes CMD má jednu nevýhodu. Neukládá vaši historii chatu. Pokud jej však nasadíte na místního hostitele, vaše historie chatu se uloží a získáte lepší uživatelské rozhraní. Následující metoda ukazuje, jak to udělat.

Nasaďte webové uživatelské rozhraní Llama 3 na Windows 11

Použití Llama 3 ve webovém prohlížeči poskytuje lepší uživatelské rozhraní a také ukládá historii chatu ve srovnání s používáním v okně CMD. Ukážu vám, jak nasadit Llamu 3 ve vašem webovém prohlížeči.

Chcete-li používat Llama 3 ve svém webovém prohlížeči, měla by být na vašem systému nainstalována Llama 3 přes Ollama a Docker. Pokud jste ještě nenainstalovali Llamu 3, nainstalujte ji pomocí Ollama (jak je vysvětleno výše). Nyní si stáhněte a nainstalujte Docker z jeho oficiální stránky .

Po instalaci Dockeru jej spusťte a přihlaste se k vytvoření účtu. Docker se nespustí, dokud se nezaregistrujete. Po registraci se přihlaste ke svému účtu v aplikaci Docker. Minimalizujte Docker na systémovou lištu. Aplikace Docker a Ollama by měly běžet na pozadí. V opačném případě nemůžete Llama 3 používat ve svém webovém prohlížeči.

Nyní otevřete příkazový řádek, zkopírujte následující příkaz a vložte jej do příkazového řádku:

sihost exe tvrdá chyba

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Výše uvedený příkaz bude nějakou dobu trvat, než stáhne požadované zdroje. Mějte proto trochu trpělivosti. Po dokončení příkazu otevřete Docker a vyberte Kontejnery řez z levé strany. Uvidíte, že se kontejner vytvoří automaticky s portem 3000:8080.

Klikněte na port 3000:8080. Tím se otevře nová karta ve vašem výchozím webovém prohlížeči. Nyní se zaregistrujte a přihlaste se, abyste mohli používat Llama 3 ve svém webovém prohlížeči. Pokud uvidíte adresní řádek, uvidíte localhost: 3000 tam, což znamená, že Llama 3 je hostována lokálně na vašem počítači. Můžete jej používat bez připojení k internetu.

Z rozevíracího seznamu vyberte svůj model chatu Llama. Pokud chcete přidat další chatovací modely Llama 3, musíte si ji nainstalovat přes Ollama pomocí požadovaných příkazů. Poté bude model automaticky dostupný ve vašem webovém prohlížeči.

Veškerá vaše historie chatu bude uložena a přístupná na levé straně. Když chcete ukončit, odhlaste se ze svého webového prohlížeče. Poté otevřete aplikaci Docker a klikněte na Zastávka tlačítko pro zastavení Dockeru. Nyní můžete Docker zavřít.

Až budete chtít Llama 3 ve svém webovém prohlížeči příště použít, spusťte Ollama a Docker, počkejte několik minut a poté kliknutím na port v kontejneru Docker otevřete server localhost ve vašem webovém prohlížeči. Nyní se přihlaste ke svému účtu a začněte používat Llama 3.

Doufám, že to pomůže.

Může Llama 3 běžet na Windows?

V závislosti na hardwarové konfiguraci vašeho počítače můžete na svém systému spustit Llamu 3. Jeho model 1B je nejlehčí. Můžete jej nainstalovat a spustit na vašem systému pomocí příkazového řádku.

Kolik RAM potřebuji pro Llama 3?

Nejlehčím modelem Llama 3 je Llama 3.2 1B. Váš systém by měl mít 16 GB RAM pro provoz modelu Llama 3.2 1B. Kromě toho by váš systém měl mít také výkonný GPU. Vyšší modely Llama 3 vyžadují více systémových prostředků.

Čtěte dále : Jak používat Leonardo Phoenix AI .