Jak nastavit LocalGPT na Windows pro začátečníky

Pokud nechcete platit za LLM nebo chcete udržet vaše data v bezpečí, vy měl by nastavit LocalGPT . Umožňuje vám plnou kontrolu nad tím, jak AI provozuje a zpracovává data. Zajišťuje také soukromí, protože všechna data zůstávají na místním systému místo toho, aby byly odeslány na externí servery.

Nastavte místní GPT na Windows PC

LocalGPT je nástroj s otevřeným zdrojovým kódem inspirovaným privategpt , navrženo tak, aby provozovaly lokálně velké jazykové modely (LLM) na uživatelských zařízeních pro soukromé použití. Na rozdíl od Privategpt, který se spoléhá pouze na provádění CPU, LocalGPT podporuje hardwarové zrychlení prostřednictvím GPU pro lepší výkon a sníženou latenci. Místo modelu GPT-4all a Llamaembeddings, které jsou docela robustní, používá LocalGPT Vicuna-7B LLM a Instructorembeddings. Funguje s modely jako BlenderBot a WizardLM-7B, což nám umožňuje zaměnit modely založené na konkrétních potřebách. Celý potrubí pracuje lokálně a zajišťuje soukromí dat při poskytování pokročilých schopností NLP bez externího spolehlivosti API, což z něj činí perfektního kandidáta pro místně provozovaný režim AI.

V této příručce nastavíme místní GPT na Windows. Níže můžete sledovat níže uvedené kroky.

1. Stáhněte a nainstalujte Miniconda
2. Nainstalujte úložiště LocalGPT
3. Nainstalujte závislosti
4. Spusťte LocalGPT

Pojďme o nich podrobně diskutovat.

1] Stáhnout a nainstalovat Miniconda

Miniconda je lehká distribuce správce balíčků Conda, která je navržena tak, aby rychle nastavovala prostředí Python. Poskytuje pouze náležitosti, což uživatelům umožňuje přizpůsobit své instalace přidáním konkrétních balíčků podle potřeby. Chcete -li si stáhnout, přejděte na Anaconda.com, přejděte dolů, přejděte na Instalační pracovníci miniconda,  A poté jej stáhněte pro Windows, protože tato příručka je pro Windows.

xbox one game dvr quality quality settings

Nyní spusťte instalační program a postupujte podle pokynů na obrazovce a dokončete proces instalace, ujistěte se však, že když jste na  Pokročilé možnosti instalace,  Zaškrtněte všechny políčka a nakonec dokončete instalaci.

Chcete -li zkontrolovat, zda je nainstalován nebo ne, vyhledejte  „Anaconda výzva“  V nabídce Start a otevření CLI. Nyní můžete spustit Seznam conda jen pro potvrzení, že je nainstalován.

2] Nainstalujte úložiště LocalGPT

Nyní musíme nainstalovat úložiště LocalGPT je hostováno na GitHubu od pohotovostního inženýra. Můžeme to získat odtamtud. Chcete -li to udělat, navigace github.com . Můžete projít stránku a dozvědět se více o LocalGPT a nainstalovat ji, musíte kliknout na  Kód> Stáhnout zip.  Jakmile je soubor zip stažen, přejděte na  Stáhnout  Složka, klepněte pravým tlačítkem myši na soubor ZIP, vyberte extrakt, nastavte místo, kde chcete soubor extrahovat a dokončit proces. Otevřete extrahovanou složku, uvnitř ji budete volat složku Localgpt-main. Jen kvůli jednoduchosti vkládáme složku na ploše a pojmenováním ji pojmenováváme 'LGPT'.

3] Nainstalujte závislosti

Nyní musíme vytvořit virtuální prostředí, kde budeme nainstalovat všechny závislosti. Chcete -li to udělat, otevřete  „Anaconda výzva“  z nabídky Start a spusťte následující příkazy.

Poznámka: Nahraďte proměnnou „environment_name“ jakýmkoli názvem podle vašeho výběru.

hybridní spánek

Pokud vás požádá o stažení jakéhokoli balíčku, uveďte svůj souhlas a pokračujte.

Nyní musíme nainstalovat balíček, který jsme stáhli dříve. Chcete -li tak učinit, musíte nejprve přejít do adresáře pomocí následujících příkazů.

cd LGPT

Místo instalace všech komponent jeden po druhém můžeme použít následující příkaz k instalaci všech najednou.

pip install -r requirements.txt

Můžete se setkat se dvěma chybami.

• Import Torch ModulenotFoundError:  Běh PIP nainstalujte pochodní Torchvision Torchaudio  a pak spusťte výše uvedený příkaz.
• Je vyžadován Microsoft C ++:  Klikněte na zmíněnou adresu URL a stáhněte si Visual Studio kliknutím na  Stáhnout nástroje pro stavbu,  Jakmile je Visual Studio otevřeno, musíte projít nástroji, které nemáte, a stáhnout je.

Po vyřešení problému znovu spusťte příkaz instalačního programu a jakmile je nainstalován, přejděte k dalšímu kroku.

4] Run LocalGPT

Nejprve musíte spustit požití Pythonu, což znamená import dat ze zdrojových dokumentů, zpracování vašich dokumentů a ukládání jejich vložení do vektorové databáze (Chroma DB). Chcete -li tak učinit, musíte provést následující příkaz.

Doporučujeme, abyste sledovali používání CPU pomocí správce úloh.

Nyní, a CCESS soubor constants.py v adresáři LocalGPT. Zakázat model LLAMA 3 přidáním komentáře do jeho řádku a aktivace modelu LLAMA 2 (7b parametry) odstraněním komentáře z jeho řádku.

astro a50 mic nefunguje xbox one

Po dokončení musíte spustit LocalGPT pomocí následujícího příkazu.

python run_local_gpt.py

Pokud narazíte na chybu, která uvádí, že volání  chybí, běh  PIP nainstalujte call-cpp-python.

Doufejme, že s pomocí této příručky budete moci lokálně spustit LocalGPT na svém počítači.

Číst: Jak používat zmatenost AI pro výzkum

Jak nainstalovat privategpt na Windows?

Chcete -li nainstalovat Privategpt na Windows, nejprve nainstalujte Python a správce balíčků, jako je Conda. Poté klonejte úložiště Privategpt a nastavte virtuální prostředí. Poté musíte nainstalovat závislosti pomocí poezie nebo PIP. Stáhněte si kompatibilní jazykový model. Nakonec musíte nakonfigurovat proměnné prostředí, požití dokumentů a spustit aplikaci pro zahájení dotazu na vaše data lokálně.

Číst:  Jak běžet Deepseek lokálně na Windows 11

Jak nastavit WSL na Windows?

Na Nastavit WSL na Windows , Otevřete PowerShell jako administrátor a běh WSL --instalace . To umožňuje WSL, nainstaluje jádro Linux a nastavuje WSL 2 jako výchozí. Restartujte počítač a poté vyberte distribuci Linux, který se má nainstalovat. Spusťte distribuci, nastavte uživatelské jméno a heslo a jste připraveni používat Linux na Windows.

Přečtěte si také:  Spusťte chatgpt klon lokálně na počítači pomocí GPT4All .