La création n’est pas facile, alors encouragez-moi et soutenez-moi.
Dans la vraie vie, de nombreuses personnes ne souhaitent pas publier leurs informations sur Internet, mais que se passe-t-il si nous devons utiliser les capacités de l'intelligence artificielle pour nous aider à traiter des fichiers, à prendre des décisions et à exécuter des commandes ? Il devient donc très important pour nous de créer notre propre GPT privé ou celui de notre entreprise.
Regardez d'abord l'effet
1.
Étapes d'installation locale rapide pour le déploiement local de GPT privé :
1. Clonez le référentiel :
git clone
git clone https://github.com/imartinez/privateGPT
Répertoire de fichiers
2. Installez Python :
pyenv install 3.11
pyenv local 3.11
(Si une erreur est signalée, vous pouvez installer python3.11 directement.)
L'ancienne version 3.10 a déjà été installée sur le système. Afin d'éviter toute interférence, elle doit être supprimée du chemin de la variable système : C:\Program. Files\Python310\Scripts\; C:\Program Files\Python310\
3. Installez les dépendances :
poetry install --with ui,local
4. Téléchargez le modèle d'intégration et LLM :
poetry run python scripts/setup
5. (Facultatif, exécutez dans PowerShell) Activez le GPU :
$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python
6. Exécutez le serveur local :
set PGPT_PROFILES=local
poetry run python -m private_gpt
7. Accédez à l'interface utilisateur : ouvrez http://localhost:8001/ dans votre navigateur.
Plus d'informations: