Schöpfung ist nicht einfach, also ermutigen und unterstützen Sie mich bitte.
Im wirklichen Leben sind viele Menschen nicht bereit, ihre Informationen im Internet zu veröffentlichen. Was aber, wenn wir die Fähigkeiten der künstlichen Intelligenz nutzen müssen, um Dateien zu verarbeiten, Entscheidungen zu treffen und Befehle auszuführen? Daher wird es für uns sehr wichtig, unser eigenes GPT oder das private GPT eines Unternehmens aufzubauen.
Schauen Sie sich zuerst die Wirkung an
1.
Schnelle lokale Installationsschritte für die lokale Bereitstellung von privatem GPT:
1. Klonen Sie das Repository:
git clone
git clone https://github.com/imartinez/privateGPT
Dateiverzeichnis
2. Python installieren:
pyenv install 3.11
pyenv local 3.11(Wenn ein Fehler gemeldet wird, können Sie Python3.11 direkt installieren.)
Die alte Version von 3.10 wurde bereits zuvor auf dem System installiert. Um Störungen zu vermeiden, muss sie aus dem Systemvariablenpfad gelöscht werden: C:\Programm Files\Python310\Scripts\; C:\Program Files\Python310\
3. Abhängigkeiten installieren:
poetry install --with ui,local
4. Laden Sie das Einbettungs- und LLM-Modell herunter:
poetry run python scripts/setup
5. (Optional, in Powershell ausführen) GPU aktivieren:
$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python6. Führen Sie den lokalen Server aus:
set PGPT_PROFILES=local
poetry run python -m private_gpt
7. Navigieren Sie zur Benutzeroberfläche: Öffnen Sie http://localhost:8001/ in Ihrem Browser.
Mehr Info: