交互 网站泉州网站关键词排名

创作不易，请大家多鼓励支持。

在现实生活中，很多人的资料是不愿意公布在互联网上的，但是我们又要使用人工智能的能力帮我们处理文件、做决策、执行命令那怎么办呢？于是我们构建自己或公司的私人GPT变得非常重要。

先看效果

 

一、本地部署PrivateGPT

快速本地安装步骤：
1.        克隆存储库：
git clone 

git clone https://github.com/imartinez/privateGPT

文件目录
 

2.        安装 Python ：

pyenv install 3.11
pyenv local 3.11

(如果报错可以直接安装python3.11)

系统之前已经安装过3.10的旧版本，为了避免干扰需要从系统变量path中删除：C:\Program Files\Python310\Scripts\；C:\Program Files\Python310\

3.        安装依赖：

poetry install --with ui,local

4.        下载嵌入和 LLM 模型：

poetry run python scripts/setup

5.        （可选，在powershell中运行）启用GPU：

$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python

6.        运行本地服务器：

set PGPT_PROFILES=local
poetry run python -m private_gpt

7.        导航到 UI：在浏览器中打开 http://localhost:8001/。
 

更多资料：

创建自己的私人GPT