老规矩,先上本机配置:
- Fedora36的x86_64台式机
- i5-7500 CPU @ 3.40GHz 4核
- 16G 内存
- Intel集成显卡 630
预先设置python运行环境
熟悉这一套的人直接略过。
与C/C++写成的gpt4all不同,micro-gpt是典型的用python写成的项目。运行各种python项目需要设置好python的环境,以免与本机上的其它python工程冲突,比如本机是python2却想运行python3.8的工程。设置python虚拟运行环境的方法比较多,现在流行的方式是使用Miniconda3。根据自己机器的操作系统和架构,选择一款下载。Miniconda3-py37
表示安装的是python3.7的Miniconda3。
为工程创建单独的环境
先下载仓库代码,依然是用github镜像:
git clone https://ghproxy.com/https://github.com/muellerberndt/micro-gpt.git microGPT
cd microGPT
其次是创建一个新的python运行环境,其实就是运行环境隔离的思想,只是换了一种方式的Docker。
conda create -n microGPT python=3.10
conda activate microGPT
再次是安装工程的信赖包,因为各种网络原因,统一用清华的python镜像源:
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
cp .env_example .env
这时候用的pip
已经是python3.10对应的pip了,不再是本机上的python和pip,这正是Miniconda3
这一坨所要达到的目的。
安装完成之后需要设置MEMORY_TYPE
环境变量,直接用chromadb
比较方便运行命令会自动下载并安装数据库,用psycopg2
则需要另外安装信赖包,而且非常容易出问题,还不知道如何解决:
export MEMORY_TYPE=chromadb
python microgpt.py "Programmatically draw a beautiful car and save the drawing in a png image file"
原来这个工程仅是个调度空壳,最终还要调用OpenAI接口,上了大当。