欢迎光临
我们一直在努力

VICUNA开源GPT项目,本地搭建运行教程,让你拥有自己的CahtGPT

VICUNA是一个开源人工智能模型项目,对比最新一代的chat gpt4.0, 已经达到了它90%的能力。并且,我们可以把它安装在自己的电脑上!

这篇文章讲的是,如何在自己的电脑上面安装开源的GPT模型VICUNA,并且无需使用GPU,仅通过CPU即可运行。

步骤很简单,只需要三个步骤就能完成

首先你需要先安装GIT及Python

GIT下载

GIT官网:https://git-scm.com/

GIT下载地址:https://git-scm.com/downloads

进入下载页面目录选择你所使用的系统进入版本选择页面进行版本选择。

Python下载

Python官网:https://www.python.org/

Python下载地址:https://www.python.org/downloads/

进入下载页面目录选择你所使用的系统最新版进行下载

步骤一:

首先需要下载LLAMA.CPP
下载链接地址:https://github.com/ggerganov/llama.cpp

步骤二:

下载VICUNA模型
下载地址:https://huggingface.co/eachadea/ggml-vicuna-13b-4bit

步骤三:

编写启动脚本文件,新建一个bat文件。如:vicuna.bat 将一下代码复制到文件中保存。

title llama.cpp
:start
main -i --interactive-first -r "### Human:" --temp 0 -c 2048 -n -1 --ignore-eos --repeat_penalty 1.2 --instruct -m ggml-vicuna-13b-4bit-rev1.bin
pause
goto start

双击执行vicuna.bat即可开始

窗外天空
关注公众号『窗外天空』

获取更多建站运营运维新知!
互联网创业、前沿技术......

赞(0) 打赏
文章名称:《VICUNA开源GPT项目,本地搭建运行教程,让你拥有自己的CahtGPT》
文章链接:https://www.nixonli.com/83.html
本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续给力更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫打赏

微信扫一扫打赏