VICUNA是一个开源人工智能模型项目,对比最新一代的chat gpt4.0, 已经达到了它90%的能力。并且,我们可以把它安装在自己的电脑上!
这篇文章讲的是,如何在自己的电脑上面安装开源的GPT模型VICUNA,并且无需使用GPU,仅通过CPU即可运行。
步骤很简单,只需要三个步骤就能完成
首先你需要先安装GIT及Python
GIT下载
GIT官网:https://git-scm.com/
GIT下载地址:https://git-scm.com/downloads
进入下载页面目录选择你所使用的系统进入版本选择页面进行版本选择。
Python下载
Python官网:https://www.python.org/
Python下载地址:https://www.python.org/downloads/
进入下载页面目录选择你所使用的系统最新版进行下载
步骤一:
首先需要下载LLAMA.CPP
下载链接地址:https://github.com/ggerganov/llama.cpp
步骤二:
下载VICUNA模型
下载地址:https://huggingface.co/eachadea/ggml-vicuna-13b-4bit
步骤三:
编写启动脚本文件,新建一个bat文件。如:vicuna.bat 将一下代码复制到文件中保存。
title llama.cpp :start main -i --interactive-first -r "### Human:" --temp 0 -c 2048 -n -1 --ignore-eos --repeat_penalty 1.2 --instruct -m ggml-vicuna-13b-4bit-rev1.bin pause goto start
双击执行vicuna.bat即可开始

关注公众号『窗外天空』
获取更多建站运营运维新知!互联网创业、前沿技术......
最新评论
想要aarch64_generic架构的,用的是Rockchip RK3308 ARMv8 Cortex-A35
水淀粉vdfv
有其他下载方式么,网站上的点击下载后没有任何反应,或者直接发给我一下?83835079@qq.com
你好,我的型号ELECOM WRC-X3200GST3,ARMv8 Processor rev 4构架,CPU mediatek/mt7622,找了很久没有找到
我的也是这样。一直无法确认ARCH架构,或是不支持。一直没办法用。不知道怎么办了