全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

CeraNetworks网络延迟测速工具IP归属甄别会员请立即修改密码
查看: 1320|回复: 16
打印 上一主题 下一主题

快用闲置的大叽叽自己搭建一个自己的ai语言大模型

[复制链接]
跳转到指定楼层
1#
发表于 2024-3-21 07:49:51 | 显示全部楼层 回帖奖励 |倒序浏览 |阅读模式
可以纯CPU运行,速度不慢。即使是7B的模型实测也可以跑。

ollama
https://ollama.com/download/linux

搭配openwebui使用
https://github.com/open-webui/open-webui


在这里下载你想要的模型:
https://ollama.com/library

刚刚试了下未审查的模型,还是很六的

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2024-6-15 17:15 , Processed in 0.054580 second(s), 7 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表