快用闲置的大叽叽自己搭建一个自己的ai语言大模型

三月七 · 发表于 2024-3-21 07:49:51

可以纯CPU运行，速度不慢。即使是7B的模型实测也可以跑。

ollama
https://ollama.com/download/linux

搭配openwebui使用
https://github.com/open-webui/open-webui

在这里下载你想要的模型：
https://ollama.com/library

刚刚试了下未审查的模型，还是很六的

liuluoqianqiu · 发表于 2024-3-21 08:43:41

感觉不必，下个智障没必要

zhouktv1 · 发表于 2024-3-21 08:43:03

还不如挖矿zeph

阿铁打 · 发表于 2024-3-21 14:49:41

能不能当猫娘

3gW7d7jizJS · 发表于 2024-3-21 14:41:54

这种小规模的模型如果不自己微调那毫无意义

Phyton · 发表于 2024-3-21 13:04:38

依托答辩

oldj · 发表于 2024-3-21 13:00:41

你不如用cf的免费ai呢也是llama2，有免费额度

@-@ · 发表于 2024-3-21 12:55:38

提示: 作者被禁止或删除内容自动屏蔽

bigjj · 发表于 2024-3-21 12:43:01

人工智障

0.0 · 发表于 2024-3-21 12:33:52

还行

kindlecon · 发表于 2024-3-21 11:23:45

7b普遍都挺蠢的，8x7b效果就很好了，体验跟chatgpt3.5差不多。

luckmc · 发表于 2024-3-21 11:21:44

整个模型不行。不能上下文

		自动登录	找回密码
密码			注册

@-@ @-@ 当前离线积分 666	13^# 发表于 2024-3-21 12:55:38 \| 只看该作者提示: 作者被禁止或删除内容自动屏蔽
@-@ @-@ 当前离线积分 666
	回复举报