加载中...

地址发布 老王说明书 宣传中心
楼主: 15267158147
收起左侧

[Windows] [已失效] [自行打包] 本地酒馆语音对话 [1+15G][百度盘]

  [复制链接]
 楼主| 发表于 2024-4-2 18:19:17 手机版 | 显示全部楼层
ctg2 发表于 2024-4-2 15:38
: X5 Y' Z- c% j5 L5 ~$ G我内存32g,显存8g,是指显存太低了吗
3 V2 T/ c. I4 b( z5 e(欢迎访问老王论坛:laowang.vip)
是的,你可以换小一点的
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-4-2 18:20:19 手机版 | 显示全部楼层
dacunge520 发表于 2024-4-2 13:07
5 `' f1 k: o) g# Y- dA卡貌似不行,我已经换了3b、1b的低模型,但还是那样,打开启动器运行后,就运行结束,弹个窗「程序成功退 ...
, j; i5 |, c; }, t9 ^& `(欢迎访问老王论坛:laowang.vip)
你先无模型运行,然后在模型那里切换模型试试
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-4-2 18:21:32 手机版 | 显示全部楼层
dacunge520 发表于 2024-4-2 13:07
2 Y/ A+ C0 p, Y" J; `6 j, JA卡貌似不行,我已经换了3b、1b的低模型,但还是那样,打开启动器运行后,就运行结束,弹个窗「程序成功退 ...
, K$ K" y, p- i(欢迎访问老王论坛:laowang.vip)
怎么说呢,你可以用其他的运行,在模型那里调
回复 支持 2 反对 1

使用道具 举报

发表于 2024-4-2 18:31:10 | 显示全部楼层
dacunge520 发表于 2024-4-2 13:07
) _) C) ]9 s9 s+ R2 hA卡貌似不行,我已经换了3b、1b的低模型,但还是那样,打开启动器运行后,就运行结束,弹个窗「程序成功退 ...
' ]* z6 S' Q3 q( ?(欢迎访问老王论坛:laowang.vip)
你的模组在哪下载的?
2 F2 L) P: l# x+ G1 P$ c  j
6 C+ b6 z% }) v) T' {# l# K) q# p
回复 支持 反对

使用道具 举报

发表于 2024-4-2 18:49:30 手机版 | 显示全部楼层
.....佛了我试了半天之后,重新找b站的那个mega大佬发的下载,结果就可以使用了顺从
回复 支持 反对

使用道具 举报

发表于 2024-4-2 20:28:26 | 显示全部楼层
网页右下角加载成功,启动器报错:ERROR:The model could not be loaded because its checkpoint file in .bin/.pt/.safetensors format could not be located.是为啥
回复 支持 反对

使用道具 举报

发表于 2024-4-2 22:10:42 手机版 | 显示全部楼层
15267158147 发表于 2024-4-2 18:196 u" v5 c0 K' ]- X9 D: f* r(欢迎访问老王论坛:laowang.vip)
是的,你可以换小一点的

# {+ J$ Q, f( G1 k  l找不到什么东西啊
MVIMG_20240402_220914.jpg
回复 支持 反对

使用道具 举报

发表于 2024-4-2 23:11:35 | 显示全部楼层
15267158147 发表于 2024-4-2 18:21+ V! Z, _: q" j/ ~+ Q(欢迎访问老王论坛:laowang.vip)
怎么说呢,你可以用其他的运行,在模型那里调

; v4 @# ?2 b) ~0 X3 a- u唉,放弃了,按照你说的能打开了,但是对话都是空白,我也去频道看了看,说是内存爆了,但我看内存显存都好好的,麻烦,已经超过图一乐的心态了,不过还是支持大佬继续分享这类。6 c3 G; |! w( `) @(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-3 00:27:44 | 显示全部楼层
需要越狱吗?启动器启动没反应
回复 支持 反对

使用道具 举报

发表于 2024-4-3 14:24:34 | 显示全部楼层
1746442091 发表于 2024-4-2 20:28- K& A/ w, D+ D, W8 ^+ t  A(欢迎访问老王论坛:laowang.vip)
网页右下角加载成功,启动器报错:ERROR:The model could not be loaded because its checkpoint file in . ...
/ e3 C6 Z5 f/ L3 t; s% A- `(欢迎访问老王论坛:laowang.vip)
一样是这个问题) S" e: }, `# q/ f# `' ](欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-5 16:36:35 手机版 | 显示全部楼层
爆了,求补# G8 K0 m1 r8 _8 E0 e, b(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-4-5 23:41:48 手机版 | 显示全部楼层
真的有人成功使用了吗?
回复 支持 反对

使用道具 举报

发表于 2024-4-6 03:07:26 手机版 | 显示全部楼层
楼主,能发一些角色卡吗?贵点没事,实在不懂怎么弄,可以打赏,十分感谢
回复 支持 反对

使用道具 举报

发表于 2024-4-6 15:31:57 手机版 | 显示全部楼层
这是什么情况?好几个模型都这样
Screenshot_20240406_153038.jpg
回复 支持 1 反对 0

使用道具 举报

 楼主| 发表于 2024-4-6 17:07:48 | 显示全部楼层
灲雨 发表于 2024-4-6 03:07
0 x7 [) Y5 }0 g0 V0 V' A楼主,能发一些角色卡吗?贵点没事,实在不懂怎么弄,可以打赏,十分感谢 ...
& W0 o; P4 O# ]+ {6 N% }(欢迎访问老王论坛:laowang.vip)
角色卡这个东西你哪里都能找,也不用打赏,这是角色卡网站https://www.chub.ai/?search=&first=50&topics=&excludetopics=&page=1&sort=default&venus=false&min_tokens=50&first=50&page=1
( r. E- r8 C! `9 c2 q
回复 支持 1 反对 0

使用道具 举报

发表于 2024-4-6 22:05:11 | 显示全部楼层
问一下,网页里面显示模型加载成功,但是llm启动器里显示加载失败是怎么回事?怎么解?9 b1 ?% P( l% w1 `( R3 J3 F(欢迎访问老王论坛:laowang.vip)
ERROR:The model could not be loaded because its checkpoint file in .bin/.pt/.safetensors format could not be located.0 J: O4 O- _6 t& @$ z% j# `(欢迎访问老王论坛:laowang.vip)
这个是启动器里的失败提示
回复 支持 3 反对 1

使用道具 举报

发表于 2024-4-7 04:09:11 | 显示全部楼层

你可以看看

本帖最后由 28791798851 于 2024-4-7 04:38 编辑
3 n- q, f% l# x" Q, \
dacunge520 发表于 2024-4-2 23:116 s# _8 l; O# f; i( g! R(欢迎访问老王论坛:laowang.vip)
唉,放弃了,按照你说的能打开了,但是对话都是空白,我也去频道看了看,说是内存爆了,但我看内存显存都 ...
8 s5 u7 }" t" G) |, e(欢迎访问老王论坛:laowang.vip)
A卡有个解决方案是把CUDA代码转换为HIP代码就可以跑,不过很麻烦,可以借张卡就借吧
回复 支持 反对

使用道具 举报

发表于 2024-4-7 04:12:03 | 显示全部楼层

你看看我吧

本帖最后由 28791798851 于 2024-4-7 04:59 编辑
. j5 O- \  t7 s2 P1 c6 R6 N7 Z
kkgreed 发表于 2024-4-6 22:05  G! |. f" P7 y4 E(欢迎访问老王论坛:laowang.vip)
问一下,网页里面显示模型加载成功,但是llm启动器里显示加载失败是怎么回事?怎么解?
" p% ]  T: J( ]ERROR:The model co ...
8 H" y  o9 e6 _: X(欢迎访问老王论坛:laowang.vip)
我也是这样的问题。这里说的是文件格式或者是下载过程中有损失,不知道问题出在哪里,同时发现我显存不够,换了低模型后可以用,下了个3b的
8 l- q. C- ^0 C. H5 m
回复 支持 反对

使用道具 举报

发表于 2024-4-7 04:27:39 | 显示全部楼层
本贴模型配置大致如下:
/ ]7 Y$ O) L% Y4 m; J4 w24G以上内存5 D/ X/ n( o- g8 I0 w; M% ~9 q8 V; m(欢迎访问老王论坛:laowang.vip)
16G可以运行,但是加载7B模型时会爆内存,需要你用阳寿、运气和虚拟内存帮你顶过去,或者使用预量化模型" P( O" ]' y! n  }, ~# ](欢迎访问老王论坛:laowang.vip)
8-16G显存的显卡/ _) F2 s0 w6 b5 N. b% [  d5 A' V5 Z(欢迎访问老王论坛:laowang.vip)
7B模型以FP16+INT8混合模式运行需要接近8G显存
. o' _( V& C. e: ?4 ?; z/ f, H. s/ n7B模型以FP16模式运行需要15G显存【可以用两张8G显卡拼凑使用】* N( W- J, S; G- v7 E(欢迎访问老王论坛:laowang.vip)
最好是N卡9系以后产品,A卡需要折腾且有一定能力,小白可以直接放弃打出GG5 j/ N3 ]6 y  a(欢迎访问老王论坛:laowang.vip)
不低于 E3 v2 或者 2-3代 i5 水平的CPU" p- c1 I5 u$ u; c) q) a6 E(欢迎访问老王论坛:laowang.vip)
至少能放下完整一个 RWKV 7B 模型的硬盘空间' T- x8 c0 _- u. P- R  ](欢迎访问老王论坛:laowang.vip)
一个RWKV 7B模型 一般14G
回复 支持 反对

使用道具 举报

发表于 2024-4-7 04:57:28 | 显示全部楼层
逛了大半天,有点晕头转向的,大致明白了一些,本贴的这个模型对显卡要求有点高,选择低模型对应自己的显卡这点很重要,压缩包内有个下载一些模型的链接,最后还是从github上自己学习了一下,从头部署环境,用大佬的代码和数据集训练模型,得到模型后还要有相应的知识库然后再破甲,整了快五个小时,这个压缩包没有找到具体的出处,用起来有些问题实在不知道怎么解决
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 免费注册
点击进行验证

本版积分规则

我们不生产资源,只做资源的搬运工。

tags标签-春满四合院-AvGood-Archiver-小黑屋- |网站地图