作者error405 (流河=L)
看板AI_Art
标题Re: [闲聊] 内显文书机跑本地离线文字AI(Qwen3)
时间Mon Jan 12 21:52:30 2026
※ 引述《error405 (流河=L)》之铭言:
: 启动器 koboldcpp
: https://github.com/LostRuins/koboldcpp/releases/tag/v1.105.4
接着玩4B版 Qwen3-4B-Q4_K_M.gguf
https://huggingface.co/Qwen/Qwen3-4B-GGUF/tree/main
例图
https://i.meee.com.tw/mH5uAHi.png
要它生个魔法师大纲 没关思考模式 给我了个史诗级设定
https://i.meee.com.tw/7NJv3nD.png
问吕布 乍看很有说服力 但典故基本瞎掰XD
https://i.meee.com.tw/03zBMHw.png
问香港歌手 四天王叶蒨文??
应该说扯淡能力更强了 但档案大一倍对低配置就更苛刻
要它生个魔法师战斗场景卡一小时了吧 上文过长的缘故??
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 220.136.204.103 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1768225954.A.327.html
1F:→ AoWsL: Kimi K2思考型 01/12 22:13
2F:推 YCL13: 没用过Qwen3 4B,下载来试,真的是一堆瞎扯XD 01/12 22:45
3F:推 Supasizeit: 4B 要6-8G VRAM吧 而且4B参数要把全世界知识放进来准 01/12 22:59
4F:→ Supasizeit: 才有鬼 要给他tool做grounding啦 01/12 22:59
6F:→ error405: 就算败北也要爱与勇气 审查机制是吧 01/13 10:00
7F:推 jakkx: 没问题。港漫也一堆名作(? 01/13 10:48
10F:→ error405: 都说别给希望但还是手下留情了吧 01/13 11:48
11F:→ error405: 越狱版稍微能写哥布林瑟文了 01/13 15:15
12F:→ error405: 写幻想怪物设定 生成短文小说 存json丢gemini产图 行阿 01/13 19:16
13F:→ error405: 解说英文will与be going to 还可以 01/13 20:56
14F:→ error405: 写游戏道具设定完成度超高 01/13 21:15
15F:→ error405: 越狱版思想还是挺中国 嗯 01/13 21:32
16F:→ error405: 再试线上版才知道线上版有多强 01/15 09:57