babyedi31996

babyedi31996

V2EX 第 613998 号会员,加入于 2023-02-14 01:00:52 +08:00
babyedi31996 最近回复了
23 天前
回复了 mazz 创建的主题 NAS 各位爹,企业级 200TB 左右 NAS 求推荐
要稳和单纯存储,群晖是最好的没有之一了.
我的 418PLAY 刚出就买了,到现在都很稳.
如果有其他需求,直接 PVE 按按需安装吧,也有 Raid5
26 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@supemaomao 在阿 B 搜酒馆就有了
27 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@supemaomao 没,跟视频教程一步一步很简单。最麻烦就是弄 cuda
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@Hookery 好多佬友都推荐 qwen,这个模型效果好?
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@guiyun 7b 效果如何?
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@WuDiHaiTai 4090 也才 24G 阿,最多就是玩下 20b 了
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@NGGTI api 是不贵,但是审查和隐私问题阿
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@LaTero 感谢你的经验分享,"如果我写的东西都不会被封,你也不需要担心……而速度快( command r+ 60 token/s )选项多是实打实的。"我懂这句的含金量了.哈哈
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@shuimugan 官翻+员工优惠在哪里可以买到?
28 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@yshtcn 是可以的,我看林亦在 b 站的视频,他是用 120G 统一内存的 Mac Studio 跑 120b 量化模型.好像也有 4-5t/s 没记错的话.
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5560 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 16ms · UTC 06:50 · PVG 14:50 · LAX 22:50 · JFK 01:50
Developed with CodeLauncher
♥ Do have faith in what you're doing.