AMD 锐龙 AI Halo 2.7w rmb ,现在每月花在 token 上的钱其实感觉是蛮多的,有这样的一个方向性的想法,不知道会有什么坑,或者问题,有人懂么,专业点的看法。
AMD 锐龙 AI Halo 2.7w rmb ,现在每月花在 token 上的钱其实感觉是蛮多的,有这样的一个方向性的想法,不知道会有什么坑,或者问题,有人懂么,专业点的看法。
1
afkool 1h 33m ago
要是我的公司就公司自己开 pro20 。。
|
2
javalaw2010 1h 31m ago 按照现在的说法,这玩意儿是上古模型了吧,部署这玩意儿干啥,形成不了生产力的话不就是在浪费钱吗
|
3
xtreme1 1h 31m ago halo 主要是算力低 encode prefill 都很慢
其次也没涨到这么贵 这个规模的模型能不能满足你需求, 可以先租赁个云算力试一下 |
4
sentinelK 1h 29m ago 1 、这个模型真的能符合你的需求吗?
2 、这个设备是统一内存,所以速度非常感人。你能忍受你每轮对话 1 分钟 AI 才吐字,10 分钟给你改一行代码吗?如果能忍你就可以冲。 |
5
zhangaugust 1h 28m ago
这模型也太老了吧
|
6
ntdll 1h 22m ago 你先买 100 块钱的这个模型 API ,给你的技术用一下,然后听听他的反馈,你就知道答案了。如果你都找不到这个模型的购买,那么答案你应该也已经知道了。
|
7
cheman OP @javalaw2010 谢谢解答。感觉 deepseek v4 pro 好像不太现实,或者 部署 deepseek v4 flash 比 deepseek coder v2 更好?或者有什么更好的模型推荐或者硬件搭配方案?
|
9
op351 1h 18m ago 现阶段本地部署除了能保证 100%数据隐私合规可控,有什么其他优势?
而且真要合规的话和国内算力或者模型提供商签正规合同就好了,写好条款保证不收集任何数据。 |
10
fcten 1h 14m ago H20 整机大概 200 万,可以部署几乎所有的顶级开源模型了(如果不是全部的话)。这些钱如果用来采购 claude 的 api ,大概也就够十来个人的部门烧 2 个月。
实在要省钱,RTX PRO 6000 也行,整机估计 100 万吧。AMD AI Halo 这种消费级产品也就个人玩玩,公司还是算了吧。 |
14
jackOff 1h 7m ago
裁员一个员工经费不就有了?一个月才几千费用,总比一个员工上万工资支出好吧
|
15
emberzhang 1h 4m ago 小公司比较合适的目前看来就是 deepseek-v4-flash 才能用且基本够用。但编程需要长上下文,要上下文满载 + 多用户并发还不慢的,性能要求可不低。2.7w 也就一台 GB10 的成本 ,肯定是不够的
|
16
xiaomushen 1h 3m ago
这模型的 code 能力,远弱于 qwen3.6 27b
|
17
xiaomushen 1h 1m ago
@fcten 合规使用 Claude ,确实贵得要命。而且在国内,就算合规使用,也是带些中间灰色环节的
|
18
jimrok 1h 0m ago 先放一放,国产模型刚迈过可用的阶段,后续迭代可能要加速,建议还是找云端供应商,例如租火山或者腾讯的服务,自己建未必便宜。而且算卡的折旧会很快,3 年估计你的算卡就不值钱了。
|