FEATURED STORY / 01

180B级!业内首款国产“TokenStation”工作站来了!

对工业设计团队来说,用AI分析项目资料时,有个很实际的问题。图纸和技术文件需要留在本地,手边的电脑却未必跑得动处理复杂任务所需的大模型。 中科可控的TokenStation W50X给出了一种桌面方案。作为业内首款国产TokenStation工作站,W50X支持在本地运行180B级MoE模型,也就是总参数量约1800亿的混合专家模型。 把这么大的模型放到工位旁,首先要解决的是容量。模型的权重放在哪

READ
THE
DETAIL
EDITORIAL NOTE

对工业设计团队来说,用AI分析项目资料时,有个很实际的问题。图纸和技术文件需要留在本地,手边的电脑却未必跑得动处理复杂任务所需的大模型。 中科可控的TokenStation W50X给出了一种桌面方案。作为业内首款国产TokenStation工作站,W50X支持在本地运行180B级MoE模型,也就是总参数量约1800亿的混合专家模型。 把这么大的模型放到工位旁,首先要解决的是容量。模型的权重放在哪里,推理时又怎么及时读到? 超大内存,让180B级大模型在桌面常驻 受算力和显存限制,过去桌面端通常部署27B级及以下的模型。W50X把本地推理支持的模型规模推到了180B级。这里有一个技术细节。MoE模型每生成一个Token,只调用一部分专家参与计算,但每一步用到的专家可能不同。要让模型连续输出,整套专家权重都需要随时可取。 如果每次用到新的专家,都要临时从SSD读取权重,生成速度就容易忽快忽慢。W50X采用最高1TB的企业级内存,配合国产AI算力卡的高速显存,让整套专家权重可以常驻在内存和显存中。其中,大容量内存提供存放权重所需的空间,高速显存承担高频访问,减少从SSD反复读取权重带来的等待。 拿一份技术文档来说,第一轮可以让模型找出关键条款,下一轮再让它结合前文,解释两条要求之间的关系。这个过程中,模型会用到一块叫KV Cache的缓存。它保存模型处理前文时产生的中间结果,让模型继续生成时可以复用。文档越长、追问越多,缓存占用的空间也就越大。 这就是大模型装进工作站后,还需要给实际任务留出空间的原因。W50X的内存和显存组合,在容纳180B级模型权重的同时,也为长上下文缓存留出了余量。团队可以在本机围绕同一份长文档连续提问。如果工作中需要在不同模型之间切换,或者同时运行领域知识库,更大的容量也为这些任务留出了空间。 从本地推理到3D建模,一台工作站都能接 对设计师来说,同一台工作站可以先用大模型查阅项目资料,再用熟悉的专业软件继续建模。整个过程中,项目文件可以留在本机。按需扩展高性能显卡后,W50X还可以承担工业建模、3D绘图和视频剪辑等工作。 要在办公室里长期使用,工作站还得兼顾可靠性和噪声。W50X采用企业级部件和服务器级RAS机制,为长时间运行提供硬件保障。处理器最高支持64线程,可应对复杂并行任务。按产品资料,整机满载噪声低于40 dB,适合部署在工位旁。 对设计团队、开发者和小型工作室来说,W50X带来的变化很具体。原本需要调动云端算力的一部分大模型推理任务,现在可以在日常工作的那台机器上完成。想看看它能接住多少工作,试用时可以带上一份平时最难处理的长文档,按自己的工作习惯连续追问几轮。 目前,中科可控已开放W50X免费试用申请,面向渠道伙伴的工作站招募“引力计划”也在持续进行中。 加入【引力计划】申请工作站免费试用 特别

about image
上一篇 人社部定调,涨幅+向低倾斜,养老金2500元能涨80元吗?... 下一篇 日媒已明白:中国或正成为世界上首个,不用引进任何武器的国家...

觉得内容有价值?

分享给更多关注行业变化的朋友。

返回资讯列表
03 / TRENDING NOW

热点资讯

查看近期访问较多的内容,快速了解读者正在关注的行业话题。

雷迪克:扎威的影像检查结果没有异常 但他还是感受到了一些酸痛
1

雷迪克:扎威的影像检查结果没有异常 但他还是感受到了一些酸痛

北京时间11月2日,据此前报道,洛杉矶湖人官方宣布,扎伊尔-威廉姆斯因左脚伤势将缺席今日对阵多伦多猛龙的比赛。 湖人主帅雷迪克接受了媒体采访,他表示,扎伊尔-威廉姆斯的脚部影像检查结果没有发现异常。不过,由于球员早上出现了一些酸痛反应,加上今天是背靠背赛程的第一场,因此球队决定采取谨慎态度,避免冒险。 本赛季,扎伊尔-威廉姆斯代表湖人出战4场比赛,场均贡献11.3分3.0个篮板2.3次助攻以及1.

1504万与370万伤停,雷霆可申请特例补一名合同年球员
2

1504万与370万伤停,雷霆可申请特例补一名合同年球员

据名记Shams报道,雷霆的 杰伦·威廉姆斯 遭遇左手腕韧带撕裂并伴有舟骨骨折, 卡森·华莱士 则遭遇左膝半月板撕裂,两人都将接受手术并缺席数周。 薪资专家Bobby Marks分析,雷霆可以针对这两名球员分别申请“伤病球员特例”。不过,这必须由NBA指定的医生进行评估,并认定相关球员是否会因伤缺席至 6月15日 。 若获批,雷霆将可以通过交易、签约或认领的方式,引进一名处于合同最后一年的球员。两

还没稳住巴拉圭,巴新关掉台办事处,台当局急:再不买你们天然气
3

还没稳住巴拉圭,巴新关掉台办事处,台当局急:再不买你们天然气

巴新下逐客令台当局尴尬找补。 据台媒11月6日报道,巴布亚新几内亚政府日前宣布,将关闭“驻巴新台北经济办事处”并要求停止运行。对此,台当局所谓外事部门6日赶紧找补称,“主动关闭驻巴布亚新几内亚代表处,撤回所有派驻人员,并全面终止对巴新提供的技术合作及援助计划,同时停止采购巴新液化天然气,调整双方能源及经贸合作关系”。 被赶走叫“主动关闭”,威胁竟然是不买你天然气了? 事情其实已经分批推进了四个月。

塔图姆:我还没有百分百康复 仍在通过比赛找最佳状态
4

塔图姆:我还没有百分百康复 仍在通过比赛找最佳状态

北京时间11月16日,凯尔特人首节打出42-9,最终主场131-94轻取独行侠迎来6连胜。 本场比赛,绿军核心杰森-塔图姆出战30分钟,18投11中,三8中5,得到了32分6篮板6助攻的全面数据,正负值+31。 赛后被问到自己的身体状态是否已经100%恢复时,塔图姆回答说:“我花了很多时间研究跟腱伤病的康复过程,很多专家和研究都指出,球员在复出后的前12个月里,往往还需要一段时间才能真正找回比赛状

法国民调惊人:若亲华的梅朗雄当选总统,近七成犹太人将出走法国
5

法国民调惊人:若亲华的梅朗雄当选总统,近七成犹太人将出走法国

法国政坛眼下的局面透着矛盾感。一名主张退出北约、反对美国对华施压、倡导深化中法关系的总统参选人,尚未赢得大选,却已让国内犹太群体对自身前途感到强烈不安。 选题先从一组对立数字说起 2026 年 11 月公布的调查显示,假设让 - 吕克・梅朗雄在 2027 年总统选举中胜出,69% 的法国犹太受访者表示会考虑离开法国,其中 40% 明确表示自己肯定会考虑。 把假设对象换成右翼候选人玛丽娜・勒庞,考虑