别急着骂标题党。
我清楚你当下正在思索的内容, 即有着 120B 参数的大模型, 而那东西难道不是需要几百 GB 的显存吗?
但群联这次搞的东西,路子野得有点意思。
他们不是要给你变魔术,而是想了个“借”的思路。
说白了,就是把高耐久NAND闪存,当成内存来用。
听着有点扯?
只不过认真思索一番, 苹果所具备的统一内存架构, 难道说并非是已经将内存以及显存相互连通了吗?
群联所施展的这般举措称作, 其根本实质乃是要在本机的DRAM与外接存储二者之间, 达成动态的调配操作。
名字暂定叫 ,长得应该就是个U盘样。
USB-C接口,便携设计。
支持Windows和Linux。
今年内先在日本市场推。
目标客户很明确——那些买了32GB内存AI笔记本的人。
没错, 正是那些因“AI PC”概念而被误导从而参与进来, 最终却发觉运行本地模型卡顿得如同播放PPT一般的不走运之人。
你不是内存不够吗?
我给你插个外挂。

内存和闪存的读写速度,差了不止一个量级。
群联的方案,大概率是靠缓存命中率和预加载机制来弥补。
并非每个场景都适宜, 然而特定的任务比如说运行GPT-OSS-120B这种专属模型或许真的能够运作起来。
硬件只是壳。
群联还规划了预构建软件包方案。
这真是属于纯正的技术含量范畴了, 究竟如何方能够使系统以聪慧的方式去判别, 哪些数据适合放置于内存之中, 而哪些又是能够丢弃至外挂存储空间里面的呢。
调度算法写得好,体验就能糊弄过去。
这不是什么革命性技术。
但确实是个很务实的解决方案。
对于那些预算有限, 然而又怀揣着想要尝试新鲜本地大模型想法的人而言, 或许会比再次花费两万块去购置一台拥有64GB内存的本子更加划算。
当然,前提是——你别指望它能跑出3090的效果。
够用就行。
毕竟,便宜没好货,但好货也不一定非要贵到离谱。
相关标签: # aiDAPTIVStation # Nextorage # 外接式AI加速硬件 # 32GB内存 # GPT-OSS-120B