访存带宽是瓶颈，并发会带来拥堵

这个产品定位有点尴尬, 诚如上面佬说的, 内存带宽是个大问题, 多台联机不会带来推理速度提升.

想要高速推理, 可以看下M5 Ultra 或者 小米明年量产的AI cube.

…多少钱一台，项目是否必须本地模型，如果非必要得话，直接反代Gemini pro效果比你这个更好

一般个人使用，没必要购买硬件，部署模型没有那么简单的。享受折腾的过程， 当我没说。