公众号

洞源实验室

已收录 1 篇文章，最近更新于 2026年10月5日 08:31。

你用了一张48GB显存的GPU，加载一个权重占用20GB显存的模型，服务启动成功，输入提示词后，模型输出却以令人怀疑速度一个一个蹦跶出，这种情况该怎么排查问题所在？