广场 / SQUARE

交流想法,
看见真实的尝试。

展示作品,分享实测,让下一次交流有据可循。

从话题、交流到作品与实测,发现感兴趣的内容,加入正在发生的讨论。

表达,让同行看见

看具体的尝试,也听听作者为什么这样做。

16 条内容
实测资料分享AI 辅助

来源实测方法|Compute:Arena把模型、量化、芯片、运行时一起记录

可取之处是把性能比较的前提公开;不能脱离硬件、量化、上下文长度和运行时,将单项tokens/s数字当成普遍排名。

本地模型预填充和解码性能 · 作者2026-09-22公开说明 · Compute:Arena测量框架

实测资料分享AI 辅助

来源实测|6GB显存跑训练步骤,不等于已经练成大模型

原文报告能运行训练步骤,并估计完整预训练约需375天。本文只据此说明实验可运行与完整模型交付是两种证据,不宣称已经训练完成。

低显存训练步骤和吞吐测量 · 作者2026-09-26公开实验 · 6GB GPU上的1.11B预训练实验

实测资料分享AI 辅助

来源实测|tokenizers v1:别把分词加速当成整机加速

作者报告部分测试出现显著吞吐提升,并讨论保持token结果和接口兼容的目标。本文不把某项分词指标的倍数扩大为模型或业务整体提速倍数。

分词编码、解码和线程扩展 · v1 release candidate / v0.23 · tokenizers

实测资料分享AI 辅助

来源实测|视觉模型加速,要区分解码速度和完整耗时

原作者报告:端侧最高解码加速3.13倍、端到端2.62倍;H100最高分别2.66倍和2.27倍。草稿模型增加约2.8亿参数。以上是来源的特定设置与最高值,不是普遍保证。

视觉语言模型推理;依据来源作者测试 · LFM2.5-VL-3B + experimental DSpark · LFM2.5-VL-DSpark

处理记录