CPU 先导功能复用验证路线与容量探测 #2

Merged
Zayden-Jung merged 1 commits from codex/cpu-functional-probe into main 2026-11-08 20:22:15 +00:00
Collaborator

目标与改动

将功能复用验证改为 CPU 先导,再由用户提供 GPU 环境细化。当前 2 核、1.7 GiB RAM 的服务器不能整模型 FP32 加载,但可评估流式短文本功能探测。

  • 新增 CPU_FIRST_VALIDATION.md:记录已完成的远程单线程合成投影容量探测、内存限制、真实输入采样与证据等级。
  • 更新 TRAINING_FREE_FUNCTIONAL_PLAN.md:首轮限定 3 对 full-attention 模块、2 对 MLP,32-token 输入,校准/留出各 4 条文本,最多 1 次单处干预,总计算 120 分钟。GPU 不作为先导前置条件。
  • README 增加 CPU 路线入口。

检查及边界

远程纯 NumPy 合成矩阵乘法输出有限:32×2048 乘 2048×6144 后三次耗时 0.082543/0.110806/0.075336 秒,峰值 RSS 88,220 KiB。计时不含权重读取,不能外推完整模型耗时或证明模型可复用。
本地 Markdown 链接及 diff 空白检查通过;仅文档更新,无需重复数值测试;没有编译或构建。
未重新下载权重或执行真实模型前向,没有训练。真实模型 CPU 验证仍待实现和执行;本 PR 交付路线修订及初步容量证据。

base: main;head: codex/cpu-functional-probe。等待用户手动合并。

## 目标与改动 将功能复用验证改为 CPU 先导,再由用户提供 GPU 环境细化。当前 2 核、1.7 GiB RAM 的服务器不能整模型 FP32 加载,但可评估流式短文本功能探测。 - 新增 CPU_FIRST_VALIDATION.md:记录已完成的远程单线程合成投影容量探测、内存限制、真实输入采样与证据等级。 - 更新 TRAINING_FREE_FUNCTIONAL_PLAN.md:首轮限定 3 对 full-attention 模块、2 对 MLP,32-token 输入,校准/留出各 4 条文本,最多 1 次单处干预,总计算 120 分钟。GPU 不作为先导前置条件。 - README 增加 CPU 路线入口。 ## 检查及边界 远程纯 NumPy 合成矩阵乘法输出有限:32×2048 乘 2048×6144 后三次耗时 0.082543/0.110806/0.075336 秒,峰值 RSS 88,220 KiB。计时不含权重读取,不能外推完整模型耗时或证明模型可复用。 本地 Markdown 链接及 diff 空白检查通过;仅文档更新,无需重复数值测试;没有编译或构建。 未重新下载权重或执行真实模型前向,没有训练。真实模型 CPU 验证仍待实现和执行;本 PR 交付路线修订及初步容量证据。 base: main;head: codex/cpu-functional-probe。等待用户手动合并。
codex-bot added 1 commit 2026-11-08 20:21:57 +00:00
Zayden-Jung merged commit d4012592b6 into main 2026-11-08 20:22:15 +00:00
Sign in to join this conversation.
No Reviewers
No Label
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: Zayden-Jung/exp-model-parameter-similarity#2