Interpretability for Turing Machines
Billy Snikkers, Rumi Salazar, Daniel Murfet, Will Troiani
cs.LG · cs.FL · stat.ML
Quick verdict
两个严谨的定理将 TM 路径分离和对称性与敏感性等级/置换结构联系起来；详尽但规模较小的 DFA 实验。
Summary
本文将神经网络可解释性中的敏感性（susceptibility）技术应用于图灵机，探究了 Murfet–Troiani 噪声图灵机学习问题的局部损失几何结构。两个定理将机器的算法结构与其敏感性矩阵联系起来：状态路径分离迫使非对角块 X_acc,R 和 X_rej,A 的秩最多为 2（定理 4.5），而记录对称性（符号和状态的重新标记）则迫使矩阵具有匹配的置换对称性（定理 4.13）。两个证明都依赖于 UTM 平滑松弛的温和不变性条件，满足一个新的查找伪 UTM 以及之前工作中的分级 UTM（对于秩界）。在实证方面，作者枚举了语言“包含 A 或 0”的所有 38,019 个规范解 DFA，在 β=30 下通过 GRLD 采样估计敏感性，并证实了秩界（表 3），在对称缺陷处观察到微小缺陷（表 2：约 0.005–0.04 对比约 0.19–0.30），以及在 PCA/UMAP 嵌入中通过路径可分性对解集进行的聚类；线性 SVM 以 100% 的留出平衡准确率读取了二元 PSVmin 标签。局限性：实验仅限于 5 状态 DFA、长度 ≤3 的输入和 T=5；采样器交叉验证（NUTS 对比 GRLD）在工作点 α=0.01 时性能下降；秩定理的实证逆命题在 38,019 个集合上没有例外，但在理论上尚未得到证明。代码和数据存档在 Zenodo 上。
Review complete
Assessment at a glance
5
risk flags identified
● high 0
● medium 5
● low 0
5 strengths · 5 weaknesses · 5 author questions
AI text signal = Binoculars zero-shot detector score over 20 sampled passages (Fast-DetectGPT co-reported) — absence does not prove human authorship, and a flag does not imply misconduct.
Levels reflect verification complexity — not a quality score. Evolve never rates your paper.
Key claims under review
- 状态路径分离迫使非对角敏感性块秩最多为 2（定理 4.5），假设平滑松弛的不匹配分量不变性。
- 重编码对称性（ alphabet/state 重标记固定机器）诱导精确的置换对称性（定理 4.13），假设 UTM 的重编码等变性。
- 在 38,019 个规范解 DFA 的全部集合中，β=30 下的 GRLD 估计敏感性证实了秩界，且仅在对称缺陷接近零的地方观察到行为不对称性（表 2：0.005–0.040 vs 0.192–0.297）。
- 敏感性矩阵通过路径可分性组织了解集，线性 SVM 在 100% 留出平衡准确率（二元）和 0.99（六类，仅有相邻类错误，图 28）下读取 PSVmin 标签。
- 在一个最小的奇异示例中（附录 C），敏感性检测到了 Hessian 看不见的误差方向。
Strengths
精确、可验证的定理
定理 4.5 的证明（第 4.1 节）很短且完备：在不匹配的片上，引理 4.3 显示误差在分量切片上恒等于零，因此每个非对角列都是两个向量的线性组合，从而秩 ≤ 2；所需的不匹配分量不变性已针对分级和新的查找伪 UTM（引理 A.19）证明。
详尽而非采样的实证评估
解集已被完整枚举——在 5^15 = 30,517,578,125 个候选中的 18,980,499 个解中有 38,019 个规范机器——并且表 3 显示，在任何 PSV = 0 的地方，两个非对角秩都 ≤ 2，且秩双条件（脚注 4）在两个 UTM 上均无例外地成立。
诚实的定理-实验不匹配报告
验证层中的强大统计实践
可重复性基础设施
Weaknesses
玩具级实证范围
采样器在工作点的有效性无依据
测量的对象是定理 χ 的重新参数化代理
秩双条件是经验性的，而非定理
单个任务，单一语言
Full Review Report
$1.99 · one-timeUnlock the complete preliminary analysis Evolve produced for this paper.
Report preview
范围与主张
本文将“敏感性”可解释性技术——Gibbs 期望对数据分布扰动的线性响应，为小型语言模型引入（[BWHM26]）——带入了一个 ground-truth 程序结构精确已知的设置：如 [MT25] 中的噪声图灵机。两个正式主张锚定了它。定理 4.5：如果经典解的非初始状态承认路径分离划分（接受运行停留在 A 中，拒绝运行在 R 中），则非对角敏感性块 X_acc,R 和 X_rej,A 的秩最多为 2，前提是 UTM 的平滑松弛是不匹配分量不变的。定理 4.13：固定机器代码的重编码对称性 (a, s) 强制精确的置换对称性 χ_(σ,q)^x = χ_(aσ,sq)^(a·x)，前提是重编码等变性。两个进一步的贡献是噪声计算的电路演算（附录 A.2–A.4），以及一个敏感性可以看到 Hessian 看不见的误差方向的最小工作示例（附录 C，根据目录和第 1.3 节）。
The remaining sections cover Methodology Assessment, Statistical Evidence, Results & Reproducibility, Limitations & Risks, and Verdict & Recommendations.
- All 5 strengths & 5 weaknesses, analyzed in detail
- 5 risk flags with severity, section & reviewer questions
- Methods & statistical evidence assessment
- 5 questions a peer reviewer would ask
- Full six-dimension evaluation report & recommendations
One-time purchase · this paper only
One-time purchase, this paper only. AI-generated preliminary analysis — not peer review.
Frequently asked questions
论文中的“敏感性”是什么？
它们是从统计力学借来的线性响应量（定义 2.17）：当数据分布向特定输入扰动时，参数分量可观测量的 Gibbs 加权期望变化多少，排列成探测机器损失几何的输入 × 分量矩阵。
两个主要定理说明了什么？
定理 4.5：如果接受和拒绝运行通过不相交的状态集（路径分离），则敏感性矩阵的两个非对角块秩最多为 2。定理 4.13：如果机器在重标记符号和状态（重编码）下不变，则其敏感性矩阵在匹配的行/列置换下不变。
代码和数据是否可用？
是的：Zenodo（doi:10.5281/zenodo.22205895）包含 Zarr 实验运行（38,019 个机器）、计算敏感性/秩/对称性的分析库、UTM 和采样器实现（GRLD, NUTS），以及一个 README；基础运行使用了 RTX 4090（温度扫描约 145 GPU 小时）。
这适用于神经网络吗？
不适用于这些实验：所有结果都是针对图灵机/DFAs 的，其中 ground-truth 结构是精确已知的。神经网络的敏感性（BWHM26, GBW+26）是动机项目；本文建立了最干净的可测试设置。
About this review
This is an AI-generated preliminary review by Evolve.Pub, produced from the openly available text of the paper. It is not peer review and does not represent the authors' views. The canonical record of the paper is at the publisher link above.
- 提供的文本是采样摘录，带有多个 [...sampling gap...] 区域；第 5.5 节叙述、部分第 5.6–5.8 节、附录 B.9–B.10 和附录 C 并非直接可见——关于它们的判断依赖于可见的 TOC、图标题和交叉引用。
- 图 7/9/10 中的矩阵以乱码文本提取；数值判断改用标题文本和表 2–3 交叉核对。
Go deeper on this paper
Wrote a paper? Stress-test it before reviewers do.
Upload your manuscript for the same structured scrutiny — reasoning, statistics, evidence, figures, and reproducibility.