Apple 研究离散扩散采样器的置信度极限

Apple 的研究分析离散扩散的置信度问题：包括 remasking 与 uniform-state 在内的采样器每步会写入多个 token 位置，取值来自各位置分布。研究证明，只有当被写入位置在已有 token 条件下条件独立时，这一步才与训练分布一致，而像素、音素、词等领域的 token 之间存在固有依赖。

最新进展Apple 的研究分析了离散扩散的置信度问题：包括 remasking 与 uniform-state 在内的采样器每步会写入多个 token 位置，取值来自各位置分布。研究证明，只有当被写入位置在已有 token 条件下条件独立时，这一步才与训练分布一致，而像素、音素、词等领域的 token 之间存在固有依赖。