Apple 研究離散擴散取樣器的置信度極限

Apple 的研究分析離散擴散的置信度問題：包括 remasking 與 uniform-state 在內的取樣器每步會寫入多個 token 位置，取值來自各位置分佈。研究證明，只有當被寫入位置在已有 token 條件下條件獨立時，這一步才與訓練分佈一致，而畫素、音素、詞等領域的 token 之間存在固有依賴。

最新進展Apple 的研究分析了離散擴散的置信度問題：包括 remasking 與 uniform-state 在內的取樣器每步會寫入多個 token 位置，取值來自各位置分佈。研究證明，只有當被寫入位置在已有 token 條件下條件獨立時，這一步才與訓練分佈一致，而畫素、音素、詞等領域的 token 之間存在固有依賴。