Dòng tin
Tất cả
Mô hình Diffusion Đồng Nhất Tái xem xét: Denoiser Loại Trừ Một Phần Tử và Cải Tổ Trạng Thái Hấp Thụ
Uniform Diffusion Models Revisited: Leave-One-Out Denoiser and Absorbing State Reformulation
- ›Mô hình diffusion rời rạc có thể dùng dự đoán dữ liệu sạch theo nhiều cách để định nghĩa động lực ngược.
- ›Uniform Diffusion Models (UDM) có sự không khớp giữa ELBO plug-in và mục tiêu denoising cross-entropy thông thường.
- ›Leave-one-out parameterization mới giúp cải thiện sinh mẫu UDM mà không cần huấn luyện thêm.
- ›Absorbing-state reformulation cho phép UDM hoạt động ngang bằng masked diffusion với phép toán denoising đơn giản hơn.
- ›Khoảng cách giữa masked và uniform diffusion chủ yếu do parameterization và thiết kế sampling, không phải do lựa chọn marginals.