Dòng tin

1 nội dung mới nhất
Tất cả
AK (_akhaliq)
AK (_akhaliq)HF PapersPaper·4 ngày trước
Xetrieval: Giải thích cơ chế Dense Retrieval
Xetrieval: Mechanistically Explaining Dense Retrieval
  • Dense retrieval sử dụng high-dimensional embeddings nhưng khó giải thích tại sao có điểm số cao, các giải thích hiện tại chỉ tập trung vào surface signals.
  • Xetrieval giới thiệu framework giải thích ở mức embedding với lightweight reasoning internalizer đưa Chain-of-Thought vào embedding space.
  • Phân tích embeddings thành sparse, human-interpretable features để cung cấp giải thích feature-level cho quyết định retrieval.
  • Hỗ trợ task-level feature steering và cho thấy hiệu ứng intervention mạnh hơn trên nhiều retrievers và benchmarks.