Dòng tin
Tất cả
CoHyDE: Đồng huấn luyện LLM Rewriter và Dense Encoder cho Tìm kiếm Tool
CoHyDE: Iterative Co-Training of LLM Rewriter & Dense Encoder for Tool Retrieval
- ›Tìm kiếm tool trong catalog API lớn là vấn đề vì user queries là colloquial nhưng catalog dùng technical vocabulary.
- ›CoHyDE huấn luyện dense encoder và LLM rewriter như một hệ thống co-evolving: encoder học trên hypothetical descriptions do rewriter tạo, rewriter được align via DPO trên retrieval scores.
- ›Cải thiện +2.5 pp NDCG@5 trên standard queries và +6.3 pp trên vague queries, với lợi ích lên đến +8 pp trên hardest vague tier.
- ›Co-training là ingredient chính: dùng một component riêng lẻ thất bại trên cả well-formed và vague queries với losses lên đến -8 pp.
Khi Cloud Agents gặp Device Agents: Bài học từ Hybrid Multi-Agent Systems
When Cloud Agents Meet Device Agents: Lessons from Hybrid Multi-Agent Systems
- ›Agentic AI inference có hai cực: frontier LLMs (mạnh mà đắt) và on-device SLMs (rẻ mà yếu), hybrid systems cung cấp trung bình nhưng phức tạp.
- ›Task accuracy, monetary cost, và edge energy consumption bị liên kết chặt chẽ trong hybrid MAS, không có nguyên lý thiết kế chung.
- ›Kiến trúc tối ưu phụ thuộc vào task cụ thể; SLMs có thể hưởng lợi từ LLM assistance nhưng frontier compute không luôn dẫn đến hiệu suất tốt hơn.
- ›Nghiên cứu hai representative MAS architectures trên Pareto frontier của power, cost, và performance.