Dòng tin
Tất cả
Chi tiết chưa công khai về thỏa thuận Colossus giữa xAI và Anthropic
Không tiêu đề
- ›Anthropic nhận Colossus 1 nhưng xAI tiếp tục sử dụng Colossus 2 lớn hơn
Decoupled DiLoCo: Hướng đi mới cho huấn luyện AI phân tán, bền bỉ
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
- ›DeepMind giới thiệu phương pháp huấn luyện phân tán chịu lỗi tốt hơn.
- ›Tách rời các bước đồng bộ giúp hệ thống ổn định khi có nút mạng chậm hoặc gián đoạn.
- ›Mở ra khả năng huấn luyện mô hình lớn trên hạ tầng kém đồng nhất.