Viettel AI Race Tối Ưu Hóa AI Inference
calendar_todayNgày đăng: 01/08/2026·Cuộc thi·Toàn quốc
Key Facts
- Danh mục: Cuộc thi
- Hạn chót: N/A
- Hình thức: Online
- Đối tượng: Sinh viên
Tóm tắt
Cuộc thi AI RACE của Viettel tập trung vào bài toán tối ưu suy luận mô hình LLM trên hạ tầng giới hạn tài nguyên, dành cho sinh viên có nền tảng lập trình và AI.
Thông tin chi tiết
Giới thiệu
Viettel AI Race là cuộc thi tập trung vào tối ưu AI inference trên hạ tầng giới hạn tài nguyên. Theo nội dung bài viết, thí sinh phải triển khai một mô hình LLM 1.2B tham số trên cấu hình chỉ gồm 18GB VRAM, 3 vCPU và 8GB RAM, với yêu cầu xử lý 420 request và 70 hội thoại đồng thời.
Bài toán được chấm theo chỉ số ERS, trong đó TTFT và TPOT đều ảnh hưởng đến điểm số. Bài viết cũng cho thấy cuộc thi có tính cạnh tranh cao, với mốc điểm baseline khoảng 42 ERS và ngưỡng vào top 8 vào khoảng 72 ERS.
Đối tượng tham gia
- Sinh viên quan tâm đến AI, lập trình và tối ưu hệ thống
- Người tham gia theo hình thức cá nhân hoặc theo đội, theo mô tả trong bài viết
Yêu cầu
- Giải bài toán serving mô hình LLM 1.2B trên tài nguyên giới hạn
- Chỉ sử dụng vLLM, không can thiệp vào weight hay tokenizer
- Tuân thủ giới hạn tối đa 5 lần thử mỗi thành viên mỗi ngày
Mốc thời gian quan trọng
- Bài viết được đăng ngày 2026-08-01
- Thí sinh trong bài viết cho biết đã thử trong 7 ngày và hơn 35 lần nộp bài
- Mốc vào top 8 được nhắc tới là tối thiểu 72 ERS