Nhờ giảm kích thước bộ nhớ và tài nguyên chiếm dụng tới 80%, MAI Code 1.1 Flash có thể vận hành cực kỳ mượt mà trên phần cứng cục bộ, đồng thời vẫn hỗ trợ cửa sổ ngữ cảnh khủng lên đến 256K token để lập trình viên phân tích và xử lý các dự án mã nguồn quy mô lớn mà không phụ thuộc vào đám mây.
MAI-Code-1.1 Flash (thuộc dòng mô hình AI chuyên lập trình của Microsoft) nổi bật với các đặc điểm chính sau:
• Chạy cục bộ trên máy tính: Được lượng tử hóa xuống mức 3-bit (3-bit quantization), giúp giảm kích thước bộ nhớ và tài nguyên chiếm dụng đến 80% nhưng vẫn giữ nguyên độ chính xác cao 0.6.1.
• Cửa sổ ngữ cảnh lớn (256K token): Cho phép lập trình viên phân tích, xử lý các dự án mã nguồn quy mô lớn ngay trên thiết bị mà không cần phụ thuộc vào đám mây 0.6.1.
• Siêu nhẹ nhưng mạnh mẽ: Chỉ với 5 tỷ tham số (5B params) nhưng đạt hiệu suất ấn tượng (đạt 51% SWE Bench Pro và vượt qua nhiều đối thủ trong cùng phân khúc), được tinh chỉnh sâu cho VS Code và GitHub Copilot CLI 0.6.3, 0.6.5.
• Tối ưu tốc độ và chi phí: Hoạt động nhanh hơn 25%, tiết kiệm hơn 25% token và có chi phí chỉ bằng một phần tư so với các phiên bản trước trong hệ sinh thái GitHub Copilot 0.6.3.
