Trong thế giới AI phát triển nhanh chóng, nhu cầu về sức mạnh tính toán đang tăng vọt, nhưng nhiều tài nguyên vẫn nằm chờ không sử dụng, đợi nhiệm vụ. Vào thứ Sáu, ngày 21 tháng 11, gã khổng lồ công nghệ Trung Quốc Huawei đã công bố một bước đột phá: Flex:ai, một khung làm việc mã nguồn mở cho phép một chip AI xử lý nhiều nhiệm vụ cùng lúc.
Hãy hình dung như cắt một chiếc bánh mì thành những miếng nhỏ hơn: Flex:ai có thể chia nhỏ một bộ xử lý AI thành các đơn vị ảo chỉ nhỏ bằng 10%, mỗi đơn vị đảm nhận công việc riêng của mình. Trò "một thẻ, nhiều nhiệm vụ" này khai thác cách ly tài nguyên linh hoạt, để bạn không lãng phí thời gian chu kỳ quý giá.
Trong các thử nghiệm thực tế, các nhà phát triển đã chứng kiến mức sử dụng tính toán tăng lên khoảng 30%. Đối với một ngành công nghiệp đang chạy đua để huấn luyện các mô hình ngày càng lớn hơn, sự tăng cường đó có thể giảm chi phí và tăng tốc nghiên cứu, không còn lãng phí năng lực GPU và NPU cho các công việc không tận dụng hết.
Bằng cách mở mã nguồn Flex:ai, Huawei mở ra cánh cửa cho bất kỳ ai trên toàn cầu khám phá các công nghệ AI cốt lõi của mình. Zhou Yuefeng, phó chủ tịch của Huawei, đã ra mắt khung làm việc này tại một diễn đàn gần đây ở Thượng Hải, nhấn mạnh sự hợp tác và tiến bộ chung.
Giờ đây, các nhà phát triển và nhà nghiên cứu có thể tải xuống Flex:ai, thử nghiệm với các thiết lập tùy chỉnh, và đẩy khả năng tính toán AI đến giới hạn. Khi lĩnh vực AI ngày càng nóng lên, các công cụ như Flex:ai có thể giúp thúc đẩy làn sóng đột phá tiếp theo.
Reference(s):
Huawei unveils open-source tech to tackle AI computing inefficiency
cgtn.com











