Trung Quốc tăng 20% hiệu suất đào tạo AI mà không cần chip Nvidia

Thứ sáu - 05/07/2024 00:14

Trung Quốc tăng 20% hiệu suất đào tạo AI mà không cần chip Nvidia

Trung Quốc tăng 20% hiệu suất đào tạo AI mà không cần chip Nvidia
Gã khổng lồ công nghệ Trung Quốc Tencent cho biết, đã tìm ra cách thức cải thiện 20% hiệu suất đào tạo mô hình ngôn ngữ lớn (LLM).

Cụ thể, công ty đã nâng cấp mạng lưới sức mạnh điện toán hiệu suất cao (HPC) cho tác vụ trí tuệ nhân tạo (AI) lên phiên bản 2.0, có tên Xingmai, cải thiện hiệu suất mạng lưới thông tin và huấn luyện LLM tương ứng 60% và 20%.

Hiện các doanh nghiệp công nghệ Trung Quốc đang tìm cách tăng cường năng lực đào tạo AI với hệ thống và thiết bị sẵn có, giữa bối cảnh quốc gia thúc đẩy tự chủ công nghệ, thay vì đối đầu trực tiếp với đối thủ Mỹ như OpenAI về chi tiêu và chất bán dẫn tiên tiến.

Tencent đang là công ty công nghệ giá trị nhất Trung Quốc. Ảnh: SCMP

Mạng HPC kết nối các cụm bộ xử lý đồ họa (GPU) mạnh mẽ để xử lý dữ liệu và giải quyết vấn đề ở tốc độ siêu cao.

Theo công nghệ hiện có, các cụm máy tính đang mất nhiều thời gian để giao tiếp với nhau, khiến một phần đáng kể dung lượng GPU không được tận dụng. Do đó, Tencent đã nâng cấp mạng lưới này để tăng tốc quá trình liên lạc, từ đó tối ưu hoá hiệu suất và giảm chi phí.

Mạng Xingmai có thể hỗ trợ một cụm điện toán đơn với hơn 100.000 GPU, tăng gấp đôi quy mô so với phiên bản đầu tiên được phát hành vào năm 2023. Hiệu suất được cải thiện giúp rút ngắn thời gian cần thiết để xác định sự cố xuống chỉ còn vài phút, giảm từ vài ngày trước đó.

Sự phát triển nhanh chóng của dịch vụ AI tạo sinh đã khiến ngành công nghiệp AI của Trung Quốc rơi vào cuộc chiến về giá, trong đó tất cả các hãng lớn đều giảm giá xuống thấp hơn nhiều so với mức mà các công ty phương Tây đưa ra khi họ tìm cách thương mại hoá sản phẩm.

Vào tháng 5, Tencent đã cung cấp miễn phí phiên bản rút gọn của Hunyuan LLM, đồng thời giảm giá cho các phiên bản tiêu chuẩn. Điều này xảy ra sau khi các đối thủ cạnh tranh bao gồm ByteDance, Baidu và gã khổng lồ thương mại điện tử Alibaba Group Holding cũng có những động thái tương tự. 

Cuộc chạy đua nhằm nâng cao hiệu quả đào tạo mô hình, một quy trình tiêu tốn nhiều năng lượng và tốn kém, có ý nghĩa quan trọng trong cuộc chiến giá cả bằng cách làm cho công nghệ trở nên hợp lý hơn cho các nhà khai thác và khách hàng.

Hồi tháng 4, Robin Li Yanhong, người sáng lập và giám đốc điều hành Baidu cho biết, hiệu suất đào tạo Ernie - LLM hàng đầu của họ đã cải thiện hơn 5 lần trong vòng một năm qua. Theo đó, hiệu suất suy luận của mô hình đã tăng 105 lần, giảm 99% chi phí.

OpenAI cũng cho rằng, mức tăng hiệu suất gần đây là lý do giúp mẫu GPT-4o ra mắt vào tháng 5 có mức giá thấp hơn nhiều.

(Theo SCMP, Yahoo Finance)

Trung Quốc xây dựng 50 bộ tiêu chuẩn, 12 lĩnh vực cung ứng AI chủ chốtDự thảo chính sách của Bộ Công nghiệp và Công nghệ thông tin (MIIT) Trung Quốc cho biết nước này sẽ thiết lập ít nhất 50 bộ tiêu chuẩn về trí tuệ nhân tạo (AI) vào năm 2026.

Tác giả: Thế Vinh

Nguồn tin: vietnamnet.vn

Tổng số điểm của bài viết là: 0 trong 0 lượt xếp hạng

Click để xếp hạng bài viết

  Ý kiến bạn đọc

Những tin mới hơn

Những tin cũ hơn

Thống kê
  • Đang truy cập6
  • Hôm nay262
  • Tháng hiện tại12,861
  • Tổng lượt truy cập16,994
Thăm dò ý kiến

Tại sao bạn biết đến chúng tôi

Đối tác

tosiba
Sharp
hitachi
midea
daikin
skyworth
Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây