None
VI
ByteDance âm thầm "luyện" mô hình AI 10 nghìn tỷ tham số, tham vọng vượt mặt cả phòng thí nghiệm Mỹ
[]
VnReview - Cộng đồng đánh giá, tư vấn sản phẩm và thông tin khoa học đời sống
Chủ sở hữu của mạng xã hội TikTok đang âm thầm huấn luyện mô hình AI với quy mô 10 tỷ tham sốCon số 10 nghìn tỷ tham số nói lên điều gì?Không chỉ bám đuổi, AI Trung Quốc muốn vươn lên dẫn đầuChấp nhận đi chậm để tự lực làm chủ công nghệKhông còn bằng lòng với việc bám đuổi các đối thủ Mỹ, công ty mẹ của TikTok đang ở giai đoạn đầu huấn luyện một siêu mô hình AI với quy mô lên tới 10 nghìn tỷ tham số.
Bước đi này cho thấy tham vọng rất rõ ràng của ByteDance: tự lực phát triển công nghệ cốt lõi để cạnh tranh sòng phẳng ở tầng cao nhất của cuộc đua AI toàn cầu.Theo các nguồn tin am hiểu vấn đề, mô hình AI mới của ByteDance hiện đang ở giai đoạn tiền huấn luyện - bước nền tảng kéo dài khoảng 3 đến 6 tháng trước khi tiến hành tinh chỉnh.
Quy mô dự kiến lên tới 10 nghìn tỷ tham số, gấp khoảng 3 lần so với Kimi K3 của Moonshot (mô hình lớn nhất từng được công bố tại Trung Quốc).Để dễ hình dung về độ "khủng", các ước tính trong ngành cho thấy hệ thống tiên tiến nhất hiện nay của Anthropic là Mythos 5 sở hữu khoảng 8 nghìn tỷ tham số, còn Fable 5 rơi vào khoảng 5 nghìn tỷ tham số.
Cách làm "tự lực gánh sinh" này đã được áp dụng hơn một năm qua.
Trong một cuộc họp nội bộ gần đây, ông Trương khẳng định với nhóm Seed rằng mục tiêu dài hạn là đạt "năng lực mô hình hàng đầu thế giới", và đội ngũ không cần quá lo lắng nếu tạm thời tụt lại trong ngắn hạn.