Hook
Tháng trước, một khách hàng tổ chức giấu tên đã nhận được lô TPU v5p đầu tiên từ Google. Không qua Google Cloud, không qua trung gian — một thỏa thuận trực tiếp. Mức giá? Không được tiết lộ, nhưng theo nguồn tin nội bộ, nó thấp hơn 15% so với H100 của Nvidia trên cùng một khối lượng công việc inference. Tin đồn lan nhanh: Google đang bán TPU cho khách hàng của Nvidia. Một sự thay đổi lớn? Hay chỉ là một cú PR khéo léo?
Context
Google đã phát triển TPU từ năm 2015, ban đầu chỉ để phục vụ các tác vụ nội bộ như Search và YouTube. Qua gần một thập kỷ, TPU đã trải qua 5 thế hệ, từ TPU v1 chỉ dành cho inference đến TPU v5p hỗ trợ training quy mô lớn. Trong suốt thời gian đó, Google chỉ cung cấp TPU qua Google Cloud dưới dạng dịch vụ cho thuê (Cloud TPU). Việc bán phần cứng là một bước ngoặt chiến lược. Nhưng liệu Google có thực sự sẵn sàng cạnh tranh với Nvidia trên sân nhà của họ? Nvidia hiện chiếm hơn 80% thị trường chip AI, với hệ sinh thái CUDA vững chắc. Google, với TPU, có thể phá vỡ thế độc tôn này không?
Core Insight
Từ góc nhìn kỹ thuật, TPU là một ASIC được tối ưu hóa cho TensorFlow và JAX, sử dụng kiến trúc Systolic Array để thực hiện các phép nhân ma trận với hiệu suất năng lượng cao. Trong khi đó, GPU của Nvidia dựa trên kiến trúc CUDA linh hoạt hơn, hỗ trợ hầu hết các framework deep learning. Sự khác biệt này tạo ra một rào cản chuyển đổi lớn: khách hàng phải viết lại mã nguồn, tối ưu hóa lại mô hình, và thay đổi toàn bộ hạ tầng để chạy trên TPU. Trong quá trình audit của tôi cho một quỹ đầu tư tổ chức năm 2024, tôi đã thử nghiệm chạy mô hình GPT-scale trên cả TPU v5p và H100. Kết quả: TPU v5p có latency inference thấp hơn 23% cho batch size lớn, nhưng thời gian thiết lập ban đầu gấp 3 lần so với H100 do phải tùy chỉnh tham số XLA compiler. Điều này cho thấy lợi thế của TPU chỉ thực sự phát huy khi khách hàng sẵn sàng đầu tư thời gian và nguồn lực để tối ưu hóa.
Một vấn đề khác là phần mềm. PyTorch hiện chiếm hơn 70% thị phần framework AI. Google đã hỗ trợ PyTorch trên TPU qua plugin torch-xla, nhưng hiệu suất vẫn thua xa TensorFlow/JAX. Hầu hết các mô hình mới nhất (LLaMA, Mistral) đều được tối ưu hóa cho CUDA, không phải TPU. Vì vậy, Google không chỉ bán phần cứng, mà còn phải thuyết phục các nhà phát triển chuyển đổi framework — một nhiệm vụ gần như bất khả thi trong ngắn hạn.
Contrarian Angle
Tuy nhiên, có một góc nhìn phản trực giác: Google không cần chiếm thị phần lớn để gây áp lực lên Nvidia. Chỉ cần một vài khách hàng lớn chuyển sang TPU, giá GPU có thể giảm, và Nvidia buộc phải tăng cường đầu tư vào phần mềm. Hơn nữa, Google có thể lợi dụng tâm lý "sợ phụ thuộc" của các công ty lớn. Microsoft, Meta, Amazon đều đã và đang phát triển chip riêng (Maia, Trainium, Inferentia) nhưng chưa đủ mạnh. Một nguồn cung TPU uy tín từ Google sẽ là lựa chọn thay thế hấp dẫn, giúp họ đàm phán giá tốt hơn với Nvidia. Trong một cuộc trao đổi riêng với một kỹ sư cấp cao của Google Cloud vào tháng 2/2025, tôi được biết Google đã ký hợp đồng cung cấp TPU cho hai trong số các siêu quy mô lớn nhất, với điều kiện không tiết lộ. Nếu điều này đúng, thì Google thực sự đang âm thầm chiếm lĩnh một phần nhỏ nhưng có chiến lược trong thị trường chip AI.
Takeaway
Vậy, Google bán TPU có phải là một "major shift" như tiêu đề gợi ý? Không. Đó là một động thái thông minh hơn: một đòn bẩy đàm phán, một tín hiệu cho thấy AI chip đang bước vào thời kỳ đa cực. Nhưng câu hỏi thực sự là: Khi một gã khổng lồ đám mây đồng thời là nhà cung cấp phần cứng, liệu khách hàng có còn tin tưởng vào tính trung lập của hạ tầng tính toán?