Tin tứcTheo Reuters, Sundar Pichai, Giám đốc điều hành của Alphabet, cho biết: “Nhu cầu của ngành học máy đã tăng gấp 1 triệu lần trong sáu năm qua, tăng khoảng 10 lần mỗi năm”. "Tôi nghĩ Google được xây dựng cho thời điểm này, chúng tôi đã đi tiên phong chip AI trong hơn một thập kỷ."
Nỗ lực của Alphabet trong việc xây dựng chip tùy chỉnh cho trung tâm dữ liệu AI là một trong số ít lựa chọn thay thế khả thi cho bộ xử lý hàng đầu của Nvidia đang thống trị thị trường. Cùng với phần mềm được liên kết chặt chẽ với các bộ xử lý tensor (TPU) của Google, các con chip đã cho phép công ty chiếm được thị phần đáng kể trên thị trường.
Nvidia hiện chiếm khoảng 80% thị trường chip trung tâm dữ liệu AI và phần lớn trong số 20% còn lại là các phiên bản khác nhau của TPU của Google. Công ty không bán chip mà thuê quyền truy cập thông qua nền tảng điện toán đám mây.
Theo Google, chip Trillium thế hệ thứ sáu sẽ đạt hiệu suất tính toán tốt hơn 4,7 lần so với TPU v5e, một con chip được thiết kế để cung cấp năng lượng cho công nghệ tạo văn bản và các phương tiện khác từ các mô hình lớn. Bộ xử lý Trillium tiết kiệm năng lượng hơn 67% so với v5e.
Công ty cho biết con chip mới sẽ có sẵn cho khách hàng trên nền tảng đám mây của mình vào "cuối năm 2024".
Các kỹ sư của Google đã đạt được mức tăng hiệu suất bổ sung bằng cách tăng dung lượng bộ nhớ băng thông cao và băng thông tổng thể. Các mô hình AI yêu cầu lượng bộ nhớ nâng cao khổng lồ, đây là điểm nghẽn để tăng hiệu suất hơn nữa.
Công ty đã thiết kế các chip để triển khai theo nhóm gồm 256 chip có thể mở rộng lên hàng trăm nhóm.
