Sự tăng trưởng nhanh chóng của khối lượng công việc suy luận và đào tạo AI đã đẩy việc quản lý nhiệt của trung tâm dữ liệu vượt xa giới hạn của việc làm mát không khí truyền thống. Các chip tăng tốc AI hiện đại thường tiêu thụ vài trăm watt mỗi chip và các giá máy chủ dày đặc chứa đầy các máy gia tốc này có thể tạo ra tải nhiệt mà cơ sở hạ tầng làm mát không khí chưa bao giờ được thiết kế để xử lý hiệu quả. Đây là môi trường trong đó bộ phận làm mát bằng chất lỏng máy chủ AI có độ chính xác cao đã trở nên cần thiết hơn là tùy chọn — các tấm lạnh, ống góp, phụ kiện ngắt kết nối nhanh và máy bơm được thiết kế để loại bỏ nhiệt trực tiếp khỏi các bộ phận nóng nhất với dung sai chặt chẽ và độ tin cậy đặc biệt. Bài viết này xem xét những thành phần này là gì, tại sao kỹ thuật chính xác lại quan trọng đến vậy trong ứng dụng này cũng như những điều mà nhà vận hành trung tâm dữ liệu và nhà tích hợp hệ thống nên hiểu khi chỉ định phần cứng làm mát bằng chất lỏng cho cơ sở hạ tầng AI.
Việc làm mát trung tâm dữ liệu truyền thống phụ thuộc vào việc buộc không khí lạnh đi khắp các thành phần máy chủ, tản nhiệt thông qua sự đối lưu. Cách tiếp cận này hoạt động tốt trong nhiều thập kỷ điện toán đa năng, trong đó các bộ xử lý riêng lẻ thường tiêu thụ điện năng dưới 150 watt. Tuy nhiên, các bộ tăng tốc AI được sử dụng để đào tạo và suy luận mô hình quy mô lớn thường tiêu tán 400 đến 700 watt trở lên trên mỗi chip và một máy chủ có thể chứa tám bộ tăng tốc trở lên cùng với CPU, bộ nhớ và phần cứng mạng hỗ trợ.
Ở mật độ năng lượng này, không khí đơn giản là không thể mang nhiệt đi đủ nhanh nếu không yêu cầu lượng luồng không khí khổng lồ, bộ tản nhiệt quá khổ và mức tiêu thụ điện năng của quạt cao tương ứng — bản thân nó là yếu tố đóng góp đáng kể và ngày càng tăng vào tổng mức sử dụng năng lượng của trung tâm dữ liệu. Làm mát bằng chất lỏng giải quyết vấn đề cơ bản này, vì chất làm mát bằng chất lỏng có thể hấp thụ và vận chuyển nhiều nhiệt hơn trên một đơn vị thể tích so với không khí, cho phép các bộ phận làm mát nhỏ hơn, có mục tiêu hơn nhiều quản lý cùng một tải nhiệt.
Thay vì làm mát toàn bộ tủ máy chủ bằng chất lỏng, hầu hết các kiến trúc làm mát bằng chất lỏng AI hiện đại đều sử dụng phương pháp tiếp cận trực tiếp với chip, trong đó tấm lạnh được gắn trực tiếp lên các bộ phận có nhiệt độ cao nhất — thường là gói tăng tốc GPU hoặc AI và đôi khi là CPU — trong khi chất làm mát lưu thông qua các kênh bên trong tấm lạnh đó, hấp thụ nhiệt tại nguồn trước khi nó có thể lan truyền qua phần còn lại của khung máy chủ.
Không giống như các thiết bị làm mát công nghiệp thông thường, các bộ phận làm mát bằng chất lỏng của máy chủ AI hoạt động dưới những hạn chế cực kỳ chặt chẽ về vật lý, nhiệt và độ tin cậy, đó là lý do tại sao kỹ thuật "độ chính xác cao" không phải là một cụm từ tiếp thị mà là một yêu cầu kỹ thuật thực sự.
Đế của tấm lạnh phải tiếp xúc phẳng gần như hoàn hảo với gói chip để giảm thiểu lực cản nhiệt ở bề mặt tiếp xúc. Ngay cả những bất thường trên bề mặt cực nhỏ cũng có thể tạo ra các khe hở không khí làm giảm đáng kể hiệu suất truyền nhiệt, đó là lý do tại sao bề mặt đế tấm nguội thường được sản xuất với độ phẳng rất chặt và dung sai hoàn thiện bề mặt, thường được đo bằng micromet một chữ số.
Bên trong một tấm lạnh hiện đại, nhiệt thường được loại bỏ thông qua một loạt các vi mạch hoặc cấu trúc vây bên trong cực kỳ mịn giúp tối đa hóa sự tiếp xúc diện tích bề mặt giữa chất làm mát và đế kim loại. Các cấu trúc này phải được sản xuất với độ chính xác cao về chiều để đạt được các đặc tính dòng chảy và hệ số truyền nhiệt được thiết kế - kích thước kênh không nhất quán có thể tạo ra sự phân bố dòng chảy không đồng đều, các điểm nóng cục bộ và giảm hiệu suất làm mát tổng thể.
Máy chủ AI sử dụng làm mát bằng chất lỏng hoạt động liên tục, thường trong nhiều năm, dưới áp suất chất lỏng bên trong không đổi. Bất kỳ hư hỏng vòng đệm hoặc khớp nối nào đều có nguy cơ không chỉ ảnh hưởng đến hiệu suất làm mát mà còn có khả năng rò rỉ chất làm mát vào phần cứng điện tử nhạy cảm, đắt tiền. Điều này làm cho thiết kế vòng đệm, lựa chọn vật liệu đệm và dung sai sản xuất phụ kiện trở thành mối quan tâm kỹ thuật chính xác quan trọng trong toàn bộ vòng lặp làm mát bằng chất lỏng.
Các trung tâm dữ liệu AI siêu quy mô triển khai đồng thời các thành phần làm mát bằng chất lỏng trên hàng nghìn máy chủ. Tính nhất quán trong sản xuất - đảm bảo rằng tấm lạnh thứ một nghìn hoạt động giống hệt tấm đầu tiên - là điều cần thiết để có thể dự đoán được, hiệu suất nhiệt đồng nhất trên toàn bộ đội tàu và bất kỳ sự thay đổi nào giữa các bộ phận đều có thể tạo ra sự mất cân bằng nhiệt ảnh hưởng đến hiệu suất, độ tin cậy hoặc tuổi thọ của chip.
Tấm lạnh là bộ phận tiếp xúc nhiệt trực tiếp với chip sinh nhiệt, thường được chế tạo từ đồng hoặc nhôm để có khả năng dẫn nhiệt tuyệt vời. Bên trong, các tấm lạnh có cấu trúc kênh hoặc vây được thiết kế để tối đa hóa sự tiếp xúc của chất làm mát với bề mặt được làm nóng đồng thời giảm thiểu sự sụt giảm áp suất trên tấm, cân bằng hiệu suất làm mát với công suất bơm cần thiết để tuần hoàn chất làm mát qua hệ thống.
đa tạp distribute coolant from a central supply line to multiple individual servers or components within a rack, and collect returning heated coolant back into the main loop. Rack-level manifolds must be precisely engineered to balance flow evenly across all connected servers, since uneven flow distribution can leave some servers under-cooled relative to others, even within the same rack.
Bởi vì các máy chủ trong môi trường làm mát bằng chất lỏng phải có thể sử dụng được — tháo, sửa chữa hoặc thay thế mà không làm cạn kiệt toàn bộ vòng làm mát — các phụ kiện ngắt kết nối nhanh (QD) là một thành phần quan trọng. Các khớp nối QD có độ chính xác cao được thiết kế để bịt kín một cách đáng tin cậy và nhất quán trong hàng nghìn chu kỳ kết nối-ngắt kết nối, với lượng chất làm mát bị đổ ở mức tối thiểu (thường được mô tả là thiết kế "không nhỏ giọt" hoặc "nhỏ giọt") trong các sự kiện dịch vụ.
Máy bơm circulate coolant through the cooling loop at controlled flow rates and pressures. In AI server applications, pump reliability is especially critical since pump failure can quickly lead to thermal throttling or shutdown of high-value compute hardware; many systems incorporate redundant pump configurations to maintain cooling continuity even if a single pump unit fails.
CDU đóng vai trò là giao diện giữa cơ sở hạ tầng làm mát chính của cơ sở và vòng làm mát bằng chất lỏng ở cấp độ máy chủ, thường cách ly hai mạch chất lỏng để bảo vệ các thành phần nhạy cảm phía máy chủ khỏi các vấn đề về chất lượng nước của cơ sở, đồng thời cung cấp khả năng giám sát dòng chảy, lọc và phát hiện rò rỉ tại một điểm tập trung.
Cảm biến nhiệt độ, tốc độ dòng chảy và áp suất được tích hợp trong toàn bộ vòng làm mát bằng chất lỏng cung cấp dữ liệu thời gian thực cần thiết để phát hiện các vấn đề đang phát triển — chẳng hạn như tấm lạnh bị chặn một phần hoặc rò rỉ chậm — trước khi chúng chuyển thành hư hỏng phần cứng hoặc thời gian ngừng hoạt động ngoài dự kiến.
| thành phần | Chức năng chính | Yêu cầu chính xác chính |
|---|---|---|
| Tấm lạnh | Loại bỏ nhiệt cấp độ chip trực tiếp | Độ phẳng của đế, độ chính xác của vi kênh |
| đa dạng | Phân phối chất làm mát trên các máy chủ | Dòng chảy cân bằng trên tất cả các kết nối |
| Khớp nối ngắt kết nối nhanh | Các kết nối có thể sử dụng được, không bị rò rỉ | Niêm phong đáng tin cậy qua các chu kỳ lặp đi lặp lại |
| Máy bơm | tuần hoàn nước làm mát | Tốc độ dòng chảy và áp suất ổn định, độ tin cậy |
| CDU | Giao diện vòng lặp từ cơ sở đến máy chủ | Lọc, cách ly, giám sát độ chính xác |
| Cảm biến | Giám sát tình trạng thời gian thực | Độ chính xác của phép đo và thời gian đáp ứng |
đồng remains the preferred material for cold plate construction due to its excellent thermal conductivity, allowing efficient heat transfer from the chip surface into the circulating coolant. Copper cold plates are often manufactured using precision machining, skiving, or additive manufacturing techniques to produce the fine internal channel structures needed for optimal performance.
Nhôm offers a lighter-weight, generally lower-cost alternative to copper, with somewhat lower thermal conductivity. Aluminum components are sometimes used in manifolds or larger structural cooling parts where weight and cost considerations outweigh the marginal thermal conductivity advantage copper would provide in those specific locations.
Các phụ kiện, vỏ ngắt kết nối nhanh và thân ống góp thường được chế tạo từ thép không gỉ hoặc polyme kỹ thuật hiệu suất cao được chọn để chống ăn mòn, ổn định kích thước và tương thích với hóa chất làm mát cụ thể được sử dụng trong hệ thống.
Việc lựa chọn vật liệu bịt kín là rất quan trọng để ngăn chặn rò rỉ lâu dài, với các vật liệu được chọn để tương thích với hóa học chất làm mát, khả năng chống suy thoái qua nhiều năm hoạt động liên tục và hiệu suất bịt kín nhất quán trong phạm vi nhiệt độ mà hệ thống sẽ trải qua.
Gia công điều khiển số bằng máy tính cho phép loại bỏ chính xác vật liệu để tạo thành các cấu trúc kênh bên trong và đạt được độ phẳng nền được kiểm soát chặt chẽ, mang lại độ chính xác cao cho các thiết kế tấm nguội với các mẫu kênh hình học được xác định rõ.
Trượt ván is a specialized manufacturing process that shaves extremely thin fins directly from a solid block of copper or aluminum, creating dense, high-surface-area fin structures within a cold plate while maintaining strong thermal continuity between the fins and the base material.
Nhiều thiết kế tấm lạnh được lắp ráp từ nhiều lớp được gia công hoặc đóng dấu, nối với nhau bằng kỹ thuật hàn đồng - thường là hàn chân không để có độ toàn vẹn khớp cao nhất - để tạo ra cấu trúc kênh bên trong kín, không rò rỉ mà không tạo ra khả năng chịu nhiệt ở khớp.
Sản xuất đắp dần kim loại ngày càng được sử dụng để sản xuất các tấm nguội có hình học bên trong rất phức tạp mà phương pháp gia công truyền thống khó hoặc không thể đạt được, cho phép các kỹ sư tối ưu hóa cấu trúc kênh dành riêng cho kiểu phân phối nhiệt của chip nhất định.
Các tấm lạnh và các thành phần hệ thống làm mát rộng hơn phải có kích thước và được thiết kế để phù hợp với công suất thiết kế nhiệt cụ thể của chip mục tiêu, vì công suất làm mát quá nhỏ có thể dẫn đến hiện tượng tiết lưu nhiệt làm giảm trực tiếp hiệu suất tính toán AI, trong khi công suất quá lớn có thể làm tăng thêm chi phí không cần thiết và độ phức tạp của hệ thống.
Các hệ thống làm mát bằng chất lỏng khác nhau sử dụng các công thức làm mát khác nhau, từ hỗn hợp nước-glycol đã qua xử lý đến chất lỏng điện môi chuyên dụng. Tất cả các bộ phận bị ướt — tấm lạnh, ống góp, vòng đệm và phụ kiện — phải được xác minh là tương thích về mặt hóa học với chất làm mát cụ thể được sử dụng để ngăn chặn sự ăn mòn, suy thoái vòng đệm hoặc ô nhiễm chất làm mát theo thời gian.
Mỗi tấm lạnh và ống góp tạo ra một mức giảm áp suất nhất định vào vòng làm mát tổng thể. Các nhà thiết kế hệ thống phải cân bằng tốc độ dòng chảy cần thiết để đạt được hiệu suất làm mát phù hợp với sự sụt giảm áp suất tích lũy trên toàn bộ vòng lặp, điều này ảnh hưởng trực tiếp đến kích thước máy bơm và mức tiêu thụ năng lượng tổng thể của hệ thống.
Với quy mô triển khai trung tâm dữ liệu AI, các bộ phận làm mát phải hỗ trợ các quy trình dịch vụ hiệu quả, ít rủi ro, bao gồm cả các phụ kiện ngắt kết nối nhanh đáng tin cậy cho phép tháo và cài đặt lại các máy chủ riêng lẻ mà không yêu cầu xả và nạp lại toàn bộ vòng làm mát của giá đỡ.
Do giá trị cao của phần cứng máy tính đang được bảo vệ, các hệ thống phát hiện rò rỉ mạnh mẽ và cấu hình đường dẫn hoặc bơm dự phòng ngày càng được coi là yêu cầu tiêu chuẩn thay vì các tiện ích bổ sung tùy chọn trong triển khai cơ sở hạ tầng AI quan trọng.
Các trung tâm dữ liệu AI dự kiến sẽ hoạt động liên tục trong nhiều năm, khiến độ tin cậy lâu dài của các bộ phận làm mát bằng chất lỏng cũng quan trọng như hiệu suất nhiệt ban đầu của chúng. Độ mỏi của thành phần, sự xuống cấp hóa học của chất làm mát theo thời gian và sự hao mòn dần dần của các vòng đệm và phụ kiện thông qua chu trình nhiệt lặp đi lặp lại là tất cả các yếu tố mà các nhà sản xuất có uy tín tính đến trong thử nghiệm xác nhận thiết kế, thường bao gồm thử nghiệm tuổi thọ tăng tốc để mô phỏng nhiều năm vận hành căng thẳng trong khung thời gian thử nghiệm nén trước khi sản phẩm được tung ra thị trường.
Ngay cả với chất làm mát đã được xử lý, hoạt động lâu dài có thể dẫn đến sự ăn mòn dần dần hoặc đóng cặn khoáng chất trong các vi mạch tấm lạnh nếu thành phần hóa học của nước không được duy trì đúng cách, có khả năng làm giảm hiệu suất làm mát theo thời gian. Các bộ phận có độ chính xác cao được sản xuất từ vật liệu chống ăn mòn, kết hợp với quá trình lọc và xử lý nước phù hợp tại cơ sở, giúp giảm thiểu rủi ro này.
Giám sát định kỳ tốc độ dòng chảy, chênh lệch áp suất và thành phần hóa học của chất làm mát, kết hợp với việc thay bộ lọc theo lịch và kiểm tra định kỳ các phụ kiện và vòng đệm, hỗ trợ độ tin cậy lâu dài của hệ thống và giúp người vận hành xác định các vấn đề đang phát triển trước khi chúng ảnh hưởng đến thời gian hoạt động của máy chủ.
Khi mức tiêu thụ năng lượng của máy gia tốc AI tiếp tục tăng qua từng thế hệ, các thiết kế tấm lạnh và vòng làm mát phải liên tục phát triển để xử lý tải nhiệt lớn hơn trong phạm vi dấu chân vật lý tương tự hoặc thậm chí nhỏ hơn, thúc đẩy sự đổi mới liên tục trong thiết kế vi kênh và kỹ thuật vật liệu.
Khi việc áp dụng làm mát bằng chất lỏng mở rộng trong ngành trung tâm dữ liệu, ngày càng có nhiều mối quan tâm đến việc tiêu chuẩn hóa các kích thước giao diện và loại kết nối nhất định cho các bộ phận làm mát, nhằm cải thiện khả năng tương tác giữa các nhà sản xuất máy chủ và nhà cung cấp cơ sở hạ tầng làm mát khác nhau.
Ngoài việc làm mát bằng chất lỏng một pha truyền thống, một số nhà sản xuất đang phát triển các bộ phận làm mát hai pha, trong đó chất làm mát bốc hơi một phần khi hấp thụ nhiệt, mang lại khả năng loại bỏ nhiệt cao hơn trên mỗi đơn vị dòng chất làm mát, mặc dù phương pháp này gây ra sự phức tạp về mặt kỹ thuật bổ sung xung quanh việc quản lý pha và kiểm soát áp suất hệ thống.
Việc tăng cường tích hợp cảm biến và phân tích dữ liệu trực tiếp vào các bộ phận làm mát đang cho phép các phương pháp bảo trì dự đoán phức tạp hơn, cho phép người vận hành trung tâm dữ liệu dự đoán sự hao mòn của bộ phận hoặc phát triển các vấn đề trước khi chúng dẫn đến thời gian ngừng hoạt động ngoài dự kiến.
Các bộ phận làm mát bằng chất lỏng của máy chủ AI có độ chính xác cao đã trở thành cơ sở hạ tầng nền tảng cho các trung tâm dữ liệu AI hiện đại, cho phép quản lý mật độ năng lượng cực cao mà các máy gia tốc AI ngày nay yêu cầu một cách đáng tin cậy và hiệu quả. Từ các tấm lạnh có dung sai chặt chẽ và các ống góp cân bằng cho đến các phụ kiện ngắt kết nối nhanh đáng tin cậy và máy bơm dự phòng, mọi bộ phận trong vòng làm mát bằng chất lỏng đều phải đáp ứng các tiêu chuẩn khắt khe về độ chính xác và độ tin cậy để bảo vệ phần cứng máy tính có giá trị và duy trì hoạt động liên tục trên quy mô lớn. Khi khối lượng công việc AI tiếp tục khiến mức tiêu thụ năng lượng của chip cao hơn, kỹ thuật đằng sau các thành phần này sẽ vẫn là một lĩnh vực quan trọng, phát triển nhanh chóng của cơ sở hạ tầng trung tâm dữ liệu, trực tiếp định hình mức độ hiệu quả và đáng tin cậy của thế hệ điện toán AI tiếp theo.
Sự tăng trưởng nhanh chóng của khối lượng công việc suy luận và đào tạo AI đã đẩy việc quản lý nhiệt của trung tâm dữ liệu vượt xa giới hạn của việc làm mát không khí truyền thống. Các chip tăng...
Sự tăng trưởng nhanh chóng của khối lượng công việc trí tuệ nhân tạo đã đặt ra những nhu cầu chưa từng có đối với cơ sở hạ tầng trung tâm dữ liệu, đặc biệt là trong lĩnh vực quản lý nhiệt. Khi c...
Sự mở rộng nhanh chóng của khối lượng công việc trí tuệ nhân tạo đã đặt ra nhu cầu nhiệt chưa từng có đối với phần cứng máy tính, thúc đẩy sự phát triển tương ứng trong kỹ thuật chính xác cần th...
Chất lượng của các sản phẩm gia công CNC về cơ bản được xác định bằng cách lựa chọn và kết hợp vật liệu phù hợp. Sự khác biệt về khả năng gia công và tính chất cơ học của các vật liệu khác nhau ảnh...
Độ chính xác cao tạo thành lợi thế cạnh tranh cốt lõi của gia công CNC. Đặc biệt là trong ngành hàng không vũ trụ, thiết bị y tế, dụng cụ chính xác và các lĩnh vực khác, ngay cả những lỗi ở cấp độ ...
Trong sản xuất gia công CNC, cải thiện hiệu quả không chỉ giúp mở rộng năng lực sản xuất mà còn cắt giảm chi phí sản xuất và rút ngắn chu kỳ giao hàng một cách hiệu quả, đóng vai trò là trụ cột chí...