Máy chủ Dell PowerEdge XE9680, Server Dell XE9680 chuyên dụng cho AI

Là máy chủ GPU 8 chiều đầu tiên của Dell, máy chủ Dell XE9680 được thiết kế để thúc đẩy các ứng dụng mạng nơ-ron học sâu, học máy và AI tiên tiến. Được cung cấp năng lượng bởi 6x PSU Titanium 2800W dự phòng có thể hoán đổi nóng, máy chủ hỗ trợ bộ xử lý Intel Xeon Scalable thế hệ thứ 5 kép với tối đa 64 lõi cho mỗi bộ xử lý. Mặt trước có tới 10x khe cắm PCIe Gen 5 toàn chiều cao, nửa chiều dài x16 hướng về phía trước và tối đa 8x ổ SSD NVMe 2,5 inch. Có thể lắp thêm card OCP 3.0 tùy chọn để có thêm cổng mạng và tốc độ liên kết. Bên trong, khung máy hỗ trợ 32x khe cắm bộ nhớ DDR5 RDIMM cho dung lượng tối đa lên tới 4TB và tốc độ lên tới 4800 MT/giây.

Máy chủ Dell XE9680 – Tổng quan hệ thống

Hệ thống cũng có thể được trang bị tới 16 ổ đĩa EDSFF E3.S mỏng NVMe để tăng dung lượng lưu trữ. Cung cấp khả năng giao tiếp GPU-GPU nhiều hơn 1,5 lần so với thế hệ trước, hiệu suất đào tạo có thể được cải thiện. Sử dụng công nghệ NVIDIA NVLink, người dùng có thể lựa chọn giữa 8 GPU NVIDIA HGX H100 80GB 700W SXM5 hoặc 8 GPU NVIDIA HGX A100 80GB 500W SXM4 để cân bằng hiệu suất và công suất. Ngoài ra, máy chủ 6U PowerEdge XE9680 hỗ trợ các card điều khiển sau:

• BOOT nội bộ: Hệ thống lưu trữ được tối ưu hóa khởi động (NVMe BOSS-N1): HWRAID 1, 2 x SSD M.2
• RAID phần mềm: Bộ điều khiển S160 tích hợp cung cấp RAID phần mềm cho NVMe

DataOnline cho thuê VPS giá rẻ

Cho thuê Server vật lý riêng cấu hình cao

Dell PowerEdge XE9680 cho AI tạo sinh

Dell PowerEdge XE9680 là máy chủ rack có GPU dày đặc được thiết kế cho các ứng dụng hiệu suất cao nhắm vào lĩnh vực trí tuệ nhân tạo. Máy được trang bị hai bộ xử lý Intel Xeon Scalable thế hệ thứ 4, mỗi bộ có tối đa 56 lõi và có thể được trang bị tám GPU NVIDIA HGX H100 hoặc tám GPU NVIDIA HGX A100; tất cả đều được kết nối với công nghệ NVIDIA NVLink.

PowerEdge XE9680 hỗ trợ Tốc độ DIMM lên đến 4800 MT/giây và có 32 khe cắm DIMM DDR5, với dung lượng RAM tối đa là 4 TB. Nó cung cấp tối đa 8 ổ SSD NVMe 2,5 inch để lưu trữ, với dung lượng tối đa là 122,88 TB. Máy chủ cũng bao gồm một loạt các tính năng bảo mật, chẳng hạn như chương trình cơ sở được ký bằng mật mã, Mã hóa dữ liệu khi nghỉ (DRE), Khởi động an toàn, v.v. Nó được quản lý thông qua hệ thống iDRAC9 nhúng và hỗ trợ nhiều công cụ quản lý và tích hợp. Máy chủ được đặt trong hệ số dạng giá đỡ 6U và nặng 235,89 lbs. (107 kg).

Thông số kỹ thuật của Dell PowerEdge XE9680

PowerEdge XE9680 được thiết kế để xử lý khối lượng công việc AI với dung lượng bộ nhớ lớn. Nhờ NVLink, GPU có thể truy cập vào một lượng lớn bộ nhớ từ các GPU khác trong hệ thống, cung cấp khả năng truy cập tốc độ cao vào các tài nguyên được chia sẻ. Khả năng bộ nhớ đáng kể này sẽ dẫn đến hiệu suất cao hơn, các mô hình phức tạp hơn và khả năng làm việc với các tập dữ liệu lớn hơn, chi tiết hơn, cải thiện độ chính xác và tiện ích bằng cách tận dụng các mô hình tham số lớn hơn.

Mô hình tạo hình ảnh: Khoa học nghệ thuật

Bạn đã bao giờ ước mình có thể vẽ như Van Gogh hay phác họa như Da Vinci nhưng cuối cùng lại tạo ra những hình que không gây ấn tượng với ngay cả trẻ mẫu giáo? Hãy bước vào thế giới của Mô hình tạo hình ảnh (IGM), tương đương với máy học của một nghệ sĩ phi thường, không có sự lập dị và mũ nồi.

IGM là một tập hợp con của các mô hình học máy được thiết kế để giải quyết việc tạo ra hình ảnh mới. IGM thuộc lĩnh vực rộng hơn là mô hình hóa tạo sinh, tức là hiểu và sao chép các mẫu dữ liệu. Tuy nhiên, thay vì tạo ra số hoặc văn bản, các mô hình này lại hoạt động trong lĩnh vực tạo hình ảnh. Trong những tháng gần đây, IGM đã tạo nên tin tức khi tạo ra mọi thứ từ các tác phẩm nghệ thuật mới đến khuôn mặt người kỳ lạ và chân thực.

Những mô hình này đã tìm thấy đường vào mọi thứ, từ nghệ thuật và giải trí đến quảng cáo và nghiên cứu khoa học. Chúng tạo ra hình ảnh tế bào để chẩn đoán y khoa, mô phỏng không gian bên ngoài và tạo ra những bức ảnh tự sướng chân thực đến mức bạn có thể tự lừa mình. Khi những mô hình này phát triển, các yêu cầu để chạy chúng nhanh chóng cũng tăng lên.

Dell PowerEdge XE9680 cho AI tạo sinh: Cung cấp năng lượng cho Edge, của sự khuếch tán ổn định

Các phương pháp khuếch tán, khi tạo ra hình ảnh mới trong quá trình suy luận, thường phụ thuộc vào các cụm GPU lớn hoạt động đồng bộ và yêu cầu thời gian chạy phần cứng mở rộng. Tuy nhiên, sách trắng của Dell tiết lộ rằng với máy chủ Dell PowerEdge XE9680, các hoạt động AI tạo ra này có thể được tăng tốc đáng kể.

Điều này cho phép tạo ra hàng chục đến hàng trăm hình ảnh có độ phân giải hợp lý chỉ trong vài giây. Dell chỉ ra rằng bằng cách tận dụng khả năng của Dell PowerEdge XE9680 cho AI tạo sinh, hình ảnh có độ phân giải cao (Dell sử dụng 2.096 x 2.096) có thể được tạo ra từ một lời nhắc văn bản duy nhất chỉ trong vài giây.

Sách trắng đánh giá độ trễ tạo hình ảnh cho mô hình chuyển văn bản thành hình ảnh HuggingFace Diffusers trên máy chủ PowerEdge XE9680, xem xét kích thước lô và các biến thể độ phân giải hình ảnh. Máy chủ XE9680 có thể tạo hình ảnh có độ phân giải lên đến 2.048 x 2.048.

Khi kích thước lô tăng lên, nhu cầu về bộ nhớ trên cơ sở hạ tầng cũng tăng theo. Do đó, kích thước lô lớn có thể đạt được với hình ảnh có độ phân giải thấp hơn (chẳng hạn như 256 x 256). Tuy nhiên, do giới hạn bộ nhớ, hình ảnh có độ phân giải rất cao (như 2.048 x 2.048) chỉ có thể tạo ra kích thước lô là một.

Tập trung vào việc tạo ảnh hàng loạt ở độ phân giải 256 x 256 và 512 x 512 cho thấy khả năng mạnh mẽ của Dell PowerEdge XE9680 cho AI tạo ra nhiều ảnh trong vài giây. Khả năng này đẩy nhanh quá trình đánh giá, điều chỉnh nhanh chóng và đánh giá thêm cần thiết cho các chu kỳ thiết kế sáng tạo. Những kết quả này chứng minh cách tạo hàng loạt 32 ảnh ở độ phân giải 512 x 512 bằng gói Bộ khuếch tán HuggingFace trên máy chủ Dell PowerEdge XE9680 trong vòng chưa đầy 10 giây. Hơn nữa, có thể tạo hàng loạt 64 ảnh ở độ phân giải 256 x 256 trong vòng chưa đầy 5 giây bằng cùng một nền tảng, cho phép tạo mẫu nhanh và các chu kỳ thiết kế sáng tạo cho các doanh nghiệp và chuyên gia.

Tiêu chuẩn tạo hình ảnh

Trong phân tích từ sách trắng, máy chủ Dell PowerEdge XE9680 đã được đánh giá dựa trên các chuẩn độ trễ tạo hình ảnh do Lambda đặt ra. So sánh này bao gồm một GPU NVIDIA H100 duy nhất với RAM 80 GB trên máy chủ Dell PowerEdge XE9680 và chuẩn NVIDIA H100 GPU Stable Diffusion do nhóm ML Labs tại Lambda phát hành.

Cả hai nghiên cứu đều sử dụng một GPU NVIDIA® H100 với RAM GPU 80 GB, trong đó hệ số dạng GPU cho GPU máy chủ Dell là HGX và GPU máy chủ Lambda là PCIe. Tất cả hình ảnh đều sử dụng cùng một mã PyTorch của Diffusers chuyển đổi văn bản thành hình ảnh HuggingFace với lời nhắc văn bản = “ảnh một phi hành gia cưỡi ngựa trên sao Hỏa”, số lần lặp = 30, độ phân giải hình ảnh 512 x 512, độ chính xác float16, DDIM Scheduler, Stable Diffusion v1.4.

Nghiên cứu chứng minh rằng XE9680 đã vượt qua chuẩn mực của Lambda, đạt được thông lượng gấp đôi. Những phát hiện của Dell được trình bày theo cùng định dạng với Lambda, sử dụng dữ liệu từ nghiên cứu GPU NVIDIA H100 của họ trong các điều kiện được xác định bằng phần mềm giống hệt nhau. Điểm khác biệt duy nhất là phần cứng: Lambda sử dụng GPU NVIDIA H100 có hệ số dạng PCIe, trong khi máy chủ Dell PowerEdge XE9680 sử dụng hệ số dạng HGX, điều này có thể giải thích một số khác biệt về hiệu suất.

Tác động kinh doanh của các mô hình tạo hình ảnh

Tạo hình ảnh thông qua Stable Diffusion giúp các chuyên gia sáng tạo nhanh chóng tạo mẫu và tinh chỉnh công việc của họ, chẳng hạn như nâng cao hiệu quả của các chiến lược tiếp thị và quảng cáo và rút ngắn thời gian đưa sản phẩm ra thị trường. Các chuyên gia trong các lĩnh vực như kiến ​​trúc, quảng cáo, tiếp thị, sáng tạo, phim ảnh, hiệu ứng đặc biệt, nhiếp ảnh và nghệ thuật đã áp dụng công nghệ này.

Các công nghệ AI tạo sinh, như Stable Diffusion, có thể mang lại những thay đổi mang tính chuyển đổi trong hoạt động của doanh nghiệp, đặc biệt là khi tốc độ là yếu tố quan trọng. Trong thiết kế và phát triển sản phẩm, các mô hình này có thể nhanh chóng tạo ra các nguyên mẫu trực quan, cho phép các nhóm thiết kế đánh giá và tinh chỉnh các khái niệm theo thời gian thực. Điều này đẩy nhanh quá trình thiết kế và giảm thời gian đưa ra thị trường.

Một trong những khái niệm thú vị nhất đến từ ngành bán lẻ. AI có thể nhanh chóng tạo ra hình ảnh thực tế về nhiều cấu hình sản phẩm hoặc tùy chọn màu sắc dựa trên sở thích của khách hàng, chẳng hạn như “Cho tôi xem chiếc ghế này, nhưng màu đỏ” hoặc “Chiếc ghế sofa đó trông như thế nào với họa tiết da báo”. Đối với các doanh nghiệp bất động sản và xây dựng, AI tạo sinh có thể nhanh chóng tạo ra hình ảnh trực quan về các tòa nhà mới hoặc dự án cải tạo, hỗ trợ lập kế hoạch và thuyết trình bán hàng.

Trong lĩnh vực đào tạo và giáo dục trong một doanh nghiệp, hình ảnh do AI tạo ra có thể được sử dụng để tạo ra các kịch bản thực tế cho các chương trình đào tạo nhân viên, nâng cao kết quả học tập. Tốc độ tạo hình ảnh có thể cải thiện đáng kể tính linh hoạt của doanh nghiệp, cho phép họ phản ứng với những thay đổi của thị trường, nhu cầu của khách hàng và các yêu cầu nội bộ hiệu quả hơn.

 

=================================

Máy chủ Dell PowerEdge XE9680 – Thông số kỹ thuật