Server Dell EMC DSS 8440, Dell DSS 8440 Máy chủ chuyên GPU của Dell

Máy chủ Dell DSS 8440 là hệ thống 2 CPU trên thân máy 4U được tối ưu hóa với các bộ tăng tốc được thiết kế để cung cấp hiệu suất tính toán cao cho cả đào tạo và suy luận. Hệ thống hỗ trợ tối đa 10x GPU NVIDIA rộng gấp đôi hoặc 16x GPU NVIDIA rộng đơn, tùy thuộc vào kiểu máy. Từ chăm sóc sức khỏe đến sản xuất dầu mỏ, hệ thống sử dụng sức mạnh tính toán của mình để giảm đáng kể thời gian cho kết quả và đạt được mức hiệu quả và năng suất mới.

DataOnline cho thuê Server GPU, cho thuê VPS giá rẻ CPU AMD, Platinum intel

Tổng quát về Máy chủ Dell DSS 8440

Là một phần của máy chủ GPU của Dell, máy chủ Dell EMC DSS 8440 có thể chứa tới 24 khe cắm DIMM, 10 khoang ổ đĩa và tối đa 10 khe cắm card đồ họa PCI-Express chiều rộng kép toàn chiều cao. Hệ thống này cũng hỗ trợ bộ xử lý Intel Xeon Scalable kép từ thế hệ đầu tiên hoặc thế hệ thứ hai và bộ nhớ lên tới 768GB.

Hiệu suất Server Dell DSS 8440

DSS 8440 được trang bị hai bộ xử lý từ thế hệ thứ nhất hoặc thứ hai của bộ xử lý Intel Xeon Scalable. Hỗ trợ tối đa 24 lõi cho mỗi bộ xử lý và TDP lên đến 205W để giúp tăng năng suất cho các khối lượng công việc tính toán chuyên sâu như mô hình hóa, mô phỏng và phân tích dự đoán. Khi được cấu hình với tối đa 10x NVIDIA V100 GPU, 10x NVIDIA Quadro RTX GPU hoặc 16x NVIDIA Tesla T4, Dell 8440 mang lại hiệu suất tính toán hàng đầu cần thiết để đào tạo ngay cả những mô hình học máy phức tạp nhất.

RAM Server Dell DSS 8440

Hệ thống 8440 của Dell có 12 khe cắm mô-đun cho mỗi CPU, tổng cộng là 24 khe cắm mô-đun bộ nhớ với cả hai bộ xử lý. Máy chủ hỗ trợ mô-đun bộ nhớ Registered (RDIMM) với tổng bộ nhớ là 768GB. Tất cả các khe cắm DIMM phải được lắp cùng loại mô-đun bộ nhớ.

Ngay phía sau các GPU đó là các CPU và khe cắm mô-đun bộ nhớ liên quan, nằm trên một bo mạch hoàn toàn khác với bo mạch chuyển mạch GPU PCIe. Bo mạch chuyển mạch đó cũng có 4 công tắc PLX để mở rộng các làn PCIe. Dell EMC DSS 8440 tương thích với cả bộ xử lý Intel Xeon Scalable thế hệ thứ nhất và thứ hai, với bộ xử lý thế hệ thứ 2 cung cấp hỗ trợ cho các mô-đun bộ nhớ liên tục tập trung vào dữ liệu, như Intel Optane. Tuy nhiên, không có đề cập nào về hỗ trợ thực tế cho các mô-đun bộ nhớ liên tục tập trung vào dữ liệu đó trên hệ thống này. Ít nhất là chưa.

Hệ thống của chúng tôi đi kèm với hai bộ xử lý Intel Xeon Scalable 6248 gold thế hệ thứ hai với 20 lõi mỗi bộ, 192GB bộ nhớ trong 12 khe cắm, cộng với 4x Nvidia Tesla V100 16GB GPU. Vì vậy, vẫn còn nhiều chỗ để mở rộng. Bộ xử lý hỗ trợ tối đa 24 lõi mỗi bộ có thể được cài đặt và cung cấp tối đa 12x ổ cắm mô-đun bộ nhớ mỗi bộ, với hai DIMM trên mỗi kênh bộ nhớ. Với cả hai bộ xử lý được cài đặt, có 24x khe cắm mô-đun bộ nhớ đang hoạt động. Có khả năng lên đến 768GB bộ nhớ bằng cách sử dụng các mô-đun bộ nhớ 32GB trong tất cả các khe cắm.

Các mô-đun DIMM Registered đơn và kép, hay RDIMM được hỗ trợ. Vì đây là máy chủ GPU, luồng không khí rất quan trọng, vì vậy nếu bạn không lắp đầy tất cả các khe cắm mô-đun bộ nhớ, thì cần phải có các khoảng trống DIMM để duy trì nhiệt độ bên trong. Tốc độ bộ nhớ lên đến 2933MHz được hỗ trợ.

GPU bên trong hệ thống Dell DSS8440

Mở nắp Dell EMC DSS 8440, bạn có thể thấy các GPU được liên kết dọc theo mặt trước của hệ thống giống như trên máy chủ GPU Dell khác là C4140 , nhưng máy chủ đó là 1U và hỗ trợ 4x GPU. Bạn có thể xếp chồng bốn C4140 để có tối đa 16x GPU ở mức 4U, nhưng bạn cũng sẽ cần nhiều CPU và bộ nhớ hơn, làm tăng thêm chi phí. Ngoài 10x GPU V100 hoặc T100 16 hoặc 32GB toàn chiều rộng hoặc GPU Quadro RTX, bạn cũng có thể cài đặt tối đa 16x GPU Tesla T4 để có môi trường phân tán siêu nhanh.

Nếu sử dụng GPU T4, một số GPU sẽ được đặt trong mô-đun butterfly, là giá đỡ kim loại khổng lồ ở phía sau, hỗ trợ riser 1 và 2. Đối với các ứng dụng sử dụng nhiều bộ nhớ, RTX 6000 hoặc 8000 là lựa chọn tuyệt vời, trong khi GPU V100 và T100 phù hợp hơn với khối lượng công việc có độ chính xác kép.

Thẻ C2 IPU của Graphcore được thiết kế đặc biệt để giải quyết thế hệ tiếp theo của máy học trong cả đào tạo và suy luận. IPU có nghĩa là Bộ xử lý thông minh và các thẻ Graphcore này không chỉ có một mà là hai IPU và cung cấp khả năng xử lý song song lên đến 200 TFLOPS và hơn 2416 lõi xử lý riêng lẻ. Chúng tương thích với cả Gen3 và Gen4 PCI Express và tiêu thụ tới 315W mỗi cái với hệ thống làm mát thụ động.

Bạn có thể cài đặt tối đa 8 card được kết nối mạng với nhau bằng cáp kết nối băng thông cao IPU-Link, kết nối trên các card, để có sức mạnh tính toán lên đến 1,6 PetaFLOP! Các GPU Graphcore này có thể chỉ tương thích với bộ xử lý Ice Lake thế hệ tiếp theo của Intel, có nhiều lõi hơn và bộ nhớ nhanh hơn. Hiện vẫn chưa có nhiều thông tin về tùy chọn này, nhưng với tất cả các tên mã dựa trên Lake này, bạn sẽ nghĩ rằng Intel có trụ sở tại Minnesota hay gì đó.

Khả năng lưu trữ Dell DSS 8440

Ở phía sau khung máy, Dell 8440 có một mảng 10x 2,5 inch khay lưu trữ hot-swap, có thể được cấu hình cho NVMe, SAS hoặc SATA. Máy chủ hỗ trợ các cấu hình khác nhau như 8x khay ổ đĩa hỗ trợ NVMe và 2x khay ổ đĩa hỗ trợ SAS/SATA hoặc ngược lại.

Khả năng Mở rộng máy chủ Dell DSS 8440

Máy chủ 4U được tối ưu hóa để mở rộng và cung cấp GPU dựa trên PCI-Express để học sâu và suy luận. Các card đồ họa được lắp trên một bảng mạch in (PCB) xử lý các khe cắm PCIe riêng biệt với bo mạch chủ. Ngoài ra, chúng nằm ở giữa máy chủ, phía sau 12 quạt làm mát 60mm x 60mm, khiến nó trở thành một trong số ít máy chủ GPU có thiết kế này. Máy chủ có một số GPU cùng với các kích thước bộ nhớ khác nhau bao gồm:

Tối đa 10x NVIDIA Tesla V100 16GB hoặc 32GB GPU
Lên đến 10x GPU NVIDIA Quadro RTX
Lên đến 16x GPU NVIDIA Tesla T4
Ngoài ra, ở mặt sau của khung máy, người dùng có thể tìm thấy nhiều cổng như 2 cổng RJ45 1GbE cùng 2 cổng SFP+ và 4 card con.

Khả năng quản lý Dell DSS 8440

Bộ điều khiển truy cập từ xa Dell (iDRAC9) nhúng với Bộ điều khiển vòng đời cung cấp khả năng quản lý hệ thống cục bộ và từ xa. Nhờ khả năng tăng tốc đa điểm, Dell DSS 8440 trở thành giải pháp đa thuê bao lý tưởng. Nó có thể cung cấp tài nguyên đào tạo và suy luận trên nhiều khối lượng công việc, nhiều người dùng và phòng ban hoặc nhiều hệ thống. Người dùng có thể linh hoạt chạy nhiều ngăn xếp phần mềm học máy khác nhau trên cùng một máy chủ bằng cách sử dụng nhiều bộ tăng tốc khác nhau. Đa thuê bao cũng cho phép các trung tâm dữ liệu đơn giản hóa việc quản lý các dịch vụ học máy bằng Kubernetes. Quản trị viên cũng có thể tận dụng đám mây GPU NVIDIA và Môi trường thời gian chạy TensorRT để cho phép các nhà khoa học dữ liệu, nhà phát triển và nhà nghiên cứu nhanh chóng tạo ra các giải pháp, nâng cao hiệu suất và gia tăng giá trị cho công ty.

iDRAC 9.0 với bộ điều khiển Lifecycle được sử dụng trên tất cả các máy chủ Dell PowerEdge mới để quản lý hệ thống từ xa và tại khung máy. Nó cũng tương thích với quản lý hệ thống mở Redfish API giúp dễ dàng tích hợp với nhiều tùy chọn quản lý trung tâm dữ liệu hơn. Và sau đó còn có sổ đăng ký Graphics Cloud của Nvidia cung cấp các ngăn xếp phần mềm khác nếu bạn sẽ sử dụng card Nvidia. Chưa kể đến ngăn xếp phần mềm Poplar của Graphcore cho cả đào tạo và suy luận nếu bạn sẽ sử dụng IPU của Graphcore.

Cùng với bộ điều khiển lưu trữ S140 tích hợp, DSS 8440 cũng hỗ trợ PERC H730+. Bạn sẽ cần PERC H730P nếu muốn cài đặt ổ đĩa SAS hoặc nếu bạn chỉ cần kiểm soát nhiều hơn một chút đối với ổ đĩa SATA của mình. Đây là một bộ điều khiển nổi bật mặc dù nó đã bị thay thế bởi H740. Không chắc tại sao họ lại không sử dụng bộ điều khiển đó, nhưng kệ. Đây là một lựa chọn tuyệt vời để phát trực tuyến phương tiện kỹ thuật số và các ứng dụng cơ sở dữ liệu cho RAID và cung cấp bộ nhớ đệm không mất dữ liệu 2GB. H730P cũng là một lựa chọn tuyệt vời cho lưu trữ kết hợp và hỗ trợ các Cấp độ RAID phổ biến nhất (RAID 0, 1, 5, 6, 50, 60). Truyền qua không phải RAID cũng là một tùy chọn. Nó cũng dễ dàng được quản lý bằng Bộ điều khiển truy cập từ xa Dell tích hợp độc quyền của Dell với Bộ điều khiển vòng đời.

 

Mặt trước của hệ thống Dell DSS 8440

Tấm kim loại đục lỗ chiếm toàn bộ mặt trước của hệ thống, nhưng bạn có thể thấy 12 quạt. Nếu bạn phóng to nó lên, nó có thể trông giống như một dãy Marshall stacks từ một buổi hòa nhạc của ban nhạc tóc vào những năm 80. Mất thính lực là một vấn đề, nhưng là khoảng thời gian tuyệt vời!

Bên phải là bảng điều khiển nhỏ bao gồm nút BẬT nguồn với đèn LED báo nguồn, đèn LED báo tình trạng hệ thống và Nút nhận dạng hệ thống.

Phía sau hệ thống Máy chủ Dell DSS 8440

Bây giờ, mặt sau của hệ thống là nơi mọi thứ trở nên thú vị. Không có bộ lưu trữ ở phía trước, bộ lưu trữ được đặt ở phía sau bên phải trong một dãy 10 khay lưu trữ. Sáu khay là NVMe linh hoạt hoặc SATA + 2x SATA và 2x NVMe chuyên dụng, theo mặc định. Nếu bạn yêu cầu ổ đĩa SAS, bạn sẽ cần một bộ điều khiển rời. Phía trên, phía dưới và bên phải của lồng ổ đĩa là các lỗ thông hơi để lưu thông không khí. Phía dưới là 4x PSU 2400W cung cấp khả năng dự phòng 2+2. Phía trên ở giữa là 2x cổng RJ45 và 2x cổng Small Form Factor Pluggable + (SFP+). Tiếp theo là các khe cắm PCIe có thể được sử dụng để hỗ trợ I/O đáng kể.

 

 

Tổng kết về máy chủ Dell DSS 8440

Dell EMC DSS 8440 là máy chủ 4U bộ xử lý kép được thiết kế cho điện toán hiệu suất cao, học máy và học sâu. Với 24x DIMM, 10x khoang ổ đĩa và dung lượng lớn cho các card tăng tốc tính toán, máy chủ GPU này mang lại kết quả.

 

=========================

Dell EMC DSS 8440 – Thông số kỹ thuật _ Dell EMC DSS 8440 – Specifications