Hướng dẫn cấu hình vPC và Jumbo Frame MTU 9000 trên Cisco Nexus

MTU

vPC và Jumbo Frame MTU 9000 là hai công nghệ thường được sử dụng trong hệ thống mạng Data Center, đặc biệt với các mô hình Cloud, OpenStack, Ceph, Virtualization và Storage Cluster.

vPC giúp hai switch vật lý hoạt động như một hệ thống logic đối với thiết bị kết nối xuống, cho phép thiết bị sử dụng đồng thời các đường uplink đến hai switch và tăng tính dự phòng.

Trong khi đó, Jumbo Frame cho phép tăng kích thước Ethernet frame vượt mức MTU mặc định 1500 byte. Với các hệ thống cần truyền lượng dữ liệu lớn như Ceph Storage, OpenStack, VMware, Hyper-V hoặc các mạng server nội bộ, MTU 9000 có thể giúp giảm overhead và cải thiện hiệu quả truyền dữ liệu. OpenStack cũng hỗ trợ jumbo frame cho các mạng storage, management, internal API và tenant network; tuy nhiên MTU phải được cấu hình đồng bộ trên toàn bộ đường truyền.

Bài viết dưới đây hướng dẫn cấu hình vPC trên Cisco Nexus kết hợp với Jumbo MTU 9000/9216, đồng thời bổ sung các lưu ý quan trọng khi triển khai trong hệ thống Cloud và Ceph.

Tham khảo dịch vụ VPS giá rẻ tại DataOnline

Mô hình vPC

Mục lục nội dung

1. vPC là gì?

vPC (Virtual Port Channel) là công nghệ của Cisco cho phép hai switch vật lý cùng tham gia một port-channel đối với thiết bị kết nối.

Thay vì:

             Switch A
                |
              Link
                |
              Server
                |
              Link
                |
             Switch B

vPC cho phép thiết bị phía dưới sử dụng hai đường kết nối đồng thời:

                 +-------------+
                 |   Server    |
                 | LACP Bond   |
                 +------+------+
                        |
              +---------+---------+
              |                   |
          Ethernet 1/1        Ethernet 1/1
              |                   |
       +------+-------+     +-----+--------+
       |   Nexus A    |=====|   Nexus B    |
       |   Primary    |     |  Secondary   |
       +--------------+     +--------------+
                 vPC Domain

Đối với server, hai kết nối vật lý có thể được nhìn nhận như một logical port-channel.

Điều này mang lại một số lợi ích:

  • Tăng redundancy.
  • Sử dụng đồng thời nhiều đường truyền.
  • Giảm downtime khi một switch gặp sự cố.
  • Hỗ trợ LACP.
  • Giảm nguy cơ một đường uplink trở thành điểm lỗi duy nhất.
  • Phù hợp với kiến trúc Data Center.

vPC đặc biệt hữu ích khi kết nối:

  • Server.
  • Storage.
  • Hypervisor.
  • OpenStack Compute.
  • Ceph Node.
  • Access Switch.
  • Distribution/Leaf Switch.

2. Jumbo Frame là gì?

Jumbo Frame là Ethernet frame có kích thước lớn hơn MTU tiêu chuẩn 1500 byte.

Trong mạng Ethernet thông thường:

MTU = 1500

Khi sử dụng Jumbo Frame:

MTU = 9000

hoặc trên một số thiết bị Cisco Nexus có thể cấu hình:

MTU = 9216

MTU lớn hơn cho phép truyền nhiều dữ liệu hơn trong mỗi frame, từ đó giảm số lượng frame cần xử lý và giảm overhead tương đối của header.

Ví dụ:

MTU 1500

Data
↓
[Frame]
[Frame]
[Frame]
[Frame]
[Frame]
...

Trong khi đó:

MTU 9000

Data
↓
[       Large Frame       ]
[       Large Frame       ]
...

Jumbo Frame đặc biệt có giá trị trong các mạng:

  • Ceph Storage.
  • OpenStack Storage.
  • VMware vSphere.
  • Hyper-V.
  • Backup.
  • Replication.
  • Database Cluster.
  • High Performance Computing.
  • Server-to-Server Network.

OpenStack documentation cũng lưu ý rằng MTU lớn có thể giảm overhead và jumbo frame có thể mang lại lợi ích cho Storage, Storage Management, Internal API và Tenant Network.

3. MTU 9000 có thực sự nhanh hơn MTU 1500 không?

Không phải cứ tăng MTU lên 9000 là toàn bộ hệ thống sẽ nhanh hơn.

Hiệu quả phụ thuộc vào:

  • Bandwidth.
  • Packet size.
  • CPU.
  • NIC.
  • Switch.
  • Storage.
  • Protocol.
  • Workload.
  • Network topology.

Ví dụ với Ceph:

VM
 ↓
Compute Node
 ↓
Network
 ↓
Ceph Node
 ↓
NVMe

Nếu sử dụng:

NVMe + 100GbE

thì network có thể truyền lượng dữ liệu rất lớn. Jumbo Frame có thể giúp giảm overhead của packet processing.

Ngược lại, nếu hệ thống chỉ sử dụng:

1GbE + HDD

thì lợi ích từ MTU 9000 có thể không đáng kể.

Quan trọng nhất là MTU phải được hỗ trợ end-to-end.

4. Một lỗi rất thường gặp khi cấu hình Jumbo Frame

Không được chỉ cấu hình MTU 9000 trên server.

Ví dụ:

Server
MTU 9000
   ↓
Switch
MTU 1500
   ↓
Server
MTU 9000

Mô hình này có thể gây:

  • Packet drop.
  • Fragmentation.
  • Connection timeout.
  • Network chập chờn.
  • Một số ứng dụng hoạt động nhưng ứng dụng khác bị lỗi.
  • Ceph performance không ổn định.
  • VXLAN không hoạt động đúng.

Đối với VLAN, MTU của VLAN cũng không thể lớn hơn MTU của interface vật lý bên dưới. Vì vậy cần cấu hình MTU xuyên suốt từ physical interface, bond, VLAN đến network overlay nếu có.

5. Mô hình vPC đề xuất

Một mô hình Data Center phổ biến:

                         Core / Spine
                         /          \
                        /            \
                       /              \
                +-----+----+    +----+-----+
                | Nexus A  |====| Nexus B  |
                | Primary  |    | Secondary |
                +----+-----+    +-----+-----+
                     |                |
                     |      vPC       |
                     +-------+--------+
                             |
                         Server
                         /    \
                       NIC1   NIC2

Hai Nexus tạo thành:

vPC Domain

Server sử dụng:

LACP / Port-Channel

và kết nối đến cả hai switch.

Trong hệ thống Ceph:

             +----------------+
             |   Ceph Node    |
             +-------+--------+
                     |
               LACP / Bond
                /        \
               /          \
        +-----+----+  +----+-----+
        | Nexus A  |  | Nexus B  |
        +----------+  +----------+

Đây là mô hình phù hợp để giảm single point of failure ở tầng network.

6. Các thành phần cần cấu hình cho vPC

Một vPC domain cơ bản bao gồm:

  1. vPC Peer.
  2. vPC Peer Keepalive.
  3. vPC Peer Link.
  4. vPC Member Port.
  5. LACP.
  6. VLAN/Trunk.
  7. MTU nếu sử dụng Jumbo Frame.

Có thể hình dung:

Nexus A ================= Nexus B
          Peer Link
             +
        Keepalive

       |             |
       |             |
       +---- vPC ----+
             |
          Server

7. Chuẩn bị trước khi cấu hình

Trước khi thực hiện cấu hình, nên xác định:

Switch A

Hostname: NEXUS-A
Role: Primary

Switch B

Hostname: NEXUS-B
Role: Secondary

vPC Domain

Ví dụ:

vPC Domain: 10

Peer Keepalive

Ví dụ:

Nexus A: 192.168.100.1
Nexus B: 192.168.100.2

Peer Link

Ví dụ:

Ethernet1/47
Ethernet1/48

gom vào:

Port-channel 10

Server vPC

Ví dụ:

Nexus A: Ethernet1/1
Nexus B: Ethernet1/1

gom thành:

vPC 20

8. Bước 1: Enable các tính năng vPC và LACP

Trên Nexus A:

configure terminal

feature vpc
feature lacp
feature interface-vlan

Trên Nexus B:

configure terminal

feature vpc
feature lacp
feature interface-vlan

Kiểm tra:

show feature

Đảm bảo các feature cần thiết ở trạng thái:

enabled

9. Bước 2: Tạo vPC Domain

Trên Nexus A:

vpc domain 10

Trên Nexus B:

vpc domain 10

Hai switch phải sử dụng cùng số vPC domain.

Kiểm tra:

show vpc

Ở giai đoạn này vPC chưa hình thành hoàn chỉnh vì Peer Link và Keepalive chưa được cấu hình.

10. Bước 3: Cấu hình vPC Peer Keepalive

Peer Keepalive dùng để hai switch kiểm tra trạng thái của nhau.

Có thể sử dụng:

  • Layer 3 interface.
  • Dedicated interface.
  • SVI.
  • VRF riêng.

Một mô hình tốt là sử dụng một VRF riêng cho keepalive.

Ví dụ:

vlan 23
  name VPC-KEEPALIVE

Tạo VRF:

vrf context KEEPALIVE

Trên Nexus A:

interface vlan 23
  vrf member KEEPALIVE
  ip address 192.168.100.1/24
  no shutdown

Trên Nexus B:

interface vlan 23
  vrf member KEEPALIVE
  ip address 192.168.100.2/24
  no shutdown

Sau đó cấu hình port kết nối keepalive.

Ví dụ Nexus A:

interface Ethernet1/32
  switchport
  switchport mode access
  switchport access vlan 23

Nexus B cấu hình tương tự.

Kiểm tra:

ping 192.168.100.2 vrf KEEPALIVE

và trên Nexus B:

ping 192.168.100.1 vrf KEEPALIVE

11. Cấu hình Peer Keepalive

Trên Nexus A:

vpc domain 10
  peer-keepalive destination 192.168.100.2 source 192.168.100.1 vrf KEEPALIVE

Trên Nexus B:

vpc domain 10
  peer-keepalive destination 192.168.100.1 source 192.168.100.2 vrf KEEPALIVE

Kiểm tra:

show vpc peer-keepalive

Trạng thái mong muốn:

peer is alive

12. Bước 4: Cấu hình vPC Peer Link

Peer Link là đường kết nối rất quan trọng giữa hai switch vPC.

Nên sử dụng ít nhất hai physical link và gom thành EtherChannel.

Ví dụ:

Nexus A
Eth1/47
Eth1/48
    |
    | LACP
    |
Port-channel 10
    ||
Port-channel 10
    |
    | LACP
    |
Eth1/47
Eth1/48
Nexus B

Trên Nexus A:

interface Ethernet1/47-48
  description VPC-PEER-LINK
  channel-group 10 mode active

Sau đó:

interface port-channel 10
  description VPC-PEER-LINK
  switchport
  switchport mode trunk
  vpc peer-link
  spanning-tree port type network

Trên Nexus B thực hiện tương tự:

interface Ethernet1/47-48
  description VPC-PEER-LINK
  channel-group 10 mode active

và:

interface port-channel 10
  description VPC-PEER-LINK
  switchport
  switchport mode trunk
  vpc peer-link
  spanning-tree port type network

Kiểm tra:

show vpc

Mục tiêu:

Peer status                     : peer adjacency formed ok
vPC peer-link status            : up
Configuration consistency       : success

13. Bước 5: Cấu hình vPC xuống Server

Giả sử server có:

NIC1 → Nexus A Ethernet1/1
NIC2 → Nexus B Ethernet1/1

Trên Nexus A:

interface Ethernet1/1
  description SERVER-01-NIC1
  switchport
  switchport mode trunk
  channel-group 20 mode active

Sau đó:

interface port-channel 20
  description SERVER-01
  switchport
  switchport mode trunk
  vpc 20

Trên Nexus B:

interface Ethernet1/1
  description SERVER-01-NIC2
  switchport
  switchport mode trunk
  channel-group 20 mode active

và:

interface port-channel 20
  description SERVER-01
  switchport
  switchport mode trunk
  vpc 20

Kiểm tra:

show vpc

Kết quả mong muốn:

vPC status
id    Port       Status
20    Po20       up

14. Cấu hình LACP trên Server

Nếu server Linux sử dụng bonding:

NIC1 ───── Nexus A
           |
          vPC
           |
NIC2 ───── Nexus B

Có thể sử dụng:

802.3ad / LACP

Ví dụ Netplan:

network:
  version: 2
  renderer: networkd

  bonds:
    bond0:
      interfaces:
        - eno1
        - eno2

      parameters:
        mode: 802.3ad
        lacp-rate: fast
        transmit-hash-policy: layer3+4

      mtu: 9000

Các NIC thành viên cũng cần đảm bảo MTU phù hợp.

Sau khi cấu hình:

netplan apply

Kiểm tra:

ip link show bond0

và:

cat /proc/net/bonding/bond0

Kiểm tra:

Bonding Mode: IEEE 802.3ad
MII Status: up

15. Cấu hình Jumbo Frame MTU 9000 trên Cisco Nexus

Trên Cisco Nexus, việc hỗ trợ frame lớn không đơn giản chỉ là đặt MTU trên một interface.

Một cách cấu hình phổ biến trên Nexus là sử dụng network-qos.

Ví dụ:

configure terminal

policy-map type network-qos JUMBO
  class type network-qos class-default
    mtu 9216

system qos
  service-policy type network-qos JUMBO

MTU 9216 trên switch tạo ra headroom lớn hơn mức MTU 9000 mà server thường sử dụng.

Cần lưu ý rằng MTU 9216 trên switch không có nghĩa server bắt buộc phải đặt MTU 9216.

Ví dụ hoàn toàn có thể sử dụng:

Switch      9216
Server      9000

Mục tiêu là switch có khả năng chuyển tiếp frame kích thước lớn hơn MTU mà endpoint sử dụng.

16. MTU nên đặt bao nhiêu: 9000 hay 9216?

Đây là câu hỏi thường gặp khi cấu hình Cisco Nexus.

Có thể hiểu:

Server / Linux:
MTU 9000

Cisco Nexus:
MTU capability 9216

Cách này khá phổ biến.

Không nên hiểu rằng tất cả thiết bị trong hệ thống bắt buộc phải có cùng một con số.

Điều quan trọng là:

đường truyền phải hỗ trợ frame cần thiết mà không bị drop hoặc fragment sai cách.

17. Kiểm tra MTU trên Cisco Nexus

Có thể kiểm tra cấu hình:

show running-config | section network-qos

Kiểm tra:

show policy-map system type network-qos

Kiểm tra interface:

show interface Ethernet1/1

Kiểm tra port-channel:

show interface port-channel 20

Kiểm tra vPC:

show vpc

18. Kiểm tra MTU trên Linux

Trên server:

ip link show

Ví dụ:

bond0: <BROADCAST,MULTICAST,MASTER,UP,LOWER_UP>
mtu 9000

Kiểm tra từng NIC:

ip link show eno1
ip link show eno2

Kiểm tra VLAN:

ip link show bond0.100

Nếu sử dụng bridge:

ip link show br0

Cần kiểm tra toàn bộ chain:

NIC
 ↓
Bond
 ↓
VLAN
 ↓
Bridge
 ↓
VM

Không nên chỉ kiểm tra bond0.

19. Kiểm tra Jumbo Frame bằng ping

Đây là bước rất quan trọng.

Giả sử hai server:

Server A: 10.10.10.11
Server B: 10.10.10.12

Thử ping với payload lớn:

ping -M do -s 8972 10.10.10.12

Với IPv4:

8972 payload
+
28 bytes IP/ICMP header
=
9000 bytes

Nếu thành công:

64 bytes from ...

thì có thể xác nhận đường truyền đang hỗ trợ kích thước tương ứng.

Nếu gặp:

Message too long

hoặc:

Frag needed

cần kiểm tra lại MTU.

Có thể giảm dần:

ping -M do -s 8000 10.10.10.12

sau đó:

ping -M do -s 8500 10.10.10.12

và cuối cùng:

ping -M do -s 8972 10.10.10.12

20. Kiểm tra MTU end-to-end

Đây là điểm quan trọng nhất khi triển khai Jumbo Frame.

Không chỉ kiểm tra:

mà cần kiểm tra đúng đường truyền thực tế:

     ↓
vPC
     ↓
Leaf
     ↓
Spine
     ↓
Leaf
     ↓
Ceph Node

Ví dụ với Ceph:

ping -M do -s 8972 <ceph-node-ip>

Nếu sử dụng OpenStack:

 ↓
OVS / OVN
 ↓
VLAN / VXLAN
 ↓
Network
 ↓
Ceph

cần tính cả overhead của overlay.

21. MTU trong OpenStack

Đây là phần rất quan trọng nếu hệ thống sử dụng OpenStack + Ceph.

OpenStack Networking sử dụng MTU của physical network để tính MTU cho virtual network. Với mạng VXLAN, MTU của VM phải nhỏ hơn MTU của physical network để dành chỗ cho encapsulation overhead. Ví dụ tài liệu OpenStack đưa ra trường hợp physical MTU 9000 và VXLAN IPv4 thì MTU của instance có thể là khoảng 8950.

Có thể hình dung:

Physical Network
MTU 9000
     |
     ↓
VXLAN overhead
     |
     ↓
VM Network
MTU khoảng 8950

Do đó không nên đặt MTU 9000 cho VM chỉ vì physical network đang sử dụng MTU 9000 nếu VM traffic đi qua VXLAN.

22. Cấu hình MTU cho OpenStack

Trong mô hình sử dụng underlying physical network MTU 9000, OpenStack có các tham số như:

[DEFAULT]
global_physnet_mtu = 9000

và:

[ml2]
path_mtu = 9000

Các giá trị này phải phù hợp với thiết kế network thực tế.

Không nên thay đổi MTU trên OpenStack một cách độc lập mà không kiểm tra:

Switch
 ↓
NIC
 ↓
Bond
 ↓
Bridge / OVS / OVN
 ↓
VLAN / VXLAN
 ↓
VM

23. Jumbo Frame trong mạng Ceph

Ceph là một trong những workload rất phù hợp để cân nhắc Jumbo Frame.

Ví dụ:

OpenStack Compute
       |
       | RBD I/O
       |
       v
+------------------+
|   Ceph Network   |
|    MTU 9000      |
+------------------+
       |
  +----+----+
  |         |
Ceph01    Ceph02
  |         |
 NVMe      NVMe

Ceph có nhiều loại traffic:

  • Client I/O.
  • OSD replication.
  • Recovery.
  • Backfill.
  • Scrubbing.
  • Heartbeat.
  • Cluster communication.

Nếu network có bandwidth cao, MTU lớn có thể giúp giảm overhead packet processing.

Tuy nhiên, MTU 9000 không thể bù cho một thiết kế network yếu.

Ví dụ:

NVMe Gen5
+
100GbE

có ý nghĩa hơn nhiều so với:

NVMe Gen5
+
1GbE

24. Có nên tách Ceph Network và Client Network?

Trong hệ thống lớn, có thể cân nhắc tách traffic:

Network 1
Ceph Public / Client

Network 2
Ceph Cluster / Replication

Ví dụ:

          Ceph Node
        /           \
       /             \
Client Network    Cluster Network
   100GbE             100GbE
       |                 |
     Client          OSD Replication

Mục tiêu là tránh recovery hoặc replication chiếm hết bandwidth dành cho client.

Tuy nhiên, việc tách network hay sử dụng chung network cần dựa trên:

  • Bandwidth.
  • Number of OSD.
  • Workload.
  • Switch capacity.
  • Traffic pattern.

Không phải mọi cluster đều cần hai physical network độc lập.

25. vPC và Ceph: mô hình tham khảo

Một kiến trúc phù hợp cho Ceph Cluster:

                       Spine
                      /     \
                     /       \
              +-----+---------+-----+
              |                     |
          Nexus A               Nexus B
          Primary               Secondary
              |                     |
              +---------+-----------+
                        |
                       vPC
                        |
          +-------------+-------------+
          |             |             |
        Ceph01        Ceph02        Ceph03
          |             |             |
        NVMe          NVMe          NVMe

Mỗi Ceph Node có:

NIC1 → Nexus A
NIC2 → Nexus B

và sử dụng:

LACP 802.3ad

Nếu sử dụng Jumbo Frame:

Ceph NIC     MTU 9000
Bond         MTU 9000
VLAN         MTU 9000
Switch       ≥ 9000

Tất cả các thiết bị trên đường truyền phải được kiểm tra.

26. Các trường hợp lỗi vPC thường gặp

Trường hợp 1: vPC Peer Link bị lỗi

Khi Peer Link bị mất nhưng Peer Keepalive vẫn hoạt động, hai switch vẫn biết được trạng thái của nhau.

Đây là lý do không nên bỏ qua Peer Keepalive.

Kiểm tra:

show vpc
show vpc peer-keepalive

Trường hợp 2: Peer Keepalive bị lỗi

Nếu chỉ Keepalive bị lỗi nhưng Peer Link vẫn hoạt động, vPC có thể vẫn tiếp tục hoạt động.

Tuy nhiên cần xử lý lỗi vì mất Keepalive làm giảm khả năng phát hiện tình trạng peer.

Trường hợp 3: Một switch vPC bị mất

Nếu Nexus A bị mất:

Nexus A ❌
Nexus B ✓

các kết nối còn hoạt động qua Nexus B sẽ tiếp tục phục vụ traffic nếu thiết kế và thiết bị đầu cuối hỗ trợ redundancy đúng cách.

Đây chính là một trong những mục tiêu chính của vPC.

Trường hợp 4: Peer Link và Keepalive cùng mất

Đây là tình huống đặc biệt nguy hiểm.

Hai switch có thể không còn khả năng xác định chính xác trạng thái của nhau.

Nếu thiết kế không có cơ chế bảo vệ phù hợp, có thể xảy ra:

  • Split-brain.
  • Loop.
  • MAC flapping.
  • Broadcast storm.
  • Network instability.

Do đó Peer Link và Peer Keepalive cần được thiết kế với failure scenario rõ ràng.

27. Những lỗi thường gặp khi cấu hình MTU 9000

Chỉ cấu hình MTU trên server

Sai:

Server = 9000
Switch = 1500

Chỉ cấu hình trên switch

Cũng không đủ:

Server = 1500
Switch = 9000

Bond có MTU khác NIC

Ví dụ:

eno1 = 9000
eno2 = 9000
bond0 = 1500

có thể khiến hệ thống không đạt được mục tiêu Jumbo Frame.

VLAN có MTU thấp hơn Bond

Ví dụ:

bond0 = 9000
bond0.100 = 1500

traffic trên VLAN vẫn bị giới hạn bởi VLAN interface.

Bridge có MTU thấp

Nếu sử dụng:

NIC
 ↓
Bond
 ↓
Bridge
 ↓
VM

bridge cũng cần được kiểm tra.

VXLAN không tính overhead

Nếu physical MTU là 9000 thì không có nghĩa VM VXLAN cũng có thể dùng MTU 9000.

OpenStack phải dành không gian cho encapsulation overhead.

28. Không nên bật MTU 9000 cho toàn bộ mạng một cách máy móc

Đây là một lưu ý quan trọng khi thiết kế Data Center.

Không phải network nào cũng cần Jumbo Frame.

Có thể phân chia:

Network MTU đề xuất
Internet/Public 1500
Management 1500 hoặc 9000
Storage 9000
Ceph 9000
Internal API 9000
Tenant Network Tùy overlay
VXLAN Underlay 9000
VXLAN VM Network MTU sau khi trừ overhead
Floating IP Thường 1500

OpenStack documentation cũng khuyến nghị thận trọng với External/Provisioning/Floating IP interface vì router và các Layer-3 boundary có thể không forward jumbo frame.

29. Checklist triển khai vPC + Jumbo Frame

vPC

  • Hai switch cùng vPC domain.
  • feature vpc.
  • feature lacp.
  • Peer Keepalive hoạt động.
  • Peer Link hoạt động.
  • Configuration consistency = success.
  • vPC status = up.
  • LACP hoạt động.
  • VLAN được allow đúng.
  • Kiểm tra STP.

Jumbo Frame

  • NIC hỗ trợ Jumbo Frame.
  • NIC MTU 9000.
  • Bond MTU 9000.
  • VLAN MTU phù hợp.
  • Bridge MTU phù hợp.
  • Switch hỗ trợ frame lớn.
  • Port-channel hỗ trợ frame lớn.
  • Spine/Leaf hỗ trợ frame lớn.
  • Router/firewall trên đường đi được kiểm tra.
  • Ping với DF bit thành công.

OpenStack

  • global_physnet_mtu phù hợp.
  • path_mtu phù hợp.
  • Provider Network MTU đúng.
  • VXLAN/Geneve overhead được tính.
  • VM MTU đúng.
  • Compute Node MTU đúng.
  • OVS/OVN MTU đúng.

Ceph

  • Ceph public network đúng.
  • Ceph cluster network đúng nếu sử dụng.
  • MTU đồng nhất.
  • Không packet loss.
  • Network latency thấp.
  • Recovery không chiếm hết bandwidth.
  • Kiểm tra throughput.
  • Kiểm tra IOPS thực tế.

30. Kiểm tra hiệu năng sau khi cấu hình

Không nên chỉ kiểm tra bằng ping.

Có thể sử dụng iperf3.

Trên server:

iperf3 -s

Client:

iperf3 -c 10.10.10.12

Test nhiều stream:

iperf3 -c 10.10.10.12 -P 8

Để đánh giá network thực tế, nên kiểm tra:

Bandwidth
Latency
Packet Loss
Jitter
CPU Usage
NIC Utilization

Nếu là Ceph, tiếp tục kiểm tra:

Ceph IOPS
Ceph Throughput
OSD Latency
Recovery Performance
Network Utilization

31. MTU 9000 có giúp Ceph tăng IOPS không?

Không thể khẳng định trực tiếp.

MTU lớn chủ yếu giúp giảm overhead truyền packet và có thể cải thiện hiệu quả sử dụng network.

IOPS của Ceph còn phụ thuộc rất lớn vào:

  • NVMe.
  • CPU.
  • RAM.
  • OSD configuration.
  • Replication.
  • PG.
  • Client workload.
  • Network bandwidth.
  • Network latency.
  • Recovery.
  • RBD.
  • QEMU/KVM.

Ví dụ một hệ thống:

6 × NVMe
100GbE
Ceph

có thể có IOPS rất cao.

Nhưng nếu:

6 × NVMe
10GbE
Ceph

thì network có thể trở thành bottleneck trước khi NVMe đạt tới giới hạn.

32. vPC + Jumbo Frame có phù hợp cho OpenStack + Ceph không?

Có, đây là một mô hình rất phù hợp cho Data Center Cloud, nếu được thiết kế đúng.

Ví dụ:

                    Spine
                  /       \
                 /         \
          Nexus A           Nexus B
             \               /
              \     vPC     /
               \           /
                +---------+
                     |
             +-------+-------+
             |               |
          Compute          Ceph
             |               |
          OpenStack         RBD
             |               |
             +-------+-------+
                     |
                  NVMe

Mô hình này có thể tận dụng:

  • vPC để tăng redundancy.
  • LACP để sử dụng nhiều đường truyền.
  • Jumbo Frame để giảm network overhead.
  • Ceph để cung cấp distributed storage.
  • OpenStack để cung cấp Cloud Infrastructure.

Kết luận

vPC và Jumbo Frame MTU 9000 là hai thành phần quan trọng trong nhiều kiến trúc Data Center hiện đại.

vPC giải quyết bài toán redundancy và sử dụng đồng thời nhiều đường uplink, trong khi Jumbo Frame giúp tối ưu hiệu quả truyền dữ liệu trên những mạng có workload lớn.

Đặc biệt với mô hình:

OpenStack
   +
Ceph
   +
NVMe
   +
25/100GbE

việc thiết kế network đúng có ảnh hưởng rất lớn đến hiệu năng tổng thể.

Tuy nhiên, MTU 9000 không phải là cấu hình chỉ thực hiện trên switch. Cần đảm bảo toàn bộ đường truyền hỗ trợ kích thước frame tương ứng:

NIC
 ↓
Bond
 ↓
VLAN
 ↓
Bridge / OVS / OVN
 ↓
Switch
 ↓
vPC
 ↓
Spine
 ↓
Switch
 ↓
Ceph / Server

Nếu sử dụng OpenStack với VXLAN hoặc các overlay network khác, cần đặc biệt chú ý overhead encapsulation và không nên đặt MTU của VM bằng MTU physical một cách máy móc. OpenStack có cơ chế tính MTU cho virtual network dựa trên underlying network và cần dành không gian cho overlay.

Với hệ thống Cloud/VPS sử dụng OpenStack + Ceph + NVMe, nên kiểm tra cả ba lớp:

Network → Storage → Virtualization

thay vì chỉ benchmark riêng từng thành phần. Khi network được thiết kế đúng, vPC kết hợp Jumbo Frame có thể trở thành nền tảng tốt cho một hạ tầng Cloud có yêu cầu cao về HA, bandwidth, latency và khả năng mở rộng.

Đọc thêm tài liệu tại đây https://www.cisco.com/c/dam/en/us/solutions/collateral/data-center-virtualization/application-centric-infrastructure/aci-guide-vpc.pdf