Read-only archive. Login and posting are unavailable.
View Full Version : [Hỏi ngu][Hyper-V] High Ping Latency and VMQ feature
Cty em muốn nâng cấp toàn bộ hệ thống mạng với chi phí hợp lý nhất. Mất vài ngày đâm chém gió bão, cuối cùng cũng quyết định chọn giải pháp tậu 1 con server IBM và triển khai hệ thống mạng (mới) trên nền tảng ảo hóa Hyper-V. Cụ thể:
A. Hyper-V host: IBM x3100M4
CPU: 1 x Intel® Xeon® Processor E3-1220 v2
HDD: 2 x 500GB / Raid 1
NIC: 2 x Intel® 82574L Gigabit Ethernet Controller
OS: Windows 2008R2 Ent SP1
B. Chỉ cài đúng 1 role duy nhất trên con server này là Hyper-V. Riêng máy ảo (Hyper-V Host) hiện tại chỉ có đúng 1 con (chạy thử nghiệm).
C. Virtual Network type: External
D. Dựa trên những tài liệu tham khảo đc trên 4rum Technet, em đã tinh chỉnh, xử lý những fần sau trên con Hyper-V Host:
[1] Windows Updated w/ all hotfixes/patches
[2] Disabled C1E, C States (in BIOS)
[3] Disabled the settings of the Physical NIC adapters
----Large Send Offload V2 (IPv4)
----Large Send Offload V2 (IPv6)
----TCP/UDP Checksum Offload (IPv4)
----TCP/UDP Checksum Offload (IPv6)
[4] Update Physical NIC w/ the last driver (Intel Network Connections Software Version 18.5)
E. Vấn đề đang gặp fải:
[1] High Ping Latency: thời gian PING (độ trễ) từ Hyper-V Host (hoặc từ các máy vật lý khác trong LAN) đến (các) Hyper-V Guest khá lâu (>10ms) :sosad:
http://i.imgur.com/Pi8DA6F.png
[2] Nhiều tài liệu khuyên nên tắt chức năng Virtual Machine Queues trong NIC's properties, nhưng em tìm lòi mắt cũng ko thấy mục này. Có fải NIC của con server em đang xài (Intel 82574L) ko hỗ trợ tính năng này?
http://i.imgur.com/4gm5zhG.png
F. Những topic đã tham khảo
[1] Hyper-v and very slow network
http://social.technet.microsoft.com/Forums/windowsserver/en-US/999f218d-e8f9-42de-ab82-3d22bd5b67e9/hyperv-and-very-slow-network
[2] Virtual Machine and Host Network adapter performance tuning / settings
http://social.technet.microsoft.com/Forums/windowsserver/en-US/2b50b0cd-96a9-4e0c-8961-5f78d80c4341/virtual-machine-and-host-network-adapter-performance-tuning-settings
[3] HyperV virtual machine latency/lag issues
http://social.technet.microsoft.com/Forums/windowsserver/en-US/77b18c62-bc8c-4b05-8ec3-d5426326503d/hyperv-virtual-machine-latencylag-issues?prof=required
Mong đc các cao nhân về ảo hóa (đặt biệt là Hyper-V) đã thông kinh mạch giúp :byebye:
prescolt
29-08-2013, 19:26
Cty em muốn nâng cấp toàn bộ hệ thống mạng với chi phí hợp lý nhất. Mất vài ngày đâm chém gió bão, cuối cùng cũng quyết định chọn giải pháp tậu 1 con server IBM và triển khai hệ thống mạng (mới) trên nền tảng ảo hóa Hyper-V. Cụ thể:
A. Hyper-V host: IBM x3100M4
B. Chỉ cài đúng 1 role duy nhất trên con server này là Hyper-V. Riêng máy ảo (Hyper-V Host) hiện tại chỉ có đúng 1 con (chạy thử nghiệm).
C. Virtual Network type: External
D. Dựa trên những tài liệu tham khảo đc trên 4rum Technet, em đã tinh chỉnh, xử lý những fần sau trên con Hyper-V Host:
[1] Windows Updated w/ all hotfixes/patches
[2] Disabled C1E, C States (in BIOS)
[3] Modified the settings of the Physical NIC adapters
----Large Send Offload V2 (IPv4)
----Large Send Offload V2 (IPv6)
----TCP/UDP Checksum Offload (IPv4)
----TCP/UDP Checksum Offload (IPv6)
[4] Update Physical NIC w/ the last driver (Intel Network Connections Software Version 18.5)
E. Vấn đề đang gặp fải:
[1] High Ping Latency: thời gian PING (độ trễ) từ Hyper-V Host (hoặc từ các máy vật lý khác trong LAN) đến (các) Hyper-V Guest khá lâu (>10ms) :sosad:
http://i.imgur.com/Pi8DA6F.png
[2] Nhiều tài liệu khuyên nên tắt chức năng Virtual Machine Queues trong NIC's properties, nhưng em tìm lòi mắt cũng ko thấy mục này. Có fải NIC của con server em đang xài (Intel 82574L) ko hỗ trợ tính năng này?
http://i.imgur.com/4gm5zhG.png
F. Những topic đã tham khảo
Mong đc các cao nhân về ảo hóa (đặt biệt là Hyper-V) đã thông kinh mạch giúp :byebye:
Cho mình xem thông số của cái này
"Large Send Offload V2(Ipv4)" --Disable
"Large Send Offload V2(Ipv6)" --Disable
"Tcp Offload/option : disable tất cả luôn giúp mình trên physcal interface
Trên interface physical , enable tren virtual interface
Cho mình xem thông số của cái này
"Large Send Offload V2(Ipv4)"
"Large Send Offload V2(Ipv6)"
"Tcp Offload/option : disable tất cả luôn giúp mình trên physcal interface
Trên interface physical , enable tren virtual interface
Mình disabled cả 4 mục trên physical NIC rồi, nhg vẫn rứa :chaymau:
----Large Send Offload V2 (IPv4)
----Large Send Offload V2 (IPv6)
----TCP/UDP Checksum Offload (IPv4)
----TCP/UDP Checksum Offload (IPv6)
prescolt
29-08-2013, 19:59
Mình disabled cả 4 mục trên physical NIC rồi, nhg vẫn rứa :chaymau:
Dây là ping của mình tuy nhiên là may ảo Linux
Trong guestOS turn on TSO
[root@GS_PNTC2_Login02 ~]# ping s2
PING S2 (172.16.6.12) 56(84) bytes of data.
64 bytes from S2 (172.16.6.12): icmp_seq=1 ttl=64 time=0.904 ms
64 bytes from S2 (172.16.6.12): icmp_seq=2 ttl=64 time=0.171 ms
64 bytes from S2 (172.16.6.12): icmp_seq=3 ttl=64 time=0.173 ms
--- S2 ping statistics ---
13 packets transmitted, 13 received, 0% packet loss, time 12273ms
rtt min/avg/max/mdev = 0.123/0.220/0.904/0.198 ms
[root@GS_PNTC2_Login02 ~]# ssh s1
Last login: Thu Aug 29 16:03:21 2013 from 113.107.188.144
==========================================================
CentOS release 5.6 (Final)
==========================================================
Filesystem Size Used Avail Use% Mounted on
/dev/sda3 287G 131G 142G 48% /
/dev/sda1 99M 12M 82M 13% /boot
tmpfs 7.9G 0 7.9G 0% /dev/shm
[root@fanren2_vng_S001_103.23.157.71 ~]# ethtool -k eth0
Offload parameters for eth0:
Cannot get device udp large send offload settings: Operation not supported
rx-checksumming: on
tx-checksumming: on
scatter-gather: on
tcp segmentation offload: on
udp fragmentation offload: off
generic segmentation offload: off
generic-receive-offload: off
f22_raptor
29-08-2013, 21:51
Cty em muốn nâng cấp toàn bộ hệ thống mạng với chi phí hợp lý nhất. Mất vài ngày đâm chém gió bão, cuối cùng cũng quyết định chọn giải pháp tậu 1 con server IBM và triển khai hệ thống mạng (mới) trên nền tảng ảo hóa Hyper-V. Cụ thể:
A. Hyper-V host: IBM x3100M4
B. Chỉ cài đúng 1 role duy nhất trên con server này là Hyper-V. Riêng máy ảo (Hyper-V Host) hiện tại chỉ có đúng 1 con (chạy thử nghiệm).
C. Virtual Network type: External
D. Dựa trên những tài liệu tham khảo đc trên 4rum Technet, em đã tinh chỉnh, xử lý những fần sau trên con Hyper-V Host:
[1] Windows Updated w/ all hotfixes/patches
[2] Disabled C1E, C States (in BIOS)
[3] Disabled the settings of the Physical NIC adapters
----Large Send Offload V2 (IPv4)
----Large Send Offload V2 (IPv6)
----TCP/UDP Checksum Offload (IPv4)
----TCP/UDP Checksum Offload (IPv6)
[4] Update Physical NIC w/ the last driver (Intel Network Connections Software Version 18.5)
E. Vấn đề đang gặp fải:
[1] High Ping Latency: thời gian PING (độ trễ) từ Hyper-V Host (hoặc từ các máy vật lý khác trong LAN) đến (các) Hyper-V Guest khá lâu (>10ms) :sosad:
http://i.imgur.com/Pi8DA6F.png
[2] Nhiều tài liệu khuyên nên tắt chức năng Virtual Machine Queues trong NIC's properties, nhưng em tìm lòi mắt cũng ko thấy mục này. Có fải NIC của con server em đang xài (Intel 82574L) ko hỗ trợ tính năng này?
http://i.imgur.com/4gm5zhG.png
F. Những topic đã tham khảo
Mong đc các cao nhân về ảo hóa (đặt biệt là Hyper-V) đã thông kinh mạch giúp :byebye:
Bác chạy bao nhiêu VMs cho 1 card mạng?
Thử 1 VM 1 card mạng, cho 2 máy cùng 1 switch rồi ping xem sao? Kiểm tra cái switch của bác nữa? Có chắc là switch ổn ko?
Bên mình dùng 3650M3 card mạng Broadcom, 3650M4 card mạng Intel thấy bình thường, ping ko có bị trễ như thế. 1 host cũng chạy 3 VMs, 1 card mạng 1 VM cũng như 1 card mạng cho nhiều VMs
Bác check lại cái switch xem sao?
Quên nữa, bác kiểm tra luôn là trong LAN có máy nào gửi nhiều request đến cái host hyper-V làm nó bị nghẽn như thế ko?
Mới nghĩ ra thế thôi ^^ vì trước nay cài hyper-V vào là chạy phà phà, ping cũng thế ^^
phungtien1
29-08-2013, 22:45
post ké lên 20 post nha bác chủ
Bác chạy bao nhiêu VMs cho 1 card mạng?
Thử 1 VM 1 card mạng, cho 2 máy cùng 1 switch rồi ping xem sao? Kiểm tra cái switch của bác nữa? Có chắc là switch ổn ko?
Bên mình dùng 3650M3 card mạng Broadcom, 3650M4 card mạng Intel thấy bình thường, ping ko có bị trễ như thế. 1 host cũng chạy 3 VMs, 1 card mạng 1 VM cũng như 1 card mạng cho nhiều VMs
Bác check lại cái switch xem sao?
Quên nữa, bác kiểm tra luôn là trong LAN có máy nào gửi nhiều request đến cái host hyper-V làm nó bị nghẽn như thế ko?
Mới nghĩ ra thế thôi ^^ vì trước nay cài hyper-V vào là chạy phà phà, ping cũng thế ^^
1. Hiện tại chỉ mới có 1 VM
2. Switch D-Link Gigabit
3. HV Host gắn 2 NIC, 1 NIC kết nối LAN (NetID 1.x), 1 NIC ra ngoài internet (NetID 2.x).
4. Cả 2 NIC của HV Host đều triển khai Virtual Network type là External
5. VM cũng gắn 2 vNIC, kết nối vào 2 External Network.
6. Đứng từ HV Host (hoặc từ 1 máy vật lý bất kỳ ở cả 2 NetID (1.x và 2.x), ping tới VM đều cho kết quả > 10ms. Trường hợp ngược lại, đứng từ VM ping ra ngoài 2 NetID cũng cho kết quả như rứa, éo hiểu :surrender:
7. Đã dựng thêm 1 VM khác, test tương tự, và cũng bị tương tự :sweat:
Dây là ping của mình tuy nhiên là may ảo Linux
Trong guestOS turn on TSO
[root@GS_PNTC2_Login02 ~]# ping s2
PING S2 (172.16.6.12) 56(84) bytes of data.
64 bytes from S2 (172.16.6.12): icmp_seq=1 ttl=64 time=0.904 ms
64 bytes from S2 (172.16.6.12): icmp_seq=2 ttl=64 time=0.171 ms
64 bytes from S2 (172.16.6.12): icmp_seq=3 ttl=64 time=0.173 ms
--- S2 ping statistics ---
13 packets transmitted, 13 received, 0% packet loss, time 12273ms
Nhìn kết quả của bác mà ứa nước miếng :surrender:
Tức lộn cmn ruột :sosad:
hailuaanchoi
30-08-2013, 08:52
bác cho mình thông tin về Physical Switch bác đang xài nhé.
Intel thì ko cần phải tắt offload làm gì
Mình đang xài Broadcom nhưng chỉ bị >10ms ở lần ping đầu thôi
bác cho mình thông tin về Physical Switch bác đang xài nhé.
Intel thì ko cần phải tắt offload làm gì
Mình đang xài Broadcom nhưng chỉ bị >10ms ở lần ping đầu thôi
1. D-Link DGS-1016D Gigabit Switch
http://www.dlink.com/us/en/business-solutions/switching/unmanaged-switches/rackmount/dgs-1016d-16-port-copper-gigabit-switch
2. Ko cần biết Physical NIC của hãng nào, cứ hễ triển khai Hyper-V thì fải tắt Large Send Offload và TCP/UDP Checksum Offload bác à. Trên Technet và những tài liệu liên quan đến triển khai HV đều khuyên như vậy
f22_raptor
30-08-2013, 10:11
1. D-Link DGS-1016D Gigabit Switch
2. Ko cần biết Physical NIC của hãng nào, cứ hễ triển khai Hyper-V thì fải tắt Large Send Offload và TCP/UDP Checksum Offload bác à. Trên Technet và những tài liệu liên quan đến triển khai HV đều khuyên như vậy
Cái vụ Large Send Offload và TCP/UDP Checksum Offload thì mình đâu có tắt đâu, vẫn xài như thường và ping bình thường < 1ms
Bác kiểm tra xem ở cái card mạng của con server chạy hyper-V có packet gì lạ gửi vào cái card mạng đó ko?
Việc nữa, thay thử dây mạng đi, cat5 sang cat6, cáp dỏm sang cáp xịn :stick:
Có nhiu cách thử hết đi :go:
Cái vụ Large Send Offload và TCP/UDP Checksum Offload thì mình đâu có tắt đâu, vẫn xài như thường và ping bình thường < 1ms
hic...vậy túm cái váy lại là vấn đề của e nó nằm ở đâu trời? :sosad:
f22_raptor
30-08-2013, 10:20
Lấy máy client cắm trực tiếp vào server chạy hyper-V, ping thử coi sao (ko qua switch nữa)
Lấy máy client cắm trực tiếp vào server chạy hyper-V, ping thử coi sao (ko qua switch nữa)
Đã thử. Trần Y Chang :canny:
f22_raptor
30-08-2013, 12:59
Đã thử. Trần Y Chang :canny:
Đã lấy máy client ping vào máy server (cắm dây mạng trực tiếp) mà vẫn còn bị vậy thì 1 là cáp mạng, 2 là card mạng
Còn lí do gì nữa? :surrender:
prescolt
30-08-2013, 13:01
Đã thử. Trần Y Chang :canny:
Ping vào máy Host hyper-V có latency cao không,ping từ guest vô, từ máy ngoài vô, kiểm tra host ko có vấn đề latency trước cái đã
TSO và các bộ offload liên quan thì bật hay không bật phục thuộc vào spec của chip đó, Hôm qua mình có dọc tài liệu mô ta thì con intel của you support
TSO
TX/RX offload checksum. Như vậy thì đây ko phải là root cause rồi
Thử update firmware cho card mạng đi bạn
Đã lấy máy client ping vào máy server (cắm dây mạng trực tiếp) mà vẫn còn bị vậy thì 1 là cáp mạng, 2 là card mạng
Còn lí do gì nữa? :surrender:
Hic...máy client ping vào server vật lý thì luôn luôn cho kết quả < 1ms, còn ping tới VM thì toàn >10ms
Cáp với card gì ở đây thím? :surrender:
Ping vào máy Host hyper-V có latency cao không,ping từ guest vô, từ máy ngoài vô, kiểm tra host ko có vấn đề latency trước cái đã
TSO và các bộ offload liên quan thì bật hay không bật phục thuộc vào spec của chip đó, Hôm qua mình có dọc tài liệu mô ta thì con intel của you support
TSO
TX/RX offload checksum. Như vậy thì đây ko phải là root cause rồi
Thử update firmware cho card mạng đi bạn
1. từ 1 máy client bất kỳ ping đến HV Host thì phà phà, luôn <1ms
nhưng cũng từ máy đó, ping đến VM thì >10ms mới đau chứ :sosad:
2. TSO là viết tắt của tính năng nào vậy thím?
3. TX/RX offload checksum: đã disable luôn, ko si-nhê
4. Update firmware cho NIC: hic...vụ này e chưa làm bao giờ, đã update driver phiên bản mới nhất rồi, còn firmware thì... nhát tay wá
f22_raptor
30-08-2013, 21:36
Hic...máy client ping vào server vật lý thì luôn luôn cho kết quả < 1ms, còn ping tới VM thì toàn >10ms
Cáp với card gì ở đây thím? :surrender:
Nếu đã xác định như thế, driver cũng đã update mới nhất thì còn cái firmware card nữa thôi? Chứ tính làm sao nữa? Update firmware cũng đâu có gì mà lo vậy, cứ theo hướng dẫn làm, đảm bảo khi đang up ko cúp điện là ok rùi, có ups là ok nhất
Tình trạng này đúng là mới gặp, vì mình dùng cả máy bàn chạy hyper-V của 2k8 main của giga và cả asus đến server cũng chưa thấy, cũng cài vào là chạy chứ ko cần phải config tùm lum như bác thế kia :chaymau:
prescolt
30-08-2013, 22:40
update firmware la viec binh thường thui mà, mình gặp rất nhiều issue với firmware, như đang chạy inferface tu nhien down, phải restart network service (ixgbe - intel), hoặc high rate RX drop..kernel panic cac kiểu nhất là mấy con be2net emulex
TCP segmentation offload (TSO) , Greneric là large segment offload (LSO), ap dụng cho TCP thì gọi là TSO
- Cái virtual machine queue có con server HP bênh dùng card mạng HP có cái đó, card intel của bạn ko có
hailuaanchoi
30-08-2013, 23:26
Hic...máy client ping vào server vật lý thì luôn luôn cho kết quả < 1ms, còn ping tới VM thì toàn >10ms
Cáp với card gì ở đây thím? :surrender:
Update windows 2008 lên bản mới nhất
update firmware la viec binh thường thui mà, mình gặp rất nhiều issue với firmware, như đang chạy inferface tu nhien down, phải restart network service (ixgbe - intel), hoặc high rate RX drop..kernel panic cac kiểu nhất là mấy con be2net emulex
TCP segmentation offload (TSO) , Greneric là large segment offload (LSO), ap dụng cho TCP thì gọi là TSO
- Cái virtual machine queue có con server HP bênh dùng card mạng HP có cái đó, card intel của bạn ko có
Cảm ơn bạn
Update windows 2008 lên bản mới nhất
W2008 có bản mới hơn Enterprise SP1 sao thím? :adore:
ledainam
03-09-2013, 23:36
bạn thử kiểm tra card mạng của máy ảo xem. Thông thường khi tạo card sẽ có dạng Emulated card. Bạn thử chuyển qua Synthetic netword adapter xem.
Check thêm ở đây nhé
http://technet.microsoft.com/en-us/library/cc917873.aspx
bạn thử kiểm tra card mạng của máy ảo xem. Thông thường khi tạo card sẽ có dạng Emulated card. Bạn thử chuyển qua Synthetic netword adapter xem.
Check thêm ở đây nhé
http://technet.microsoft.com/en-us/library/cc917873.aspx
Cái "Synthetic netword adapter" chỉ có giá trị khi cài Virtual Machine Manager thím ợ :surrender:
vBulletin® v3.8.0, Copyright ©2000-2026, Jelsoft Enterprises Ltd.