• 全部
  • 经验案例
  • 典型配置
  • 技术公告
  • FAQ
  • 漏洞说明
  • 全部
  • 全部
  • 大数据引擎
  • 知了引擎
产品线
搜索
取消
案例类型
发布者
是否解决
是否官方
时间
搜索引擎
匹配模式
高级搜索

SCP速率问题

3天前提问
  • 0关注
  • 0收藏,82浏览
粉丝:0人 关注:0人

问题描述:

同一个交换机下服务器SCP传文件能达到100M,跨交换机传文件只有10M左右,交换机多台级联,交换机10G互联,接入是1G互联,请问速率慢回是什么问题,怎么排查

3 个回答
粉丝:13人 关注:1人

SCP跨交换机传输速度从100MB/s骤降至10MB/s,这个现象说明瓶颈很可能出现在网络路径上,而非服务器硬盘或加密本身。

可以按照从物理层到应用层的顺序来排查:


 第一站:检查物理层与协商状态

  • 速率与双工模式不匹配:端口协商失败可能会降速至10M半双工。用 display interface brief 确认两端端口速率和双工模式是否一致。若链路中混用千兆和百兆设备,百兆端口会形成瓶颈。

  • 光模块与兼容性问题:如果级联使用了光模块,务必确认两端光模块的速率、波长、单模/多模类型一致。部分万兆端口插入千兆模块时,可能需要手动强制速率。

  • 高速打低速丢包:数据从千兆服务器发出,经过10G核心,再降到1G接入交换机时,容易因瞬时拥塞导致交换机丢包。此时建议在1G接入交换机的上联端口开启flow-control流控。


 第二站:检查路径链路利用率与网络质量

  • 端口拥塞与丢包:跨交换机传输时,中间任何一个级联口跑满都可能是瓶颈。请检查 display interface 的输出,重点看output dropsCRC错误计数。

  • RTT(往返时间)延迟增加:跨交换机增加了网络跳数,导致RTT上升。SCP这类协议效率受RTT影响很大,可以分别在两端服务器ping对端网关和目的服务器,对比延迟。

  • MTU(最大传输单元)不匹配导致分片:路径中某个设备的MTU较小,导致大包被分片或丢弃,这会严重拖慢传输效率。可以在服务器上尝试将MTU临时设为1400测试。


 第三站:检查交换机自身状态

  • CPU/内存利用率过高:登录核心交换机执行 display cpu-usage 和 display memory,排查是否存在环路或ARP攻击等异常。

  • 生成树状态阻塞:跨交换机路径若因STP计算导致冗余链路被阻塞,流量可能走了更慢的路径。用 display stp brief 确认相关端口角色是否为DESIROOT,且状态为FORWARDING

  • ACL与QoS策略:检查是否配置了针对特定IP(如服务器网段)或特定应用(如SCP使用的TCP 22端口)的限速策略。

  • 风暴控制:某些端口可能配置了storm-constrain,当广播或组播流量超过阈值就会丢包。


 第四站:检查服务器主机端

  • TCP窗口优化:跨交换机网络路径更长,TCP窗口大小若还是默认的64KB,可能不够用了。可以在服务器上启用tcp_window_scaling并检查rmem_maxwmem_max的值是否设置得足够大。

  • 防火墙/iptables规则:检查服务器防火墙是否对SSH/SCP流量进行了深度检测或连接跟踪,这会消耗CPU导致延迟。

  • 磁盘I/O瓶颈:检查服务器磁盘读写性能,确保目标磁盘的写入速度不是瓶颈。


 第五站:检查中间安全设备

请再次确认网络中是否串联了防火墙、负载均衡器或WAF等安全设备,某些安全设备可能是问题的根源。若存在,建议尝试将服务器直接绕过该设备互联测试。


 终极方案:对比测试定位瓶颈

  • 分段测速:使用iperf3工具测试TCP带宽。例如,在同交换机两台服务器间测试,如果速度不达标,说明问题在服务器或本地交换机;如果速度达标,则再测试跨交换机的两个iperf3服务端。

  • 更换协议测试:用wgetcurl测试HTTP下载速度。如果HTTP速度比SCP快得多,说明问题主要在SCP/SSH协议本身或服务器加密性能。

  • 直连测试:将两台服务器用一根网线直连,进行SCP传输测试-。如果直连速度正常,问题可以100%锁定在网络设备上。

暂无评论

粉丝:4人 关注:9人

排查步骤及对应命令:
1. 物理链路排查
执行display interface [接口编号]查看10G级联口、服务器接入1G口的协商状态(是否为对应速率全双工)、CRC/丢包/错误帧计数,有异常则更换光模块/光纤/网线排查物理层故障。
2. 限速策略排查
执行display qos lr interface、display qos policy interface检查相关接口是否配置了入/出方向限速、流量监管,删除多余限速规则。
3. 转发异常排查
执行display stp tc、display stp brief检查是否存在频繁TC震荡、级联口被STP阻塞的情况;执行display cpu-usage检查中间交换机CPU占用是否超过70%导致转发性能下降。
4. 拥塞/MTU排查
执行display qos queue statistics [级联接口]查看是否有队列拥塞丢包,调整队列调度策略;执行ping -s 1472 对端服务器IP测试大包连通性,若丢包检查各接口MTU是否一致,统一配置为1500。
重要变更前请执行save备份配置。

暂无评论

粉丝:10人 关注:2人

先给你结论:同交换机 100MB/s 正常(千兆满速);跨交换机只剩 10MB/s 左右,基本就是级联链路或转发瓶颈导致,跟 10G 口标称带宽无关。
一、最可能的几个原因(按概率排序)
跨交换机时,实际走的不是 10G 级联口,而是 1G 口
多台交换机级联,STP 把 10G 口 Block 了
或链路聚合没起来,实际只有 1G 可用
1G 理论上限也就~110MB/s,一旦有拥堵、重传,掉到 10MB/s 很常见
级联口虽然是 10G,但被限速 / 流控 / QoS 打了折扣
接口配了限速、流量整形
开启了 storm constrain 等抑制
QoS 队列把 SCP 流量压到低优先级队列
SCP 本身是加密传输,CPU 成为瓶颈
同交换机:流量本地交换,不占上联
跨交换机:流量走上联 + 加密解密双消耗
服务器 CPU 弱一点,跨网段就明显掉速
MTU 不匹配、分片严重
级联口 MTU 不一致
一端 9214 巨型帧,一端 1500
大量分片重组 → 速率暴跌
环路 / 广播 / 镜像流量占满级联链路
你之前问过远程端口镜像
镜像流量把 10G 上联占满,业务只剩一点点带宽
二、最快定位方法(现场直接执行)
1. 先看跨交换机时,级联口真实速率
在两台交换机上执行:
plaintext
display interface Ten-GigabitEthernet1/0/1
重点看:
speed 是不是 10G
input/output utilization 利用率
传文件时利用率接近 100% → 链路确实跑满 / 被占满
利用率很低 → 不是带宽问题,是 CPU/MTU/ 策略
2. 看 STP 是否阻塞 10G 口
plaintext
display stp brief
如果 10G 级联口状态是 Discarding→ 实际走的是备用 1G 链路,速度自然上不去
3. 看接口是否有限制
plaintext
display interface Ten-GigabitEthernet1/0/1 | include "rate"
display qos interface Ten-GigabitEthernet1/0/1
display current-configuration interface Ten-GigabitEthernet1/0/1
查找:
qos lr outbound 限速
storm constrain 风暴抑制
flow-control 流控触发
4. 简单替换测试(最准)
把两台服务器插到同一台交换机
SCP 仍然 10MB/s → 服务器 / 系统 / SCP 问题
恢复 100MB/s → 确定是跨交换机级联链路问题
三、90% 场景的根治方案
确保级联 10G 口是 UP 且 10G 速率,STP 不是阻塞状态
级联口关闭不必要功能
cli
interface Ten-GigabitEthernet1/0/1
undo shutdown
speed 10000
duplex full
undo flow-control # 关闭流控
undo storm constrain # 关闭风暴抑制
undo qos lr # 取消限速
全程 MTU 统一 1500 或都开巨型帧
cli
interface Ten-GigabitEthernet1/0/1
jumboframe enable 9214
SCP 改用更高效工具对比
rsync --progress
sfp
HTTP 下载
如果其他协议能跑满,就是 SSH 加密瓶颈。
四、一句话总结
同交换机 100MB/s → 千兆正常
跨交换机只剩 10MB/s → 10G 级联链路没真正跑起来 / 被占满 / 被策略限制
优先查:STP、接口速率、利用率、限速、镜像流量

暂无评论

编辑答案

你正在编辑答案

如果你要对问题或其他回答进行点评或询问,请使用评论功能。

分享扩散:

提出建议

    +

亲~登录后才可以操作哦!

确定

亲~检测到您登陆的账号未在http://hclhub.h3c.com进行注册

注册后可访问此模块

跳转hclhub

你的邮箱还未认证,请认证邮箱或绑定手机后进行当前操作

举报

×

侵犯我的权益 >
对根叔社区有害的内容 >
辱骂、歧视、挑衅等(不友善)

侵犯我的权益

×

泄露了我的隐私 >
侵犯了我企业的权益 >
抄袭了我的内容 >
诽谤我 >
辱骂、歧视、挑衅等(不友善)
骚扰我

泄露了我的隐私

×

您好,当您发现根叔知了上有泄漏您隐私的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您认为哪些内容泄露了您的隐私?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)

侵犯了我企业的权益

×

您好,当您发现根叔知了上有关于您企业的造谣与诽谤、商业侵权等内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到 pub.zhiliao@h3c.com 邮箱,我们会在审核后尽快给您答复。
  • 1. 您举报的内容是什么?(请在邮件中列出您举报的内容和链接地址)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
  • 3. 是哪家企业?(营业执照,单位登记证明等证件)
  • 4. 您与该企业的关系是?(您是企业法人或被授权人,需提供企业委托授权书)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

抄袭了我的内容

×

原文链接或出处

诽谤我

×

您好,当您发现根叔知了上有诽谤您的内容时,您可以向根叔知了进行举报。 请您把以下内容通过邮件发送到pub.zhiliao@h3c.com 邮箱,我们会尽快处理。
  • 1. 您举报的内容以及侵犯了您什么权益?(请在邮件中列出您举报的内容、链接地址,并给出简短的说明)
  • 2. 您是谁?(身份证明材料,可以是身份证或护照等证件)
我们认为知名企业应该坦然接受公众讨论,对于答案中不准确的部分,我们欢迎您以正式或非正式身份在根叔知了上进行澄清。

对根叔社区有害的内容

×

垃圾广告信息
色情、暴力、血腥等违反法律法规的内容
政治敏感
不规范转载 >
辱骂、歧视、挑衅等(不友善)
骚扰我
诱导投票

不规范转载

×

举报说明