1. 低延迟网络概述：定义、关键指标与适用场景

大家好，我是老张。今天咱们聊聊低延迟网络。

说实话，我入行头几年，对“延迟”这玩意儿没太当回事。那时候做企业网，几百毫秒的延迟，用户根本感觉不到。直到后来我接手了一个量化交易的项目，客户要求从行情数据到达服务器，到交易指令发出，全程不能超过 10 微秒。嗯，你没看错，是微秒，不是毫秒。那次项目差点把我搞秃了。

从那以后，我才真正理解什么叫“时间就是金钱”。低延迟网络，说白了，就是跟时间赛跑的网络。

1.1 什么是低延迟网络？

低延迟网络，不是指带宽有多大，而是指数据包从 A 点到达 B 点，花的时间有多短。我个人的定义是：在可控的成本和复杂度下，把网络传输的物理极限压榨到极致。

你想想看，光在光纤里跑，一公里就要花 3.3 微秒。这是物理定律，谁也改不了。我们能做的，就是减少中间环节、优化转发路径、降低排队时间。

1.2 关键指标：RTT 和 P99 延迟

衡量低延迟网络，不能只看平均值。我见过太多人只看平均延迟，结果线上出了大问题。这里有两个指标，你必须刻在脑子里。

1.2.1 RTT（往返时间）

RTT 就是数据包从发送端到接收端，再返回发送端的总时间。它包含了传播延迟、处理延迟、排队延迟和传输延迟。

举个例子：你在上海，服务器在北京。光速往返一次大概要 20 毫秒。但实际 RTT 往往在 30-50 毫秒，因为中间有路由器、交换机、防火墙在“捣乱”。

我个人的经验：在做高频交易网络时，我们甚至会把服务器托管在交易所的同一栋楼里，用几米长的网线直连。目的就是为了把 RTT 从毫秒级降到微秒级。你想想看，这中间的差距有多大。

场景	典型 RTT	优化手段
跨洲际网络	100-300 ms	铺设海底光缆、使用 CDN
同城跨机房	1-5 ms	专线直连、波分复用
同机房内	0.1-1 ms	万兆网卡、RDMA
同机柜内	10-100 μs	DAC 线缆、PCIe 直连

1.2.2 P99 延迟（99 分位延迟）

平均延迟会骗人。我举个例子：100 个请求里，99 个延迟是 1 毫秒，但有 1 个延迟是 100 毫秒。平均下来只有 1.99 毫秒，看起来很美。但那个 100 毫秒的请求，可能就让你的交易系统亏了几百万。

P99 延迟，就是排除了最慢的 1% 请求后，剩下的最快 99% 请求的最大延迟。它反映的是“尾部延迟”，也就是最坏情况下的表现。

1.3 适用场景

低延迟网络不是万能的，也不是所有场景都需要。我把它总结为三大典型场景。

1.3.1 高频交易（HFT）

这是最极致的场景。交易系统里，谁先收到行情，谁先发出指令，谁就赚钱。延迟每多 1 微秒，可能就意味着几百万美元的损失。

• 需求：端到端延迟 < 10 μs
• 手段：FPGA 硬件加速、内核旁路（DPDK）、微波通信（比光纤快）
• 我的经历：有一次，客户要求把两台服务器之间的延迟从 5 微秒降到 3 微秒。我们折腾了整整两周，最后发现是网卡的 PCIe 插槽插错了位置，导致走的是南桥而不是直连 CPU。换了个插槽，问题解决。细节决定成败啊。

1.3.2 实时音视频（RTC）

视频会议、在线教育、直播互动。这类场景对延迟的要求是“人感觉不到”。

• 需求：端到端延迟 < 200 ms（双向）
• 手段：WebRTC 优化、智能路由、丢包重传策略
• 注意：这里不仅要看网络延迟，还要看编解码延迟、渲染延迟。我曾经遇到一个案例，网络延迟只有 50 毫秒，但用户还是觉得卡。最后发现是客户端的解码器太慢，导致画面延迟了 300 毫秒。

1.3.3 CDN（内容分发网络）

CDN 的核心就是“就近服务”。把内容缓存到离用户最近的节点，减少跨网传输。

• 需求：首屏时间 < 1 秒，视频起播 < 3 秒
• 手段：边缘节点部署、Anycast 路由、HTTP/3 协议
• 我的建议：不要盲目追求节点数量。节点多了，缓存命中率反而会下降。我一般建议按“省级”粒度部署，每个省 2-3 个节点就够了。

1.4 知识体系总览

下面这张图，是我自己总结的低延迟网络知识体系。你可以把它当作整个课程的地图。

好了，这一章就到这里。低延迟网络不是什么玄学，它就是一门“与物理定律博弈”的工程学。后面的章节，我会带你一步步深入，从硬件选型到协议优化，再到实战部署。咱们慢慢来。

---

公众号:蓝海资料掘金营，微信deep3321