第9章 GPU集群的网络虚拟化设计与实现
2025.12.07在第六章,我们专注于构建GPU集群的物理网络,如同规划了一座拥有高速公路(计算网络)、主干道(存储网络)和市政道路(业务网络)的现代化城市。这个物理网络是所有数据流动的坚实基础。然而,在一个多用户、多任务、多租户的真实云环境中,仅仅拥有一个共享的物理网络是远远不够的。
想象一下,如果将所有用户的“车辆”(数据包)都放任在同一个巨大的、扁平的物理交通网络上行驶,会产生什么问题?
地址冲突:不同的用户或应用可能希望使用相同的IP地址段(例如,都喜欢用192.168.1.0/24),这将导致灾难性的地址冲突。
安全隔离缺失:任何一个用户都可以轻易地“看到”甚至“攻击”另一个用户的数据包,毫无隐私和安全可言。
广播风暴:一个用户的广播或多播流量会扩散到整个物理网络,影响所有用户。
路由策略僵化:物理网络的路由策略是统一的,无法为不同的用户或应用提供定制化的、灵活的路由规则。
为了解决这些问题,我们必须在物理网络之上,构建一个虚拟化的网络层。本章,我们将深入探讨GPU集群的网络虚拟化设计与实现。我们的核心目标是,学习如何将一个共享的物理网络基础设施,通过软件定义的技术,虚拟成成百上千个独立的、逻辑上完全隔离的私有网络。每个私有网络都如同一个租户专属的“城中城”,拥有自己独立的地址空间、路由表、安全策略和网络服务。
我们将从网络虚拟化的基石技术——基于SDN的VPC——入手,理解它是如何实现网络资源的池化与隔离的。接着,我们将聚焦于机器学习网络中不可或缺的关键组件——云负载均衡,探讨它如何为AI推理服务提供高可用和可扩展性。然后,我们会学习如何通过专线接入、对等连接与VPC网关等技术,打通虚拟网络与外部世界(如用户的数据中心、其他VPC、公网)的安全连接。最后,我们将深入到底层,剖析SDN NFV网关这一实现各种高级网络功能的核心引擎,是如何被部署和加速的。
通过本章的学习,你将掌握一套完整的云原生网络虚拟化架构知识。你将不再仅仅看到物理的交换机和路由器,而是能够以云架构师的视角,去理解和设计VPC、子网、安全组、负载均衡器、NAT网关等高级网络服务。这将使你能够为一个多租户的、安全的、功能丰富的GPU云平台,构建一个既灵活又强大的虚拟网络基础设施。
9.1 基于SDN的VPC技术:网络虚拟化技术的基石
VPC(Virtual Private Cloud,虚拟私有云)是现代云计算中网络虚拟化的核心概念和事实标准。它允许用户在一个共享的公有云基础设施中,构建一个逻辑上完全隔离的、由用户自己掌控的私有网络环境。而实现VPC的底层技术,正是SDN(Software-Defined Networking,软件定义网络)。
9.1.1 SDN的核心思想:控制与转发分离
在传统的网络设备(如交换机、路由器)中,控制平面(Control Plane)和数据平面(Data Plane)是紧密耦合在同一台设备中的。
控制平面:负责“思考”和“决策”。它运行着各种路由协议(如OSPF, BGP),学习网络拓扑,计算路由表,生成转发表。
数据平面:负责“执行”。它利用专门的ASIC芯片,根据控制平面生成的转发表,对流经的数据包进行高速的查询和转发。
SDN的核心思想就是将这两个平面进行解耦:
- 数据平面(基础设施层):底层的物理交换机被“简化”成只负责高速转发的“傻瓜”设备(有时被称为“白盒交换机”)。它们不再运行复杂的路由协议。
- 控制平面(SDN控制器):一个集中的、运行在服务器上的SDN控制器(SDN Controller)成为了整个网络的“大脑”。它拥有全局的网络拓扑视图,负责所有的路由计算、策略制定和流量工程。
- 南向接口(Southbound Interface):SDN控制器通过一个标准的协议(如OpenFlow, OVSDB)与底层的所有物理交换机进行通信。控制器将计算好的转发表规则(Flow Table)下发到交换机中。
- 北向接口(Northbound Interface):SDN控制器向上层应用(如VPC管理平台、云编排系统)提供RESTful API等编程接口,使得网络可以被程序化地、自动化地管理和配置。
9.1.2 Overlay网络:构建虚拟世界的“隧道”
仅仅分离控制和转发还不足以实现VPC的隔离。SDN通常会结合Overlay网络技术来构建虚拟网络。
Underlay网络:指我们底层的物理网络基础设施(Spine-Leaf架构的交换机和路由器)。Underlay网络的目标很简单:实现IP包在物理设备之间的可达性。
Overlay网络:在Underlay网络之上,通过隧道技术(Tunneling)构建的一个虚拟的、逻辑上的网络。
工作原理:当一个虚拟机(租户A)要发送一个数据包给同VPC但在不同物理机上的另一个虚拟机时,这个原始的数据包(内部包)首先被发送到宿主机上的一个虚拟交换机(vSwitch)。
vSwitch并不会直接将这个内部包发送到物理网络,而是将其作为“货物”,封装在一个新的IP包(外部包)的数据部分。这个外部包的源IP是源宿主机的物理IP,目的IP是目的宿主机的物理IP。这个封装的过程,就如同建立了一条“隧道”。
这个外部包在Underlay物理网络中被正常地路由和转发,直到到达目的宿主机。
目的宿主机的vSwitch接收到这个外部包后,将其“解封”,取出内部的原始数据包,再投递给目标虚拟机。
隧道协议:实现Overlay网络的隧道协议有很多种,最主流的是VXLAN(Virtual eXtensible LAN)和Geneve。
VXLAN:将原始的以太网帧封装在UDP包中。它引入了一个24位的VNI(VXLAN Network Identifier)字段,用来唯一标识一个虚拟网络。所有VNI相同的VXLAN包,都属于同一个VPC。24位的VNI理论上可以支持多达1600万个独立的虚拟网络,远远超过了传统VLAN(只有4096个)的限制。
9.1.3 基于SDN的VPC实现流程
现在,我们将SDN和VXLAN结合起来,看看一个典型的VPC是如何工作的:
- 用户创建VPC:用户通过云平台的界面或API,创建一个VPC,并为其定义一个私有的IP地址段(CIDR),例如
10.0.0.0/16。 - 控制器分配VNI:SDN控制器收到这个请求后,会为这个新的VPC分配一个全局唯一的VNI,例如
1001。 - 用户创建子网和虚拟机:用户在VPC内部创建子网(如
10.0.1.0/24),并在子网中启动一台虚拟机VM-A。 - 控制器下发规则:
- SDN控制器知道了VM-A的虚拟IP是
10.0.1.10,MAC地址是mac-a,它所在的物理主机的IP是1.1.1.1。 - 控制器会将这些信息(
mac-a -> 1.1.1.1的映射关系)下发给网络中的所有vSwitch。
- SDN控制器知道了VM-A的虚拟IP是
- VPC内部通信:
- 当同一个VPC内的VM-A (
10.0.1.10) 要与另一台物理主机上的VM-B (10.0.2.20) 通信时,VM-A发出一个目标IP为10.0.2.20的包。 - VM-A所在的vSwitch截获这个包。它查询SDN控制器下发的转发表,发现
10.0.2.20对应的物理主机是1.1.1.2,并且它们同属于VNI1001。 - vSwitch将VM-A的原始包用VNI
1001进行VXLAN封装,然后封装在一个新的IP包中,源IP为1.1.1.1,目的IP为1.1.1.2。 - 这个封装后的包在物理网络中被转发到主机
1.1.1.2。 - 主机
1.1.1.2上的vSwitch解封,将原始包投递给VM-B。
- 当同一个VPC内的VM-A (
- VPC隔离:如果VM-A试图访问一个不属于VNI
1001的IP地址,vSwitch在查询转发表时会发现没有匹配的规则,或者规则指示该流量应被丢弃,从而实现了VPC之间的隔离。
9.1.4 VPC中的安全组(Security Group)
概念:安全组是一种分布式的、有状态的虚拟防火墙,它作用于虚拟机(或容器)的网卡层面。它允许用户定义一组入向(Inbound)和出向(Outbound)的访问控制规则。
实现:安全组的规则同样是由SDN控制器统一下发,并在每个宿主机的vSwitch(或使用Linux内核的iptables/nftables/eBPF)上强制执行的。由于它是在数据包进入/离开虚拟机的第一跳就进行过滤,因此效率非常高,并且可以实现同一子网内不同虚拟机之间的隔离(而传统的网络ACL通常只能在子网边界进行控制)。
通过SDN和Overlay技术,我们成功地将一个共享的物理网络,虚拟化成了多个独立的、安全的、功能丰富的VPC。这是构建多租户GPU云平台的网络基础。
9.2 云负载均衡:机器学习网络的中流砥柱
在GPU集群中,除了用于训练的原始算力,一个非常重要的应用场景是提供AI推理服务(Inference)。例如,将一个训练好的图像识别模型或语言模型,部署成一个在线API服务,供外部应用调用。
这些推理服务通常需要满足高可用(High Availability)和高可扩展性(High Scalability)的要求。我们不可能只部署一个服务实例,因为它可能随时宕机,也无法应对高并发的请求。因此,我们通常会部署多个相同的服务实例,然后通过一个负载均衡器(Load Balancer, LB)来将外部的请求流量分发给这些后端的实例。
云负载均衡器是VPC网络中一个核心的网络服务组件。
9.2.1 负载均衡器的角色和类型
核心功能:
- 流量分发:接收外部请求,并根据一定的调度算法(如轮询、最少连接、源IP哈希),将请求转发给一个健康的后端服务实例。
- 健康检查(Health Check):定期地、主动地向后端的每个服务实例发送“心跳”探测包(如一个HTTP GET请求或一个TCP SYN包)。如果某个实例在规定时间内没有正确响应,负载均衡器会将其标记为“不健康”,并暂时停止向其转发新的流量。
- 高可用:当某个后端实例故障时,健康检查机制能自动发现并将其从服务池中摘除,保证了整体服务的可用性。
- 水平扩展:当请求量增加时,我们只需向后端服务池中添加更多的服务实例,负载均衡器会自动将流量分发给它们,实现了服务的弹性伸缩。
- 提供单一入口:负载均衡器为整个后端服务集群提供一个统一的、固定的虚拟IP地址(VIP)作为服务入口,对客户端屏蔽了后端的复杂性。
根据工作层级划分的类型:
- 四层负载均衡(L4 LB):
工作在OSI模型的传输层(TCP/UDP)。
它根据数据包的源IP、源端口、目的IP、目的端口这四个元信息来进行转发决策。它不关心数据包的应用层内容(如HTTP头或URL)。
优点:性能极高,因为处理逻辑简单,可以由专门的硬件或高效的内核代码实现。
缺点:灵活性差,无法根据应用层信息进行精细的流量调度。
- 七层负载均衡(L7 LB):
工作在应用层(如HTTP/HTTPS)。
它能够解析应用层协议的内容。例如,一个HTTP负载均衡器可以根据请求的URL路径、域名、Cookie、HTTP头等信息,来决定将请求转发给哪个后端服务集群。例如,api.example.com/images的请求转发给图像处理服务,api.example.com/text的请求转发给文本处理服务。
优点:极其灵活,可以实现复杂的路由和业务逻辑。还可以提供SSL卸载、内容缓存、请求重写等高级功能。
缺点:性能开销较大,因为它需要对每个数据包进行深度解析和处理。
9.2.2 四层负载均衡的实现技术:LVS/DR
在Linux世界中,LVS(Linux Virtual Server)是实现高性能四层负载均衡的经典开源项目。其最常用、性能最高的模式是直接路由(Direct Routing, DR)模式。
LVS/DR的工作原理:
- 统一的VIP:负载均衡器(Director)和所有的后端真实服务器(Real Server, RS)都配置了同一个虚拟IP地址(VIP),但只有Director将这个VIP宣告给外部网络。
- 入向流量(请求):客户端向VIP发送一个请求包。Director收到这个包后,并不修改其IP头,而是仅仅修改其二层MAC地址,将其目标MAC地址改为选中的某个后端RS的MAC地址。然后,Director将这个“改了脸”的包直接扔到与RS所在的同一个二层网络中。
- 出向流量(响应):后端RS收到这个包后,发现其目标IP是自己配置的VIP,于是处理这个请求。处理完毕后,RS不经过Director,而是直接将响应包发回给客户端。因为响应包的源IP是VIP,客户端可以正常接收。
LVS/DR的优势:
极致的性能:Director只处理入向的请求流量,且只做了一次轻量级的MAC地址修改。出向的、通常数据量更大的响应流量直接由RS返回,完全不占用Director的资源。这使得LVS/DR的吞吐能力可以非常高。
在云环境中的实现:
云厂商的四层负载均衡(在AWS中叫NLB,在阿里云叫CLB)其底层大多借鉴了LVS/DR的思想,但通过与SDN控制器和vSwitch的深度结合,实现了更高级的功能。
vSwitch可以扮演LVS/DR中Director的角色,对入向的流量进行DNAT(修改目的IP为某个RS的私有IP),然后在RS响应时,再进行SNAT(修改源IP为VIP),从而实现类似的效果,但对后端RS的配置要求更低。
9.2.3 七层负载均衡的实现技术
七层负载均衡本质上是一个反向代理(Reverse Proxy)。
工作原理:
- L7 LB与客户端建立一个完整的TCP连接和应用层会话(如HTTP)。
- 它接收并完整地解析客户端的请求。
- 根据其配置的路由规则,它再作为客户端,与选中的后端RS建立另一个全新的TCP连接和应用层会话。
- 它将原始请求(或经过修改的请求)发送给RS。
- RS处理完毕,将响应返回给L7 LB。
- L7 LB再将响应通过第一个连接,返回给原始客户端。
常见的实现:Nginx, HAProxy, Envoy等都是非常优秀的开源七层负载均衡/反向代理软件。云厂商的七层负载均衡器(如AWS的ALB, 阿里云的ALB)通常也是基于这些开源项目或自研的类似技术构建的。
在Kubernetes中的集成:Ingress
Kubernetes通过Ingress资源对象和Ingress Controller来标准化七层负载均衡的用法。
用户创建一个Ingress对象,在其中定义基于主机名和URL路径的路由规则。
集群中运行的Ingress Controller(例如nginx-ingress-controller)会监听这些Ingress对象,并自动地将这些规则转换成其后端代理软件(如Nginx)的配置文件,然后动态地应用这些配置。
9.2.4 AI推理服务的负载均衡选择
对于那些对性能要求极高、协议简单的内部服务间调用,可以考虑使用四层负载均衡。
对于需要对外提供HTTP/HTTPS API、需要根据URL进行灵活路由、或需要SSL卸载等高级功能的在线推理服务,七层负载均衡是更合适的选择。在Kubernetes环境中,使用Ingress是标准的做法。
9.3 专线接入、对等连接与VPC网关
一个孤立的VPC是没有价值的。我们必须打通VPC与外部其他网络之间的连接,才能构建一个完整的混合云或多云架构。VPC网关是实现这些连接的关键组件。
9.3.1 场景一:连接用户本地数据中心(IDC)
企业通常希望将其在云上的GPU集群,与自己的本地数据中心(IDC)安全、稳定地连接起来,以实现:
在IDC和云上VPC之间迁移数据。
云上的应用访问IDC中的数据库或服务。
IDC中的员工安全地访问云上的开发环境。
有两种主要的连接方式:
VPN网关(VPN Gateway) + IPsec VPN:
原理:在VPC中创建一个VPN网关,在用户IDC的出口路由器或防火墙上配置VPN。两者之间通过公网建立一条或多条IPsec VPN隧道。所有在隧道中传输的数据都会被加密,保证了安全性。
优点:配置相对简单、快速,成本低廉(因为走的是公网)。
缺点:性能和稳定性受制于公网的质量,带宽有限、延迟较高且不稳定,不适合大规模、持续性的数据传输。
专线接入(Direct Connect / ExpressRoute)+ 专线网关(Direct Connect Gateway):
原理:用户通过电信运营商,租用一条物理专线,一端连接到自己的IDC,另一端连接到云服务商指定的接入点(Access Point)。然后,在VPC中创建一个专线网关,通过这个接入点,将VPC与用户的物理专线连接起来。
优点:提供了私有的、独占的物理连接。带宽高(可达10Gbps甚至100Gbps)、延迟极低且稳定,安全性最高。
缺点:成本高昂,开通周期长。
选择:对于生产环境、需要稳定高性能混合云连接的企业级GPU集群,专线接入是必然选择。VPN可以作为一种临时的、或用于管理目的的备份链路。
9.3.2 场景二:连接同一个云上的其他VPC
在一个大型组织中,不同的部门或项目可能会创建多个不同的VPC。有时,这些VPC之间需要相互通信。
VPC对等连接(VPC Peering Connection):
原理:这是连接两个VPC最直接的方式。用户在两个VPC之间创建一个“对等连接”请求,待双方确认后,云平台的SDN控制器会自动在这两个VPC的路由器之间建立一条私有的、高带宽的连接。两个VPC可以像在同一个网络中一样,使用私有IP地址直接通信。
优点:性能好,延迟低,因为流量完全在云服务商的骨干网内部传输。
缺点:对等连接是点对点的,且不具有传递性。如果VPC A与VPC B对等,VPC B与VPC C对等,VPC A和VPC C之间并不能自动通信,需要再单独建立一个对等连接。当VPC数量很多时,会形成一个复杂的“网状”拓扑,管理困难。
云企业网(Transit Gateway / Cloud Enterprise Network):
原理:为了解决对等连接的“网状”问题,云厂商推出了云企业网服务。你可以创建一个云企业网关(Transit Gateway),然后将你的所有VPC和专线网关都“连接”到这个云企业网关上。
云企业网关如同一个云上的路由器或集线器(Hub)。任何连接到它的网络实例,都可以与其他任何连接到它的实例进行通信,形成了一个星型(Hub-and-Spoke)拓扑。
优点:极大地简化了多VPC、多地域、混合云环境下的网络管理。扩展性好,路由策略可以集中配置。
9.3.3 场景三:连接公共互联网
VPC中的虚拟机或容器需要访问互联网,或者对外提供服务。
NAT网关(NAT Gateway):
功能:为VPC内没有公网IP的私有子网中的实例,提供访问互联网(出向)的能力。当这些实例访问公网时,其流量会被路由到NAT网关,NAT网关会将其源私有IP地址转换为自己的公网IP地址(SNAT),然后再发送出去。
它是一个高可用、高吞吐量的托管服务,解决了传统自建NAT主机的性能和单点故障问题。
互联网网关(Internet Gateway, IGW):
功能:它是VPC与互联网之间的“大门”。将一个IGW附加到VPC上,并配置一条指向IGW的默认路由(0.0.0.0/0),就可以让拥有公网IP的子网中的实例与互联网进行双向通信。
负载均衡器、NAT网关等需要与公网交互的服务,都依赖于IGW的存在。
9.4 SDN NFV网关的实现与部署
我们在前面讨论的所有VPC网关(VPN网关、NAT网关、专线网关等),以及负载均衡器、防火墙等,在现代云环境中,都越来越多地通过NFV(Network Function Virtualization,网络功能虚拟化)技术,以虚拟化网络功能(Virtual Network Function, VNF)的形式来实现。
NFV的思想是将传统的、运行在专用硬件盒子里的网络功能(如路由、防火墙、负载均衡),用软件的形式实现,并让它们运行在通用的、标准化的x86服务器上。而当NFV与SDN结合时,这些VNF就成为了SDN网络中可被集中编排和管理的“软件插件”。
一个SDN NFV网关节点,就是一台或多台专门用于运行这些VNF的高性能服务器。
9.4.1 基于virtio-net/vhost的虚拟机部署NFV
这是传统NFV的一种实现方式,VNF被部署在虚拟机中。
virtio-net:这是为KVM虚拟机设计的一套半虚拟化(Paravirtualized)的网络设备标准。
前端驱动(Frontend):运行在Guest OS(虚拟机)内部,是一个轻量级的网络驱动。
后端驱动(Backend):运行在Host OS(宿主机)中,通常由QEMU来实现。
工作原理:前端驱动将数据包放入一个与后端共享的内存环形缓冲区(virtqueue)中,然后通知后端来取。相比模拟一个真实的物理网卡(如e1000),virtio避免了大量的VM-exit/VM-entry(虚拟机陷入/退出)开销,性能好得多。
vhost-net:进一步的优化。为了避免QEMU这个用户态进程成为瓶颈,vhost-net将virtio的后端驱动直接实现在了宿主机的内核中。这样,Guest OS可以直接与Host内核交换数据,路径更短,性能更高。
优点:提供了良好的隔离性(VM级别),技术成熟稳定。
缺点:
性能瓶颈:即使有vhost-net,数据包仍然需要在Guest内核和Host内核之间进行多次内存拷贝和上下文切换,难以满足100Gbps级别的高吞吐量需求。
CPU开销大:Host和Guest的CPU都需要深度参与数据包处理。
9.4.2 基于SR-IOV的虚拟机部署NFV
为了突破virtio的性能瓶颈,可以将SR-IOV技术应用于NFV网关节点。
原理:
网关服务器使用支持SR-IOV的智能网卡。
网卡被配置为创建多个虚拟功能(VF)。
每个VF被直接“直通”给一个运行VNF的虚拟机。
优点:
接近裸金属的性能:VNF虚拟机可以直接、独占地访问网卡的硬件资源,完全绕过了宿主机的内核和vSwitch,延迟极低,吞吐量极高。
缺点:
灵活性差:失去了虚拟化的很多灵活性。例如,虚拟机的实时迁移变得困难。
功能受限:vSwitch提供的很多高级功能(如安全组、流量镜像)无法直接应用在这些直通的VF上。
9.4.3 使用DPDK技术对NFV加速
无论是基于virtio还是SR-IOV,要榨干硬件的最后一滴性能,都需要DPDK(Data Plane Development Kit)的加持。
DPDK在NFV中的应用:在运行VNF的虚拟机或容器内部,使用DPDK来接管虚拟网卡(virtio-net VF或SR-IOV VF)或物理网卡。
核心技术:
内核旁路(Kernel Bypass):DPDK应用直接在用户态通过轮询(Polling)模式读写网卡队列,完全绕过了内核网络栈的中断、系统调用和上下文切换开销。
大页内存(Huge Pages):使用2MB或1GB的大页,减少TLB Miss,提升内存访问性能。
CPU亲和性:将DPDK的轮询线程绑定到特定的CPU核心上,避免线程在不同核心间迁移。
效果:使用DPDK,一个普通的x86服务器核心,其网络包转发能力可以提升一个数量级,从百万PPS(包每秒)级别提升到千万PPS级别,这使得用纯软件实现100Gbps线速的VNF成为可能。
SDN NFV网关的现代实现:
现代的云网络网关,通常是一个集大成者。它可能会运行在裸金属服务器上,使用DPDK来获得极致的数据平面性能。它会与SDN控制器紧密集成,接收控制器下发的转发表和策略。同时,它可能会利用DPU/智能网卡,将一部分最耗费CPU的转发任务(如VXLAN封装/解封、连接跟踪)硬件卸载掉,从而实现性能、灵活性和成本的最佳平衡。
9.5 本章小结
在本章中,我们完成了从物理网络到虚拟网络的关键跃迁。我们认识到,网络虚拟化是构建一个现代、安全、多租户GPU云平台不可或缺的技术支柱。它将底层共享的、刚性的物理网络,抽象成了上层隔离的、弹性的、可编程的虚拟网络服务。
我们的探索始于网络虚拟化的基石——基于SDN的VPC技术。我们理解了SDN“控制与转发分离”的核心思想,以及它如何通过Overlay网络(特别是VXLAN),实现了对网络资源的池化和逻辑隔离,从而为每个租户构建起一个独立的私有网络空间。
接着,我们深入了VPC中几个最核心的网络服务组件:
云负载均衡器,作为机器学习网络,特别是AI推理服务的中流砥柱。我们对比了四层负载均衡(如LVS/DR)追求的极致性能和七层负载均衡(如Nginx/Ingress)追求的应用层灵活性,明确了它们在不同场景下的选型。
我们学习了如何通过VPC网关来打通VPC的内外连接。无论是通过VPN或专线连接本地IDC,还是通过对等连接或云企业网连接其他VPC,亦或是通过NAT网关和互联网网关连接公网,这些网关组件共同构成了VPC与世界对话的桥梁。
最后,我们深入到底层,剖析了实现这些高级网络功能的引擎——SDN NFV网关。我们看到了其实现方式的演进,从基于virtio/vhost的传统虚拟机部署,到追求极致性能的SR-IOV硬件直通,再到利用DPDK在通用服务器上榨干性能的软件加速方案。我们认识到,现代的NFV网关是一个软硬件协同、不断将功能下沉和卸载的复杂系统。
通过本章的学习,我们不再仅仅是物理网络的运维者,更成为了虚拟网络的“规划师”和“架构师”。我们掌握了一套完整的词汇和工具,去描述、设计和实现一个能够满足AI时代复杂应用需求的云原生网络。这个弹性的、安全的、可编程的虚拟网络层,将与我们在前几章学习的物理网络、GPU虚拟化等技术紧密结合,共同构筑起一个强大的、面向未来的大模型算力基础设施。