知识+数据驱动学习：未来网络智能的基础

2020-12-04

中兴通讯技术 2020年4期

（中国科学技术大学，中国合肥 230027）

1 未来网络面临的挑战

对未来无线通信网络（B5G和6G）所面临的挑战，已经有较多研究者从不同角度进行了研究。本文中，我们就未来无线网络智能管控所面临的重大技术课题进行讨论，研究值得特别关注的核心和基础，提出知识+数据驱动学习模型作为解决之道。

1.1 未来网络智能3大核心

未来网络（B5G和6G）是在现有网络的基础上发展起来的。它既要包容既有网络和技术，比如4G、5G、物联网（IoT）及各种专用网，又要引入和构建新的6G网络，这使未来网络体系变得极为繁杂。此外，各种新型业务和服务层出不穷，与普遍应用的软件定义网络交叉叠加，使得人们不得不寻求未来网络管控的技术基础和实现方法。由于需要诉求、网络变量和资源开销都比较多，如果没有新技术基础和新技术方法，这个课题的发展会相当艰难。

因此，未来智能网络必须具有极其简单的网络架构，把过去、现在和未来的可能手段都统合起来，充分利用智能学习方法实现各种资源的最优化利用。

未来网络智能将会有3大核心：智能管控的极其简洁的网络架构、知识+数据双驱动的学习机制、全场景全业务动态联合优化。其中，“管控”是目标，“学习”是基础，“优化”是方向，这3点在未来网络智能中缺一不可。

1.2 未来网络智能的3大能力

1）全场景管控。面对地面覆盖、空中覆盖、天体覆盖以及微覆盖和点覆盖的全场景应用，未来网络的管控能力要能够有效实施、综合利用。现在地面网络5G、4G、IoT、WiFi和个人网等统合起来的超密集网络，要做到优化管控已经十分艰难。在未来，如果没有强大稳健的学习能力，地面与空中切换、地面与卫星交互是无法智能管控的。

2）全知识学习。作为未来网络智能管控的基础手段，全知识学习会利用直接和间接的各种知识，在大数据配合下自主、独立、透明地学习。全知识包括用户传输需求、用户属性、网络参数、资源开销等。用户传输需求可能比较简单，但伴随的用户属性可能相当多样。在未来，这些知识的利用可能是实现期望目标的重要因素。

1.3 未来网络的智能学习

智能学习，通常是指机器学习、深度学习、强化学习，甚至是这些学习的结合，它是数据驱动的学习类别。在输入对象和输出对象一致的情况下（如新媒体学习），这类学习大多十分有效，能够提高辨识能力。这类学习可被称为信号处理型学习。

2017年一篇《模型驱动的深度学习》论文，开启了模型+数据驱动学习模型的研究和应用。2018年用于多输入多输出（MIMO）检测的模型驱动深度学习网络、2019年用于波分多址的模型驱动深度学习方法以及后用于物理层传输的模型驱动深度学习方法等，都是该领域典型的进展。由于输入与输出的对象基本上相同，这些研究进展可以归并为信号处理类型学习，并且这些进展的研究重点主要在提高判决能力上。

对于未来网络的智能管控，我们要把各种知识和参数的相互关系和联动看成一个学习整体。通常，输入的是用户需求和用户属性，输出的是优化的网络参数和必须提供的资源开销。随着用户需求和用户属性的增多，智能管控变成一个极其复杂的优化问题。这就要求智能学习要有复杂群体的设计能力。为此，我们提出了一种开放、透明、可解释的深度学习方法，即知识+数据驱动的学习方法[1]，这种方法可以把知识驱动与数据驱动有机结合起来，能够融合无线知识的有效性和数据的动态实时性。

2 知识+数据驱动学习模型

知识+数据驱动学习模型，集中体现了无线通信网络智能化的知识+数据双驱动的学习架构、知识和数据分别学习和训练的数学表达、统一的学习输出和损失率反向传播判决。

知识+数据驱动的学习模型，首先涉及的是知识的范围和表达，随后是知识驱动和数据驱动在各层的分与合以及它们透明的可解释性，最后是反向传播损失率判决和反馈实施。学习模型把这些综合起来，就形成了一种依据用户业务需求、充分利用用户属性和无线大数据、自动学习知识变量取值和使用最小资源开销、实现最佳通信的能力。

2.1 全知识的学习范畴和表征

无线通信和网络的全知识分为3个范畴：用户面知识、网络面知识、服务面知识。每个面有各自的知识变量和公式表达。

1）用户面知识。用户面知识最直接的是用户和用户传输需求。单位面积用户数高达上千万、带宽从吉比特每秒变为到太比特每秒将是常态。这是从1G到5G一直面临的要求，到B5G和6G，甚至以后，也不会例外。用户属性是用户面知识的一个重要方面，也是未来必须引入和应用的。用户属性具有知识性，相互关联而又随机不同的[2]。随着通信从服务“人”走向服务“物”、再走向服务“虚拟对象”，针对用户和用户传输需求，需要寻找它们附带的不同用户属性，以便精准估计用户意图，实现准确送达。当然，除用户和用户传输需求之外，用户的属性还包括用户移动速度、用户数据时延要求、用户所在位置等。这些用户属性都可以用数学量来表达，以实现在智能网络中得到最大限度的利用和满足。

航线的敷设按照常规航空摄影要求完成，旁向重叠度30%，航向重叠度60%，在标准范围内。像片连接点经影像量测程序做自动转点，地面控制点上以航空摄影测量规范作影像上的人工预读，实现像平面坐标的立体观测，经检测发现，像点坐标测量精度在±2.0m内。

2）网络面知识。网络面知识包括无线传输、无线接入、网络配置、定点送达等。网络面知识涉及的网络类型问题有：是4G、5G，还是6G?是IoT、WiFi，还是picocell?网络面知识还涉及传输与网络参数问题：是正交准正交传输，还是干扰对消或对齐传输？是大区无缝覆盖，还是密集热点覆盖？是MIMO天线，还是超表面多天线？这些知识可用数学符号来表达。有些已经被证明有效可靠的数学公式，可作为智能构建复杂网络和提高管控能力的知识对象[3]。

3）服务面知识。服务面知识主要是指完成给定服务所需的资源开销，如频谱频段和带宽、峰值功率和平均功率、算力开销和缓存大小、人力开销和经济成本等。这些知识是实现未来网络智能优化管控所必须承受的开销，我们应尽量使之最小化。

2.2 知识驱动+数据驱动的双重结构

知识+数据驱动学习模型，由数据驱动的深层学习架构和知识驱动的逐层优化过程组成，按数据驱动和知识驱动同时推进和彼此交互来完成。

数据驱动的深层学习，同标准深度学习完全一样，有输入层、隐含层、输出层。层间通过学习加权函数连接，不同层的节点有不同层运算。数据驱动的深层学习最后把输出层给出的损失率作为反向传播判决变量，做反馈深度学习。数据驱动的深层学习输入是用户传输需求，可以是用作分析和预测的历史大数据，也可以是用作配置和优化的动态实时用户大数据。

知识驱动的逐层优化，是在数据驱动深层学习的伴随和支持下进行的。不同层使用不同的知识变量，这是依据通信网络知识来确定的。知识变量的取值，可从数据驱动学习过程中获得。当然，对于非随机变动不可准确预测的情况，知识变量的取值也可以从已经被证明行之有效的公式和运算中获得。

因此，知识+数据驱动学习模型，构成了知识驱动+数据驱动的双重体系结构，可以实现知识学习和数据学习的交互运算、融和运行。

2.3 知识参与的深度学习

知识+数据驱动学习模型的每一层，都有数据输入和知识输入。数据输入输入的是用户、用户传输需求，以及用户的不同属性。其数据值是随机、不可当即准确预测的。知识输入输入的是选取的知识变量和数学表达。各层知识变量的选择，按用户属性、网络参数、资源开销分层布局。知识变量的设置因要解决的问题不同而有所区别，但知识变量的取值，可从数据学习或数据支持下的运算中获得。通常，这会有一些约束和规范。

如前所述，在深度学习的前向结构中，各层按数据输入和知识输入双重推进。首先，在数据输入时，通过对加权矩阵元素值的调整获得的可信输入加权进入各层节点。在前向学习中，知识变量通过输入数据计算的关联公式获得取值。通过输入数据对输入加权矩阵和知识变量取值的学习，完成由输入数据、加权矩阵和知识变量参与的节点运算，随后输出本层数据和知识变量。最后，在输出层输出学习结果和反向传播判决损失率，支持反馈学习和输出。

深度学习的反向传播，是指利用输出层输出的损失率，相对于数据加权矩阵和知识变量作偏微分，获得加权矩阵和知识变量最佳反馈调整途径，然后再一次做前向学习。据此，综合前后各层整体的不断学习，反复进行，直至达到期望目标，实现复杂网络最佳管控。

2.4 知识+数据驱动学习模型是可解释的

在知识+数据驱动学习模型中，各层的输入是从用户传输需求数据开始的。前一层的输出数据送到下一层加权处理后，被作为节点输入数据，进行逐层计算，直至输出。各层的知识变量是根据各层学习功能和优化需要来明确的，同时各层彼此不同；但知识变量的取值，可通过对输入数据的有规则学习来确定。

由此可见，知识+数据驱动学习模型的各层功能是清晰的，学习过程是明确的。数据学习的走向受到知识变量的约束，知识变量的取值由输入数据演变而定。每一层在推进中将不会存在人为干预或人工操控的可能。因此，知识+数据驱动学习模型是可解释、透明的深度学习模型。

3 未来网络的智能管控

3.1 未来智能网络的极简架构

未来智能网络是一种智能化的极简网络，也是一种分层学习架构。它包含一个由终端网络、接入网络、核心网络构成的三层基础架构，拥有明确的网间输入输出接口、终端用户需求数据输入和核心网络服务输出应用。这种分层学习架构，可以被定义为知识+数据驱动学习的虚拟体系架构。网间接口涉及层间输入、输出和加权矩阵的设计，以完成网间交互。面对用户需求和用户属性，通过学习和聚类，送往上层网络，或者驻留本层网络，来完成端到端服务。

每层网络又是相对独立的，可按各层网络功能构成自己的分层或分块结构，并等效为另一类知识+数据驱动学习模型。根据用户提出的传输需求和用户属性，各层网络可以自行优化设计，实现本层网络连通的低时延和低功耗的端对端服务。

3.2 智能管控的动态联合优化

面对各种动态随机的用户需求，未来网络的智能管控能够实时动态调整参与服务的网络架构和参数，实现各层网络资源的开销最小、效益最大。未来网络的智能管控能涉及的关键词是动态、联合、优化。

未来网络的智能化是实现网络整体管控的动态联合优化。知识+数据驱动学习模型和运行规范，是未来网络智能的基础。用知识+数据驱动学习模型作为基础模块，在相对长时间的动态承载活动帧内，可构建一套网络整体管控软件。动态承载活动帧包括智能网络的初始化、小于网络能力的欠载、大于网络能力的过载和随机需求动态联合优化。

动态承载活动帧的长短，不仅取决于网络面对的大量用户需求的统计特性稳定期，还取决于智能网络最基本变量的持续期。无线网络、频谱带宽和小区半径，都有较长的稳定期。快，可按小时计，如终端网络；慢，则按天或月计，如接入网络，有的甚至按年计，如核心网。

这里以无线网络为例，来说明未来网络智能管控的动态优化。首先要实现无线网络智能管控的初始化，即利用过去的用户需求大数据和它们的相关属性，以及网络最基本变量（如频带和小区半径），做初始化训练。获得的动态承载活动帧的基础值，在动态承载帧内不容易变动。

对小于网络能力的欠载情况，在初始化确定的无线网络最基本变量基础上，本次承载给定的频谱带宽有富余。这时，有的主动承载上一次未能完全传输的需求，或减少网络的密集程度、降低发送功率、回退MIMO天线数目，以使网络的功率开销最小。

对大于网络能力的过载情况，当无线网络的所有资源效率和开销放到最大但仍不能满足到达的海量传输需求时，不得不按用户传输需求的时延分类，把可承受较长时延的需求从此次传输中转移给下一次或再下一次的传输。这样的联合协作和最大化频谱利用能力，可有助于实现用户需求传输最大化。

随机需求的动态联合优化，就是把初始化、欠载传输功耗最低、过载传输频谱效率最大整体结合起来。无线大数据的支持，使网络基本变量得选择变得更精准，也使后续实时动态学习调整的代价变得最小。在动态承载帧内，欠载和过载会交替出现，并动态协作。二者联合起来能够做到传输能力最大、所需资源最少，有助于实现智能网络管控目标。