车载边缘计算(VEC)作为一种基于车联网的新型计算范式,旨在为终端用户提供计算资源支持,并有效缓解蜂窝网络的流量压力。该研究考虑了一个具有动态拓扑结构、不稳定连接及不可预测移动性的VEC网络场景,其中车载设备可将计算任务卸载至邻近的VEC集群(由车载资源组成),以最小化系统能耗,任务时延约束。在线任务调度方面,现有研究多采用启发式算法或基于深度强化学习(DRL)的方法。然而,这些算法在大规模网络中通常面临搜索效率低、收敛速度慢等问题,难以满足实际应用需求。因此,本文提出了一种基于模仿学习的在线任务调度算法,该算法从初始阶段即能获得近似最优性能,提升调度效率。具体而言,专家可通过求解离线优化问题获得最优调度策略,进而通过模仿学习训练智能体,在少量样本支持下学习专家的决策行为,实现在线任务调度。实验结果进一步验证了该方法在性能上具有显著优势,相较于基准算法提升超过50%。

相关服务:香港云服务器租用

车辆边缘计算(VEC)通过将计算密集型任务迁移至网络边缘来缓解中心服务器压力。路侧单元(RSU)是一种部署在道路沿线的基础设施,用于为各种类型的车辆提供网络接入。当前,VEC框架可分为基于基础设施的VEC和非基础设施型VEC两类。前者通过与RSU合并部署VEC服务器以实现内容缓存或计算服务,后者则通过挖掘移动与停放车辆中的空闲资源来提供计算支持。非基础设施型VEC无需额外网络部署且可高效整合闲置资源,近年受到越来越多关注。

尽管非基础设施型VEC能为道路用户提供任务卸载服务,但在高度动态的车载网络中,其任务调度策略需谨慎设计。这主要是因为车载应用通常对响应时间要求极高,必须满足对时延敏感的任务需求,并合理安排其在服务时间有限的动态服务器间分配任务。然而,受限于动态服务器可用时间的不可预测性,为非基础设施型VEC设计合适的调度策略极具挑战性。网络中的车辆可划分为两类,即服务提供车辆(SPVs)与服务请求车辆(SDVs)。前者提供计算服务资源,后者通过网络接入服务并向SPV卸载任务。考虑到非基础设施型VEC中涉及多个SPV与SDV,其主要挑战可概括为:①SPV上的可用资源难以得到高效利用;②在非基础设施型VEC中,SPV会周期性地向周围的SDV广播其状态信息,频繁的信息交换将导致较高的通信开销;③任务调度在高度动态的网络拓扑下,策略选择通常具有较低的搜索效率和较高的计算复杂度,而不稳定的VEC服务以及车辆的动态移动性进一步加剧了其挑战;④网络状态的频繁变化(由于车辆角色的不确定、移动性的不可预测和车辆数量庞大)使得传统学习方法(如深度强化学习)面临极其庞大的状态空间与动作空间。

依托国家自然科学基金等项目,项目组基于先前提出的VEC模型进一步设计了一种用于在线VEC的模仿学习驱动任务调度算法(命名为IELTS),该方法首次在高度动态的VEC网络中通过模仿学习解决在线任务调度问题,并基于真实出租车轨迹数据集进行有效性验证。

针对第一个挑战,项目组构建了VEC模型并将任务调度问题建模为优化问题。通过引入RSU协助任务在不同服务器间的调度,RSU在其中仅作为路由器或网关发挥作用,不负责缓存或处理SDV的计算任务,因此设计的方法仍属非基础设施型VEC。随后,进一步分析了RSU覆盖范围内SPV的服务能力,并通过整合其空闲资源进行集群构建。为应对第二个挑战,设计了由RSU维护集群级信息、由集群内部维护SPV级信息的结构,大幅降低了SPV与RSU之间的通信开销。

为解决后两个挑战,设计了一种基于模仿学习的方法,以弥补传统算法搜索效率低与收敛速度慢的缺陷。模仿学习是一种机器学习方法,它允许智能体学习参考策略(即专家示范),该策略是原始问题的有效解。由于参考策略计算复杂度高,无法直接用于在线执行,因此需设计学习策略,通过训练过程使智能体得以模仿。

系统模型与问题建模

本节主要探讨系统架构设计、服务时延与能耗模型及针对问题的数学建模。如图1所示,当某辆SDV进入某个RSU的无线通信覆盖范围时,它可以将任务上传至RSU,而RSU随后将这些任务分发至SPV进行处理。假设进入RSU无线通信覆盖区域的车辆流量服从泊松分布,其到达率记为。变量 和 分别表示SDV和SPV的到达率。一条道路上部署了一组RSU,记为,其中J表示RSU的总数。所有RSU通过蜂窝通信或光纤连接至后端智能交通系统中心,该中心也可作为学习代理。同时,邻近的RSU之间也彼此互联,并周期性广播自身状态,例如本地集群的计算能力等信息。无线覆盖范围内的SPV集合记为。

考虑到SPV本身的移动性,本文引入一个远程云服务器(可与宏基站融合部署),用于提供更强的计算能力。任务优先由SPV处理(因为距离SDV更近),但若SPV无法满足时延要求,则任务将上传至云端处理。导致SPV处理延迟的原因包括SPV数量不足、SPV计算能力不足,以及卸载任务数量过多。车辆在移动过程中可能会在不同RSU的覆盖范围内切换SPV或SDV角色,并在离开之前保持角色不变。学习代理可部署于RSU与车辆附近的边缘服务器,例如图1中的基站就可以充当学习代理。由于基站相比RSU和车辆拥有更强的计算能力,其决策延迟可忽略。

对于每个任务,可以用四元组(所需CPU周期数、数据大小、结果数据大小、最大时延)表示。由于SDV不掌握网络状态,它会将任务直接上传至最近的RSU。RSU随后将任务信息传送给学习代理,由代理根据专家策略返回调度决策。当任务由云端处理时,其总时延包括从SDV到RSU的传输时延、从RSU到云的传输时延、云端的计算处理时间,以及结果返回至SDV的时延(通过RSU转发)。同理,能耗包括从SDV到RSU的传输能耗、从RSU到云的传输能耗、云端计算能耗,以及结果返回过程中的能耗。如果任务由SPV处理,其时延包括从SDV到RSU的上传时间、从RSU转发到SPV的传输时间、在SPV排队等待处理的时间、实际处理时间,以及SPV将结果返回至SDV的时间。是否使用SPV由调度变量控制(是则为1,否为0),SPV处理任务的总能耗包括上述各项相应能耗,因此,任务的总时延可以由是否使用云服务器(由一个二值变量控制)来加权计算。若使用云端,采用云处理时延;否则采用SPV处理时延。能耗计算方式相同。

当SDV进入RSU通信范围后,它会将计算任务上传至RSU。每个任务可以被云或由SPV组成的集群处理。SDV的目标是确保其任务在时限内完成,而网络运营者的目标则是使整个系统能耗最小化。为协调两者目标,将任务调度问题建模为一个优化问题,目标是最小化平均卸载任务的能耗,同时满足时延约束。为了使卸载任务的能耗最小化并确保任务的执行时延,问题被建模为一个优化问题。优化的目标是最小化所有任务平均能耗。约束条件包括:每个任务的总执行时延不超过其最大可容忍时延;某一SPV执行任务的剩余服务时间不低于该任务的总执行需求;每个任务必须由一个RSU接收,并且结果只能由一个RSU返回;每个任务只能由一个SPV进行处理;任务的计算结果和中间状态数据只传输一次,不能重复处理。其中涉及的集合包括RSU集合、SPV集合以及任务集合。约束的设计确保任务在合理的延迟约束下由资源合适的SPV处理,并避免重复传输与过度资源使用。

模仿学习驱动的任务调度算法

本节主要介绍所设计的模仿学习驱动的任务调度算法,主要包括算法的整体框架、SPV聚类和模仿学习过程,并对所提出的算法进行分析。

(1)算法概述

由于SPV与SDV的动态变化、网络拓扑不稳定以及服务时间有限等因素,RSU所接受的计算请求很难直接调度给负载较低的SPV。因为这些SPV可能会离开当前RSU覆盖区域,从而无法保证任务在其服务时间内完成。

本文将原始优化问题划分为两个子问题。首先,聚类SPV并估计其服务能力;其次,在任务到达时根据任务需求与服务能力分配合适的SPV。对于第一个子问题,通过聚类方法将车载空闲资源聚合,并利用聚类头统一管理SPV状态,以减少RSU的通信开销。对于第二个子问题,先利用少量分支定界的迭代求解出专家的最优决策,然后在任务到达时,模仿学习智能体根据专家策略在线决策。如果找到合适的解决方案,任务将被调度至对应的SPV集群,否则任务将上传至云服务器进行处理。

(2)向专家学习的模仿策略

对于转化后的任务调度问题,其最优解可以通过分支定界算法求得。该算法能够最小化任务的能耗。然而,由于任务变量众多,传统分支定界算法的复杂度随搜索分支的数量呈指数级增长,因此其时间成本非常高,当任务规模较大时更加明显。

在设计的算法中,通过为每个任务构建子问题,并利用分支定界算法进行初始搜索,生成一个专家轨迹数据集。随后,学习智能体根据专家的行为策略进行模仿学习,提高了在线决策效率。通过这种方式,模仿学习能够快速逼近专家策略,显著降低了调度延迟,同时兼顾任务能耗与系统效率。

将任务调度问题建模为一个序贯决策过程,包含状态空间、动作空间和策略集合。学习智能体会根据当前状态选择相应动作,执行该动作后将产生单步损失值,并导致系统状态转移。状态转移遵循一定概率分布,可根据过往策略执行过程中的状态分布进行建模。在特定时间跨度内,该策略的预期损失即为所有单步损失的加权平均。

在在线学习阶段,学习代理通过模仿专家策略实现快速决策,避免在搜索树中进行全局搜索。学习目标是识别出在特定状态下应采取的动作,以最小化与专家策略的差距。策略学习的目标函数定义为专家动作与当前策略输出之间的差异,其优化目标是最小化两者的平方误差,从而指导神经网络模型迭代更新。在此基础上,将新生成的训练数据添加至原始数据集中,并据此训练更新后的策略。为了针对每个任务解决已建模的问题,该文对标准的分支定界算法进行了改进。

在搜索过程中,对于搜索树中的每一个节点,通过混合策略来预测当前应采取的动作。这种方式能够在专家示范的指导下裁剪不必要的搜索分支,从而有效加快分支定界算法的整体搜索过程。总体而言,该模仿学习方法能够在保持近似最优性能的同时,大幅提升在线调度的响应效率。与离线学习的主要差异在于,在线学习过程中,学习代理通过已有的网络参数判断当前节点是否需要扩展或剪枝,从而在计算资源有限的条件下做出更高效的调度决策。

性能评估

所使用的真实数据采集时间为2018年9月1日至2018年9月30日,采集地点为中国杭州,包含出租车的位置和GPS信息。为简化实验设计,仅选择一条主干道进行任务调度模拟,未来可扩展至更大路网环境。

根据真实地图,该研究在该路段虚拟部署RSU,并参考已有文献设置仿真参数。对于所提取车辆,当其进入RSU的无线覆盖范围时,随机充当SDV或服务提供车辆。SDV周期性地产生任务。假设每当达到一定时间间隔时,SDV会产生一个任务。当任务生成周期较小时,系统中的任务数量会增多,服务提供车辆则根据聚类算法组织形成集群。

任务的处理能耗可以由计算资源需求与服务器频率共同决定,传输能耗可由发送节点与接收节点之间的距离、信道衰减、路径损耗等因素计算得出。为训练专家策略,本研究生成了2000组训练样本。为对比所提出算法的性能,本研究选取了4种代表性算法作为对照。

①DQN算法[1]:基于深度强化学习,用于在多个SPV之间调度任务;②DATE-V方法[2]:通过将任务副本发送至多个由车载空闲资源组成的SPV,由学习方法选择最优服务器;③本地优化算法[3]:在RSU覆盖范围内寻找满足任务卸载约束的SPV,一旦找到便将任务上传至其处理,若未找到则将任务上传至云服务器;④FORT方法[4]:这是一种启发式调度方法,旨在在车载网络中实现任务最小延迟调度。

图2展示了在不同任务时延约束条件下的网络性能变化趋势。可以观察到,所提出的IELTS算法在平均能耗方面始终优于其他对比算法。这是因为IELTS采用模仿学习策略,通过学习专家的调度轨迹,在理论允许范围内实现了近似最优的任务分配。而DQN算法基于深度强化学习,需要大量的尝试与迭代才能学习有效策略,训练过程不稳定,初期性能较差。DATE-V算法通过广播任务至多个SPV,并由学习方法选择最优的车辆执行,导致通信能耗和计算能耗明显上升。本地优化算法虽然能选出可行的SPV,但在选不到时便将任务上传至云端,导致额外的能耗。FORT作为一种启发式算法,优先最小化任务执行时延,在任务能耗方面缺乏考虑。当时延约束逐渐放宽时,算法在任务调度上的选择空间更大,性能差距也相对收窄。显而易见,IELTS的任务分配策略使得更多任务被本地SPV执行,从而减少了传输延迟和远程云处理的能耗。

图3展示了在不同任务生成周期下各算法的性能表现。当生成周期为0.4秒时,IELTS相比其他算法节省的能耗分别为38%、54%、57%和65%。这是因为,较长的生成周期意味着单位时间内生成的任务数量减少,可用SPV资源更为充足,因此更多任务能在本地完成,无需上传至云服务器。此时,IELTS能有效利用这些本地资源,进一步降低系统能耗。同时,随着生成周期的增加,IELTS在SPV处理比率方面仍然保持领先。图3还展示了平均任务时延的变化趋势。随着生成周期加长,任务拥塞程度下降,系统中等待调度的任务变少,进而减少了任务处理延迟。

图4展示了在不同训练轮数下,各算法的平均能耗、任务时延和本地执行比率变化情况。可以看出,IELTS从训练初期便展现出较稳定的能耗表现,而DQN与DATE-V在训练初期性能较差。任务时延方面,IELTS的平均延迟始终低于其他对比算法,表明其策略更接近最优分配。SPV处理比率方面,IELTS从训练初期就具备更强的任务本地分配能力,进一步验证了模仿学习的高效性与实用性。

基于提出的模仿学习驱动的VEC理论方法,课题组进一步在该领域深入开展研究,同时将技术成果应用到无人机集群的在线组网与资源分配决策中。

参考文献:

[1]Le Van D, Tham C K. A deep reinforce-ment learning based offloading scheme in ad-hoc mobile clouds[C]. Proceedings of the IEEE, 2018:760-765.

[2]Chen L, Xu J. Task replication for vehi-cular cloud: Contextual combinatorial bandit with delayed feedback [C]. Proceedings of the IEEE, 2019:748-756.

[3]Ning Z, Dong P, Kong X, et al, A coope-rative partial computation offloading scheme for mobile edge computing enabled Internet of Things [J]. IEEE Internet of Things Journal, 2019,6(3): 4804-4814. 

[4]Wang X, Ning Z, Wang L. Offloading in Internet of vehicles: A fog-enabled real-time traffic management system[J].IEEE Transactions on Industrial Informatics, 2018,14 (10):4568-4578.

本文刊登于IEEE Spectrum中文版《科技纵览》2025年9月刊。

专家简介

王小洁:重庆邮电大学教授。

宁兆龙:重庆邮电大学教授。

郭   磊:重庆邮电大学教授。

王   雷:大连理工大学教授。

郭   嵩:香港科技大学教授。

欢迎加入智能交通技术群!扫码进入。

扫描加入免费的「智慧城市之智慧交通」知识星球可了解更多行业资讯和资料。

联系方式:微信号18515441838