时延情形下的分布式随机无梯度优化算法,此文是一篇时延论文范文,为你的毕业论文写作提供有价值的参考。
时延论文参考文献:
摘 要:由于多个体系统在信息交流的过程中存在通信时延,系统会出现接收信息滞后的情况,从而影响优化算法的收敛速度.为了解决时延对优化算法产生的影响, 提出了时延情形下的多个体系统分布式随机无梯度优化算法.假定系统中每个个体仅知道其自身的局部目标函数,利用系统中个体间交互时延信息来寻求这些局部目标函数之和的最小值, 通过系统扩维将有时延的优化问题转化为无时延的优化问题.由于个体的局部目标函数有可能非凸故其次梯度不一定存在或很难计算,因而采用分布式随机无梯度方法.理论分析表明只要个体间的通信时延有上界,所提算法依然收敛.
关键词:多个体系统;分布式优化;随机无梯度;通信时延
中图分类号:TP13 文献标志码:A文章编号:1672-1098(2016)01-0034-06
Abstract:Considering the delay of information communication among agents, which affect the convergence speed of the algorithm, the randomized gradient-free method for multi-agent optimization with communication delay was proposed, where it"s assumed that every agent only knows its own local objective function. The optimization goal is to minimize a sum of local objective functions through the interaction of delay information among agents in the system. Firstly, the optimization problem with delay was converted into the optimization problem without delay through augmenting delay nodes. Because the local objective function of agent is likely to be nonconvex, its subgradient does not exist or it is hard to be calculated, the distributed randomized gradient-free method was used. The theoretical analysis showed that the proposed algorithm is still convergent if the communication delays are upper bounded.
Key words:multi-agent system; distributed optimization; randomized gradient-free, communication delay
近年来,多个体分布式凸优化问题及其优化算法引起了人们的广泛关注,而多个体分布式优化算法是在集总式算法的基础上发展起来的.所谓集总式算法是指在多个体系统中,不是所有个体都发挥同样的作用,只有某个个体处于中心地位,负责处理其他个体的数据,并将数据反馈给其他个体.和集总式算法不同,分布式算法则是指多个体系统中的每个个体都对应着一个局部凸目标函数,并且个体之间进行信息交流,最终求得凸目标函数的最小值.和以往的集总式算法相比,分布式算法有很多优点,尤其在许多大规模的优化问题中占有很大优势,并且在生物工程、人工智能等许多领域有广泛应用,因此研究多个体的分布式优化算法有很大的意义.
随着计算机的广泛应用,人们进入了大数据云计算的时代,因此对多个体分布式优化的研究也越来越深入.但这些方法主要是标准次梯度和一致性算法的结合.标准次梯度算法是将总的最优化任务分解,同时每个个体需要将自身的信息与周围邻居个体的信息进行加权组合,再根据自身的次梯度信息进行最优化,经过一系列的迭代运算,使得所有个体的状态都达到一致.事实上,一致性算法也是广泛研究的一个课题,即个体间通过信息交流使所有个体的状态最终达到一致并使结果达到最优.文献[1]最早给出了标准次梯度方法并分析了其收敛性.文献[2]922介绍了约束一致性和优化算法.在此基础上,文献[3]则介绍了基于随机投影的次梯度算法,文献[4]1715给出一种基于一致性算法的原始对偶次梯度方法.在文献[4]1720的启发下,文献[5-6]提出了一种分布式对偶平均算法(DDA)以及基于Push-sum的DDA算法.上述研究都是适用于多个体系统中的每个个体对应的局部目标函数存在凸函数且次梯度的情况.而文献[7-8]研究的是个体的局部目标函数是非凸的、次梯度不存在或很难计算的情况,因此文献[9]提出了一种分布式随机无梯度优化算法.
然而,以上都是假设在任何时刻每个个体都可以即时的和周围个体之间进行信息交流.而在文献[10-12]1108中,由于有限的带宽,随机的传输延迟以及不确定的连接拓扑,个体之间的信息交流可能出现延时的情况.为此,文献[12]1139给出了时延情形下的分布式次梯度优化算法以及具有通信时延的二阶系统一致性.
本文主要研究时延情形下的分布式随机无梯度优化算法.
1符号说明
网络中个体间的信息通信通常可以建模成一个有向图G(k)等于(V,E(k),P(k)),其中V等于(1,2,等,n)表示个体集合,n表示个体数目,E等于(e1,e2,等,en)表示边集,P(k)表示网络拓扑图G在k时刻的权重邻接矩阵,并且G是一个有向图[13].令Rn为一个n维向量空间,‖x‖为向量x的欧几里得范数,ΠX[x]表示向量x到集合X上的欧几里得投影,[x]i表示向量x的第i个分量,xT表示向量x的转置,[P]ij代表矩阵P的第i行j列的元素,E[x]代表向量x的期望值.f(x)则表示函数f(x)在x处的梯度.
结论:关于对不知道怎么写时延论文范文课题研究的大学硕士、相关本科毕业论文时延论文开题报告范文和文献综述及职称论文的作为参考文献资料下载。
天然气分布式能源站运营优化
摘 要:社会的快速发展让越来越多的人开始重视分布式能源站和其节能减排的优点,进而成为能源利用的一种趋势。作为一种建立在负荷需求侧的能源供应方式,。
单台机器E-T随机排序问题多项式算法
摘要:本文研究排序问题中的E-T问题,工件在单台机器上加工,n个工件的加工时间都为整数p,相同的工期d为离散分布,满足((上m下i=1)∑)P(。
求解硬时间窗约束下随机需求库存一路径问题优化算法
通常意义下,库存一路径问题(Inventory Routing Problem,IRP)是指在供应商管理库存(VendorManaged Inv。
递延所得税资产和盈余管理关系探析
摘 要:递延所得税产生于财务会计与企业所得税法的暂时性差异,递延所得税资产的确认起到了调节盈余的作用,可抵扣亏损作为确认递延所得税资产的一种情况。