深度强化学习助力流处理中通用化的资源分配
来自金融机构 Citadel、IBM Research 和新泽西理工学院的研究人员近日发表了一篇论文,探讨了流处理中的资源分配问题,尤其因为在这类情况下常常要求在大型分布式系统中对连续的数据流进行实时处理。为了最大程度地提高系统吞吐量,将流处理图的计算任务划分到计算设备上的资源分配策略必须同时平衡工作负载分配并最小化通信。在研究中,他们提出了一种图感知的编码器和解码器的框架,以学习一种通用的资源分配策略,该策略可以适当地分配训练数据中未观察到的流处理图的计算任务—这是首次提出利用图嵌入来学习流处理图的结构信息。通过使用深度强化学习与图感知解码器共同训练,测试表明,在约 70%的测试案例中,他们所提出的模型均优于 METIS—最先进的图形划分算法和一个基于 LSTM 的编码器-解码器模型。