广告

如何使用RTOS实现实时动态负载均衡

2023-09-21 17:16:54 Bill Lamie 阅读:
在资源受限的MPU上利用对称多处理的新方法···

在很多人看来,似乎嵌入式Linux可以为嵌入式开发人员做所有的事情。虽然嵌入式Linux可以适用于一些具有数兆内存和强大处理器的应用,但越来越多的用例表明,嵌入式Linux和类似操作系统的开销会对确定性和内存消耗产生负面影响。lTYednc

蜂窝调制解调器、高性能视频处理和复杂的汽车控制器只是在小尺寸、低功耗多核平台的对称多处理(SMP)架构下运行的高度确定性应用的几个示例。此类系统需要底层操作系统的核心分配和任务调度支持,以满足硬实时要求,同时又不影响资源使用。lTYednc

在资源受限的平台上,嵌入式Linux不是SMP的可行选择,支持SMP的实时操作系统(RTOS) 也寥寥无几。因此,开发人员必须创建自己的方法来跨多个内核调度和管理任务。lTYednc

随着越来越多的嵌入式设备需要跨多个内核部署确定性工作负载,RTOS层的动态负载均衡需求只会不断增长。lTYednc

对称多处理VS非对称多处理

SMP和非对称多处理(AMP)是两个或多个处理器协同工作来调度和运行工作负载的架构模式。SMP系统的内核完全相同,可以运行分配给它们的任何任务,而AMP系统通常依赖于单个主内核,根据可用性和优先级来调度和分配任务。在AMP系统中,核心本身不需要是相同的类型或架构(例如,MPU可以与GPU协同工作),并且任务通常是针对内核类型的。lTYednc

当开发人员可以依赖于一个稳定且可预测的环境时,AMP模式效果最佳,因为操作系统可以有效地分配工作负载,而不会产生大量开销。相比之下,对于在事件不断变化的环境中运行的应用,需要在不同内核之间动态转移工作负载时,SMP模式通常效果最佳。例如,许多手机都使用SMP,像是在Arm®Cortex®-A53平台上实现蜂窝调制解调器功能的手机。lTYednc

为了有效地跨多个内核分配应用线程,嵌入式软件开发人员使用了动态负载均衡技术。其主要目标是确保应用在运行时在内核之间均匀分配计算工作负载,并保证优先级最高的线程不会被优先级较低的线程抢占。lTYednc

动态负载均衡背后的原理

动态负载均衡中的“动态”是指运行时对线程调度进行持续评估,使应用能够适应不断变化的任务需求和系统条件。动态负载均衡对于以下方面至关重要:lTYednc

  • 提高利用率:通过将任务分配到多个核心,开发人员可以充分利用每个核心的计算能力,提高系统整体利用率。
  • 缩短响应时间:适当的负载均衡可确保将关键任务分配给占用最少的核心,从而缩短响应时间并增强任务执行的可预测性。
  • 容错:通过将任务重新分配给未出现故障的核心,负载均衡可以帮助减轻软件故障和硬件故障的影响,从而确保系统功能的持续运行。
  • 可扩展性:随着系统需求的增长和更多内核的增加,均匀地分配任务对于在不引入瓶颈的情况下扩展容量至关重要。

嵌入式Linux自带负载均衡机制,但也有缺点:操作系统会产生高昂的开销,这可能会严重影响确定性。由于大多数硬实时RTOS不支持SMP架构上的负载均衡,因此开发人员通常会自行构建支持机制。这项工作本身也存在挑战:lTYednc

  • 资源使用:由于每个核心都有自己的缓存、寄存器和其他独特功能,因此开发人员必须花时间彻底了解平台,以便在不影响性能或不造成资源争抢的情况下有效地分配任务。
  • 内存访问:如果开发人员将具有公共内存池的任务分配给不同的内核,并且没有充分考虑应用的控制和数据流,则可能会出现内存访问问题。
  • 任务优先级:开发人员必须了解所有任务优先级和截止时间,以确保为高优先级任务分配足够的资源和时间,避免延迟。
  • 动态适应:由于负载均衡是一个适应不断变化的系统条件的过程,因此开发人员必须实现某种反馈回路或控制机制,以便在运行期间不断重新评估线程分配并调整策略。
  • 同步开销:开发人员必须最大限度地减少内核之间任务切换所需的开销,以减少延迟并保持系统的实时响应能力。

RTOS负载均衡

像是PX5 RTOS这类专为基于多核MPU的应用而设计的RTOS可以提供内置负载均衡功能,能够满足硬实时确定性的要求,且开销远远低于嵌入式Linux和其他操作系统。PX5 RTOS采用原生POSIX pthreads API,运行所需的内存不到10KB,具有极高的可移植性和资源效率,使开发人员无需构建自己的负载均衡器。lTYednc

这种RTOS原生负载均衡器的运行方式与许多流行的负载均衡技术相同:lTYednc

  1. 给定任意数量的核心,RTOS会跟踪每个核心上运行的线程。当核心空闲并且线程可用于调度时,RTOS会调度该线程在该核心上运行。
  2. 如果没有空闲核心并且新线程已就绪,则RTOS会使用该线程的优先级进行调度:如果其优先级高于当前运行的任何其他线程的优先级,则RTOS会调度新线程以抢占正在运行的线程。如果其优先级低于当前运行的任何线程的优先级,则RTOS会等待下一个可用核心运行。

这种方法使用与嵌入式Linux相同的处理器关联API,使开发人员可以轻松地将线程分配给特定内核并依赖RTOS来强制执行此类分配。与大多数RTOS一样,开发人员必须确保共享资源的恰当管理,以避免出现争用问题。lTYednc

并非所有线程都是平等的

在典型的单核、基于优先级的抢占式调度环境中,开发人员一次只能依赖一个运行的线程。在SMP环境中,由于多个线程可以在任意数量的内核上并行运行,因此这一条件无法保证。为了避免这种行为对系统的潜在负面影响,即要求在给定时间内只运行优先级最高的线程,PX5 RTOS让开发人员能够配置调度,仅允许相同优先级的线程在所有内核上并行运行。这种方法强制执行更严格程度的并行,使开发人员对其系统的可预测性更有信心。lTYednc

结论

开发人员要在小尺寸、低功耗的多核平台上实现极高的实时性能和响应速度,就必须实现动态负载均衡。像是PX5 RTOS负载均衡功能这样的机制支持将就绪的应用线程与可用内核动态配对,所有这些都在一个超小(小于10KB)、超便携(具有完全兼容的pthreads API),并且经过严格测试(每个版本的C语句和分支决策覆盖率都达到100%)的封装内实现的。lTYednc

RTOS原生负载均衡使开发人员能够专注于应用逻辑和测试,而不必自己构建在多个处理器之间分配工作负载的方法。lTYednc

(原文刊登于EDN姊妹网站Embedded,参考链接:How to achieve real-time dynamic load balancing with an RTOS,由Ricardo Xie编译。)lTYednc

责编:Ricardo
本文为电子技术设计原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了