面向模型预分层的边缘终端多AI任务调度策略

梁荣欣; 陈庆奎

首页> 中文期刊> 《小型微型计算机系统》 >面向模型预分层的边缘终端多AI任务调度策略

面向模型预分层的边缘终端多AI任务调度策略

开具论文收录证明 >>

期刊封面封底目录下载 >>

文献代查 >>

页面导航

摘要
著录项
相似文献
相关主题

摘要

边缘AI的兴起促进了AI在边缘计算场景中的广泛应用.随着AI任务的多样化、终端设备性能的不断提升,实际应用中亟须设计一种新的模型实现单个终端设备上的多AI任务并行调度.然而目前的研究更关注单个AI任务在单个终端设备上的计算效率,因此本文提出一种基于模型预分层的多AI任务调度策略,以优化多AI任务在终端设备上的计算效率.首先,对多个AI任务进行模型预分层,并记录每种预分层的计算量和参数量;其次,在终端设备上建立资源监控模型,实时检测可用资源情况;最后,结合时间周期要求和实时可用资源的约束,以对边缘终端的计算资源需求最大为目标,从多个AI任务的多个预分层模型集合中选取一组由多个AI任务不同预分层组成的最优解,动态地调整每个AI任务在终端设备上的模型计算层数,在避免固定式模型分层的弊端的同时,充分利用终端设备的计算资源.实验结果显示,本文策略能够有效提高多AI任务的计算效率,计算资源利用率可达到96.97%,调度分配成功率可达到96.45%,数据传输量减小率可达到97.22%.

著录项

来源
《小型微型计算机系统》 |2022年第6期|1154-1161|共8页
作者
梁荣欣; 陈庆奎;
展开▼
作者单位

上海理工大学光电信息与计算机工程学院;

展开▼
原文格式 PDF
正文语种 chi
中图分类设计与性能分析;
关键词
模型预分层; 终端设备; 边缘AI; 多AI任务调度;

相似文献

中文文献
外文文献
专利

1. 面向边缘设备的高能效深度学习任务调度策略 [J] . 任杰 ,高岭 ,于佳龙 . 计算机学报 . 2020,第003期
2. 面向优先级用户的移动边缘计算任务调度策略 [J] . 董思岐 ,李海龙 ,屈毓锛 . 计算机应用研究 . 2020,第009期
3. 面向物联网终端的任务相关性调度策略 [J] . 向敏 ,戴柯宇 ,周恩 . 计算机工程与应用 . 2020,第023期
4. 面向自然语言处理任务的预训练模型综述 [J] . 刘睿珩 ,叶霞 ,岳增营 . 计算机应用 . 2021,第005期
5. 社会属性感知的边缘计算任务调度策略 [J] . 王汝言 ,聂轩 ,吴大鹏 . 电子与信息学报 . 2020,第001期
6. 基于分层遗传算法的网格任务调度策略 [C] . 刘海迪 ,杨裔 ,马生峰 . 2007全国理论计算机科学学术年会 . 2007
7. 面向边缘计算的分层安全数据存储和应用模型研究 [A] . 杨桢栋 . 2019

面向模型预分层的边缘终端多AI任务调度策略

摘要

著录项

相似文献

相关主题

期刊订阅