新闻与洞见

DEEPX DX-M1与边缘AI:让部署端评价反馈到模型训练

以美国公开申请US20260065050A1为线索,通过假设的工厂质检场景,解析异构处理器、模型优化及评价反馈的技术关系。

训练端与推理设备之间反馈关系的概念图
训练端与推理设备之间反馈关系的概念图

先区分公开申请与授权专利

US20260065050A1于2026年3月5日公开,申请人为DEEPX Co., Ltd.,主题是利用异构处理器训练神经网络并执行推理。A1表示申请公开,不等于已经授权。本文分析公开文件,不据此确认最新法律状态,也不认定DX-M1实现了全部权利要求。

设想工厂相机检测产品细小划痕:开发机上训练良好的模型,需要部署到内存、支持算子和功耗条件不同的现场设备。模型转换可能影响精度。该工厂场景仅用于解释原理,不是客户案例或实测性能报告。

训练和推理分别解决什么问题

训练利用样本调整参数,推理则把训练后的模型用于新输入。在示例中,带标签的产品图像用于训练,生产线上的新图像用于判定。公开方案由第一处理器负责训练,配置不同且能力相对受限的第二处理器负责推理。

因此,部署并非简单复制文件。必须确认目标设备支持所需运算,并在转换后检查模型行为。模型能够装入设备,并不意味着不会遗漏开发版本原本能够识别的缺陷。

权重、结构与轻量化

权重是计算所用的数值参数,结构则是计算阶段及连接关系。参数更新与结构修改并非一回事。剪枝减少部分连接或组件,量化以较低精度表示数值。这些方法可降低存储或计算负担,也可能损害准确率,因此需要结合重新训练。

图5展示训练用GPGPU(100)、推理用NPU(200)和存储器(300),其中包括编译器(310)、存储(320)及报告(330)功能。编译器使计算适配目标设备,存储与报告支持模型及结果的交换。该图解释技术流程,不证明某一商业芯片的具体内部实现。

公开文件图5:GPGPU、NPU、存储器及编译、存储和报告功能
公开文件图5:GPGPU、NPU、存储器及编译、存储和报告功能

从现场评价到下一轮训练

流程依次为训练、传输权重、目标端推理及评价、返回评价结果、修改模型、再次推理。训练端根据反馈修改模型结构并更新权重,再把适用于修改后模型的权重发送到执行端。这里并非假定现场NPU自身完成重新训练。

图7区分送往GPGPU的训练数据和送往目标设备的测试数据,并显示反馈路径。工厂示例可用已知答案的测试图像发现漏检,再由开发端调整模型并重新进行实机评价。配套工厂流程图同样是假设性说明,不是实验数据。

公开文件图7:训练数据、测试数据与评价反馈
公开文件图7:训练数据、测试数据与评价反馈
假设的工厂流程:训练、权重传输、评价、模型修改及再次推理;不是实施案例或实验结果。
假设的工厂流程:训练、权重传输、评价、模型修改及再次推理;不是实施案例或实验结果。

GPU、NPU与DX-M1的背景

GPU适合并行计算,GPGPU指将其能力用于通用计算;NPU面向神经网络运算。公开文件以GPGPU训练和NPU推理说明异构处理,并涉及按照目标端支持的运算和数据表示方式编译模型。

DEEPX将DX-M1定位为边缘AI处理器。边缘推理在接近数据源的位置执行,而非将每个输入都送往远程服务器。这可能减少通信需求,但时延、功耗、内存与精度取决于实际系统。产品定位与专利申请的技术范围,应分别分析。

研发团队应保留哪些材料

专利分析的重点不只是存在两个处理器,而是目标端评价如何改变下一轮模型的结构和权重。宜记录各设备职责、交换的信息、优化步骤、评价条件和模型修改前后的差异,并区分计算图变更与参数更新。

IPLEX为AI及软件系统提供专利分析与申请支持。可公开的系统流程图、技术差异说明和可复现的评价条件,有助于识别技术贡献。相关AI业务与测试时训练分析可作为延伸阅读,但不同模型更新机制不能混为一谈。

保留原图标注,各图的技术含义在正文中说明。

Tistory原文

相关AI专利业务

延伸阅读:测试时更新权重

查看韩文原文

本文基于发表时的情况撰写。如需就具体事项咨询,请联系IPLEX。
咨询相关业务 ↗全部文章

与IPLEX探讨技术保护与知识产权布局的下一步。