据天眼查App信息，华为技术有限公司于9月5日申请的“AI模型的运行方法、装置、程序产品和存储介质”专利正式公布。该专利摘要指出，其技术方案属于机器学习领域，主要针对AI模型运行过程中的效率优化问题。
具体而言，该专利所涉及的运行方法适用于主机系统，该主机系统包含处理器，并与计算卡相连接。在具体实施时，处理器需先对AI模型的两组相邻输入数据进行分析，从中识别出第二数据组中存在但第一数据组中不存在的特定数据（称为“第一数据”），其中第二数据组的训练时间晚于第一数据组。完成第一数据的定位后，处理器需将该第一数据对应的“第一嵌入向量”预先加载至处理器的“第一内存”中，并同步记录该第一嵌入向量的相关信息（即“第一嵌入向量信息”）。

当第二数据组在计算卡上进行处理时，系统会依据已记录的第一嵌入向量信息，将该第一嵌入向量从处理器的第一内存进一步预取至计算卡的“第二内存”中。通过这一机制，可在计算卡处理第二数据组的过程中提前完成嵌入向量的内存间转移，从而有效降低因嵌入向量在不同内存间搬运所产生的处理延迟。

来源：财联社

#时隔四年！华为麒麟芯片回归沸##9月你看好哪条投资主线？#$鹏华碳中和主题混合A(OTCFUND|016530)$$平安先进制造主题股票发起C(OTCFUND|019458)$