
新浪科技讯 2月7日上昼音讯,天眼查App走漏,近日,华为本事有限公司请求的“东谈主工智能模子的量化形貌、贬责系统和量化单位”专利公布。
摘记走漏,量化单位不错基于启动AI模子的贪图建树的各个贪图单位的贬责粒度,将量化矩阵分割成多个适用于各个贪图单位的贬责粒度的分块量化矩阵。量化单位不错对分块量化矩阵进行量化贬责,以获得量化后的分块量化矩阵,并存储在存储器中,不错减少AI模子占用的内存。量化矩阵不错是权重矩阵,也不错是激活矩阵。量化单位量化进程中,是基于启动AI模子的贪图建树的各个贪图单位的贬责粒度进行量化,并不需要基于张量级别进行离群值的统计,兑现AI模子对权重矩阵和激活矩阵齐不错进行及时量化。
海量资讯、精确解读,尽在新浪财经APP
牵累裁剪:郝欣煜 开云体育