AI跑分看似玄之又玄 它们是如何衡量手机人工智能的
|
SDK是“Software Development Kit”的缩写，中文译为“软件开发工具包”，SDK是AI提供商为了开发者更方便实现AI功能而准备的开发者工具。AI测试软件支持AI SDK的意义在于更便捷、更准确测得实际的AI性能。
其中，高通的SDK命名为SNPE、联发科的SDK命名为NeuroPilot、海思的SDK命名为HiAI......AI测试软件支持的SDK越多，越容易建立统一的AI测试基准。
INT8和FP16是AI计算深度学习模型中的两种常用数据格式。 INT8指的是8bits表示的数字，代表的是整数运算。INT8运算优势在于计算速度快，可以通过减少计算与内存带宽来提升能耗，可以让手机在AI运算中更为省电，缺点是计算精度略差。FP16指的是16 bits表示的数字，代表的是浮点运算。FP16运算的优势在于更高的计算精度，缺点是对于手机电量要求高、硬件需求高、多数消费类应用使用不到该级别精度。 INT8和FP16没有完全的优劣之分，手机端的AI往往会根据实际场景的不同来综合考虑选择。虽然FP16能提供比较高的精度，但其能效比略差，不适合在手机这种电池容量有限的设备上运行。而INT8不仅具备能效的优势，其运算的效率和精度也在不断提升。 了解这些后我们再来盘点下市面主流的AI测试软件：AIMark（鲁大师开发）、AITuTu（安兔兔开发）和ETH AI Benchmark（即苏黎世AI跑分应用）。
AIMark的开发商为鲁大师，测试手机芯片AI性能的基准分为ResNet-34、Inception-V3、Mobilenet-SSD和DeepLab-V3+四大类模型。其中AIMark的分值取决于手机AI处理数据集和执行特定目标识别的效率。 开发商鲁大师表示AIMark与ARM、高通，海思、联发科、三星等AI核心SoC产品供应商进行了测试与调整，实现了对于主流手机AI SDK的支持。同时，鲁大师根据实际消费端的AI使用现状，将可以满足主流消费应用INT8运算权重占比略高。
上图是AIMark测试中热门手机芯片AI性能汇总。其中三星Galaxy S20 Pro和一加8的AI跑分远超其他终端，这得益于两款手机采用的骁龙865内置了比前代平台更强大的第五代高通人工智能引擎AI Engine。我们来具体看下骁龙865的AI算力来源。
骁龙865的AI算力来源于第五代Qualcomm人工智能引擎AI Engine。第五代AI引擎则由Kryo 585 CPU+Adreno 650 GPU+Hexagon 698张量加速器构成，每一部分都有各自的运算专长，系统会根据实际负载将需求分配到CPU、GPU和张量加速器上。高通第五代AI Engine的AI算力达到了15 TOPS，保证高性能与低功耗兼备，满足移动端的使用需求。 高通第五代AI Engine所提供的15 TOPS的算力与AIMark的实际跑分相符，也证明了高通AI算力提升所言非虚。 此外，在AIMark中我们不难发现一个非常有趣的结果：同样采用骁龙855平台的三星Galaxy Note10的AI跑分要远高于Pixel 4 XL。这是因为两款手机在实现AI能力上采用了不同的SDK，Pixel 4 XL实现AI算力的方式是接入谷歌为安卓系统准备的Android神经网络API（Android NN API），软件的不同最终导致了两款手机实际AI性能上的差异。
而是否搭配高通的AI SDK所带来的差距，在高通865上的第五代AI引擎上体现得会更加明显，这是因为高通为其第五代AI引擎进行了定制优化。专为第五代AI引擎准备的SDK可以让AI应用开发者快速简单地调用高通第五代AI引擎的最大性能。 此外，高通还为第五代AI引擎准备了一种深度学习带宽压缩的技术，将数据量压缩一半，降低了运算能耗。针对处理AI任务时消耗电能的问题，高通开发了一项全新的技术——深度学习带宽压缩。这还是一项完全无损的压缩技术，被压缩的所有数据精度不会有任何损失。 同时，采用高通865的手机往往会使用最新的LPDDR5高带宽内存相互配合，因此采用骁龙865的手机登顶AIMark也是情理之中。
AITuTu的开发商是安兔兔。AITuTu测试手机芯片AI性能的基准测试为Inception-V3和Mobilenet-SSD。同时开发商安兔兔表示，AITuTu通过各厂商提供的SDK将原始神经网络转化为厂商所支持的神经网络，再通过图片分类、对象识别测试项对处理器AI性能做评定。
（编辑：好传媒网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
高通的AI SDK命名为SNPE
AIMark
AITuTu