2018年是澳门新葡萄新京重点发展分布式云服务,综合建立分布式云服务平台的一年。而分布式云服务的核心,即为分布式AI服务系统。相信有很多投资者对分布式AI还没有一个直观清晰的认知,在这里,澳门新葡萄新京为你介绍分布式AI的概念及优势。
何为分布式AI服务系统
分布式AI服务系统,即用一块硬盘一个ARM-CPU的硬件和边缘部署的分布式架构,替换城市原来监控存储的X86架构存储系统。将AI的神经网络计算分层,训练与执行分离,利用分布式AI计算资源预处理视频,再将AI计算的中间数据传输到AI的中心计算平台完成最终计算,数据量减少到1%,大大节约了传输资源和计算资源,提高运算效率。
它的业务逻辑是:数据采集层负责各类信息的大量采集,并将数据传输到存储处理层;存储处理层在存储原始数据的同时,按知识提炼层下发的知识表达范式,利用硬盘控制器的CPU对原始数据进行预处理;知识提炼层进一步对信息进行提炼,形成更多可用行业知识(如交通小脑),并根据业务需要,将行业业务处理状况提交全域服务层;全域服务层对于来自多个行业方向的信息进行综合计算、综合表达,形成智慧城市高层的业务能力,也即城市大脑。
澳门新葡萄新京ARM云温数据储存
我们大家都有这个体验,硬盘里有些文件不能删,但是很少用,可能一年只被用到一次,这些就属于温数据。根据IDC的统计报告,温数据大概占到全球数据总量的70%,并以每年58%的速度递增。对温数据用热数据一样的保存方法是非常不经济的。
澳门新葡萄新京分布式AI基于ARM云开发的温存储技术解决了这个问题。平时硬盘和cpu都休眠,用户请求数据时快速唤醒cpu和硬盘,10秒供应数据。这样,存储的总体耗电量降到5%,15年数据保存的硬盘消耗降低70%。它主要可以替代标准X86存储系统。因为ARM-CPU的耗电量远低于X86平台,而且由于CPU价格低,即使是一块硬盘一个CPU的模式,价格还是低于或等于X86系统,所以可以形成基于IP网络连接的分布式存储系统,扩展系统特别方便。
分布式AI,综合成本仅为集中式的1/10
基于上述分布式AI服务系统和数据温存储,澳门新葡萄新京的分布式AI能够做到更快更便宜,其综合成本仅为集中式AI的1/10。
和集中模式AI相对比,分布式AI系统更快、价格更低。集中式AI采用的是在X86服务器插4块GPU卡,按照当前的主流配置,每台设备可以处理35个并发媒体数据的AI信息提取,设备价格在10-20万以上,每个并发需要2850元-5700元。
而分布式AI服务器,一个机箱可以处理160路(80个CPU/台,每ARM-CPU处理2路视频),设备价格10万/台,每个并发只需要625元,能节约80%以上成本。
AI与分布式存储融合的平台,用户购买ARM存储与X86系统投资相同,但每块硬盘的ARM-CPU可以处理AI信息,AI计算几乎没有额外硬件投入,只有软件投入,也就是存储与AI合一的架构具有极高的性价比,额外硬件投入等于0。因此,像城市大脑这样的高配需求,显然分布式AI更便宜。
至于速度,举个例子,公安要从10000TB视频数据中破案,传统方案中的主流GPU服务器集群,每台可以处理35个并发,所有图像过滤一遍最快需要15小时。
但分布式AI,面对同样大的视频数据,3000个CPU同时处理AI,每个处理2路,可以半小时完成遍历数据。如果采用预处理模式,先将内容AI分析做成模版存在本地,还可以更充分地利用闲置的存储资源,实现实时响应查询,例如直接输入你想要的检索词“车牌浙AXXXX”,系统能直接调用相关内容视频。
不仅如此,大量边缘低端计算使用AI处理不一定快。例如压缩视频信号的AI处理,计算量最大的不是AI处理,而是视频解码,用GPU作视频解码显然很不经济,而ARM CPU在这方面的表现一点也不比GPU差。所以通过分布式AI系统预处理大量边缘低端计算,使得数据传输量大大减少,提高数据中心反应效率。
事实上,澳门新葡萄新京的分布式AI解决方案,是对主流集中式的有力补充。因为借助澳门新葡萄新京的分布式AI解决方案,可以降低成本,拓宽业务范围,惠及更多城市和行业;同时送往中心的数据量降低后,能够提高中心AI系统的反应速度,减少等待时间。