创新“扑面”而来第三届进博会上香港服务贸易商扫描

创新“扑面”而来——第三届进博会上香港服务贸易商扫描

新华社上海11月7日电(记者刘欢、许晓青)5G体温检测智慧型机器人、家居检疫电子追踪手环、在家病毒检测服务……走进第三届中国国际进口博览会服务贸易展区的“香港服务业馆”,创新的气息扑面而来。

我们今天AI的产业也适用于这样的规律。新算法的出现,可以让我们做到很多之前做不了的事情;海量的数据和算力,可以让我们的算法跑得更多,使得人脸识别的正确率更高,语音识别准确率更高。但实际上,真正要让AI产业能够持续发展,我们认为算力平民化是很必要的,只有成本真正地降了下来,整个AI产业才能够持续的发展。

由李卉茵发起,上海和澳门两地艺术家携手打造的创新舞台剧《梦影·牡丹亭》将于10月24日至26日在位于上海宝山区的“瑜音阁”戏楼首演。据介绍,这也是澳门、上海戏曲界的首次合作,得到了上海、澳门两地文创主管部门的资助扶持。

汤显祖的名著《牡丹亭》中暗藏着一段“澳门密码”,也是最早出现澳门风光的中国戏剧作品。明万历十九年(1591年),汤显祖因抨击朝政而被贬黜,10月下旬抵达广州,随后乘船访游澳门。在不久后创作的《牡丹亭》剧本中,汤显祖写下了柳梦梅游历澳门之后再前往长安赶考的故事。“一领破袈裟,香山墺里巴。多生多宝多菩萨,多多照证光光乍”……据考证,剧中提到的“多宝寺”就是今天澳门的“大三巴”。

新冠肺炎疫情推动了传统行业加快科技应用并迈向电子化、科技化发展。香港冯氏集团在进博会服务贸易展区设置了360平方米的展位,共分为供应链管理、创新解决方案、物流、零售和品牌授权五大主题展区,展示以数字化、人工智能、云计算等技术驱动的未来供应链解决方案。

最后一个场景是随需应变,主要是帮助用户根据他的需求来动态伸缩使用的资源。比方说,他的任务刚启动时只需要半个GPU,但是随着运行的不断推进,需要的计算量越来越大,就需要10个GPU。相当于旅行团,在上午可能只有四五个人,而到了下午又来了一拨人,可能变成了一百个人。这种情况下,我们的软件可以根据他的需求,动态变化伸缩他所使用资源的量,这就是随需应变。

第二个场景叫化零为整。对于用户来讲,他的计算任务可能非常大,像几百人的旅行团一样。当用户计算任务非常大的时候,我们可以把多个GPU给到用户的这个任务使用,给用户几张,甚至几十张GPU卡,去满足用户大计算量的需求,这是化零为整的场景。

王鲲表示,一个产业的发展,会有三个阶段,Make It Work、Make It Perform、Make It Cheap……以汽车产业为例,在最后一个阶段,Make It Cheap,只有当汽车的成本降低到了普罗大众都能买起的程度,整个汽车产业才能够蓬勃地发展起来。

但与此同时,GPU的价格不菲,企业级CPU的价格大概是在千美元的量级,但是企业级GPU的价格是在万美元的量级,提升了一个数量级。相对来讲,GPU的算力比较昂贵,而这么昂贵的算力,目前大部分用户的使用情况却不是很好。

那么,用户需要的是怎样的一种方式来使用算力。我们总结出了两个词,一个是随需应变,一个是动态。仍然用大巴车与旅行团的例子,随需应变的意思是,像三四个人的小旅行团,可能要派辆轿车,如果是十个人的旅行团,派辆中巴车,如果是一百人,那么可能需要派几辆大巴车,根据实际需求来决定车辆的大小。

下面给大家介绍两个客户的实际案例,第一个是一家互联网公司的案例。这家公司的AI训练平台部门在使用我们的软件,他们的需求与痛点是什么?他们有大量的GPU服务器,每台GPU服务器都有很多张GPU卡,整个平台是一个共享平台,有多个团队在共享使用。实际上,他们计算任务的规模很不一样,有的计算任务大,有的计算任务小。所以在整个平台运行的过程中,就会出现很多碎片化的资源,比方说这台服务器八张卡有两张空闲,另一台的八张空闲三张。在这种情况下,想要跑一个四卡的训练任务,是很难跑起来的。通过我们的软件,把他所有的资源变成一个资源池,在这里面做管理和调度,就可以解决他碎片化资源的浪费情况,提高利用率,同时也提高工程师的人效。

最后我想讲一点,一般来说,一个产业的发展,会有三个阶段,Make It Work、Make It Perform、Make It Cheap……怎么理解,我们来举个例子。汽车产业在刚刚诞生的时候,也就是汽车刚被发明的时候,它只是跑得比马车快,甚至还没有马车快,它只是能够跑起来,这是一个Make It Work的阶段。但是后来,随着汽车技术的改进,它可以跑得比马车快,也就是Make It Perform,但是在这个阶段,它的缺点是成本太高,价格太高,能够买得起的人非常少。在最后一个阶段,Make It Cheap,只有当汽车的成本降低到了普罗大众都能买起的程度,整个汽车产业才能够蓬勃地发展起来。

化整为零与化零为整,实质上是根据具体情况去满足用户的实际需求,从而帮助用户提升资源的利用率、提高工程师的人效。

这个是我们在高校的案例,这所高校是双一流高校下属的一个学院。学院里面有很多实验室,每个实验室都有自己的AI在运行,有AI计算的需求。大家可以想像,如果每个实验室都自己采购自己的硬件,一定会非常浪费。因为平均下来,每个实验室能够采购的算力会比较少,而且算力也不能完全充分利用,所以会非常浪费。那么,把所有实验室的资源放在一起变成一个资源池,通过我们的软件就可以很好地帮助学院里所有的实验室,都能充分地利用这些资源。而这些实验室运行的任务中,既有AI的推理,也有训练,还有教学或者科研,场景非常多。而在不同场景下,所使用的资源量也完全不一样。使用我们的软件定义方法以后,就可以帮助用户较好地适应不同大小,不同时间任务的需求,从而提高利用率,降低成本。

王鲲认为,目前的AI产业也适用于上述规律。“新算法的出现,可以让我们做到很多之前做不了的事情;海量的数据和算力,可以让我们的算法跑得更多,使得人脸识别的正确率更高,语音识别准确率更高。但实际上,真正要让AI产业能够持续发展,我们认为算力平民化是很必要的,只有成本真正地降了下来,整个AI产业才能够持续的发展。”

在“利洋针织智造平台”展柜前,琳琅满目的个性针织衫吸引了不少观众驻足参观。冯氏集团企业传讯副总裁顾文静介绍说,该平台以数据为核心,依托人工智能和虚拟设计技术创建个性化生产数据包,完成从设计到制造整个流程,借助最新的数字化管理,可实现在两周内把个性创作设计呈现在针织衫成品里。

以美国公有云巨头AWS为例,他们公布出来的GPU利用率是10%-30%,这个数字和我们在国内了解到大部分用户的使用情况差不多。我们还知道有不少用户的利用率甚至不足10%,也就是说,一张1万美元GPU卡的利用率只有不到10%,这也就意味着超过9000美元以上的算力是浪费的,这是一个非常大的算力浪费。

“我们希望让《梦影·牡丹亭》这部舞台剧‘很炫酷’,为昆曲吸引更多年轻观众。”李卉茵说。

趋动科技的软件就是要帮助客户在AI领域里做到软件定义,在这里面,有四个非常典型的使用场景:化整为零、化零为整、隔空取物、随需应变。

与此同时,内蒙古医疗救助覆盖城乡特困人员、低保家庭成员、建档立卡贫困人口、符合条件的低收入家庭成员和因病致贫医疗救助对象等困难群体。目前,特困人员、低保对象、农村建档立卡贫困人口在年度救助限额内住院救助比例达到70%以上。(完)

以下为演讲全文,猎云网整理删改:

隔空取物是第三个场景,在数据中心里,最主要是由服务器提供算力,但是因为GPU非常昂贵,一般来说,不会每台服务器都配备GPU。在这种情况下,我们的OrionX软件定义AI算力可以帮助用户做到,让应用跑在没有GPU的服务器上,通过网络使用其他服务器的GPU。相当于,你在海淀区的车队无车可用了,但是在朝阳区的车队还有车,那么就可以直接使用朝阳区的车。未来网络基础设施会变得越来越好,如果网络条件足够好,我们甚至可以帮助用户在省、市的范围内来调配算力。也就是说,北京的用户运行程序可以直接使用上海的算力。有点像今天的特高压输电线,相当于在北京使用新疆发电得来的电力,这是隔空取物的意义。

总结目前客户的情况,基本上,我们的软件能够做到:提升3-5倍的GPU利用率,提升超过50%的算法工程师人效,同时降低超过50%的TCU整体拥有成本,并且帮用户减少超过80%的电力消耗。对于用户来说,我们软件给到用户的价值是非常巨大的。

各位嘉宾朋友们大家上午好,我是王鲲,来自驱动科技,今天很高兴有这个机会给大家分享《软件定义算力,助推AI产业》。

据介绍,舞台剧《梦影·牡丹亭》打破了昆曲和话剧两种舞台艺术形式的界限,同时融合影像和新媒体技术,描绘汤显祖在澳门的奇遇经历,将为当下的观众呈现一场中西文化交融、既古典又青春的舞台佳作。

“疫情只是在一段时间内阻隔了人们的相聚,但阻挡不了服务贸易发展的脚步。”香港龙腾集运有限公司电子商务及物流部经理梁嘉贤说,我们连续三年参加进博会,今年展台面积比前两年扩大一倍,并突出粤港澳大湾区概念,以“前海国际进口中心”作为展示主体,希望能与更多海内外代理商合作,共觅服务贸易商机。

为什么会出现如此大的算力浪费,我们来打个比方,把50座的大巴车比喻成性能强大的AI芯片,把AI的计算任务比成旅行团,不同计算量的任务大概相当于不同规模的旅行团。小的计算任务相当于三四个人的旅行团,大的计算任务相当于上百人的旅行团。大家可以想像,最简单的使用和管理方法是,来一个旅行团派一辆车。但实际上的结果是,只有十个人,甚至两三个人,依然派一辆大巴车,那一定是非常浪费的。

预计本季度,联发科将推出入门级的天玑600芯片,将成为第四季度5G芯片出货的主力军。

500平方米的“香港服务业馆”,由香港贸易发展局连续第三年组展,汇聚了建筑、物流、市场营销、专业服务等13家参展商,同时展出香港科创企业的创新案例,向观众呈现香港服务业发展现状和趋势。

如果想要以硬件的方法做到这点,就意味着用户一定需要准备各种规格的车,既需要准备轿车,也需要准备中巴车,也还需要准备大巴车,要决定每种规格的车的数量将会非常困难,因为每一波用户的数量是在变的。也就是说,基于这种硬件的方法想要实现随需应变、动态伸缩是非常难的。

而基于软件定义的方法,就可以帮助用户做到这一点。本质上,软件定义的方法就是帮助用户做到物理上全是50座大巴车,但是帮你虚拟成不同规格,比如说可以把一辆50座的大巴车,变成10辆5座的虚拟小车,也可以变成两辆5座的车外加两辆20座的车,通过软件定义技术可以帮用户做到随需应变、动态伸缩。

据悉,内蒙古14个统筹区实现基本医疗保险基金盟市级统收统支,2020年全区城乡居民医保财政补助标准达到每人550元,个人人均缴费280元,各级政府财政补助水平达总筹资金额的66%。

为圆昆曲与澳门之间的这段宿缘,两地文艺界共同携手。该剧的主创阵容中,有著名京剧老生王珮瑜和她的“瑜音社”、“80后”知名导演马千、“95后”青年编剧曹蕴祺。“柳梦梅”和“杜丽娘”则分别由上海京剧院演员陈圣杰和苏州昆剧院青年演员奚晓天饰演。

趋动科技在做的事情,就是用技术和软件帮助客户降低成本,做到算力平民化,让AI可以赋能百业,趋动科技则是用AI算力平民化的技术赋能AI。

顾文静说,内地有14亿人口,是全球最具潜力的大市场,国家又在提倡“国内国际双循环”,这对服务贸易企业来说都是诱人的商机。前两届进博会上,冯氏集团与阿里巴巴、招商保税等公司现场签约,今年又与儿童用品企业孩子王签署深化战略合作备忘录,可以说进博会是一个充满机遇的平台。

目前,我们也已经跟业内非常多重要的伙伴建立了合作关系,比如说戴尔、亚马逊、浪潮、AWS、科大迅飞,同时也在跟更多的伙伴建立更多的合作关系,让我们的软件、技术能够更快地服务于各行各业的客户,也取得了一些小小的成绩。

黄丹说,对于港企而言,最重要的增量市场在内地。近年来,数字技术强势崛起,促进了产业深度融合,引领了服务经济蓬勃发展。港企应发挥“专业服务”优势,将新技术、新理念、新模式与服务贸易结合,开拓内地服务贸易大市场。

业务遍布全球的香港建筑设计咨询公司巴马丹拿连续三年前来参展。集团上海公司传媒部副经理黄丹告诉记者,巴马丹拿今年带来BIM+AR建筑设计系统(建筑信息模型结合增强现实),通过手持式移动设备,让客户对建筑模型外部环境和内部设计了如指掌,实现建筑设计方案变更、全专业设计、功能分区展示等功能。

实际上,目前用户就是在以这样一种非常粗放的方法,来使用性能强大却也非常昂贵的AI芯片,本质上这是造成今天算力利用率低、成本高的根本原本。

趋动科技在做的事情,就是用技术和软件帮助客户降低成本,做到算力平民化,让AI可以赋能百业,趋动科技则是用AI算力平民化的技术赋能AI。

据介绍,趋动科技的软件能够提升3-5倍的GPU利用率,提升超过50%的算法工程师人效,同时降低超过50%的TCU整体拥有成本,并且帮用户减少超过80%的电力消耗。

本次峰会由猎云网主办,猎云资本、企业管家、猎云财经、锐视角协办,近百位知名资本大咖,独角兽创始人、创业风云人物及近千位创业者共聚一堂。峰会以“AI UP!”为主题,聚焦人工智能产业的应用,通过展示多领域多维度人工智能技术和产品以及分享讨论AI在不同场景中最新落地应用,展现人工智能产业落地应用的最新成就;并围绕人工智能产业的“进击”与“破圈”,探讨AI技术如何为产业赋能。

从2012年到现在,整个AI算力的需求增长了超30万倍,这个增长速度非常惊人。在可预见的将来,AI算力的需求仍然会保持这样高速的增长。

今天峰会的主题是AI,大家对AI也都并不陌生。在过去几年,AI的发展非常迅速,各种应用也在加速落地,不管是人脸识别还是语音识别,它们的背后都是由算力引领。可以这样说,高速增长的算力,一直在推动AI产业的发展。

王鲲这样介绍“隔空取物”:“在数据中心里,最主要是由服务器提供算力,但是因为GPU非常昂贵,一般来说,不会每台服务器都配备GPU。在这种情况下,我们的OrionX软件定义AI算力可以帮助用户做到,让应用跑在没有GPU的服务器上,通过网络使用其他服务器的GPU。未来网络基础设施会变得越来越好,如果网络条件足够好,我们甚至可以帮助用户在省、市的范围内来调配算力。”

5G芯片成为联发科业绩持续上扬的重要因素。联发科目前已经推出高端系列天玑1000、天玑1000L、天玑1000+,以及中端的天玑800、天玑820。业界人士指出,天玑800系列是本季度出货增长的主要动力。

今天AI算力的主要提供者已经不再是传统意义上的CPU,以GPU为代表的AI加速芯片已取代传统的CPU成为AI算力的主要提供者。因为像GPU这样的AI加速芯片,它的性能可以达到传统CPU的100甚至1000倍,这是非常惊人的提升。

趋动科技的软件就是要帮助客户在AI领域里做到软件定义,在这里面,有几个非常典型的使用场景。第一个场景是化整为零。以GPU为例,当用户AI计算任务规模比较小的时候,一个任务不足以用满一张GPU卡。这时候,我们能做的事情就是帮助用户把一个性能强大的物理GPU,变成多个虚拟GPU给到多个用户共享,相当于在刚才大巴车的例子中,把一个大巴车变成多辆虚拟小车给到用户使用。通过这种方式化整为零,帮助用户提升资源的利用率。

趋动科技是一家AI加速器虚拟化及资源池化服务商,主要为用户提供AI加速器虚拟化和资源池化软件及解决方案。目前趋动科技已经推出OrionX计算平台,使用户应用无需修改就能透明地共享和使用数据中心内任一服务器之上的AI加速器。

随需应变是指,帮助用户根据他的需求来动态伸缩使用的资源。王鲲解释到,“比如说,他的任务刚启动时只需要半个GPU,但是随着运行的不断推进,需要的计算量越来越大,就需要10个GPU。我们的软件可以根据他的需求,动态变化伸缩他所使用资源的量。”