找回密码
 立即注册

扫一扫,登录网站

首页 区块链生态 查看内容
  • 9517
  • 0
  • 分享到

如何让区块链获得人工智能的能力

2019-7-4 15:23

来源: 蓝狐笔记

Cortex的模型推断的执行


上面我们介绍了Cortex算法模型市场的基本结构和流程,那么它具体来说,是如何在Cortex链上进行推断的?
 

(全节点执行推断流程)

首先,Cortex公链本身并不实际存储数据和和模型,它存储的是模型和数据的哈希值,模型和数据存储在链下的存储层。
 
在Cortex的智能推断执行中,主要是全节点来执行。当模型的需求者(如智能合约的开发者)发起一笔智能合约的交易,全节点不仅要执行该智能合约代码,它还涉及到推断指令的执行。
 
具体流程来说,首先全节点会查询模型索引,找到该模型在存储层的位置,并下载模型的字符串和对应参数。之后,通过Cortex模型表示工具将模型字符串转换为可执行代码。然后再通过Cortex的虚拟机CVM执行可执行代码,得出结果进行全节点共识广播。

区块链上进行深度学习的部署并非易事,主要是受制于节点的算力、内存和能耗,且区块链要求严格的确定性。这对链上的AI推断实现带来很大的挑战。

Cortex提出了区块链场景下的新型确定性推断框架,它是一种基于MXNet深度学习库模型的、为严格确定性设计的定点化方法。该框架包括了上面提到的两个主要组件:MRT和CVM。其中MRT(模型表示工具)用于模型定点化、CVM(Cortex虚拟机)用于链上推断。

Cortex首先使用MXNet的NNVM模块,称为MRT,也就是模型表示工具用以创建转换器,以实现量化MXNet模型集。然后,在CVM上运行量化模型。具体的实现过程涉及到重写、融合等复杂的运算过程。这里不进行详述。当前来看,Cortex的定点化方案应用之后,并没有降低精度。这也是Cortex在技术探索上取得的突破。

版权申明:本内容来自于互联网,属第三方汇集推荐平台。本文的版权归原作者所有,文章言论不代表链门户的观点,链门户不承担任何法律责任。如有侵权请联系QQ:3341927519进行反馈。
相关新闻
发表评论

请先 注册/登录 后参与评论

    回顶部