X为了获得更好的用户体验,请使用火狐、谷歌、360浏览器极速模式或IE8及以上版本的浏览器
欢迎来到宁夏技术市场,请 登录 | 注册
尊敬的 , 欢迎光临!  [会员中心]  [退出登录]
 常见问题  关于我们
成果
成果 专家 院校 需求
微信公众号
当前位置: 首页 >  科技成果  > 详细页

[00281676]基于Spark的分布式大规模矩阵乘法的矩阵计算方法

交易价格: 面议

类型: 发明专利

技术成熟度: 正在研发

专利所属地:中国

专利号:CN201510758182.3

交易方式: 完全转让 许可转让 技术入股

联系人: 南京大学

所在地:江苏南京市

服务承诺
产权明晰
资料保密
对所交付的所有资料进行保密
如实描述
分享
|
收藏
|

技术详细介绍

本发明公开了一种基于Spark的分布式大规模矩阵乘法的矩阵计算方法,包括以下步骤:采用了一种基于分布式计算执行引擎Spark和单机线性代数库BLAS的系统框架;在该分布式系统中,定义与封装矩阵的相关运算接口,从分布式文件系统中读取矩阵文件,针对分布式计算环境的资源量以及待处理矩阵的规模,选择合适的方案执行分布式乘法:若两个矩阵规模都很小,汇集到本地进行单机乘法;若其中一个矩阵规模较小,则广播该矩阵执行乘法;若两个矩阵规模均很大,采用基于分块的分布式矩阵乘法。针对后两种情况,本发明分别提出了两种高效的解决方案,解决了现有的大数据处理平台对分布式矩阵运算的性能低,扩展性不好的问题。

Copyright © 2018    宁夏回族自治区生产力促进中心    版权所有    宁ICP备11000235号-3    宁公网安备 64010402000776号

联系电话:0951-5064080              网站访问量:               网站在线人数:0              技术支持:科易网