首页 / 行业
华为云OBS对象存储服务完成开源社区同行评审 正式合入Apache Hadoop社区
2021-01-22 16:52:00
近日,华为云OBS对象存储服务OBSA-HDFS组件代码完成了开源社区同行评审,已经正式合入Apache Hadoop社区,标志华为云存算分离大数据方案正式获得社区认可,客户可以通过社区获取最新的OBSA-HDFS组件版本,快速在华为云完成大数据平台的部署和使用。
OBSA-HDFS组件全称为HuaweiCloud OBS Adapter for Hadoop Support,利用OBSA-HDFS,客户可以在华为云上快速部署存算分离的Hadoop大数据平台,无需修改代码即可完成Spark、MapReduce、Hive、HBase等组件与华为云OBS对象存储服务的对接,并获得高性能的HDFS存储。
当然,除了客户端组件外,华为云OBS在服务端的Data Multi-Protocol功能为达成存算分离提供了技术保证。传统的对象存储服务不支持原生的文件协议,导致大数据场景下的rename需要通过拷贝和删除两个操作组合来完成,更无法对文件目录进行修改,而拷贝操作会消耗宝贵的IO资源且时延较高。
华为云OBS的Data Multi-Protocol支持POSIX文件语义,通过对元数据结构和操作的双重优化,可快速完成文件的rename。经过测试,在大数据场景下,对100MB文件进行rename操作,华为云OBS比传统对象存储性能提升10倍以上。
凭借着数量级的性能提升,华为云BigData Pro存算分离大数据解决方案使用OBS替代Hadoop的本地HDFS存储,让计算资源和存储资源完全解耦,独立扩容,让大数据分析的性价比平均提升35%以上。更可以构建云上统一数据湖,消除数据孤岛、降低数据共享难度、减少数据冗余、提升数据使用效率。
当前,华为云BigData Pro解决方案已经服务于斗鱼、美图、蘑菇街、货拉拉和长虹等行业知名客户。
未来,我们也将为Hadoop在公有云场景下的效率提升而持续努力。
Hadoop是Apache基金会的顶级项目,也是业界领先且使用最广泛的分布式系统框架,用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。
HDFS是Hadoop实现的分布式文件系统(Hadoop Distributed File System),为海量数据提供高吞吐量、高扩展、高可靠和高容错性的存储。
从2006年成立以来,Hadoop改变了企业对数据的存储、处理和分析的过程,形成了一个极其丰富的技术生态圈。
最新内容
手机 |
相关内容
平头哥首颗SSD主控芯片镇岳510问世
平头哥首颗SSD主控芯片镇岳510问世,将率先在阿里云数据中心部署,数据中心,芯片,平头,需求,可靠性,稳定性,近日,平头哥首颗SSD主控芯片AI边缘智能分析设备:智慧食堂明厨亮
AI边缘智能分析设备:智慧食堂明厨亮灶的智能化应用,智能,边缘,监测,系统,数据,实时,智慧食堂是指利用人工智能和LM317LD13TR物联网技DigiKey 凭借品牌更新荣获四项 Mar
DigiKey 凭借品牌更新荣获四项 MarCom 大奖,四项,机构,明尼苏达州,公司,行业,产品,全球供应品类丰富、发货快速的商业现货技术元件芯朋微:服务器配套系列芯片已通过客
芯朋微:服务器配套系列芯片已通过客户验证 可应用于AI服务器,服务器,客户,芯片,验证,人工智能,公司,芯朋微是一家专注于人工智能芯片什么是监控云服务器,监控云服务器的
什么是监控云服务器,监控云服务器的组成、特点、原理、分类、操作规程及发展趋势,云服务,发展趋势,分类,实时,监控系统,安全监控,CD4什么是串口服务器,串口服务器的组成
什么是串口服务器,串口服务器的组成、特点、原理、分类、常见故障及预防措施,服务器,串口,分类,远程访问,预防,接口,TLC27M2CDR串口微软自研AI芯片公布在即,云厂商进一
微软自研AI芯片公布在即,云厂商进一步优化成本,优化,芯片,服务,用户,计算,云计算,近年来,人工智能(AI)技术的发展迅猛,已经成为许多行业实用至上!让低代码与 AI 成为你的得
实用至上!让低代码与 AI 成为你的得力助手,实用,客户,开发人员,数据,用户,人工智能,在当今科技快速发展的时代,人们对于提高效率和减