仅一辆自动驾驶汽车每天就能产生几TB甚至几十TB的数据伴随着自动驾驶,物联网,人工智能,AR,5G等技术在生产生活中更加深入的应用,以文本,图形,图像,音频,视频等非结构化数据为主的信息数据量急剧增加
根据IDC的预测,到2025年,全球产生的数据量将达到175ZB,其中80%以上是难以处理的非结构化数据。
目前,对庞大且不断增长的非结构化数据的高效存储,管理和分析已经成为企业数字化和智能化转型过程中需要处理的关键环节。
最近几天,长期研发存储技术的青云科技正式推出面向私有云场景的非结构化数据统一存储平台QingStor U10000,以赋能企业加速数字化转型。
青云科技存储产品总监冯向东介绍,与QingStor NeonSAN主要面向结构化数据的高性能业务场景不同,QingStor U10000主要面向非结构化数据场景,包括图像数据,音视频数据,数据湖,大数据,物联网等场景青云希望通过专业的存储分工,更好地服务于专业场景
根据消息显示,QingStor U10000产品设计的初衷是帮助客户更好地实现海量数据的价值挖掘QingStor U10000支持三种非结构化数据访问协议的互操作和无损共享:文件,对象和大数据在容量上支持横向扩展,线性提升整个系统的容量和性能,可以独立横向扩展元数据和存储节点安全性方面,元数据和业务存储数据分开存储,有效避免单点故障,在运维方面,提供了资源管理,配置管理,告警,日志,监控等一系列统一的管理平台
根据客户要求,QingStor U10000支持两种交付模式:软件交付和一体化存储。
自我研究
冯向东表示,青云存储产品的一个重要特点是真正自主研发的中文存储与QingStor NeonSAN一样,QingStor U10000继承并集成了QingStor对象存储和文件存储也是由青云科技的存储团队独立设计的它不继承任何开源架构,不存在知识产权风险自主研发使得技术QingStor U10000 100%可控,不存在技术盲区,能够更好地支撑企业数字化转型需求
在新创领域,青云的产品线包括QingStor U10000在内,兼容核心国产硬件平台和操作系统平台,如鲲鹏,腾飞,广海等主流国产硬件平台,以及麒麟软件,同心,openEuler等国产操作系统青云实现了完全的生产兼容
青云作为中国的云计算公司,有着中国存储服务数字中国的愿景,希望通过自己的努力,消除企业对数据安全的顾虑,用真正自主研发的中国存储服务数字中国冯向东强调
真正的协议无损互通
与青云早前推出的QingStor对象存储和文件存储产品相比,QingStor U10000不仅全面继承了产品实力,还在数据协议的互通,功能和性能的增强,整个计算平台的对接加强等几个方面进行了明显的能力提升。
冯向东特别强调,QingStor U10000构建了统一的索引架构,支持多协议无损互通,从而实现高效的数据访问和流转。
为什么要特别强调协议互通可以让数据分析更高效冯向东阐述:在一个完整的业务场景中,一条数据可能需要在多个链接中进行处理如果无法实现协议互操作性,就需要不断复制这些数据比如先在这个业务的存储空间处理,再拷贝到另一个存储空间,用另一个存储协议访问,这样会增加多个存储之间数据迁移的拷贝
也就是说,QingStor U10000基于统一的索引架构,为存储在对象接口,NFS/SMB或HDFS大数据协议中的数据提供元数据管理这种架构对于应用程序的好处是,对象可以存储存储的数据而无需格式转换,并通过NFS访问它,或者存储在NFS的数据可以通过S3访问存储和读取数据之间不需要格式转换,所以不会有性能和语义的损失
以自动驾驶场景为例,冯向东介绍,通常,道路测试车辆每天可能会产生几TB或几十TB的数据有几十辆路测车,每天产生差不多1的数据正常情况下,这1的数据需要经过四个环节的处理,才能真正发挥作用第一步是上传和导入数据,通常在存储中使用S3和NFS协议第二个环节是数据预处理,这个环节基本是基于大数据分析框架HDFS第三个环节是AI培训,主要基于NFS协议第四个环节也将涉及模拟测试,主要基于NFS和SMB协议从自动驾驶完整数据链的处理环节可以看出,一个数据在不同阶段需要通过不同的数据访问协议连接到不同的计算框架,只有协议互通才能让数据分析更加高效
虽然现在市面上也有分布式存储厂商在讲协议互操作,但是大部分都是通过格式转换技术实现的,所以没有真正的多协议无损互通,究其根本,是因为没有统一的索引架构冯向东认为:统一索引架构是QingStor U10000在架构层面的明显优势
青云科技产品技术解决方案总监张中华介绍,QingStor U10000广泛应用于集装箱存储,大数据分析,PACS,高精地图,多媒体数据处理与存储,冷数据备份与归档等应用场景,并已成功应用于互联网体检,智能驾驶,智能工厂物联网场景和多样化超级计算场景例如,青云提供的存储集群和计算资源,从采集,制作,培训全生命周期,基本满足了某智能驾驶科技公司高精地图业务场景的存储和计算需求
。郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
标签: