本次的数据湖评测,是信通院推进的国内首家数据湖标准评测,共涉及存储能力、计算能力、安全能力、数据管理能力、兼容能力、运维能力、湖应用能力、高可用能力八个能力域。阿里云及国内友商等都参与标准设计,最终阿里云以得分排名第一的标准考核荣获云原生数据湖专项评测证书。国内首批!得分排名第一!
随着各行业数字化转型不断深入,基于数据驱动的业务场景不断涌现,企业开始产生“多样数据源统一存储、数据统一管理、业务高低峰资源动态调配”等需求。而数据湖是一个统一存储池,支持结构化、半结构化、非结构化等多种格式存储海量数据,同时具有低成本、可拓展性强、灵活高效等特性,越来越多企业选择数据湖作为企业数据存储、管理的解决方案。
近年来Hudi、Iceberg、Delta Lake三大开源数据湖的面世推动数据湖整体进入产品化阶段。与此同时,与容器、Serverless等云原生技术的深度融合,引领数据湖产品开始走向云原生。云原生数据湖支持异构数据灵活存储、计算资源弹性伸缩,能够帮助企业应对当前数据结构愈发复杂、数据处理分析时效性要求不断提高的业务环境。
2022年3月29日-3月31日,在中国信通院组织的第十四批“可信大数据”产品能力评测中,阿里云计算有限公司顺利完成了首个云原生数据湖评测。
参与此次评测的是阿里云云原生数据湖产品,包括云原生开源大数据平台 E-MapReduce、数据湖构建 DLF(Data Lake Formation)、对象存储 OSS 以及 DataWorks等产品。整个产品体系提供“统一元数据管理、数据入湖、数据存储、缓存加速、弹性计算、容器、数据分析、任务编排、运维管理,以及安全”等全面数据湖能力。
E-MapReduce
开源大数据平台 E-MapReduce(简称“EMR”)是云原生开源大数据平台,向客户提供简单易集成的Hadoop、Hive、Spark、Flink、Presto、Clickhouse、StarRocks、Delta、Hudi、HBase 等开源大数据计算和存储引擎。EMR 计算资源可以根据业务的负载情况做动态调整,EMR可以部署在阿里云 ECS 和 ACK 上。
数据湖构建 DLF
数据湖构建(Data Lake Formation,DLF)作为云原生数据湖架构核心组成部分,帮助用户快速构建云原生数据湖解决方案。数据湖构建DLF提供数据入湖、湖上元数据统一管理、企业级权限控制,并无缝对接多种计算引擎,打破数据孤岛,洞察业务价值。
对象存储OSS
阿里云对象存储OSS(Object Storage Service)提供海量、安全、低成本、高可靠的云存储服务,提供99.9999999999%(12个9)的数据持久性,99.995%的数据可用性。多种存储类型供选择,全面优化存储成本。
DataWorks
DataWorks 提供智能数据建模、全域数据集成、高效数据开发、主动数据管理、全面数据安全、快速数据服务六大全链路大数据开发治理能力,帮助企业快速构建数据中台。
企业可以基于 DataWorks + E-MapReduce + DLF + OSS 在云上轻松构建一套完整的数据湖解决方案,目前阿里云已经与互娱、游戏、金融和在线教育等行业客户携手,通过数据湖解决方案加速企业内部数据应用的创新。
好文章,需要你的鼓励
WordPress实验性AI开发工具Telex在9月发布几个月后已投入实际使用。在"State of the Word"年度活动中,WordPress联合创始人展示了Telex的多个应用案例,包括创建价格比较工具、价格计算器和实时营业时间显示等功能。该工具能够生成Gutenberg模块,让开发者在几秒内完成过去需要数千美元定制开发的功能。同时WordPress还推出了Abilities API等AI架构开发。
印度学者在卫星图像识别领域取得突破,设计出无需预训练的神经网络架构,在EuroSAT数据集上达到97.23%准确率。通过三轮迭代优化,研究者发现卫星图像需要平衡空间和光谱两种特征,创新性地开发了可学习融合参数的双路径注意力机制。该方法证明了专用架构设计在特定领域的巨大潜力,为无法获得大规模预训练数据的应用场景提供了有效解决方案。
英国国家网络安全中心与BT合作推出的Share and Defend服务成功拦截了近十亿次早期网络攻击和用户访问危险网站的尝试。该服务整合多方威胁情报数据,通过互联网服务商的DNS平台实时过滤恶意网站,大规模阻断钓鱼和虚假购物网站。目前已有TalkTalk、沃达丰等多家合作伙伴加入,政府计划在2026年1月发布国家网络行动计划以进一步提升英国网络安全防护能力。
UC伯克利研究团队开发了ECHO框架,通过分析社交媒体上真实用户对GPT-4o图像生成的使用反馈,构建了更贴近实际需求的AI评测体系。该框架收集了超过31000个用户提示词,发现传统评测无法覆盖的复杂任务需求,并识别出用户关心的色彩偏移、身份保持等具体问题,为AI模型评估提供了全新的用户导向思路。