首页 > 数据库 >全球厂商之最,华为17篇论文入选国际数据库顶会ICDE

全球厂商之最,华为17篇论文入选国际数据库顶会ICDE

时间:2024-05-22 09:07:25浏览次数:22  
标签:index ICDE 17 数据库 论文 华为 advisor 顶会

本文分享自华为云社区《全球厂商之最,华为GaussDB&GeminiDB,17篇论文入选国际数据库顶会ICDE》 ,作者:GaussDB 数据库。

5月13-17日,国际数据库顶级学术会议 ICDE 2024 于荷兰乌得勒支举行。华为GaussDB 和GeminiDB 17篇论文入选,成为全球论文入选数量最多的数据库厂商。华为爱丁堡研究所数据库实验室主任Nikolaos Ntarmos发表了题为”Huawei Cloud GaussDB, a Better Way to Database“的演讲,向全球的学术机构和代表介绍了华为GaussDB的技术和商业成果。

1.png

ICDE全称为”IEEE International Conference on Data Engineering”(IEEE国际数据工程大会),与SIGMOD、VLDB 并称数据库领域三大顶会,是数据库领域最权威的国际顶级学术会议之一,在国际上享有盛誉并具有广泛的学术影响力。

ICDE收录了各大研究机构以及科技企业在数据库领域最前沿、最顶级的研究成果。ICDE 2024是第40届IEEE国际数据工程大会,华为17篇论文的入选,是华为科研团队与外部团队或组织友好合作共同努力的结果。下面将摘选华为在本次大会入选的部分论文,后续将对所有入选的论文进行专题解读。

GaussML: An End-to-End In-database Machine Learning System

《GaussML: An End-to-End In-database Machine Learning System》论文是由清华大学、华为和苏黎世理工大学联合共同完成,通过提升数据库内机器学习算法训练和推理的性能,深度满足用户实时性分析的诉求。该论文获得大会评审组的高度评价,认为其提出了一个全新的机器学习引擎。

原生库内机器学习框架,简称GaussML,将机器学习训练作为执行算子,利用数据库并行和分布式能力,展示出超越业界同类产品10倍以上机器学习推理和训练的性能优势,主要能力包括:

第一,论文首次提出数据库内原生AI机器学习引擎的架构,机器学习算法训练和推理融合在SQL执行流程中,借助数据库的优化器、负载管理、并发处理、分布式并行能力,实现机器学习训练和推理的极致高效;

第二,GaussML同时构建库内AutoML能力,可以自适应进行参数调整,根据负载变化进行模型更正,设计一种端到端模型自动调优的能力,简化用户调整模型参数代价,提升数据库内模型的使用便利;

第三,GaussML通过在数据库内置原生机器学习训练和推理流程,实现端到端自动调优能力,构建完整的库内机器学习引擎,支撑客户业务的智能实时分析。该框架通过提供SQL-like接口,简化数据科学家使用机器学习训练和推理代价,支持常用的机器学习算法,满足绝大多数客户使用。

综上,论文中提出一种全新的机器学习引擎,在多个公开数据集上该引擎表现出卓越的高性能优势,向数据库智能化发展上迈出了更远一步。

GaussDB-Global: A Geographically Distributed Database System

《GaussDB-Global: A Geographically Distributed Database System》论文是华为高斯数据库技术团队的研究成果。论文中提出了一种基于高精度时钟同步方法的分布式事务处理方法,并构建了跨地域分布式的全球数据库系统GaussDB-Global。该论文的主要实现:

第一,采用同步时钟的去中心化方法,地理分布式数据库系统解决了中心化事务管理器的性能瓶颈问题,实现了中心化的事务管理到去中心化分布式事务管理之间无缝过渡,提供了更加灵活、便捷的部署方式,实现一套集群全球化部署。

第二,在分片数据的远程读取和长距离日志传送问题上,地理分布式数据库系统支持在异步副本上读取,强一致性,可调整的新鲜度保证,以及动态负载均衡。在跨地域集群上的实验结果表明,与中心化基线相比,该方法提供了高达14倍的只读性能,标准数据集TPC-C吞吐量高出50%以上。

QCFE: An Efficient Feature Engineering for Query Cost Estimation

《QCFE: An Efficient Feature Engineering for Query Cost Estimation》论文是由哈尔滨工业大学和华为团队共同完成,通过提出了一个高效的特征工程方法(QCFE),解决了现有查询语句评估时的特征工程问题,该方法在时间-准确性效率方面取得显著改进。论文的主要贡献包括:

第一,提出了特征快照(Feature Snapshot)的概念,用于整合被忽略变量的影响,如数据库旋钮、硬件等,以提高查询成本模型的准确性。

第二,设计了差异传播特征减少方法,通过剪枝无效特征,进一步提高模型训练和推断效率。

第三,引入了简化的SQL模板设计,以提高计算特征快照的时间效率。

第四,在广泛的基准测试中,展示了QCFE相对于现有方法在时间-准确性效率方面的优势,包括TPC-H、job-light和Sysbench等。

综上,该研究的创新点在于提出了一种有效的特征工程方法,能够显著改善查询成本估算的时间和准确性。

TRAP: Tailored Robustness Assessment for Index Advisors via Adversarial Perturbation

《TRAP: Tailored Robustness Assessment for Index Advisors via Adversarial Perturbation》论文是由厦门大学、清华大学和华为共同研究,通过提出一个基于对抗性扰动的工作负载生成框架TRAP,解决了现有的index advisor的鲁棒性评估问题。

TRAP框架能够生成有效的对抗性工作负载,用于评估index advisor的鲁棒性。在index advisor的评估方面,TRAP具有明显优势。研究发现:

第一,通过对抗性工作负载的有效生成,可以准确评估index advisor的鲁棒性,因为这些工作负载不会偏离原始工作负载,但可以识别由于工作负载漂移而导致的性能漏洞。

第二,为设计更具鲁棒性的基于学习的index advisor,采用细粒度的状态表示和候选剪枝策略可以提高性能。

第三,对于设计更具鲁棒性的基于启发式的index advisor,考虑索引选择过程中的索引交互作用和多列索引的使用是至关重要的。

综上,以上发现为index advisor的设计和评估提供了深刻见解,并强调了在实际应用中评估index advisor的重要性。

Temporal-Frequency Masked Autoencoders for Time Series Anomaly Detection

《Temporal-Frequency Masked Autoencoders for Time Series Anomaly Detection》论文的问世,是为了帮助时序数据库通过提前感知异常来降低损失。通过设计了一个轻量的基于深度学习的时频掩码自编码器异常检测算法(TFMAE),展示了其在多个公开数据集上的良好性能。该论文被大会评审组高度评价,认为其提出了时序异常检测的新范式,最终无需修改被 ICDE 2024 直接录用。

作为首篇采用时频掩码对比的时序异常检测论文,论文研究围绕以下三点进行:

第一,提出了基于时间域和频率域掩码的时间序列异常检测对比准则,其代替传统重建误差确定异常检测阈值,这是一个不受分布偏移影响的判断准则。

第二,提出了基于窗口的时间域掩码策略和基于幅度的频率域掩码策略以消除序列中潜在的异常观察和模式。因此,TFMAE 是一个抗异常偏置模型。

第三,五个真实世界数据集与两个合成数据集上实验表明,TFMAE 在检测性能与速度方面均取得提升。

综上,《Temporal-Frequency Masked Autoencoders for Time Series Anomaly Detection》是首篇采用时频掩码对比的时序异常检测论文,对医疗、制造、金融等行业的广泛应用,具有现实推动作用。

本次大会华为入选论文研究方向涉及AI4DB、时序数据库、查询优化、数据库内机器学习算法训练和推理……如此多的科技成果得益于华为长期在数据库前沿技术领域的探索和实践,以及与全球顶尖学术机构共同解决数据库领域世界难题,通过产、学、研、用深度融合,将前沿创新研究融入产品技术,构建健康的数据库产业生态,为客户提供创新的、有竞争力的数据库产品和服务。

未来,华为将在数据库领域持续创新,持续深耕,引领行业发展走出新高度。

点击关注,第一时间了解华为云新鲜技术~

 

标签:index,ICDE,17,数据库,论文,华为,advisor,顶会
From: https://www.cnblogs.com/huaweiyun/p/18205422

相关文章

  • P1746 离开中山路
    传送锚点:https://www.luogu.com.cn/problem/P1746题目背景《爱与愁的故事第三弹·shopping》最终章。题目描述爱与愁大神买完东西后,打算坐车离开中山路。现在爱与愁大神在\(x_1,y_1\)处,车站在\(x_2,y_2\)处。现在给出一个\(n\timesn(n\le1000)\)的地图,\(0\)表示马......
  • 2024.04.17
        学习时间1h代码行数50行博客量2篇学习内容主要进行了《从小工到大工》的阅读,并且对代码进行了优化  <template><viewclass="index"><index-headerbgColor="bg-index-header"@headerSwitch="headerSwitch"/>......
  • 5.17
    Denodo在这时带来了其独特的数据虚拟化技术,斩断了困扰英特尔的信息乱麻。数据虚拟化绕过了繁琐的数据抽取、转换和加载(ETL)过程,实现从源头实时抓取数据,为决策提供了即时而准确的依据。不仅仅于此,它还将原先散落在各处的业务逻辑统一到了数据虚拟化层,确保不论使用何种报告工具,结论......
  • 蟒蛇书(Python编程:从入门到实践)第17章使用API 17.1.4处理API响应报错Caused by ProxyEr
    书上提供的原始代码:importrequests#执行API调用并存储响应url='https://api.github.com/search/repositories?q=language:python&sort=stars'headers={'Accept':'application/vnd.github.v3+json'}r=requests.get(url,headers=headers)prin......
  • 大数据基础工程技术团队4篇论文入选ICLR,ICDE,WWW
    近日,由阿里云计算平台大数据基础工程技术团队主导的四篇时间序列相关论文分别被国际顶会ICLR2024、ICDE2024和WWW2024接收。论文成果是阿里云与华东师范大学、浙江大学、南京大学等高校共同研发,涉及时间序列与智能运维结合的多个应用场景。包括基于Pathways架构的自适应多尺......
  • CVE-2017-2824
    ZabbixServertrapper命令注入漏洞(CVE-2017-2824)Zabbix是由AlexeiVladishev开发的一种网络监视、管理系统,基于Server-Client架构。其Server端trappercommand功能存在一处代码执行漏洞,特定的数据包可造成命令注入,进而远程执行代码。攻击者可以从一个Zabbixproxy发起请求......
  • 172.22.56.0/22
    172.22.56.0/2256对应的二进制是00111000,16+6=22。所以第三个byte的后面2位bit可以使用。 TheIPaddressandsubnetmaskyouprovided,172.22.56.0/22,indicateaspecificrangeofIPaddresseswithinaprivatenetwork.Here’sadetailedbreakdown:IPAddress......
  • P3611 [USACO17JAN] Cow Dance Show S
    原题链接题解一句话总结:第\(i\)头奶牛继承场上\(k\)头奶牛里结束时间最短的code#include<bits/stdc++.h>usingnamespacestd;intn,t;intd[100005];intcheck(intk){priority_queue<int,vector<int>,greater<int>>q;for(inti=1;i<=n;i++)......
  • [ARC178C] Sum of Abs 2 题解
    题意:给定\(n\)和\(L\)以及\(n\)个数\(a_i\)。对于每个\(1\lei\len\),求出一个长度为\(L\)的\(b\)序列满足:\(\sum_{i=1}^{L-1}\sum_{j=i+1}^{L}|b_j-b_i|=a_i\),并最小化\(b\)中的最大值。显然\(b\)中元素的顺序不影响原式的结果,所以我们可以假定\(b\)是不......
  • 【2024-05-17】小孩发烧
    20:00人世间有许多事,想一想,觉得很有意思。有时一个人坐着,想一想,觉得很有意思思,会扑哧笑出声来。                                                 ——汪曾祺二宝发......