首页 > 其他分享 >【CLS数据淘金第四期】网络流日志-云联网日志分析

【CLS数据淘金第四期】网络流日志-云联网日志分析

时间:2022-11-24 17:45:45浏览次数:45  
标签:第四期 小秦 bytes 联网 日志 concat CLS

导语

云联网(Cloud Connect Network,CCN)云联网覆盖全球 20+ 地域,提供云上私有网络间(VPC)、VPC 与本地数据中心间(IDC)内网互联的服务,具备全网多点互联、路由自学习、链路选优及故障快速收敛等能力。
用户可使用日志服务(Cloud Log Service,CLS)更快速便捷的采集云联网流日志,并通过 CLS 提供的检索分析、仪表盘、告警等功能发现与定位云联网问题,支撑业务服务。

云联网流日志分析场景

预警业务问题

小秦是某在线教育产品的运维人员。在线教育师生遍布多地域,VPC 众多,要求直播平台搭建覆盖多地域的高质量互联,保证在跨地域传输视频和语音清晰、无延迟。
在这种情况下,云联网服务成为了不二选择。

使用云联网后,远隔两地的的老师和同学,终于可以无延迟的沟通了。但是在课程高峰期,因为带宽限制,还是会有部分同学出现卡顿。为了保证服务质量,需要在流量激增时及时发现并扩大带宽。
为此,小秦通过 CLS 日志服务对云联网流日志进行监控告警。监控被拒绝流量的占比情况。

如图所示,每隔 5 分钟,查询近 5 分钟内被拒绝流量的占比情况。当占比大于 1% 时,触发告警。语句如下:


log-status:OK | select round(sum(case when action = 'REJECT' then 1.00 else 0.00 end) / cast(count(*) as double) * 100,2) as "reject占比(%)"

定位并解决业务问题

转眼又是一个开学季,这天小秦的手机、邮箱,相继收到云联网被拒绝流量的占比告警通知。
小秦打开 CLS 的 CCN 流日志_高级分析仪表盘,在顶部过滤出流量类型为 REJECT(被拒绝)的流日志。

然后查看被拒绝流量的线路分布,发现集中在 ap-guangzhou 与 ap-shanghai 两个地域间。

分析语句如下:


log-status:OK | select concat(concat('srcRegion : ',srcregionid, ' , dstRegion : '), dstregionid) as region, sum(bytes) as bytes group by region order by bytes desc limit 20

小秦再查看被拒绝流量的源目 IP 分布,IP 对占比分布状况均匀,排除了个别 IP 恶意挤占带宽的情况。

分析语句如下:


log-status:OK | select sum(bytes) as total, concat(concat('srcIP : ',srcaddr, ' , dstIP : '), dstaddr) as region_ip group by region_ip order by total desc limit 20

接下来小秦又查看了被拒绝流量的协议与端口分布,协议与端口占比没有集中在某一类上,排除因协议与端口原因导致被拒的情况。

分析语句如下:


log-status:OK | select sum(bytes) as bytes,concat(concat(concat(cast(protocol as varchar),' srcport:'),srcport,' dstport:'),dstport) as protocol group by protocol limit 10

最后,小秦认为,此次被拒绝流量占比增加,是该线路正常使用的用户激增导致的,需要进行带宽的扩容。

于是小秦查看了该线路的带宽趋势。发现 ap-guangzhou TO ap-shanghai 线路与 ap-shanghai TO ap-guangzhou 线路当前峰值都在 7Gb/s 左右。

分析语句如下:


log-status:OK | select histogram(cast(__TIMESTAMP__ as timestamp), interval 1 MINUTE) as time, sum(bytes)/60.00*8 as bandwidth, concat(concat('srcRegion : ',srcregionid, ' , dstRegion : '), dstregionid) as region_ip group by time, region_ip limit 10000

带着以上结论,小秦登录腾讯云云联网控制台,调整了两条线路的带宽上限,快速解决了本次业务问题!让同学们获得了高质量的学习体验。

Demo 体验

CLS 日志服务提供免费的 CCN 云联网流日志 Demo 快速体验,一键开箱即可使用,全景体验 CCN 检索分析、预置仪表盘、实时告警等功能。

产品使用问题、技术咨询欢迎加入 CLS 粉丝群,直接跟日志专家 1v1 对话,更有超多粉丝福利,快来加入我们吧。

更多日志服务相关前沿技术与实现、产品动态,可关注腾讯云 CLS 公众号。

标签:第四期,小秦,bytes,联网,日志,concat,CLS
From: https://www.cnblogs.com/cloudstorageangel/p/16903463.html

相关文章

  • Kafka 日志存储及其清除策略
    Kafka日志存储及其清除策略日志存储结构Kafka存储结构图:kafka中消息是以主题topic为基本单位进行归类的,这里的topic是逻辑上的概念,实际上在磁盘存储是根据分区存......
  • adb过滤日志重探索
    说实话网上的教程太坑了,今天找到了一篇还算不错的文章,基本上可以解决需求首先原日志是这样的,​​2018-11-2122:51:38.4344335-5116/cn.qssq666.robotE/LUAEngine:org.lu......
  • Linux创建定时删除日志任务
    定时删除3天前的所有日志文件:1、例:脚本对应的要删除的目录为/home/logs在home目录创建文件clearLogFiles.sh:cd/homevimclearLogFiles.sh写入脚本内容(typef表示值删文......
  • Sql Server 压缩数据库日志文件
    SqlServer日志_log.ldf文件太大,数据库文件有500g,日志文件也达到了500g,占用磁盘空间过大,且可能影响程序性能,需要压缩日志文件。压缩日志脚本里要填的名字从要压缩的数......
  • HI3516CV500启动日志
    1.1、启动日志1.jpg①boot参数:bootargs'mem=256Mconsole=ttyAMA0,115200root=/dev/mmcblk0p3rootfstype=ext4rorootwaitblkdevparts=mmcblk0:1M(boot),8M(kerne......
  • ELK分析Nginx日志和可视化展示
    ELK分析Nginx日志和可视化展示一、概述使用ELK收集nginxaccess日志,利用Grafana做出一套可视化图表 二、环境准备环境说明操作系统:centos7.6docker版本:19.03......
  • ASP.NET Core教程-Logging(日志)
    更新记录转载请注明出处:2022年11月23日发布。2022年11月20日从笔记迁移到博客。日志(Logging)基础日志说明日志并不会为应用程序增加实质性的功能,常用于记录错误信......
  • 【FAQ】【ANR问题】第一次显示出ANR弹框时没有收到SIGQUIT信号,同时系统也没有生成trac
    【问题描述】第一次显示出ANR弹框时没有收到SIGQUIT信号,同时系统也没有生成traces日志文件,点击ANR弹框中的等待时,第二次出现ANR弹框时接收到SIGQUIT信号,想了解鸿蒙的ANR......
  • .netcore3.1使用log4net/nlog记录日志
    //.netcore使用log4net替换ILooger实现services.AddLogging(logBuilder=>{logBuilder.ClearProviders();log......
  • CAD命令学习日志
    CAD命令学习日志配置OP-打开配置选项UNITS-设置全局默认单位查找QSELECT-快速选择相同对象LIST-快速查看对象信息FILTER-对象过滤器F2-打开CAD文本窗......