1. Linux运维基础采集项
做运维,不怕出问题,怕的是出了问题,抓不到现场,两眼摸黑。所以,依靠强大的监控系统,收集尽可能多的指标,意义重大。但哪些指标才是有意义的呢,本着从实践中来的思想,各位工程师在长期摸爬滚打中总结出来的经验最有价值。
在各位运维工程师长期的工作实践中,我们总结了在系统运维过程中,经常会参考的一些指标,主要包括以下几个类别:
- CPU
- Load
- 内存
- 磁盘
- IO
- 网络相关
- 内核参数
- ss 统计输出
- 端口采集
- 核心服务的进程存活信息采集
- 关键业务进程资源消耗
- NTP offset采集
- DNS解析采集
每个类别,具体的详细指标如下,这些指标,都是open-falcon的agent组件直接支持的。falcon-agent每隔一定时间间隔(目前是60秒)会采集一次相关的指标,并汇报给server端。
2. CPU相关采集项
计算方法:通过采集/proc/stat来得到,大家可以参考sar命令的统计输出来理解。
- cpu.idle:Percentage of time that the CPU or CPUs were idle and the system did not have an outstanding disk I/O request.
- cpu.busy:与cpu.idle相对,他的值等于100减去cpu.idle。
- cpu.guest:Percentage of time spent by the CPU or CPUs to run a virtual processor.
- cpu.iowait:Percentage of time that the CPU or CPUs were idle during which the system had an outstanding disk I/O request.
- cpu.irq:Percentage of time spent by the CPU or CPUs to service hardware interrupts.
- cpu.softirq:Percentage of time spent by the CPU or CPUs to service software interrupts.
- cpu.nice:Percentage of CPU utilization that occurred while executing at the user level with nice priority.
- cpu.steal:Percentage of time spent in involuntary wait by the virtual CPU or CPUs while the hypervisor was servicing another virtual processor.
- cpu.system:Percentage of CPU utilization that occurred while executing at the system level (kernel).
- cpu.user:Percentage of CPU utilization that occurred while executing at the user level (application).
- cpu.cnt:cpu核数。
- cpu.switches:cpu上下文切换次数,计数器类型。
3. 磁盘相关采集项
计算方法:先读取/proc/mounts拿到所有挂载点,然后通过syscall.Statfs_t拿到blocks和inode的使用情况。每个metric都会附加一组tag描述,类似mount=$mount,fstype=$fstype,其中$mount是挂载点,比如/home,$fstype是文件系统,比如ext4。
- df.bytes.free:磁盘可用量,int64
- df.bytes.free.percent:磁盘可用量占总量的百分比,float64,比如32.1
- df.bytes.total:磁盘总大小,int64
- df.bytes.used:磁盘已用大小,int64
- df.bytes.used.percent:磁盘已用大小占总量的百分比,float64
- df.inodes.total:inode总数,int64
- df.inodes.free:可用inode数目,int64
- df.inodes.free.percent:可用inode占比,float64
- df.inodes.used:已用的inode数据,int64
- df.inodes.used.percent:已用inode占比,float64
4. megacli工具输出
使用 megacli 工具读取 RAID 相关信息,每个metric都会附件一组tag描述,用来标明所属PD或者 VD,PD格式为PD=Enclosure_ID:SLOT_ID,比如PD=32:0表明第一块磁盘 ,VD=0 表明第一个逻辑磁盘。
- sys.disk.lsiraid.pd.Media_Error_Count:这个及以下三个指标目前仅作为数据收集,不一定意味磁盘损坏(只是表示损坏概率变大)
- sys.disk.lsiraid.pd.Other_Error_Count
- sys.disk.lsiraid.pd.Predictive_Failure_Count
- sys.disk.lsiraid.pd.Drive_Temperature
- sys.disk.lsiraid.pd.Firmware_state:如果值不为0,则此物理磁盘出现问题
- sys.disk.lsiraid.vd.cache_policy:如果值不为0,表示此逻辑磁盘缓存策略和设置不符
- sys.disk.lsiraid.vd.state: 如果值不为0,表示此逻辑磁盘出现问题
5. SMART工具输出
使用 smartctl 工具读取磁盘 SMART 信息,目前所有指标仅作为数据收集,不一定意味磁盘损坏(只是表示概率变大),每个metric都会有一组tag描述,表明盘符,例如device=/dev/sda。
- sys.disk.smart.Reallocated_Sector_Ct
- sys.disk.smart.Spin_Retry_Count
- sys.disk.smart.Reallocated_Event_Count
- sys.disk.smart.Current_Pending_Sector
- sys.disk.smart.Offline_Uncorrectable
- sys.disk.smart.Temperature_Celsius
6. 分区读写监控
测试所有已挂载分区是否可读写,每个metric都会有一组tag描述,表示挂载点,比如mount=/home
- sys.disk.rw: 如果值不为0,表明此分区读写出现问题
7. IO相关采集项
计算方法:每秒采集一次/proc/diskstats,计算差值,都是计数器类型的。每个metric都会有一组tag描述,形如device=$device,用来表示具体的设备,比如sda1、sdb。用户可以参考iostat的帮助文档来理解具体的metric含义。
- disk.io.ios_in_progress:Number of actual I/O requests currently in flight.
- disk.io.msec_read:Total number of ms spent by all reads.
- disk.io.msec_total:Amount of time during which ios_in_progress >= 1.
- disk.io.msec_weighted_total:Measure of recent I/O completion time and backlog.
- disk.io.msec_write:Total number of ms spent by all writes.
- disk.io.read_merged:Adjacent read requests merged in a single req.
- disk.io.read_requests:Total number of reads completed successfully.
- disk.io.read_sectors:Total number of sectors read successfully.
- disk.io.write_merged:Adjacent write requests merged in a single req.
- disk.io.write_requests:total number of writes completed successfully.
- disk.io.write_sectors:total number of sectors written successfully.
- disk.io.read_bytes:单位是byte的数字
- disk.io.write_bytes:单位是byte的数字
- disk.io.avgrq_sz:下面几个值就是iostat -x 1看到的值
- disk.io.avgqu-sz
- disk.io.await
- disk.io.svctm
- disk.io.util:是个百分数,比如56.43,表示56.43%
8. 机器负载相关采集项
计算方法:读取/proc/loadavg,都是原始值类型的:
- load.1min
- load.5min
- load.15min
9. 内存相关采集项
计算方法:读取/proc/meminfo 中的内容,其中的mem.memfree是free+buffers+cached,mem.memused=mem.memtotal-mem.memfree。用户具体可以参考free命令的输出和帮助文档来理解每个metric的含义。
- mem.memtotal:内存总大小
- mem.memused:使用了多少内存
- mem.memused.percent:使用的内存占比
- mem.memfree
- mem.memfree.percent
- mem.swaptotal:swap总大小
- mem.swapused:使用了多少swap
- mem.swapused.percent:使用的swap的占比
- mem.swapfree
- mem.swapfree.percent
10. 网络相关采集项
计算方法:读取/proc/net/dev的内容,每个metric都附加有一组tag,形如iface=$iface,标明具体那个interface,比如eth0。metric中带有in的表示流入情况,out表示流出情况,total是总量in+out,支持的metric如下:
- net.if.in.bytes
- net.if.in.compressed
- net.if.in.dropped
- net.if.in.errors
- net.if.in.fifo.errs
- net.if.in.frame.errs
- net.if.in.multicast
- net.if.in.packets
- net.if.out.bytes
- net.if.out.carrier.errs
- net.if.out.collisions
- net.if.out.compressed
- net.if.out.dropped
- net.if.out.errors
- net.if.out.fifo.errs
- net.if.out.packets
- net.if.total.bytes
- net.if.total.dropped
- net.if.total.errors
- net.if.total.packets
11. 端口采集项
计算方法,通过ss -ln,来判断指定的端口是否处于listen状态。原始值类型,值要么是1:代表在监听,要么是0,代表没有在监听。每个metric都附件一组tag,形如port=$port,$port就是具体的端口。
- net.port.listen
12. 机器内核配置
- kernel.maxfiles: 读取的/proc/sys/fs/file-max
- kernel.files.allocated:读取的/proc/sys/fs/file-nr第一个Field
- kernel.files.left:值=kernel.maxfiles-kernel.files.allocated
- kernel.maxproc:读取的/proc/sys/kernel/pid_max
13. ntp采集项
使用 ntpq -pn 获取本机时间相对于 ntp 服务器的 offset。
- sys.ntp.offset: 本机偏移时间,单位为ms,值过大或者为0则表明有异常,需要报警
14. 进程监控
- proc.num:判断某个进程的数目,这里需要分两个场景,一种是根据进程的名字来判定,比如name=sshd;另外一种是根据cmdline来判定,比如Java的应用进程名可能都是java,根据第一种情况没法做区分,此时可以配置cmdline,如cmdline=./falcon_agent-c./cfg.ini
15. 进程资源监控
- process.cpu.all:进程和它的子进程使用的sys+user的cpu,单位是jiffies
- process.cpu.sys:进程和它的子进程使用的sys cpu,单位是jiffies
- process.cpu.user:进程和它的子进程使用的user cpu,单位是jiffies
- process.swap:进程和它的子进程使用的swap,单位是page
- process.fd:进程使用的文件描述符个数
- process.mem:进程占用内存,单位byte
16. ss命令输出
- ss.orphaned
- ss.closed
- ss.timewait
- ss.slabinfo.timewait
- ss.synrecv
- ss.estab
相关推荐
推荐绿色可用Linux系统性能监控工具nmon,可以实现对linux系统CPU,磁盘,网络的实时信息采集和查看
基于Python Flask的Linux采集器,整合主机性能监控,进程监控,数据库监控和其他自定指标监控 增加了url地址认证,默认admin/admin Linux 性能指标 指标地址:http://localhost:9088/node 指标名称以node开头,支持...
发平台进行,设计并实现了基于嵌入式Linux的远程视频监控系统。该系统是以嵌入式Linux 和控制器S3C2440为核心平台,通过嵌入式平台建立Web服务器Boa和视频服务器。通过 基于TCP/IP的socket编程实现网络通信,将USB...
基于微服务springboot架构开发,是轻量高性能的分布式监控系统,核心采集指标包括:**cpu使用率,cpu温度,内存使用率,磁盘容量,磁盘IO,硬盘SMART健康状态,系统负载,连接数量,网卡流量,硬件系统信息等。...
本程序能够监控LINUX服务器的内存、磁盘、CPU使用情况 1、需要配置一台FTP服务器,可以LINUX服务器中搭建一个FTP服务即可。 2、监控的服务器需要与FTP服务器网络连通。 3、需要修改...
支持主机、Oracle、MySQL基础数据监控及性能监控,以评分形式展示各项服务健康度,关键指标形成dashboard趋势分析,自定义告警阈值,支持邮件告警,采用celery任务管理机制,qq交流群:916746047新监控Demo(建议...
1、可为性能测试人员提供采集的系统信息,包括CPU、磁盘及IO等数据 2、可灵活设置采集数据点并监控时长
linux运维监控工具,支持系统信息,linux查看cpu占用率,linux查看内存,linux查看摄像头,监控温度,磁盘空间及IO,硬盘smart,系统负载,网络流量等监控,API接口监测,大屏展示,拓扑图,端口监控,进程监控,...
netdata-1.38.1源码包,能够采集Linux系统各种性能指标,包括CPU、内存、网络、硬盘等,支持各种插件,功能强大,资源占用较小
iOS APM (性能监控) - 数据采集实现调研。APM 监控,包含 系统信息、磁盘、CPU、内存、启动时间、FPS、卡顿、Crash、网络监控 各领域数据集,工具源码,适合毕业设计、课程设计作业,所有源码均经过严格测试,可以...
视频监控系统的市场需求量大幅度上升,市场上出现了多种图像采集和传输的产品, 视频监控系统的发展趋势必然是数字化,网络化,即采用嵌入式网络摄像机,利用 嵌入式监控设备体积小巧,性能稳定,通讯便利等特点。 ...
为了监控并调优基于Linux的Oracle数据库群集,Linux和Oracle的性能数据都需要包含在内,除此以外,多台服务器性能的对比,以及Oracle集群相同事件的对比,都是必要的,但已有系统都无法方便地完成此任务。...
介绍了一种基于嵌入式的矿井远程监控系统, 其借助总线技术实时地采集井 下的各种环境参数, 并通过无线网络发送到远程终端接收机, 从而实现远程监控。系统设计 包括嵌入式系统结构、控制器设备驱动、无线通信模块等的...
近年来,嵌入式技术得到了快速的发展,由于具有功耗低、体积小、成本低、性能 稳定、便于现场安装等特点和优势,嵌入式系统逐步在智能家居、工业现场和安防科技 等领域获得了广泛的应用。 视频监控技术是一门集网络...
本文介绍基于嵌入式Linux的USB图像采集系统,并通过构建好的嵌入式Linux下的蓝牙环境将采集到的图片传送到蓝牙手机上,实现监控功能。 1 软硬件平台概述 系统硬件平台如图1所示。该平台软件上采用嵌入式Li
iOS APM (性能监控) - 数据采集实现调研。APM 监控,包含 系统信息、磁盘、CPU、内存、启动时间、FPS、卡顿、Crash、网络监控 等. 软件开发设计:PHP、QT、应用软件开发、系统软件开发、移动应用开发、网站开发C++、...
本系统的研究背景主要是根据现有视频监控系统的不足,旨在降低系统的成本和提高系统的性能。它采用了价格低廉的三星应用处理器S3C2410,并使用软件音、视频编解码器,能实现以250Kbps和350Kbps的编码位流速进行网络...
如果开发者想要在自己的项目中快速搭建小程序的异常采集和性能监控数据分析。mp-mo… 各领域数据集,工具源码,适合毕业设计、课程设计作业,所有源码均经过严格测试,可以直接运行,可以放心下载使用。有任何使用...
nmon工具监控linux和AIX性能常用的指标采集数据汇总,非常实用和方便。
关键词:Linux设备驱动 USB摄像头 Video for Linux 不间断采集USB摄像头以其良好的性能和低廉的价格得到广泛应用。同时因其灵活、方便的特性,易于集成到嵌入式系统中。但是如果使用现有的符合Video for Linux标准...