首页 > 编程语言 >【Python基础】日志工具介绍及使用

【Python基础】日志工具介绍及使用

时间:2024-02-03 16:11:58浏览次数:29  
标签:logging 记录 Python 工具 level add 日志 logger

日志的主要功能

日志不是软件功能的必需品,但是对于软件开发和维护具有至关重要的作用,其主要的作用在于:

  • 问题追踪和调试:
    当程序出现错误或异常行为时,日志可以提供关于何时以及在哪里发生问题的详细信息,对于识别、隔离和修复错误很有帮助。
  • 审计和合规性:
    提供详细的操作记录,用于证明系统是否符合规定。
  • 系统监控和预警:
    通过分析日志,了解系统的运行状态,如服务的使用情况、性能瓶颈等;当检测到异常模式或潜在问题时,日志可以用于触发警报。
  • 业务分析:
    记录了系统的所有活动,可以用于分析用户行为、业务趋势等。
  • 安全性:
    在安全事件发生后,日志可以提供关于攻击者如何进入系统、他们做了什么等信息,对于进行事后分析和改进系统安全性非常重要。
  • 故障恢复:
    如果系统出现故障,日志可以帮助理解故障发生前的系统状态,从而有助于数据恢复。

良好的日志实践可以提高软件的可靠性、可维护性和安全性。
不过,需要注意的是,过度日志记录可能会对系统性能产生影响,因此还需要合理平衡日志的详细程度和系统性能。

日志工具有哪些

  • logging---Python标准库
  • loguru---最流行的三方日志框架
  • structlog---结构化日志
  • logbook---一个很酷的日志库
  • python-json-logger---json格式日志

logging---Python标准库

与大多数编程语言不同,Python 在其标准库中包含了一个功能齐全的日志框架。该日志记录解决方案有效地满足了库和应用程序开发人员的需求,并包含了以下严重性级别:DEBUG、INFO、WARNING、ERROR 和 CRITICAL。有了默认日志记录器,无需任何前期设置,您就可以立即开始记录日志。

loguru---最流行的三方日志框架

  • 简单易用:只需导入loguru并调用相应的函数即可,无需复杂的配置。
  • 自动格式化:自动为日志消息添加时间戳、日志级别等信息,减少编写日志记录代码的工作量,并使日志更加易于阅读和分析。
  • 强大的日志级别控制:根据需要输出不同级别的日志,更好地控制日志的详细程度,可轻松调整日志级别。
  • 输出目标灵活性:日志消息可输出到多个目标,如控制台、文件、网络等。
  • 异常追踪:自动捕获和记录异常信息,并将其与日志消息一起输出,帮助用户快速定位和解决问题。
  • 彩色输出支持:在控制台输出中添加颜色,使日志更易于阅读和区分。
  • 上下文管理:可自定义上下文信息添加到日志消息中,有助于更好地理解和分析日志,特别是在处理复杂系统和多线程环境时。

structlog---结构化日志

结构化日志输出与传统的文本日志相比,可以提供更丰富、更易于解析和处理的信息。

  • 结构化日志记录:可使用Python字典来记录日志,方便添加各种类型的数据(如字符串、数字、异常对象等)到日志中,并使这些数据在后续处理时仍然保持其原始结构和类型。
  • 灵活的配置:根据需要选择不同的日志输出格式、处理器和渲染器。例如,用户可以将日志输出到控制台、文件、网络等不同的目标,也可以使用JSON、CSV等常用格式来输出日志。
  • 与标准库兼容:与Python的标准库logging兼容,用户可以轻松地将现有的logging代码迁移到structlog,或者同时使用这两个库。
  • 性能优化:在性能上进行了优化,尽量减少日志记录对程序性能的影响。
  • 扩展性强:具有良好的扩展性,方便地添加自定义的处理器和渲染器,以实现特定的日志处理需求。
  • 易于使用:API设计得简洁明了,使得用户可以快速上手并有效地使用它。

logbook---一个很酷的日志库

  • 更简洁的API:相较于logging模块的复杂API,logbook提供了更简洁、易用的API。
  • 更好的默认设置:logbook的默认设置比logging更合理。
  • 上下文感知记录:logbook可以方便地记录上下文信息,如请求ID、用户ID等。而标准库logging模块则需要额外配置才能实现类似功能。
  • 灵活的日志处理器:logbook支持多种日志处理器,可以轻松地将日志发送到文件、控制台、邮件、数据库等。
  • 性能优化:logbook在性能上经过优化,相较于logging模块,其对应用程序的性能影响较小。
  • 集成异常追踪:logbook会自动集成异常的堆栈追踪信息,无需手动添加。而logging模块则需要通过配置来实现此功能。
  • 线程和进程安全:logbook是线程和进程安全的,可以在多线程或多进程环境中安全地使用,而logging模块在多线程环境下可能需要额外的同步措施。
  • 易于扩展和定制:logbook的设计使得它易于扩展和定制。

python-json-logger---json格式日志

  • JSON格式日志记录:将日志记录为JSON格式,易于解析和存储。同时,也方便与其他系统和服务进行集成。
  • 可配置的日志格式:根据需要配置日志格式,包含各种字段和信息,如时间戳、日志级别、线程名称等。
  • 多个日志处理器支持:可以将日志输出到不同的目标,如文件、控制台、远程服务器等。
  • 异步日志记录:支持异步日志记录,意味着可以在后台线程中处理日志记录任务,避免阻塞主线程的执行。
  • 上下文信息添加:可以在日志记录时添加额外的上下文信息,如用户ID、请求ID等。
  • 灵活的过滤和级别控制:灵活的过滤和级别控制机制。根据需要设置不同的日志级别,并定义过滤器来筛选需要记录的日志消息。
  • 与标准库兼容:与Python标准库的logging模块兼容。

以上区别及选择

  • loguru,它适用于需要简单、轻量级和易于使用的日志功能的场景。
    若你的项目是小型中型的规模,日志需求比较简单,且开发者也不想花费过多时间在日志配置上,那么,loguru是一个很好的选择,它提供了合理的默认配置。
  • structlog,它适用于需要高度结构化日志的场景。
    如果你的项目是大型、分布式系统或微服务的架构,其中日志需要在多个组件和服务之间进行传递和处理,那么,structlog是一个很好的选择。
  • logbook,它适用于需要高度灵活和可配置日志功能的场景。
    如果你的项目是中型到大型的规模,其中需要对日志进行更精细的控制和管理,或者需要替换标准库logging并寻求更多功能和改进性能的项目来说,logbook是一个很好的选择。
  • python-json-logger,它适用于需要以JSON格式记录日志的场景。
    如果你的项目需要将日志与其他系统或服务进行集成(特别是那些使用JSON作为数据交换格式),或者说随时需要对日志进行分析、监控或审计时,python-json-logger是一个很好的选择。

loguru使用

日志打印

from loguru import logger
# 日志级别
logger.debug("====test====")
logger.info("====test====")
logger.success("====test====")
logger.warning("====test====")
logger.error("====test====")
logger.critical("====test====")

执行结果:

日志输出文件

logger.add("./log/test.log")  

滚动日志

# rotation参数设置每天12:00会创建一个新的文件(原来文件重命名,生成新文件)
logger.add("./log/test.log", rotation="14:00")  
# 按内容大小滚动
logger.add("./log/test.log", rotation="1 MB")  
# 按10天进行滚动
logger.add("file_X.log", retention="10 days")
# 按一周进行滚动
logger.add("file_3.log", rotation="1 week")

# 日志压缩(如果你不想删除原有日志文件,Loguru支持将日志直接压缩)
logger.add("file_Y.log", compression="zip")

处理器、日志格式化、日志过滤

logger.add(sys.stderr, format="{time} {level} {message}", filter="__main__", level="DEBUG")

  • sys.stderr 为处理器输出位置,可换成文件
  • filter 过滤模块名,如login.py文件中日志,模块名写:login
  • level 过滤日志等级

自定义内容及颜色

#  <green></green> 标签中间的文字将会被标记为绿色
logger.add(sys.stdout, colorize=True, format="<green>{time}</green> <level>{message}</level>")

进行结构化日志记录

logger.add(sys.stderr, serialize=True)      # 控制台输出序列化日志信息便于后续配置引用
# 根据上面的序列化参数,进行配置日志输出结构
logger.add(sys.stderr, format="{time}|{level}|{module}|{line}|processId{process}|threadId{thread}: {message}")

支持Backtrace(回溯)

对于日志而言,没有错误堆栈的日志是没有灵魂的。Loguru 允许显示整个堆栈信息来帮助你发现问题(包括变量)。

logger.add("out.log", backtrace=True, diagnose=True)  # 默认可不填写此参数,需要注意内容泄露
def func(a, b):
    return a / b
def nested(c):
    try:
        func(5, c)
    except ZeroDivisionError:
        logger.exception("What?!")
nested(0)

运行结果:

@logger.catch(装饰器)

使用catch()装饰器/上下文管理器来解决,它确保任何错误都正确地传播到记录器。

@logger.catch
def my_function(x, y, z):
    # An error? It's caught anyway!
    return 1 / (x + y + z)
my_function()

异步、线程安全、多进程安全

Loguru 默认情况下是线程安全的,但它不是多进程安全的。不过如果你需要多进程/异步记录日志,它也能支持,只需要添加一个enqueue 参数

logger.add("somefile.log", enqueue=True)

与标准日志记录完全兼容

希望将内置日志记录用作 Loguru 接收器

handler = logging.handlers.SysLogHandler(address=('localhost', 514))
logger.add(handler)

需要将 Loguru 消息传播到标准日志记录

class PropagateHandler(logging.Handler):
    def emit(self, record: logging.LogRecord) -> None:
        logging.getLogger(record.name).handle(record)

logger.add(PropagateHandler(), format="{message}")

想要拦截发送到 Loguru 接收器的标准日志记录消息

class InterceptHandler(logging.Handler):
    def emit(self, record: logging.LogRecord) -> None:
        # Get corresponding Loguru level if it exists.
        level: str | int
        try:
            level = logger.level(record.levelname).name
        except ValueError:
            level = record.levelno

        # Find caller from where originated the logged message.
        frame, depth = inspect.currentframe(), 0
        while frame and (depth == 0 or frame.f_code.co_filename == logging.__file__):
            frame = frame.f_back
            depth += 1

        logger.opt(depth=depth, exception=record.exc_info).log(level, record.getMessage())

logging.basicConfig(handlers=[InterceptHandler()], level=0, force=True)

邮件告警

Loguru 可以和强大的邮件通知模块 notifiers 库结合使用,以在程序意外失败时接收电子邮件,或发送许多其他类型的通知。

import notifiers
 
params = {
    "username": "[email protected]",
    "password": "abc123",
    "to": "[email protected]"
}
 
# 初始化时发送一封邮件
notifier = notifiers.get_notifier("gmail")
notifier.notify(message="The application is running!", **params)
 
# 发生Error日志时,发邮件进行警报
from notifiers.logging import NotificationHandler
 
handler = NotificationHandler("gmail", defaults=params)
logger.add(handler, level="ERROR")

标签:logging,记录,Python,工具,level,add,日志,logger
From: https://www.cnblogs.com/upstudy/p/18004483

相关文章

  • Python小白入门指南:从零开始掌握Python编程
    你是否曾想过用代码操控电脑、制作自动化任务,或者探索数据的奥秘?今天,我要带你进入Python的世界,为你揭开编程的神秘面纱。不论你是编程零基础,还是想学习一门新技能,这篇文章都将是你学习Python的得力助手。一、Python是什么?为什么要学Python?Python是一种高级、动态类型的编程语言,它的......
  • Python 数据分析(PYDA)第三版(二)
    原文:wesmckinney.com/book/译者:飞龙协议:CCBY-NC-SA4.0四、NumPy基础知识:数组和向量化计算原文:wesmckinney.com/book/numpy-basics译者:飞龙协议:CCBY-NC-SA4.0此开放访问网络版本的《Python数据分析第三版》现已作为印刷版和数字版的伴侣提供。如果您发现任何勘误......
  • Python 数据分析(PYDA)第三版(三)
    原文:wesmckinney.com/book/译者:飞龙协议:CCBY-NC-SA4.0六、数据加载、存储和文件格式原文:wesmckinney.com/book/accessing-data译者:飞龙协议:CCBY-NC-SA4.0此开放访问网络版本的《Python数据分析第三版》现已作为印刷版和数字版的伴侣提供。如果您发现任何勘误,请在......
  • Python 数据分析(PYDA)第三版(四)
    原文:wesmckinney.com/book/译者:飞龙协议:CCBY-NC-SA4.0八、数据整理:连接、合并和重塑原文:wesmckinney.com/book/data-wrangling译者:飞龙协议:CCBY-NC-SA4.0此开放访问网络版本的《Python数据分析第三版》现已作为印刷版和数字版的伴侣提供。如果您发现任何勘误,请在......
  • Python 数据分析(PYDA)第三版(五)
    原文:wesmckinney.com/book/译者:飞龙协议:CCBY-NC-SA4.0十、数据聚合和组操作原文:wesmckinney.com/book/data-aggregation译者:飞龙协议:CCBY-NC-SA4.0此开放访问网络版本的《Python数据分析第三版》现已作为印刷版和数字版的伴侣提供。如果您发现任何勘误,请在此处报......
  • Python 数据分析(PYDA)第三版(七)
    原文:wesmckinney.com/book/译者:飞龙协议:CCBY-NC-SA4.0附录附录A:高级NumPy原文:wesmckinney.com/book/advanced-numpy译者:飞龙协议:CCBY-NC-SA4.0此开放访问网络版本的《Python数据分析第三版》现已作为印刷版和数字版的伴侣提供。如果您发现任何勘误,请在此处报......
  • windows安装python教程
    下载Python首先,您需要在Python官方网站上下载安装包。该网站提供不同版本的Python下载选项。新手建议下载最新版本以获得最佳支持和功能。访问官方网站,选用适合Windows系统的安装包。启动安装程序下载后,双击操作安装程序,可以看到安装界面。这里有两个选项:“InstallPython3.x......
  • python灰度图像变彩色
    灰度图像转换为彩色图像方法简介在图像处理领域,灰度图像转换为彩色图像是一种常见的需求。虽然一个像素的灰度值不能直接对应一个彩色像素,但这种转换可以通过一些技术手段来实现。通常,这种转换可以通过颜色映射、图像着色和深度学习来实现。色彩映射是指灰度值按照一定的规则映......
  • 对称字符串-od-python
    题目描述对称就是最大的美学,现有一道关于对称字符串的美学。已知:第1个字符串:R第2个字符串:BR第3个字符串:RBBR第4个字符串:BRRBRBBR第5个字符串:RBBRBRRBBRRBRBBR相信你已经发现规律了,没错!就是第个字符串=第i-1号字符串取反+第i-1号字符串取反(R->B,B->R)现在告诉你n......
  • Python 潮流周刊第 38 期(摘要)+赠书5本
    本周刊由Python猫出品,精心筛选国内外的250+信息源,为你挑选最值得分享的文章、教程、开源项目、软件工具、播客和视频、热门话题等内容。愿景:帮助所有读者精进Python技术,并增长职业和副业的收入。周刊全文:https://pythoncat.top/posts/2024-02-03-weekly!!本期有赠书福利,送书......