首页 > 其他分享 >Ansible 执行过程分析、异步、效率优化

Ansible 执行过程分析、异步、效率优化

时间:2023-10-09 16:32:06浏览次数:40  
标签:异步 ansible 节点 任务 Ansible ssh 执行 效率

直观观察任务执行速度插件

callback_whitelist = profile_tasks, profile_roles, timer

该插件可以直接统计每个task,每个role,每个play执行的时间,方面观察出哪些任务耗时


Ansible 执行过程分析

下面是2.9的默认执行过程分析(简单分析,具体请vvv):

  1. 获取用户家目录,此处为/root
  2. 在家目录下创建临时目录,临时目录由配置文件中remote_tmp指令控制
  3. 探测目标节点的平台和python解释器的版本信息
  4. 将要执行的模块相关的代码和参数放到本地临时文件中,并使用sftp将任务文件传输到被控节点的临时文件中
  5. 对目标节点上的任务文件授以执行权限
  6. 执行目标节点上的任务
  7. 删除目标节点上的临时目录


Ansible 执行策略

默认情况下 forks=5,这表明在某一时刻最多只有 5 个执行任务的工作进程 (还有一个主进程),也即最多只能挑选 5 个节点同时执行任务。

serail 是 play 级别的指令,用于指定几个节点作为一批去执行该 play,该 play 执行完后才让下一批节点执行该 play 中的任务。如果不指定 serial,则默认的行为等价于将所有节点当作一批。

strategy 指令用于指定节点执行任务时的策略,其侧重点在于节点而在于任务,默认情况下其策略为 linear,表示某个节点先执行完一个任务后等待其余所有节点都执行完该任务,才统一进入下一个任务。另一种策略是 free 策略,表示某节点执行完一个任务后不等待其它节点,而是毫不停留的继续执行该 play 中的剩余任务,直到该 play 执行完成,才释放节点槽位让其它未执行任务的节点开始执行任务。

默认情况下 Ansible 会让所有节点 (或者 serial 指定的数量) 执行完同一个任务后才让它们进入下一个任务,这体现了各节点的公平性和实时性:每个节点都能尽早执行到任务。这其实和操作系统的进程调度是类似的概念,只不过相对于操作系统的调度系统来说,Ansible 的调度策略实在是太简陋了。

假设 forks 设置的比较大,可以一次性让足够多的节点并发执行任务,那么同时设置任务的执行策略为 strategy=free 便能让这些执行任务的节点彻底放飞自我。只是剩余的一部分节点可能会比较悲剧,它们处于调度不公平的一方。但是从整体来说,先让大部分节点快速完成任务是值得的。

但是要注意,有些场景下要小心使用 free 策略,特别是节点依赖时。比如,某些节点运行服务 A,另一些节点运行服务 B,而服务 B 是依赖于服务 A 的,那么必须不能让运行 B 服务的节点先执行,对于有节点依赖关系的任务,为了健壮性,一般会定义好等待条件,但是出现等待有可能就意味着浪费。


ansible并发和异步

Ansible 允许在 task 级别指定该 task 是否以异步模式

在异步执行任务时,需要注意那些有依赖性的任务。对于那些对资源要求占有排它锁的任务,如yum,不应该将Poll的间隔设置为0。如果设置为0,很可能会导致资源阻塞。

异步模式下,ansible会将节点的任务丢在后台,每台被控制的机器都有一个job_id,ansible会根据这个job_id去轮训该机器上任务的执行情况,例如某机器上此任务中的某一个阶段是否完成,是否进入下一个阶段等。即使任务早就结束了,但只有轮训检查到任务结束后才认为该job结束。可以指定任务检查的时间间隔,默认是10秒。除非指定任务检查的间隔为0,否则会等待所有任务都完成后,ansible端才会释放占用的shell。

如果指定时间间隔为0,则ansible会立即返回(至少得连接上目标主机,任务发布成功之后立即返回),并不会去检查它的任务进度。

总结来说,大概有以下一些场景需要使用到ansible的异步特性:

  • 某个task需要运行很长的时间,这个task很可能会达到ssh连接的timeout
  • 没有任务是需要等待它才能完成的,即没有任务依赖此任务是否完成的状态
  • 需要尽快返回当前shell

当然也有一些场景不适合使用异步特性:

  • 这个任务是需要运行完后才能继续另外的任务的
  • 申请排它锁的任务

实例:

- name: Asynchronous yum task
  yum:
    name: nginx
    state: present
  async: 1000
  poll: 0
  register: yum_sleeper

- name: Wait for asynchronous job to end
  async_status:
    jid: '{{ yum_sleeper.ansible_job_id }}'
  register: job_result
  until: job_result.finished
  retries: 30

开启 ssh 长连接

Ansible 对 ssh 的依赖性非常强,优化 ssh 连接在一定程度上也是在优化 Ansible。

其中一项优化是开启 ssh 的长连接,即长时间保持连接状态。开启长连接后,在 ssh 连接过期前会一直保持 ssh 连接已建立的状态,使得下次和目标节点建立 ssh 连接时将直接使用该连接。相当于对 ssh 连接进行了缓存。

要开启 ssh 长连接,要求 Ansible 端的 openssh 版本高于或等于 5.6。使用 ssh -V 可以查看版本号。然后设置 ansible 使用 ssh 连接被控端的连接参数,此处修改 /etc/ansible/ansible.cfg,在此文件中启动下面的连接选项,其中 ControlPersist=5d 是控制 ssh 连接会话保持时长为 5 天。


开启 Pipelining

从前面对 Ansible 执行任务的流程中可以发现,Ansible 执行每个任务时都会在本地将模块 (通常是 Python 脚本程序) 和相关参数打包后通过 sftp 发送到目标节点上,然后执行目标节点上的临时脚本文件。这些行为还带来了副作用,比如多建立了几个 ssh 连接来创建临时目录、删除目录等。

Ansible 现在也支持使用 ssh 的 pipelining 特性 (注意,仍然是 ssh 的特性),当 Ansible 中开启了 Pipelining 后,一个任务的所有动作都在一个 ssh 会话中完成,也会省去 sftp 到远端的过程,它会直接将要执行任务涉及到的指令 (比如 python 语句) 通过远程 shell 的方式发送到目标节点的标准输入 (stdin) 中,然后在目标节点执行这些代码。

但是要注意,如果在ansible中使用sudo命令的话(ssh user@host sudo cmd),需要在被控节点的/etc/sudoers中禁用"requiretty"。

之所以要设置/etc/sudoers中的requiretty,是因为ssh远程执行命令时,它的环境是非登录式非交互式shell,默认不会分配tty,没有tty,ssh的sudo就无法关闭密码回显(使用"-tt"选项强制SSH分配tty)。所以出于安全考虑,/etc/sudoers中默认是开启requiretty的,它要求只有拥有tty的用户才能使用sudo,也就是说ssh连接过去不允许执行sudo。可以通过visudo编辑配置文件,注释该选项来禁用它。

#Defaults    requiretty


设置facts缓存

Ansible 默认会收集所有节点的所有 facts 信息,而收集 facts 信息是非常慢的。

如果能够确保 play 中使用不到 facts 中的信息,则可以 gather_facts: no 关闭收集功能。

如果只想要 facts 中的一部分信息,那么在收集时可以指定只收集这一部分信息,其它的不要收集。例如只想收集网卡相关信息可以设置 gather_subset=!all,!any,network,这样可以减少收集的数据量,从而提升效率。


第三方策略插件:Mitogen for Ansible

Ansible 的执行策略 (即由 strategy 指令指定的值) 是以插件方式提供的。Ansible 官方目前提供了四种策略插件:

  • (1).linear
  • (2).free
  • (3).host-pinned
  • (4).debug

安装然后在 ansible.cfg 中设置使用该策略插件,并指定该策略插件提供的策略。

提升速度比较明显,但是可能影响一些原生的ansible模块,注意阅读官方文档,建议在网络环境比较好的情况下使用。

官方介绍和文档:Mitogen for Ansible–https://mitogen.networkgenomics.com/ansible_detailed.html

标签:异步,ansible,节点,任务,Ansible,ssh,执行,效率
From: https://blog.51cto.com/zwltc/7779540

相关文章

  • 智慧工地:提高效率、降低成本、保障安全的未来之路
    在当今建筑领域,智慧工地正迅速崭露头角。这个概念不仅代表了技术进步,还预示着建筑行业的数字化和智能化未来。从多个角度来看,智慧工地都具有深远的意义,它正在改变着我们建筑的方式和未来。 提高工程效率智慧工地利用物联网(IoT)、人工智能(AI)和大数据分析等现代技术,实时监测施工......
  • ansible-安装
    在线安装一般来说直接在线安装即可Ubuntuapt-getinstall-yansiblecentosyuminstall-yepel-releaseyuminstall-yansiblemacOSbrewinstallansiblePIP方式安装选择安装版本如果不知道可以安装哪些版本,可以通过乱写一个版本,然后根据提示选择要安装的版本例......
  • DevOps|研发效能解决的是企业效率问题
    研发效能并不能解决企业效益问题它不是利润中心,不能给你带来直接收入(研发效能相关工具厂商做咨询、出方案、卖工具除外)。想要解决企业效益问题,依赖于企业战略、业务/产品、组织、运营、创新等其他方面。研发效能解决的是企业效率问题研发效能解决的是企业内部「产研运协作效率......
  • 哈夫曼编码效率问题
    例题给出问题解决......
  • java中的异步任务处理和Feature接口
    简介Java并发包提供了一套框架,大大简化了执行异步任务所需要的开发。框架引入了“执行服务”的概念,封装了任务执行的细节,对任务提交者而言,他可以关注任务本身,如提交任务、获取结果、取消任务。而不用关注任务执行的细节。基本接口①Runnable和Callable:表示要执行的任务②Exc......
  • 异步爬虫实战:实际应用asyncio和aiohttp库构建异步爬虫
    在网络爬虫的开发中,异步爬虫已经成为一种非常流行的技术。它能够充分利用计算机的资源,提高爬虫效率,并且能够处理大量的运算请求。Python中的asyncio和aiohttp库提供了强大的异步爬虫支持,使得开发者能够轻松构建高效的异步爬虫。什么是异动爬虫?为什么要使用自动爬虫?异步爬虫是一......
  • VS下的Emmet技巧(HTML Coding 效率Kit)
    tag:技巧点VSCode的EmmetAbbreviation参考参考参考2生成4行p标签p*4   E.class E#id E[attr=foo] E{foo} E>N E+N E^N......
  • 如何提高redux开发效率?当然是redux-tookit啦!
    前言使用react-redux的朋友都经历过这种痛苦吧?定义一个store仓库,首先创建各种文件,比如reducer、action、store...,然后将redux和react连接使用。整个流程繁琐,写起来代码冗余。react-redux创建仓库,文件目录如下:好怀念使用vuex创建写仓库的日子.......直到有一天我发现了redu......
  • ansible-playbook批量安装httpd,按主机名提供不同的index.html(如node1的index.html欢迎
    [root@ansible~]#vim/etc/ansible/hosts[webservers]10.0.0.150ansible_connection=local10.0.0.160#创建角色相关目录[root@ansiblehtml]#mkdir-pv/data/ansible/roles/httpd/{tasks,handlers,files}mkdir:createddirectory'/data/ansible'mkdir:crea......
  • ansible常用模块总结
    常用模块帮助文档参考:https://docs.ansible.com/ansible/2.9/modules/modules_by_category.htmlhttps://docs.ansible.com/ansible/2.9/modules/list_of_all_modules.html1)Command模块功能:在远程主机执行命令,此为默认模块,可忽略-m选项说明:此命令不支持$VARNAME<>|;&......