首页 > 其他分享 >告别手动调度，海豚调度器 3.1.x 集群部署让你轻松管理多机！

告别手动调度，海豚调度器 3.1.x 集群部署让你轻松管理多机！

时间：2024-04-23 17:59:10浏览次数：28  
标签：bin resource default dolphinscheduler 调度 server sh 多机 3.1

file

转载自第一片心意

1 前言

由于海豚调度器官网的集群部署文档写的较乱，安装过程中需要跳转到很多地方进行操作，所以自己总结了一篇可以直接跟着从头到尾进行操作的文档，以方便后续的部署、升级、新增节点、减少节点的相关操作。

2. 提前准备

2.1. 基础组件

  • JDK：下载JDK (1.8+)，安装并配置 JAVA_HOME 环境变量，并将其下的 bin 目录追加到 PATH 环境变量中。如果你的环境中已存在，可以跳过这步。
  • 二进制包：在下载页面下载 DolphinScheduler 二进制包
  • 数据库：PostgreSQL (8.2.15+) 或者 MySQL (5.7+)，两者任选其一即可，如 MySQL 则需要 JDBC Driver 8 版本，可以从中央仓库下载。
  • 注册中心：ZooKeeper (3.4.6+)，下载地址。
  • 进程树分析
    • macOS安装pstree
    • Fedora/Red/Hat/CentOS/Ubuntu/Debian安装psmisc。

注意： DolphinScheduler 本身不依赖 Hadoop、Hive、Spark 等，但如果你运行的任务需要依赖他们，就需要有对应的环境支持。

3. 上传

上传二进制包，并且解压到某个目录，具体目录位置，自己定即可。

要注意目录名称，最好在后面加一些字符，要做到安装目录和二进制包解压目录不同名，以进行区分。

tar -xvf apache-dolphinscheduler-3.1.7-bin.tar.gz
mv apache-dolphinscheduler-3.1.7-bin dolphinscheduler-3.1.7-origin

后面的 -origin 表示这是原始的二进制包解压文件，后续有配置改动时，可以修改改目录下的文件，然后重新执行安装脚本。

4. 用户

4.1. 配置用户免密及权限

创建部署用户，并且一定要配置 sudo 免密。以创建 dolphinscheduler 用户为例：

# 创建用户需使用 root 登录
useradd dolphinscheduler

# 添加密码
echo "dolphinscheduler" | passwd --stdin dolphinscheduler

# 配置 sudo 免密
sed -i '$adolphinscheduler  ALL=(ALL)  NOPASSWD: ALL' /etc/sudoers
sed -i 's/Defaults    requirett/#Defaults    requirett/g' /etc/sudoers

# 修改目录权限，使得部署用户对二进制包解压后的 apache-dolphinscheduler-*-bin 目录有操作权限
chown -R dolphinscheduler:dolphinscheduler apache-dolphinscheduler-*-bin

注意：

  • 因为任务执行服务是以 sudo -u {linux-user} 切换不同 linux 用户的方式来实现多租户运行作业，所以部署用户需要有 sudo 权限，而且是免密的。初学习者不理解的话，完全可以暂时忽略这一点。
  • 如果发现 /etc/sudoers 文件中有 “Defaults requirett” 这行，也请注释掉。

4.2. 配置机器SSH免密登陆

由于安装的时候需要向不同机器发送资源，所以要求各台机器间能实现SSH免密登陆。配置免密登陆的步骤如下：

su dolphinscheduler

ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
# 一定要执行下面这个命令，否则免密登录会失败
chmod 600 ~/.ssh/authorized_keys

注意： 配置完成后，可以通过运行命令 ssh localhost 判断是否成功，如果不需要输入密码就能 ssh登陆，则证明成功。

5. 启动zookeeper

启动集群中的 zookeeper 即可。

6. 修改配置

下面所有的操作，均在 dolphinscheduler 用户下执行。

完成基础环境的准备后，需要根据你的机器环境修改配置文件。配置文件可以在目录 bin/env 中找到，他们分别是 install_env.sh 和 dolphinscheduler_env.sh。

6.1. install_env.sh

install_env.sh 文件配置将 DolphinScheduler 安装到哪些机器 ，以及每台机器安装哪些服务。可以在路径 bin/env/ 中找到此文件，之后按照下面的说明修改对应的配置即可。

# ---------------------------------------------------------
# INSTALL MACHINE
# ---------------------------------------------------------
# A comma separated list of machine hostname or IP would be installed DolphinScheduler,
# including master, worker, api, alert. If you want to deploy in pseudo-distributed
# mode, just write a pseudo-distributed hostname
# Example for hostnames: ips="ds1,ds2,ds3,ds4,ds5", Example for IPs: ips="192.168.8.1,192.168.8.2,192.168.8.3,192.168.8.4,192.168.8.5"
# 配置海豚调度器要安装到那些机器上
ips=${ips:-"ds01,ds02,ds03,hadoop02,hadoop03,hadoop04,hadoop05,hadoop06,hadoop07,hadoop08"}

# Port of SSH protocol, default value is 22. For now we only support same port in all `ips` machine
# modify it if you use different ssh port
sshPort=${sshPort:-"22"}

# A comma separated list of machine hostname or IP would be installed Master server, it
# must be a subset of configuration `ips`.
# Example for hostnames: masters="ds1,ds2", Example for IPs: masters="192.168.8.1,192.168.8.2"
# 配置 master 角色要安装到哪些机器上
masters=${masters:-"ds01,ds02,ds03,hadoop04,hadoop05,hadoop06,hadoop07,hadoop08"}

# A comma separated list of machine <hostname>:<workerGroup> or <IP>:<workerGroup>.All hostname or IP must be a
# subset of configuration `ips`, And workerGroup have default value as `default`, but we recommend you declare behind the hosts
# Example for hostnames: workers="ds1:default,ds2:default,ds3:default", Example for IPs: workers="192.168.8.1:default,192.168.8.2:default,192.168.8.3:default"
# 配置 worker 角色要安装到哪些机器上，默认都放到 default 的 worker 分组内，其他分组，可以通过海豚调度器界面进行单独配置
workers=${workers:-"ds01:default,ds02:default,ds03:default,hadoop02:default,hadoop03:default,hadoop04:default,hadoop05:default,hadoop06:default,hadoop07:default,hadoop08:default"}

# A comma separated list of machine hostname or IP would be installed Alert server, it
# must be a subset of configuration `ips`.
# Example for hostname: alertServer="ds3", Example for IP: alertServer="192.168.8.3"
# 配置 alert 角色安装到哪个机器上，配置一台机器即可
alertServer=${alertServer:-"hadoop03"}

# A comma separated list of machine hostname or IP would be installed API server, it
# must be a subset of configuration `ips`.
# Example for hostname: apiServers="ds1", Example for IP: apiServers="192.168.8.1"
# 配置 api 角色安装到哪个机器上，配置一台机器即可
apiServers=${apiServers:-"hadoop04"}

# The directory to install DolphinScheduler for all machine we config above. It will automatically be created by `install.sh` script if not exists.
# Do not set this configuration same as the current path (pwd). Do not add quotes to it if you using related path.
# 配置安装路径，将会在所有海豚集群的机器上安装服务，一定要和上面解压的二进制包目录区分开，最好带上版本号，以方便后续的升级操作。
installPath=${installPath:-"/opt/dolphinscheduler-3.1.5"}

# The user to deploy DolphinScheduler for all machine we config above. For now user must create by yourself before running `install.sh`
# script. The user needs to have sudo privileges and permissions to operate hdfs. If hdfs is enabled than the root directory needs
# to be created by this user
# 部署使用的用户，用上面自己新建的用户即可
deployUser=${deployUser:-"dolphinscheduler"}

# The root of zookeeper, for now DolphinScheduler default registry server is zookeeper.
# 配置注册到 zookeeper znode 名称，如果配置了多个海豚集群，则需要配置不同的名称
zkRoot=${zkRoot:-"/dolphinscheduler"}

6.2. dolphinscheduler_env.sh

可以在路径 bin/env/ 中找到此文件，该文件用来配置用到的一些环境，按照下面的说明修改对应配置即可：

# JDK 路径，一定要修改
export JAVA_HOME=${JAVA_HOME:-/usr/java/jdk1.8.0_202}

# 数据库类型，支持 mysql、postgresql
export DATABASE=${DATABASE:-mysql}
export SPRING_PROFILES_ACTIVE=${DATABASE}
# 连接 url，主要修改下面的 hostname，最后配置的是东八区
export SPRING_DATASOURCE_URL="jdbc:mysql://hostname:3306/dolphinscheduler?useUnicode=true&characterEncoding=UTF-8&useSSL=false&serverTimezone=Asia/Shanghai"
export SPRING_DATASOURCE_USERNAME=dolphinscheduler
# 如果密码比较复杂，则需要前后使用英文单引号括起来
export SPRING_DATASOURCE_PASSWORD='xxxxxxxxxxxxx'

export SPRING_CACHE_TYPE=${SPRING_CACHE_TYPE:-none}
# 配置各角色 JVM 启动时使用的时区，默认为 -UTC，如果想要完全支持东八区，则设置为 -GMT+8
export SPRING_JACKSON_TIME_ZONE=${SPRING_JACKSON_TIME_ZONE:-GMT+8}
export MASTER_FETCH_COMMAND_NUM=${MASTER_FETCH_COMMAND_NUM:-10}

export REGISTRY_TYPE=${REGISTRY_TYPE:-zookeeper}
# 配置使用的 zookeeper 地址
export REGISTRY_ZOOKEEPER_CONNECT_STRING=${REGISTRY_ZOOKEEPER_CONNECT_STRING:-hadoop01:2181,hadoop02:2181,hadoop03:2181}

# 配置使用到的一些环境变量，按照自己的需要进行配置即可，所有需要的组件，都自己安装
export HADOOP_HOME=${HADOOP_HOME:-/opt/cloudera/parcels/CDH/lib/hadoop}
export HADOOP_CONF_DIR=${HADOOP_CONF_DIR:-/etc/hadoop/conf}
export SPARK_HOME1=${SPARK_HOME1:-/opt/soft/spark1}
export SPARK_HOME2=${SPARK_HOME2:-/opt/spark-3.3.2}
export PYTHON_HOME=${PYTHON_HOME:-/opt/python-3.9.16}
export HIVE_HOME=${HIVE_HOME:-/opt/cloudera/parcels/CDH/lib/hive}
export FLINK_HOME=${FLINK_HOME:-/opt/flink-1.15.3}
export DATAX_HOME=${DATAX_HOME:-/opt/datax}
export SEATUNNEL_HOME=${SEATUNNEL_HOME:-/opt/seatunnel-2.1.3}
export CHUNJUN_HOME=${CHUNJUN_HOME:-/opt/soft/chunjun}

export PATH=$HADOOP_HOME/bin:$SPARK_HOME1/bin:$SPARK_HOME2/bin:$PYTHON_HOME/bin:$JAVA_HOME/bin:$HIVE_HOME/bin:$FLINK_HOME/bin:$DATAX_HOME/bin:$SEATUNNEL_HOME/bin:$CHUNJUN_HOME/bin:$PATH

6.3. common.properties

从自己的 hadoop 集群上下载 hdfs-site.xml 和 core-site.xml 文件，然后放到 api-server/conf/ 和 worker-server/conf/ 目录下。如果是自己搭建的 apache 的原生集群，则从各个组件的 conf 目录下找，如果是 CDH ，则可以通过 CDH 界面直接下载。

修改 api-server/conf/ 和 worker-server/conf/ 目录下的这个文件，该文件主要用来配置资源上传相关参数，比如将海豚的资源上传到 hdfs 等，按照下面的说明修改即可：

# 本地路径，主要用来存放任务运行时的临时文件，要保证用户对该文件具有读写权限，一般保持默认即可，如果后续任务运行报错说是对该目录下的文件没有操作权限，直接将该目录权限修改为 777 即可
data.basedir.path=/tmp/dolphinscheduler

# resource view suffixs
#resource.view.suffixs=txt,log,sh,bat,conf,cfg,py,java,sql,xml,hql,properties,json,yml,yaml,ini,js

# 保存资源的地方，可用值为: HDFS, S3, OSS, NONE
resource.storage.type=HDFS
# 资源上传的基本路径，必须以 /dolphinscheduler 开头，要保证用户对该目录有读写权限
resource.storage.upload.base.path=/dolphinscheduler

# The AWS access key. if resource.storage.type=S3 or use EMR-Task, This configuration is required
resource.aws.access.key.id=minioadmin
# The AWS secret access key. if resource.storage.type=S3 or use EMR-Task, This configuration is required
resource.aws.secret.access.key=minioadmin
# The AWS Region to use. if resource.storage.type=S3 or use EMR-Task, This configuration is required
resource.aws.region=cn-north-1
# The name of the bucket. You need to create them by yourself. Otherwise, the system cannot start. All buckets in Amazon S3 share a single namespace; ensure the bucket is given a unique name.
resource.aws.s3.bucket.name=dolphinscheduler
# You need to set this parameter when private cloud s3. If S3 uses public cloud, you only need to set resource.aws.region or set to the endpoint of a public cloud such as S3.cn-north-1.amazonaws.com.cn
resource.aws.s3.endpoint=http://localhost:9000

# alibaba cloud access key id, required if you set resource.storage.type=OSS
resource.alibaba.cloud.access.key.id=<your-access-key-id>
# alibaba cloud access key secret, required if you set resource.storage.type=OSS
resource.alibaba.cloud.access.key.secret=<your-access-key-secret>
# alibaba cloud region, required if you set resource.storage.type=OSS
resource.alibaba.cloud.region=cn-hangzhou
# oss bucket name, required if you set resource.storage.type=OSS
resource.alibaba.cloud.oss.bucket.name=dolphinscheduler
# oss bucket endpoint, required if you set resource.storage.type=OSS
resource.alibaba.cloud.oss.endpoint=https://oss-cn-hangzhou.aliyuncs.com

# if resource.storage.type=HDFS, the user must have the permission to create directories under the HDFS root path
resource.hdfs.root.user=hdfs
# if resource.storage.type=S3, the value like: s3a://dolphinscheduler; if resource.storage.type=HDFS and namenode HA is enabled, you need to copy core-site.xml and hdfs-site.xml to conf dir
# 
resource.hdfs.fs.defaultFS=hdfs://bigdata:8020

# whether to startup kerberos
hadoop.security.authentication.startup.state=false

# java.security.krb5.conf path
java.security.krb5.conf.path=/opt/krb5.conf

# login user from keytab username
[email protected]

# login user from keytab path
login.user.keytab.path=/opt/hdfs.headless.keytab

# kerberos expire time, the unit is hour
kerberos.expire.time=2


# resourcemanager port, the default value is 8088 if not specified
resource.manager.httpaddress.port=8088
# if resourcemanager HA is enabled, please set the HA IPs; if resourcemanager is single, keep this value empty
yarn.resourcemanager.ha.rm.ids=hadoop02,hadoop03
# if resourcemanager HA is enabled or not use resourcemanager, please keep the default value; If resourcemanager is single, you only need to replace ds1 to actual resourcemanager hostname
yarn.application.status.address=http://ds1:%s/ws/v1/cluster/apps/%s
# job history status url when application number threshold is reached(default 10000, maybe it was set to 1000)
yarn.job.history.status.address=http://hadoop02:19888/ws/v1/history/mapreduce/jobs/%s

# datasource encryption enable
datasource.encryption.enable=false

# datasource encryption salt
datasource.encryption.salt=!@#$%^&*

# data quality option
data-quality.jar.name=dolphinscheduler-data-quality-dev-SNAPSHOT.jar

#data-quality.error.output.path=/tmp/data-quality-error-data

# Network IP gets priority, default inner outer

# Whether hive SQL is executed in the same session
support.hive.oneSession=false

# use sudo or not, if set true, executing user is tenant user and deploy user needs sudo permissions; if set false, executing user is the deploy user and doesn't need sudo permissions
sudo.enable=true
setTaskDirToTenant.enable=false

# network interface preferred like eth0, default: empty
#dolphin.scheduler.network.interface.preferred=

# network IP gets priority, default: inner outer
#dolphin.scheduler.network.priority.strategy=default

# system env path
#dolphinscheduler.env.path=dolphinscheduler_env.sh

# development state
development.state=false

# rpc port
alert.rpc.port=50052

# set path of conda.sh
conda.path=/opt/anaconda3/etc/profile.d/conda.sh

# Task resource limit state
task.resource.limit.state=false

# mlflow task plugin preset repository
ml.mlflow.preset_repository=https://github.com/apache/dolphinscheduler-mlflow
# mlflow task plugin preset repository version
ml.mlflow.preset_repository_version="main"

6.4. application.yaml

需要修改所有角色下 /conf/application.yaml 文件，包括：master-server/conf/application.yaml、worker-server/conf/application.yaml、api-server/conf/application.yaml、alert-server/conf/application.yaml，主要修改的是时区设置，具体修改如下：

spring:
  banner:
    charset: UTF-8
  jackson:
    # 将时区设置为东八区，只修改这一个地方即可
    time-zone: GMT+8
    date-format: "yyyy-MM-dd HH:mm:ss"

6.5. service.57a50399.js和service.57a50399.js.gz

这两个文件在 api-server/ui/assets/ 和 ui/assets/ 目录下。

分别切换到这两个目录下，然后分别找到这两个文件，之后通过 vim 命令打开，然后搜索 15e3，找到之后，将其改为 15e5。这修改的是页面响应的超时时间，默认值 15e3 表示 15 秒，我们将其改为 1500 秒，在上传大文件时，不会因为页面超时而报错。

file

7. 初始化数据库

驱动配置

将 mysql 驱动（8.x）拷贝到海豚调度器每个角色的 lib 目录下，包括：api-server/libs、alert-server/libs、master-server/libs、worker-server/libs、tools/libs。

数据库用户

使用 root 用户登录 mysql，然后执行以下 sql，mysql5 和 mysql8 都支持：

create database `dolphinscheduler` character set utf8mb4 collate utf8mb4_general_ci;
create user 'dolphinscheduler'@'%' IDENTIFIED WITH mysql_native_password by 'your_password';
grant ALL PRIVILEGES ON dolphinscheduler.* to 'dolphinscheduler'@'%';
flush privileges;

执行数据库升级脚本：

bash tools/bin/upgrade-schema.sh

8. 安装

bash ./bin/install.sh

执行该脚本，会将本地的所有文件通过 scp 远程传输给上面配置文件中配置的所有机器，然后停止对应机器上的角色，之后再启动所有机器上的角色。

第一次安装之后，就已经启动了所有的角色，无需再次单独启动任何角色，如果有哪些角色没启动的话，可以去对应的机器上查看对应的日志，看具体是什么问题导致的。

9. 启停服务

# 一键停止集群所有服务
bash ./bin/stop-all.sh

# 一键开启集群所有服务
bash ./bin/start-all.sh

# 启停 Master
bash ./bin/dolphinscheduler-daemon.sh stop master-server
bash ./bin/dolphinscheduler-daemon.sh start master-server

# 启停 Worker
bash ./bin/dolphinscheduler-daemon.sh start worker-server
bash ./bin/dolphinscheduler-daemon.sh stop worker-server

# 启停 Api
bash ./bin/dolphinscheduler-daemon.sh start api-server
bash ./bin/dolphinscheduler-daemon.sh stop api-server

# 启停 Alert
bash ./bin/dolphinscheduler-daemon.sh start alert-server
bash ./bin/dolphinscheduler-daemon.sh stop alert-server

一定要注意，必须使用安装海豚调度器的用户执行这些脚本，否则会有一些权限之类的问题。

每个服务在路径 <service>/conf/dolphinscheduler_env.sh 中都有 dolphinscheduler_env.sh 文件，为微服务需求提供便利。这意味着你可以在对应服务中配置 <service>/conf/dolphinscheduler_env.sh，然后通过<service>/bin/start.sh 命令基于不同的环境变量来启动各个服务。但如果使用命令 /bin/dolphinscheduler-daemon.sh start <service> 启动服务器，它将会使用文件 bin/env/dolphinscheduler_env.sh 覆盖 <service>/conf/dolphinscheduler_env.sh ，然后启动服务，这么做是为了减少用户修改配置的成本。

10. 扩容

10.1. 标准方式

参考上面的步骤，进行如下操作：

  1. 新节点
    1. 安装配置好 JDK。
    2. 新建海豚用户（Linux 用户），然后配置免密登录、权限等。
  2. 之前安装海豚调度器时解压二进制安装包的机器上。
    1. 登录安装海豚的用户。
    2. 切换到之前安装海豚调度器时解压二进制安装包，修改配置文件：bin/env/install_env.sh，在该配置文件中，修改需要在新节点上部署的角色。
    3. 执行 /bin/install.sh 文件进行安装，该脚本会按照 bin/env/install_env.sh 文件中的配置，将整个目录重新 scp 到所有的机器，之后停止所有机器上的角色，然后再启动所有角色。

该方式的缺点：如果海豚调度器上有很多分钟级别的任务，或者是 flink、spark 之类的实时任务，由于该操作会停止所有的角色，然后启动，这期间会花费一定的时间，在这期间，这些任务可能会由于整个集群的重启，从而异常停止，或者是无法被正常调度起来。但海豚调度器自己实现了自动容错和灾备等功能，所以可以这么操作，最后观察下所有任务执行是否正常。

10.2. 简单方式

参考上面的步骤，进行如下操作：

  1. 新节点
    1. 安装配置好 JDK。
    2. 新建海豚用户（Linux 用户），然后配置免密登录、权限等。
  2. 之前安装海豚调度器时解压二进制安装包的机器上。
    1. 登录安装海豚的用户。
    2. 将之前修改完配置的整个目录直接压缩，然后传输到新节点上。
  3. 新节点
    1. 在新节点上解压文件，然后将其重命名到之前配置文件 bin/env/install_env.sh 中配置的安装目录下。
    2. 登录安装海豚的用户。
    3. 需要在新节点部署哪些角色，就启动哪些角色，具体脚本位置：/bin/dolphinscheduler-daemon.sh，启动命令为：
./dolphinscheduler-daemon.sh start master-server
./dolphinscheduler-daemon.sh start worker-server
  1. 登录到海豚调度器界面，然后“监控中心”中观察，对应角色在新节点是否启动。

11.缩容

  1. 在需要下线的机器上，通过 /bin/dolphinscheduler-daemon.sh 脚本停止机器上所有的角色，停止命令为：
./dolphinscheduler-daemon.sh stop worker-server
  1. 登录到海豚调度器界面，然后“监控中心”中观察，刚才机器上停止的角色是否已经消失。
  2. 在之前安装海豚调度器时解压二进制安装包的机器上
  3. 登录安装海豚的用户。
  4. 修改配置文件：bin/env/install_env.sh，在该配置文件中，删除下线角色对应的机器。

12. 升级

按照上面的步骤，一步一步操作即可，对于已经有过的操作，无需二次操作。下面是一些具体的操作步骤：

  1. 上传新版二进制包。
  2. 解压，解压到和旧版安装目录不同的目录，或者是重命名也可以。
  3. 修改配置文件，比较简单的方式是，将上面步骤中涉及到的所有配置文件，从之前安装的目录下拷贝到新版本目录下，替换即可。
  4. 将其他节点上部署的一些组件，全部打包，然后解压放到新节点对应的位置。具体需要拷贝哪些组件，可以查看 dolphinscheduler_env.sh 文件中的配置。
  5. 配置驱动，参考《初始化数据库》中的步骤。
  6. 停止之前的集群。
  7. 备份整个数据库。
  8. 执行数据库升级脚本，参考《初始化数据库》中的步骤。
  9. 执行安装脚本，参考《安装》。
  10. 升级完成，登录界面，查看“监控中心”，看所有角色是否都成功启动。

文件转载，请标明出处。欢迎大家一起讨论技术，写的不对的地方还请大家一起讨论。

原文链接：https://blog.csdn.net/u012443641/article/details/131419391

本文由 白鲸开源 提供发布支持！

标签：bin,resource,default,dolphinscheduler,调度,server,sh,多机,3.1
From： https://www.cnblogs.com/DolphinScheduler/p/18153425

相关文章

  • AI agent智能体任务分解和调度的几篇经典文章
     ReAct论文解读：LLMReAct范式，在大语言模型中结合推理和动作最近在研究如何让GPT正确做动作，比如搜索内容，发现了《SYNERGIZINGREASONINGANDACTINGINLANGUAGEMODELS》这篇论文。作者提出了ReAct范式，通过将推理和动作相结合来克服LLM胡言乱语的问题，同时提高了结果的可解释性......
  • AI agent中的任务分解和调度-学术界文章汇总
    Reflexion:LanguageAgentswithVerbalReinforcementLearning该文章的要点和关键技术，算法流程该文章提出了一种名为"Reflexion"的新型框架,用于通过语言反馈来强化语言智能体的学习。主要包含以下几个关键点:框架组成:Actor模型:基于大语言模型生成文本和动作E......
  • 车箱调度
    输入有n节车箱,n=0为全部工作结束；再输入A站出车顺序：再输入B站驶入顺序；输出可以调度输出Yes,不可以输出No**样例输入**5123455432151234554123612345654321661234564321650**样例输出**YesNoYesYesCode#de......
  • WhaleScheduler为银行业全信创环境打造统一调度管理平台解决方案
    项目背景数字金融是数字经济的重要支撑和驱动力。近年来，我国针对数字金融的发展政策频频出台，《金融科技发展规划（2022-2025年）》、《“十四五”数字经济发展规划》、《关于银行业保险业数字化转型的指导意见》、《金融标准化“十四五”发展规划》等相继发布，顶层设计逐步完善。2......
  • L2-014 列车调度
    原题链接题解1.后面的列车排到前面最小的比自己大的列车后面code#include<bits/stdc++.h>usingnamespacestd;intlen=0;inta[100005]={0};intmain(){intn;cin>>n;fill(a,a+100005,INT_MAX);for(inti=1;i<=n;i++){intx;......
  • deepspeed 训练多机多卡报错 ncclSystemError Last error
     最近在搞分布式训练大模型，踩了两个晚上的坑今天终于爬出来了我们使用2台8*H100遇到过错误110.255.19.85:ncclSystemError:Systemcall(e.g.socket,malloc)orexternallibrarycallfailedordeviceerror.10.255.19.85:Lasterror:10.255.19.85:socketStartCo......
  • SpringBoot 3.1.10 整合Mybatis-plus（快速学会）
    一、简介1、什么是Mybatis-plus?Mybatis-Plus（简称MP）是一个Mybatis的增强工具，在MyBatis的基础上只做增强不做改变，为简化开发、提高效率而生。官网:https://baomidou.com/2、Mybatis-plus特性无侵入：只做增强不做改变，引入它不会对现有工程产生影响，如丝般顺滑损耗小：启动......
  • 智能调度_AIRIOT智能车队管理解决方案
    客运、货运、汽车租赁、出租运营等行业对车辆管理、车队管理以及司乘人员的管理方式，逐渐向数字化和智能化转型。传统的依赖人工调度、记录和跟踪的管理模式已经难以满足业务发展需要，存在如下痛点：实时监控与定位功能弱：无法实时获取车辆的位置信息、行驶速度、方向、里程等动态数......
  • 05-智能调度-调度任务
    1.智能调度在神领物流项目中，采用智能调度的方式对车辆任务、快递员的取派件任务进行调度管理，这样更加有效的进行管理，降低企业运营成本。1.1为什么需要调度？可能你会这样的疑问，用户下单了，快递员上门取件，取件后送回网点，网点有车辆运走，再经过车辆的一系列的运输，最后进行派件，对方......
  • 06-智能调度-运输任务
    1.任务调度1.1分析通过前面的实现，已经将相同转运节点的写入到了Redis的队列中，谁来处理呢？这就需要调度任务进行处理了，基本的思路是：查询待分配任务的车辆→计算运力→分配运单→生成运输任务→生成司机作业单也就是说，调度是站在车辆角度推进的。1.2实现这里采......

赞助商

阅读排行

网站主页关于我们联系我们网站地图

本网站内容转载自其他媒体，侵权联系[admin##ips99.com]。

Copyright © 2020-2023 IPS99 版权所有 IPS99