DolphinScheduler 集群模式部署

news/2024/7/9 21:08:20 标签: 数据库, postgresql, 运维

文章目录

  • DolphinScheduler 集群模式部署
    • 一、集群规划
      • 1、前置准备工作
      • 2、解压DolphinScheduler 安装包
      • 3、创建元数据库及用户
    • 二、配置一键部署脚本
      • 1、初始化数据库
      • 2、一键部署 DolphinScheduler
      • 3、DolphinScheduler 启停命令

DolphinScheduler 集群模式部署

一、集群规划

集群模式下,可配置多个 Master 及多个 Worker。通常可配置 2~3 个 Master,若干个
Worker。由于集群资源有限,此处配置一个 Master,三个 Worker,集群规划如下。
在这里插入图片描述

1、前置准备工作

(1)三台节点均需部署 JDK(1.8+),并配置相关环境变量。
(2)需部署数据库,支持 MySQL(5.7+)或者 PostgreSQL(8.2.15+)。
(3)需部署 Zookeeper(3.4.6+)。
(4)三台节点均需安装进程树分析工具 psmisc。
输入命令: sudo yum install -y psmisc 三台节点执行
在这里插入图片描述

2、解压DolphinScheduler 安装包

(1)上传 DolphinScheduler 安装包到 hadoop102 节点的/opt/software 目录
(2)解压安装包到当前目录
输入目录:tar -zxvf apache-dolphinscheduler-2.0.5-bin.tar.gz -C /opt/software/

3、创建元数据库及用户

DolphinScheduler 元数据存储在关系型数据库中,故需创建相应的数据库和用户。
(1)创建数据库
输入目录:CREATE DATABASE dolphinscheduler DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
(2)创建用户
输入命令: CREATE USER 'dolphinscheduler'@'%' IDENTIFIED BY 'p@ssw0rd';
(3)赋予用户相应权限
输入命令:GRANT ALL PRIVILEGES ON dolphinscheduler.* TO 'dolphinscheduler'@'%';
输入命令: flush privileges;

二、配置一键部署脚本

输入命令: cd apache-dolphinscheduler-2.0.5-bin
输入命令:vim conf/config/install_config.conf

1、初始化数据库

(1)拷贝mysql8.0 驱动
拷贝 MySQL 驱动到 DolphinScheduler 的解压目录下的 lib 中,要求使用 MySQL
JDBC Driver 8.0.16 要匹配对应的版本
输入命令: cp mysql-connector-java-8.0.16.jar /opt/software/apache-dolphinscheduler-2.0.5-bin/lib/
在这里插入图片描述
(2)执行数据库初始化脚本
数据库初始化脚本位于 DolphinScheduler 解 压 目 录 下 的 script 目 录 中 , 即
/opt/software/ds/apache-dolphinscheduler-2.0.5-bin/script/
输入命令:/opt/software/ds/apache-dolphinscheduler-2.0.5-bin/script/
在这里插入图片描述

2、一键部署 DolphinScheduler

(1)启动 Zookeeper 集群
输入命令: zkServer.sh start 三台节点都执行一下,这个是在zookeeper bin目录下命令
在这里插入图片描述
(2)一键部署并启动 DolphinScheduler
输入命令:./install.sh
在这里插入图片描述
(3)查看 DolphinScheduler 进程
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
(4)访问 DolphinScheduler UI
DolphinScheduler UI 地址为:http://hadoop102:12345/dolphinscheduler
初始用户:admin 初始密码:dolphinscheduler123
在这里插入图片描述
进入这个界面,说明成功了
在这里插入图片描述

3、DolphinScheduler 启停命令

DolphinScheduler 的启停脚本均位于其安装目录的 bin 目录下。
1)一键启停所有服务
./bin/start-all.sh
./bin/stop-all.sh
注意同 Hadoop 的启停脚本进行区分。
2)启停 Master
./bin/dolphinscheduler-daemon.sh start master-server
./bin/dolphinscheduler-daemon.sh stop master-server
3)启停 Worker
./bin/dolphinscheduler-daemon.sh start worker-server
./bin/dolphinscheduler-daemon.sh stop worker-server
4)启停 Api
./bin/dolphinscheduler-daemon.sh start api-server
./bin/dolphinscheduler-daemon.sh stop api-server
5)启停 Logger
./bin/dolphinscheduler-daemon.sh start logger-server
./bin/dolphinscheduler-daemon.sh stop logger-server
6)启停 Alert
./bin/dolphinscheduler-daemon.sh start alert-server
./bin/dolphinscheduler-daemon.sh stop alert-server
服务全部启动之后
在这里插入图片描述


http://www.niftyadmin.cn/n/342174.html

相关文章

南京邮电大学算法与设计实验三:动态规划法(最全最新,与题目要求一致)

实验原理: 1、用动态规划法和备忘录方法实现求两序列的最长公共子序列问题。要求掌握动态规划法思想在实际中的应用,分析最长公共子序列的问题特征,选择算法策略并设计具体算法,编程实现两输入序列的比较,并输出它们的…

(转载)从0开始学matlab(第10天)—自顶向下的编程思想

在前面的内容中,我们开发了几个完全运转的 MATLAB 程序。但是这些程序都十分简单,包括一系列的 MATLAB 语句,这些语句按照固定的顺序一个接一个的执行。像这样的程序我们称之顺序结构程序。它首先读取输入,然后运算得到所需结果&a…

继承 + 多态 + final + 权限修饰符

目录 继承 多态 final 权限修饰符 继承 继承定义: 可以让类跟类之间产生子父的关系继承的好处 可以把多个子类中重复的代码抽取到父类中,子类可以直接使用,减少代码几余,提高代码的复用性子类继承内容 非私有private构造方法…

electron+sqlite3+serialport实现桌面端应用

使用Electron、SQLite3和SerialPort可以实现功能丰富的桌面端应用程序。以下是关于如何结合这些技术来构建应用程序的一般指导: 安装Electron:首先,您需要安装Electron。您可以使用npm(Node包管理器)在命令行中运行以下…

都2023了,你竟然还不知道网络安全该怎么学

前言 网络安全是指网络系统的硬件、软件及其系统中的数据受到保护,不因偶然或恶意原因而遭受破坏、更改、泄露,系统连续可靠正常地运行,网络服务不中断。网络安全因何而重要? 截至2023年4月,我国网民规模为_11.51亿_&#xff0c…

OpenLayers多图层切换显示隐藏,支持多个Layer同时显示和隐藏,以百度地图和高德地图为例实现vue的Layer图层管理组件

前言 OpenLayers默认并没有提供图层管理组件,实现起来也很简单,评论区里有同学提到了这个,必须立刻满足,这就着手区实现一个简单又强大的地图图层管理组件。 那么本章就专门讲一下在vue中如何使用ElementUI的下拉框做一个简单的图层管理组件。 话不多说,让我们直接开始吧…

#include <sensor_msgs/PointCloud.h> #include <sensor_msgs/PointCloud2.h>

sensor_msgs/PointCloud.h 和 sensor_msgs/PointCloud2.h 是 ROS 中用于表示点云消息的两个不同的消息类型。 sensor_msgs/PointCloud.h: 定义了 sensor_msgs::PointCloud 消息类型,用于表示 XYZ 坐标的点云数据。sensor_msgs::PointCloud 包含一个 header 字段表示消息的元数…

Smoothieware_best-for-pnp 工具链的升级尝试

文章目录 Smoothieware_best-for-pnp 工具链的升级尝试概述实验工具链安装的思路更换工具链的工作备注END Smoothieware_best-for-pnp 工具链的升级尝试 概述 正在迁移Smoothieware_best-for-pnp到MCUXPresso的失败实验中徘徊. 现在已知2者的工具链版本是不一样的. 通过2进制…