Logo

菜单

青云博客 分享、记录
大数据采集工具之Datax
大数据 #datax

大数据采集工具之Datax

1、基本介绍 DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括 MySQL、SQL Server、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、ODPS 等各种异构数据源之间高效的数据同步功能。 1.1、设计理念 为了解决异构数据源同步问题，Da

詹学伟 发布于 2024-04-21
Flume使用案例
大数据 #flume

Flume使用案例

案例一：从控制台打入数据，在控制台显示 1、确定scource类型，channel类型和sink类型 确定的使用类型分别是，netcat source, memory channel, logger sink.

詹学伟 发布于 2024-04-21
Flume安转
大数据 #flume

Flume安转

1.下载 Flume下载地址 2.安装 上传压缩包并解压（/opt） tar -zxvf apache-flume-1.9.0-bin.tar.gz 重命名目录，并配置环境变量

詹学伟 发布于 2024-04-21
Kafka启动脚本
大数据 #kafka

Kafka启动脚本

启动脚本 #! /bin/bash # Kafka代理节点地址, 如果节点较多可以用一个文件来存储 hosts=(node3 node4 node5) # 打印启动分布式脚本信息 mill=`date "+%N"` tdate=`date "+%Y-%m-%d %H:%M:%S,${mill:0

詹学伟 发布于 2024-04-21
Kafka 图形化工具 Eagle
Linux #kafka

Kafka 图形化工具 Eagle

一、下载 1.1 下载地址：https://raw.githubusercontent.com/smartloli/kafka-eagle-bin/master/efak-web-3.0.2-bin.tar.gz 二、安装 因为eagle是用java编写的，所以需要提前安装好java环境 2

詹学伟 发布于 2024-04-21
Kafka基本命令操作
Linux #kafka

Kafka基本命令操作

1、创建topic 使用shell新开一个node001的窗口 命令建议手敲（不仅仅是为了练习代码，重要的是：我复制命令粘贴上去有时候要报错，手敲却没问题，不知道为啥） 终端输入： kafka-topics.sh --bootstrap-server node3:9092 --create --to

詹学伟 发布于 2024-04-21
Kafka安装
大数据 #kafka

Kafka安装

1、下载 下载地址：https://archive.apache.org/dist/kafka/3.3.2/kafka_2.12-3.3.2.tgz 2、解压 tar -zvxf kafka_2.12-3.3.2.tgz 3、重命名、移动

詹学伟 发布于 2024-04-21
Hbase命令
大数据 #hbase

Hbase命令

一、hbase sehll 显示集群状态status status 查询数据库版本version version 显示当前用户与组 whoami 查看操作表的命令 table_help

詹学伟 发布于 2024-04-21
Hbase集群安装
Linux #hbase

Hbase集群安装

1、安装包下载 下载地址：https://archive.apache.org/dist/hbase/2.3.5/hbase-2.3.5-bin.tar.gz 2、解压、移动 tar -zvxf hbase-2.3.

詹学伟 发布于 2024-04-21
spark-submit任务提交
大数据 #spark

spark-submit任务提交

Run application locally（本地运行） /usr/local/spark-3.3.0/bin/spark-submit \ --master local[8] \ --class com.zxw.spark.Etl \ /opt/zxw-spark-1.0.jar hdfs://

詹学伟 发布于 2024-04-21
上一页 1 / 2 下一页