脚本中插入数据的数据库结构如下

CREATE TABLE `server_auth_info` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `server_name` varchar(50) NOT NULL DEFAULT '',
  `auth_code` varchar(50) DEFAULT NULL,
  PRIMARY KEY (`id`,`server_name`)
) ENGINE=InnoDB AUTO_INCREMENT=39 DEFAULT CHARSET=utf8;
导入文件格式如下
 
name1 code1
name2 code2
name3 code3
 
                    脚本如下#!/bin/bash# 向数据库批量自动化插入数据# 初始化参数# 数据库名db_name="test"# 表名table_name="server_auth_info"# 导入文件import_file="./test.txt"# 数据导入cat $import_file |while read line        do             ...
				
DataX Web是在DataX之上开发的分布式数据同步工具，提供简单易用的操作界面，降低用户使用DataX的学习成本，缩短任务配置时间，避免配置过程中出错。用户可通过页面选择数据源即可创建数据同步任务，RDBMS数据源可批量创建数据同步任务，支持实时查看数据同步进度及日志并提供终止同步功能，集成并二次开发xxl-job可根据时间、自增主键增量同步数据。
任务"执行器"支持集群部署，支持执行器多节点路由策略选择，支持超时控制、失败重试、失败告警、任务依赖，执行器CPU.内存.负载的监控等等。后续还将提供更多的数据源支持、数据转换UDF、表结构同步、数据同步血缘等更为复杂的业务场景。
DataX Web安装环境：
Language: Java 8（jdk版本建议1.8.201以上）
Python2.7(支持Python3需要修改替换datax/bin下面的三个python文件，替换文件在doc/datax-web/datax-python3下)
Environment: MacOS, Windows,Linux
Database: Mysql5.7
DataX Web功能特点：
1、通过Web构建DataX Json；
2、DataX Json保存在数据库中，方便任务的迁移，管理；
3、Web实时查看抽取日志，类似Jenkins的日志控制台输出功能；
4、DataX运行记录展示，可页面操作停止DataX作业；
5、支持DataX定时任务，支持动态修改任务状态、启动/停止任务，以及终止运行中任务，即时生效；
6、调度采用中心式设计，支持集群部署；
7、任务分布式执行，任务"执行器"支持集群部署；
8、执行器会周期性自动注册任务, 调度中心将会自动发现注册的任务并触发执行；
9、路由策略：执行器集群部署时提供丰富的路由策略，包括：第一个、最后一个、轮询、随机、一致性HASH、最不经常使用、最近最久未使用、故障转移、忙碌转移等；
10、阻塞处理策略：调度过于密集执行器来不及处理时的处理策略，策略包括：单机串行（默认）、丢弃后续调度、覆盖之前调度；
11、任务超时控制：支持自定义任务超时时间，任务运行超时将会主动中断任务；
12、任务失败重试：支持自定义任务失败重试次数，当任务失败时将会按照预设的失败重试次数主动进行重试；
13、任务失败告警；默认提供邮件方式失败告警，同时预留扩展接口，可方便的扩展短信、钉钉等告警方式；
14、用户管理：支持在线管理系统用户，存在管理员、普通用户两种角色；
15、任务依赖：支持配置子任务依赖，当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔；
16、运行报表：支持实时查看运行数据，以及调度报表，如调度日期分布图，调度成功分布图等；
17、指定增量字段，配置定时任务自动获取每次的数据区间，任务失败重试，保证数据安全；
18、页面可配置DataX启动JVM参数；
19、数据源配置成功后添加手动测试功能；
20、可以对常用任务进行配置模板，在构建完JSON之后可选择关联模板创建任务；
21、jdbc添加hive数据源支持，可在构建JSON页面选择数据源生成column信息并简化配置；
22、优先通过环境变量获取DataX文件目录，集群部署时不用指定JSON及日志目录；
23、通过动态参数配置指定hive分区，也可以配合增量实现增量数据动态插入分区；
24、任务类型由原来DataX任务扩展到Shell任务、Python任务、PowerShell任务；
25、添加HBase数据源支持，JSON构建可通过HBase数据源获取hbaseConfig，column；
26、添加MongoDB数据源支持，用户仅需要选择collectionName即可完成json构建；
27、添加执行器CPU、内存、负载的监控页面；
28、添加24类插件DataX JSON配置样例
29、公共字段（创建时间，创建人，修改时间，修改者）插入或更新时自动填充
30、对swagger接口进行token验证
31、任务增加超时时间，对超时任务kill datax进程，可配合重试策略避免网络问题导致的datax卡死。
32、添加项目管理模块，可对任务分类管理；
33、对RDBMS数据源增加批量任务创建功能，选择数据源，表即可根据模板批量生成DataX同步任务；
34、JSON构建增加ClickHouse数据源支持；
35、执行器CPU.内存.负载的监控页面图形化；
36、RDBMS数据源增量抽取增加主键自增方式并优化页面参数配置；
37、更换MongoDB数据源连接方式,重构HBase数据源JSON构建模块；
38、脚本类型任务增加停止功能；
39、rdbms json构建增加postSql，并支持构建多个preSq
				
一、关于本文 
工作要做的监控系统需要监控磁盘空间的使用率并报警。在测试这个功能的时候需要模拟两个场景：一是磁盘空间不断增长超过设定的阈值时，需要触发报警机制；二是磁盘空间降落到低于报警阈值的时候，不再进行报警。为了测试这两个场景，我写了下面三个脚本： 
1）initializer.sh：创建...
				
通过shell脚本向oracle数据库插入数据思路实现shell脚本数据文件测试
如何通过shell脚本更新数据库数据?要解决这个问题,首先,我们需要在脑中回忆一下我们通常是如何更新数据库数据的。向表插入数据，无外乎这几种操作方式
通过图形化界面(例如:PL/SQL Developer)
通过SQL语句
在图形化界面中插入数据异常的简单,(以PL/SQL Developer为例),你可以...
				
#如果知道行号可以用下面的方法
sed -i ‘88 r b.file’ a.file    #在a.txt的第88行插入文件b.txt
awk ‘1;NR==88{system(“cat b.file”)}’ a.file > a.file
#如果不知道行号，可以用正則匹配
sed -i ‘/regex/ r b.txt’ a.txt # regex是正则表达式
awk ‘/target/{system(“cat b.file”)}’ a.file > c.file
#sed的話如果不改变源文
source ~/TDH-Client/init.sh
about="非洲酋长 欧皇 颜值控 宅男 技术宅 追求完美 中二晚期 高富帅 逗比 猫星人 手工 为了联盟 夜猫子 软妹子 腹黑"
for i in {4..1000}
  create_sql="CREATE TABLE employee_"$i" ...
				
由于业务需要，需要测试操作大量数据的时间，但是对于表字段比较多的表，并且表很多时，经常手动插入就很累，所以写了个自动根据系统表获取表字段，并且根据参数向表中插入大量数据的shell脚本
使用时需要的必要参数：
$host ，$port ：postgresql端实例连接用的端口号
$username，$password ：登录数据库时使用的用户名和密码
$dghome：postgresql的bin目录，目录下有psql工具，用来连接数据库
$dbname：表所在的数据库名称
$relation：需
数据中的分隔符是（char）3分隔符，属于不能打印的分隔符，当然替换成其他简单的打印字符也可以
201508,1000,ADFF1324252,1,1,0,1,1,242.0,2424.0,我最伟大,546.0,6868.0,B9999FA8226,2.3,39.3
query=`echo $line | awk 'BE
				
DROP PROCEDURE IF EXISTS proc_initData;--如果存在此存储过程则删掉
DELIMITER $
CREATE PROCEDURE proc_initData()
BEGIN
    DECLARE i INT DEFAULT 1;
    WHILE i<=500 DO
        INSERT INTO table_name(field) VALU...
password=handdba
socket=/var/lib/mysql/mysql.sock
mycmd="mysql -u$user -p$password -S $socket"
for((i=13;i&lt;73;i++))
$mycmd -e "crea...