大连建网站公司百度seo查询系统
Loader简介
什么是Loader：
Loader是实现FusionInsight HD与关系型数据库、文件系统之间交互数据和文件的数据加载工具。基于开源Sqoop研发，做了大量优化和扩展。提供可视化向导式的作业配置管理界面；提供定时调度任务，周期性执行Loader作业；在界面中可指定多种不同的数据源、配置数据的清洗和转换步骤、配置集群存储系统等。
Loader的特点：
- 图形化：提供图形化配置、监控界面，操作简便。
- 高性能：利用MapReduce并行处理数据。
- 高可靠：Loader Server采用主备双机；作业通过MapReduce执行，支持失败重试；作业失败后，不会残留数据。
- 安全：Kerberos认证；作业权限管理。
Loader的应用场景：
通过Loader，我们可以从关系型数据库或文件系统中把数据导入HBase或者Hive，HDFS中。反过来，Loader也可以从HDFS和HBase、Hive中导出数据。
Loader在FusionInsight产品中的位置：
FusionInsight HD提供大数据处理环境，基于社区开源软件增强，安装场景选择业界最佳实践；Porter是FusionInsight HD的数据集成服务，提供与Hadoop集群多种交换数据方式（包括Loader，Flume，SFTP）及Hadoop图形界面（Hue）。
Loader是实现FusionInsight HD与关系型数据库、文件系统之间交换数据和文件的数据加载工具。
Loader系统架构
Loader模块架构：
模块说明：
| 名称 | 描述 |
|---|---|
| Loader Client | Loader的客户端，包括WebUI和CLI两种交互界面。 |
| Loader Server | Loader的服务端，主要功能包括：处理客户端请求，管理连接器和元数据，提交MapReduce作业和监控MapReduce作业状态等。 |
| REST API | 实现RESTful（HTTP+JSON）接口，处理来自客户端的请求。 |
| Job Scheduler | 简单的作业调度模块，支持周期ing的执行Loader作业。 |
| Transform Engine | 数据转换处理引擎，支持字段合并、字符串剪切、字符串反序等。 |
| Execution Engine | Loader作业执行引擎，包含MapReduce作业的详细处理逻辑。 |
| Submission Engine | Loader作业提交引擎，支持将作业提交给MapReduce执行。 |
| Job Manager | 管理Loader作业，包括创建作业、查询作业、更新作业、删除作业、激活作业、去激活作业、启动作业、停止作业。 |
| Metadata Repository | 元数据仓库，存储和管理Loader的连接器、转换步骤、作业等数据。 |
| HA Manager | 管理Loader Server进程的主备状态，Loader Server包含2个节点，以主备方式部署。 |
Loader作业管理
作业：
作业用来描述将数据从数据源经过抽取、转换和加载至目的端的过程。包括数据源位置及数据源属性、从源数据到目标数据的转换规则、目标端属性。
Loader提供了诸多功能，用于管理与作业相关的操作。包括创建作业、导入作业、导出作业、迁移作业分组、批量删除作业、启动作业、停止作业、查看作业历史记录、复制作业和删除指定作业等功能。
脏数据：是指不符和Loader转换规则的数据。
作业转换规则：
Loader提供了丰富的作用转换规则，能将数据按照不同的业务场景进行转换和清洗，转换成目标数据结构，实际应用中，如果不需要转换，可以不指定转换规则。
Loader提供了14中转换算子，描述如下：
- 长整型时间转换：实现长整型数值与日期类型的互换。
- 空值转换：将空值替换成指定值。
- 增加常量字段：生成常量字段。
- 随机值转换：生成羧基数据字段。
- 拼接转换：拼接已有字段，生成新字段。
- 分割转换：将已有字段，按指定分隔符，分割出新字段。
- 取模转换：对已有字段取模，生成新字段。
- 剪切字符串：通过指定起止位置，截取已有字符串类型的字段，生成新字段。
- EL操作转换：指定算法，对字段值进行运算，目前支持的算法有：MD5sum、sha1sum、sha256sum和sha512sum等。
- 字符串大小写转换：对已有的字符串类型字典，切换大小写，生成新字段。
- 字符串逆序转换：对已有的字符串类型字段，做逆序变换，生成新字段。
- 字符串空格清除转换：对已有的字符串类型字段，清除左右空格，生成新字段。
- 过滤行转换：配置逻辑条件过滤掉含触发条件的行。
- 更新域：当满足某些条件时，更新字段的值。
客户端脚本介绍：
Loader除了提供图形化操作界面外，还体用了一套完整的shell脚本，通过这些脚本，可实现数据源的增删查改，作业的增删查改、启动作业、停止作业，查看作业状态，判断作业是否正在运行等功能。
脚本介绍如下：
- lt-ctl：简称作业控制工具，用于查询作业状态、启动作业，停止作业以及判断作业是否在运行中。
- lt-ucj：简称作业管理工具，用于查询、创建、修改和删除作业。
- lt-ucc：简称数据源管理工具，用于查询、创建、修改和删除数据源连接信息。
以上内容为听华为大数据培训课程和大学MOOC上厦门大学 林子雨的《大数据技术原理与应用》课程而整理的笔记。
大数据技术原理与应用： https://www.icourse163.org/course/XMU-1002335004