java sqoop api 导mysql数据到hdfs

小编 2026-06-05 阅读:1894 评论:0
package com.example.demo.controller; import org.apache.hadoop.conf.Configuration; import org.apache.s...
package com.example.demo.controller;

import org.apache.hadoop.conf.Configuration;
import org.apache.sqoop.Sqoop;
import org.apache.sqoop.tool.SqoopTool;
import org.apache.commons.lang3.StringUtils;
/**
 * @创建人 ***
 * @创建时间 2018/12/20
 */
public class sqooptest {
    public int sqoopt(){
//public static void main(String[] args) {
        System.out.println(\" begin test sqoop\");
        String[] argument = new String[]{
            \"--connect\", \"jdbc:mysql://192.168.1.111:3306/test?useSSL=false\",
            \"--driver\",\"com.mysql.jdbc.Driver\",
            \"--username\", \"root\",
            \"--password\", \"123\",
            \"--table\", \"psn\",
            \"--columns\", \"id,name,msg,age\",
            \"-m\",\"1\",
            \"--target-dir\",\"/user/psn\"
      };
        com.cloudera.sqoop.tool.SqoopTool sqoopTool=(com.cloudera.sqoop.tool.SqoopTool)SqoopTool.getTool(\"import\");
      Configuration conf= new Configuration();
      conf.set(\"fs.default.name\",\"hdfs://192.168.1.111:8020\");
      Sqoop sqoop=new Sqoop(sqoopTool,SqoopTool.loadPlugins(conf));
      int res = Sqoop.runSqoop(sqoop,argument);
      System.out.println(\"--------\"+res);
      System.out.println(\"执行sqoop结束\");
        return res;
    }
}

 

 

pom.xml文件

<?xml version=\"1.0\" encoding=\"UTF-8\"?>
<project xmlns=\"http://maven.apache.org/POM/4.0.0\" xmlns:xsi=\"http://www.w3.org/2001/XMLSchema-instance\"
   xsi:schemaLocation=\"http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd\">
   <modelVersion>4.0.0</modelVersion>
   <parent>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-parent</artifactId>
      <version>2.1.1.RELEASE</version>
      <relativePath/> <!-- lookup parent from repository -->
   </parent>
   <groupId>com.example</groupId>
   <artifactId>demo</artifactId>
   <version>0.0.1-SNAPSHOT</version>
   <!-- war包 -->
   <packaging>war</packaging>
   <name>demo</name>
   <description>Demo project for Spring Boot</description>
   <properties>
      <java.version>1.8</java.version>
   </properties>


   <dependencies>
      <!--因配置外部TOMCAT 而配置-->
      <dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-tomcat</artifactId>
         <scope>provided</scope>
      </dependency>

      <dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-devtools</artifactId>
         <optional>true</optional> <!-- 这个需要为 true 热部署才有效 -->
      </dependency>

      <dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-web</artifactId>
      </dependency>
      <dependency>
         <groupId>org.springframework.boot</groupId>
         <artifactId>spring-boot-starter-test</artifactId>
         <scope>test</scope>
      </dependency>

      <dependency>
         <groupId>mysql</groupId>
         <artifactId>mysql-connector-java</artifactId>
         <scope>runtime</scope>
      </dependency>
      <!--<dependency>-->
         <!--<groupId>sqoop</groupId>-->
         <!--<artifactId>sqoop</artifactId>-->
         <!--<version>1.4.6</version>-->
         <!--<scope>system</scope>-->
         <!--<systemPath>${project.basedir}/src/main/webapp/lib/</systemPath>-->
      <!--</dependency>-->
      <dependency>
         <groupId>org.apache.sqoop</groupId>
         <artifactId>sqoop</artifactId>
         <version>1.4.6</version>
      </dependency>

      <!--<dependency>-->
      <!--<groupId>ojdbc14</groupId>-->
      <!--<artifactId>ojdbc14</artifactId>-->
      <!--<version>1.0</version>-->
      <!--<scope>system</scope>-->
      <!--<systemPath>${project.basedir}/src/main/webapp/lib/ojdbc6-4.0.jar</systemPath>-->
       <!--</dependency>-->


      <!--<dependency>-->
         <!--<groupId>mysql</groupId>-->
         <!--<artifactId>mysql</artifactId>-->
         <!--<version>5.1.31</version>-->
         <!--<scope>system</scope>-->
         <!--<systemPath>${project.basedir}/src/main/webapp/lib/mysql-connector-java-5.1.31-bin.jar</systemPath>-->
      <!--</dependency>-->


      <dependency>
         <groupId>org.apache.commons</groupId>
         <artifactId>commons-lang3</artifactId>
         <version>3.0</version>
      </dependency>
      <!--hadoop-->
      <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-common</artifactId>
         <version>2.7.4</version>
      </dependency>
      <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-hdfs</artifactId>
         <version>2.7.4</version>
      </dependency>
      <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-mapreduce-client-core</artifactId>
         <version>2.7.4</version>
      </dependency>
      <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-mapreduce-client-common</artifactId>
         <version>2.7.4</version>
      </dependency>
      <dependency>
         <groupId>org.apache.hadoop</groupId>
         <artifactId>hadoop-mapreduce-client-jobclient</artifactId>
         <version>2.7.4</version>
         <scope>test</scope>
      </dependency>
      <dependency>
         <groupId>org.apache.avro</groupId>
         <artifactId>avro-mapred</artifactId>
         <version>1.8.1</version>
      </dependency>
      <dependency>
         <groupId>org.apache.hive</groupId>
         <artifactId>hive-common</artifactId>
         <version>2.3.2</version>
      </dependency>
      <dependency>
         <groupId>org.apache.avro</groupId>
         <artifactId>avro</artifactId>
         <version>1.8.1</version>
      </dependency>


   </dependencies>


   <build>
      <plugins>
         <plugin>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
      </plugins>
      <finalName>sqoop</finalName>
      <resources>
         <resource>
         <directory>src/main/resources/lib</directory>
         <targetPath>BOOT-INF/lib/</targetPath>
         <includes>
         <include>**/*.jar</include>
         </includes>
         </resource>
         <resource>
            <directory>src/main/webapp/lib</directory>
            <targetPath>BOOT-INF/lib/</targetPath>
         </resource>
         <!--<resource>-->
            <!--<directory>src/main/webapp/lib1</directory>-->
            <!--<targetPath>BOOT-INF/lib/</targetPath>-->
         <!--</resource>-->
      </resources>
   </build>

</project>

 

参照:https://www.cnblogs.com/claren/p/7240735.html

版权声明

本文仅代表作者观点,不代表百度立场。
本文系作者授权百度百家发表,未经许可,不得转载。

热门文章
  • 机房智能化温湿度解决方式之POE供电以太网温湿度传感器

    机房智能化温湿度解决方式之POE供电以太网温湿度传感器
    机房智能化温湿度解决方式之POE供电以太网温湿度传感器 北京盈创力和电子科技有限公司 智能型TCP网口温湿度记录仪 北京IP网络温湿度记录仪厂家,北京盈创力和 北京智能型TCP网口温湿度记录仪IP网络温湿度记录仪是一种新型的基于TCP/IP协议双绞线以太网标准温湿度采集模块,利用它可以实现现场温度值、相对湿度值的采集,同时利用其自身的RJ45通信接口可以方便地和机房监控主机或交换机集线器进行联网。 工作于-40℃~85℃工业级带...
  • Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering

    Sequential Monte Carlo Methods (SMC) 序列蒙特卡洛/粒子滤波/Bootstrap Filtering
    Problem Statement 我们考虑一个具有马尔可夫性质、非线性、非高斯的状态空间模型(State Space Model):对于一个时间序列上的观测结果{yt,t∈N}\\{ y_t , t \\in N \\}{yt​,t∈N},我们认为每个观测结果yty_tyt​的生成依赖于一个无法直接观察的隐变量xt∈{xt,t∈N}x_t \\in \\{x_t , t \\in N \\}xt​∈{xt​,t∈N},即:p(...
  • HTTP状态保持的原理

    HTTP状态保持的原理
    a)在用户登录之后,浏览器返回响应的时候会在响应中添加上cookieb)浏览器接收到cookie之后会自动保存c)当用户再次请求同一服务器中的其他网页的时候,浏览器会自动带上之前保存的cookied)服务接收到请求之后可以请 request 对象中取到cookie 判断当前用户是否登录  Http是无状态的,就是连接时数据互通,关闭后...
  • Hive 系统函数及示例

    Hive 系统函数及示例
    查看所有系统函数 show functions; 函数分类 内置函数【系统函数】 数学函数: floor、round、ceil、cos、log2等 字符串函数: length、reverse、trim、lower、get_json_object、repeat等 收集函数: size 转换函数: cast 日期函数: year、month、datediff、date、date_add等 条件函数: coalesce、case…w...
  • CSRF的原理和防范措施

    CSRF的原理和防范措施
    a)攻击原理:i.用户C访问正常网站A时进行登录,浏览器保存A的cookieii.用户C再访问攻击网站B,网站B上有某个隐藏的链接或者图片标签会自动请求网站A的URL地址,例如表单提交,传指定的参数iii.而攻击网站B在访问网站A的时候,浏览器会自动带上网站A的cookieiv.所以网站A在接收到请求之后可判断当前用户是登录状态,所以...
标签列表