我想将一个文件从s3桶复制到hdfs。我是am复制使用上述命令。但是,如何在java代码中使用它将文件从s3复制到hdfs。我能够实现filesystem.copyFromLocal和版权,但不能实现-cp。我怎么才能把这个。任何帮助。谢谢。
发布于 2014-09-30 03:28:11
您要寻找的是org.apache.hadoop.fs.FileUtil,它拥有所有的文件系统命令。例如,参见这里:http://hadoop.apache.org/docs/current/api/src-html/org/apache/hadoop/fs/FileUtil.html#line.285
您还可以考虑使用s3distcp进行优化,以便将文件从S3复制(并连接)到HDFS,反之亦然
https://stackoverflow.com/questions/26107338
复制相似问题