我来分享spark读取目录及子目录中文件。

spark读取目录及子目录中文件?接下来教大家spark如何读取目录及子目录中文件。

spark读取目录及子目录中文件

在spark输入1 val rdd=spark.sparkContext.textFile("D:\\\\data\\\\test_table\\\\*=1,D:\\\\data\\\\test_table\\\\key=2")

注意:

每个路径都要定位到最后一级。

路径之间不能存在包含关系。

目录与文件不要混放,即放在同一个目录下。

路径中可使用通配符。

spark读取目录及子目录中文件(1)

本文来自投稿,不代表乐一笑立场,如若转载,请注明出处:https://www.leyixiao.com/670773.html

(0)
上一篇 2022年9月3日 01:02:06
下一篇 2022年9月3日 01:02:15

相关推荐