在Spark中,可以使用以下幾種方式來讀取本地文件:
sc.textFile()
方法讀取文本文件:from pyspark import SparkContext
sc = SparkContext("local", "FileReader")
file_path = "file:///path/to/file.txt"
lines = sc.textFile(file_path)
spark.read.csv()
方法讀取CSV文件:from pyspark.sql import SparkSession
spark = SparkSession.builder.master("local").appName("FileReader").getOrCreate()
file_path = "file:///path/to/file.csv"
df = spark.read.csv(file_path, header=True, inferSchema=True)
spark.read.json()
方法讀取JSON文件:from pyspark.sql import SparkSession
spark = SparkSession.builder.master("local").appName("FileReader").getOrCreate()
file_path = "file:///path/to/file.json"
df = spark.read.json(file_path)
這些是一些常見的方法,可以根據實際需求選擇合適的方法來讀取本地文件。