Spisu treści:

Jak utworzyć ramkę PySpark DataFrame z listy?
Jak utworzyć ramkę PySpark DataFrame z listy?

Wideo: Jak utworzyć ramkę PySpark DataFrame z listy?

Wideo: Jak utworzyć ramkę PySpark DataFrame z listy?
Wideo: PySpark Tutorial 5: Create PySpark DataFrame | PySpark with Python 2024, Listopad
Anonim

Wykonuję następujące kroki, aby utworzyć DataFrame z listy krotek:

  1. Tworzyć a lista krotek. Każda krotka zawiera imię osoby wraz z wiekiem.
  2. Tworzyć RDD z lista nad.
  3. Konwertować każda krotka do rzędu.
  4. Tworzyć a Ramka danych stosując metodę createDataFrame na RDD za pomocą sqlContext.

Mając to na uwadze, jak przekonwertować DataFrame na listę w Pythonie?

  1. Krok 1: Konwertuj Dataframe na zagnieżdżoną tablicę Numpy za pomocą DataFrame.to_numpy(), tj.
  2. Krok 2: Konwertuj tablicę 2D Numpy na listę list.
  3. Krok 1: Transponuj ramkę danych, aby przekonwertować wiersze na kolumny i kolumny na wiersze.
  4. Krok 2: Konwertuj Dataframe na zagnieżdżoną tablicę Numpy za pomocą DataFrame.to_numpy()

Co to jest Spark DataFrame? A Ramka danych Spark to rozproszony zbiór danych zorganizowany w nazwane kolumny, który udostępnia operacje do filtrowania, grupowania lub obliczania agregacji i może być używany z Iskra SQL. Ramki danych mogą być tworzone na podstawie uporządkowanych plików danych, istniejących RDD, tabel w Hive lub zewnętrznych baz danych.

Wiesz też, co to jest PySpark SQL?

Spark SQL jest Iskra moduł do przetwarzania danych strukturalnych. Zapewnia abstrakcję programistyczną o nazwie DataFrames i może również działać jako rozproszona SQL silnik zapytań. Umożliwia niezmodyfikowanym zapytaniom Hadoop Hive uruchamianie do 100 razy szybciej w istniejących wdrożeniach i danych.

Czy ramki danych Spark są niezmienne?

w Iskra nie możesz - Ramki danych są niezmienny . Powinieneś użyć.

Zalecana: