Spisu treści:

Jak mogę poprawić wydajność łyżki?
Jak mogę poprawić wydajność łyżki?

Wideo: Jak mogę poprawić wydajność łyżki?

Wideo: Jak mogę poprawić wydajność łyżki?
Wideo: 2 łyżki dziennie obniżą KORTYZOL, uchronią serce, kości i skórę. 2024, Listopad
Anonim

Aby zoptymalizować wydajność , ustawić ten liczba zadań na mapie do wartości mniejszej niż ten maksymalna liczba połączeń, które ten obsługa baz danych. Kontrolowanie ten ilość równoległości, która Łyżka użyje do przesyłania danych jest ten główny sposób na kontrolę ten załadowany Twój Baza danych.

W związku z tym, co się stanie, jeśli sqoop nie powiedzie się między procesem?

Typowy Łyżka zadanie, które pozyskuje dane ze źródłowej bazy danych do systemu HDFS, skopiuje dane do katalogu docelowego. Skopiowany plik zostanie usunięty jeśli miarka się nie powiedzie bez uzupełniania.

Można też zapytać, w jaki sposób uzyskuje się równoległość w skopie? Kontrolowanie Równoległość . Łyżka importuje dane równolegle z większości źródeł baz danych. Możesz określić liczbę zadań mapowania (procesów równoległych), które mają być użyte do wykonania importu, używając argumentu -m lub --num-mappers. Każdy z tych argumentów przyjmuje wartość całkowitą, która odpowiada stopniowi równoległość zatrudnić

W związku z tym, jak poprawić wydajność zapytań Hive?

Poniżej znajduje się lista praktyk, które możemy zastosować, aby zoptymalizować zapytania Hive

  1. Włącz kompresję w Hive.
  2. Optymalizuj połączenia.
  3. Unikaj globalnego sortowania w Hive.
  4. Włącz silnik wykonawczy Tez.
  5. Optymalizacja operatora LIMIT.
  6. Włącz wykonywanie równoległe.
  7. Włącz tryb ścisły Mapreduce.
  8. Pojedyncza redukcja dla wielu grup BY.

Jak działa podział łyżką?

Może być używany do zwiększenia wydajności importu poprzez osiągnięcie większej równoległości. Łyżka tworzy dzieli na podstawie wartości w określonej kolumnie tabeli określonej przez -- podział -by przez użytkownika za pomocą polecenia importu. Jeśli nie jest dostępny, klucz podstawowy tabeli wejściowej jest używany do utworzenia dzieli.

Zalecana: