Noos
PT EN
RAN-DBDEA-00050
Ranvier · DBDEA

Prova DBDEA Tópicos: transformation Dificuldade: medium A questão está em en.

On a cluster with 4 workers, a silver aggregation over a 3 GB DataFrame shows 200 shuffle tasks in the Spark UI; most tasks process only a few megabytes, and scheduling overhead dominates the stage time. The team wants fewer, larger tasks. spark.sql.shuffle.partitions is at its default value. Which statement is accurate?

Alternativas (Modo Leitura) Clique para filtrar a discussão →
  1. A. spark.default.parallelism sets the shuffle partition count for SQL aggregations — lower it to 32 on this cluster
  2. B. spark.sql.shuffle.partitions (default 200) sets the shuffle partition count — lower it or rely on AQE coalescing
  3. C. spark.sql.autoBroadcastJoinThreshold caps the byte size of each shuffle partition — raise it so partitions grow larger
  4. D. spark.executor.memory limits how many tasks an executor can schedule — increase it to reduce the task count
Revelar gabarito

Resposta correta: spark.sql.shuffle.partitions (default 200) sets the shuffle partition count — lower it or rely on AQE coalescing

Referência: https://docs.databricks.com/aws/en/optimizations/aqe

02 — Camada de Mielina · Discussão Canônica

Onde a prova tenta te enganar — e como quem passou resolveu.

0 Aprovados

contribuíram nesta questão

Matriz de Dissecção de Alternativas Clique numa alternativa para filtrar ou inaugurar a dissecção.
✦ Síntese Consolidada (Wiki) rev. #1 (baseline) · CC BY-SA 4.0
Inaugurar síntese desta questão →

Ainda não há síntese comunitária consolidada para esta questão. Abaixo está o ponto de partida oficial verificável — se você passou na prova, inaugure a dissecção das alternativas.

Gabarito Oficial (B): spark.sql.shuffle.partitions (default 200) sets the shuffle partition count — lower it or rely on AQE coalescing

Ranvier · DBDEA

Contribuir com a Questão

Sua contribuição constrói sua Bainha Orbital

Contribuições dos pares

Nenhuma contribuição pública ainda. Seja o primeiro aprovado a explicar por que as alternativas incorretas enganam — sua contribuição constrói sua Bainha Orbital.