GSP104
Informações gerais
O Dataproc é um serviço de nuvem totalmente gerenciado, rápido e fácil de usar que executa clusters do Apache Spark e do Apache Hadoop (links em inglês) de maneira mais simples e econômica. As operações que costumavam levar horas ou dias agora são concluídas em segundos ou minutos. Você pode criar clusters do Dataproc com mais agilidade e redimensioná-los a qualquer momento. Assim, não precisa se preocupar com seus pipelines de dados excedendo os limites dos clusters.
Neste laboratório, você vai aprender a usar a linha de comando para criar um cluster do Dataproc, executar um job simples do Apache Spark no cluster e modificar o número de workers.
Atividades
Neste laboratório, você vai aprender a:
- Criar um cluster do Dataproc usando a linha de comando
- Executar um job simples do Apache Spark
- Mudar o número de workers do cluster
Configuração e requisitos
Antes de clicar no botão Começar o Laboratório
Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é ativado quando você clica em Iniciar laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.
Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, e não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.
Confira os requisitos para concluir o laboratório:
- Acesso a um navegador de Internet padrão (recomendamos o Chrome).
Observação: para executar este laboratório, use o modo de navegação anônima (recomendado) ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e de estudante, o que poderia causar cobranças extras na sua conta pessoal.
- Tempo para concluir o laboratório: não se esqueça que, depois de começar, não será possível pausar o laboratório.
Observação: use apenas a conta de estudante neste laboratório. Se usar outra conta do Google Cloud, você poderá receber cobranças nela.
Como iniciar seu laboratório e fazer login no console do Google Cloud
-
Clique no botão Começar o laboratório. Se for preciso pagar por ele, uma caixa de diálogo vai aparecer para você selecionar a forma de pagamento.
No painel Detalhes do Laboratório, à esquerda, você vai encontrar o seguinte:
- O botão Abrir Console do Google Cloud
- O tempo restante
- As credenciais temporárias que você vai usar neste laboratório
- Outras informações, se forem necessárias
-
Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.
O laboratório ativa os recursos e depois abre a página Fazer Login em outra guia.
Dica: coloque as guias em janelas separadas lado a lado.
Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.
-
Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.
{{{user_0.username | "Username"}}}
Você também encontra o nome de usuário no painel Detalhes do Laboratório.
-
Clique em Próxima.
-
Copie a Senha abaixo e cole na caixa de diálogo de Olá.
{{{user_0.password | "Password"}}}
Você também encontra a senha no painel Detalhes do Laboratório.
-
Clique em Próxima.
Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud.
Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.
-
Acesse as próximas páginas:
- Aceite os Termos e Condições.
- Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
- Não se inscreva em testes gratuitos.
Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.
Observação: para acessar os produtos e serviços do Google Cloud, clique no Menu de navegação ou digite o nome do serviço ou produto no campo Pesquisar.
Ativar o Cloud Shell
O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.
-
Clique em Ativar o Cloud Shell 
na parte de cima do console do Google Cloud.
-
Clique nas seguintes janelas:
- Continue na janela de informações do Cloud Shell.
- Autorize o Cloud Shell a usar suas credenciais para fazer chamadas de APIs do Google Cloud.
Depois de se conectar, você verá que sua conta já está autenticada e que o projeto está configurado com seu Project_ID, . A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:
Your Cloud Platform project in this session is set to {{{project_0.project_id | "PROJECT_ID"}}}
A gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.
- (Opcional) É possível listar o nome da conta ativa usando este comando:
gcloud auth list
- Clique em Autorizar.
Saída:
ACTIVE: *
ACCOUNT: {{{user_0.username | "ACCOUNT"}}}
To set the active account, run:
$ gcloud config set account `ACCOUNT`
- (Opcional) É possível listar o ID do projeto usando este comando:
gcloud config list project
Saída:
[core]
project = {{{project_0.project_id | "PROJECT_ID"}}}
Observação: consulte a documentação completa da gcloud no Google Cloud no guia de visão geral da gcloud CLI.
Tarefa 1. criar um cluster
- No Cloud Shell, execute o comando abaixo para configurar a região:
gcloud config set dataproc/region {{{project_0.default_region | Region}}}
- Desative a API Dataproc:
gcloud services disable dataproc.googleapis.com --force
- Reative a API Dataproc:
gcloud services enable dataproc.googleapis.com
- O Dataproc cria buckets temporários e de teste que são compartilhados entre clusters da mesma região. Como não vamos especificar uma conta para o Dataproc, ele vai usar a conta de serviço do Compute Engine que, por padrão, não tem permissões de acesso aos buckets de armazenamento. Vamos adicioná-los.
- Primeiro, execute estes comandos para saber o PROJECT_ID e o PROJECT_NUMBER:
PROJECT_ID=$(gcloud config get-value project) && \
gcloud config set project $PROJECT_ID
PROJECT_NUMBER=$(gcloud projects describe $PROJECT_ID --format='value(projectNumber)')
- Agora, execute o comando abaixo para conceder o papel de Administrador do Storage o e de Worker do Dataproc à conta de serviço padrão do Compute Engine:
gcloud projects add-iam-policy-binding $PROJECT_ID \
--member=serviceAccount:$PROJECT_NUMBER-compute@developer.gserviceaccount.com \
--role=roles/storage.admin
gcloud projects add-iam-policy-binding $PROJECT_ID \
--member=serviceAccount:$PROJECT_NUMBER-compute@developer.gserviceaccount.com \
--role=roles/dataproc.worker
- Execute o comando a seguir para ativar o Acesso Privado do Google na sua sub-rede:
gcloud compute networks subnets update default --region={{{project_0.default_region | REGION }}} --enable-private-ip-google-access
- Execute o comando abaixo para criar um cluster chamado
example-cluster com VMs e2-standard-4 e as configurações padrão do Cloud Dataproc:
gcloud dataproc clusters create example-cluster --worker-boot-disk-size 500 --worker-machine-type=e2-standard-4 --master-machine-type=e2-standard-4
- Se for necessário confirmar sua zona do cluster: Digite Y.
A criação do cluster pode levar alguns minutos.
Waiting for cluster creation operation...done.
Created [... example-cluster]
Quando a mensagem "Created" aparecer, você poderá avançar para a próxima etapa.
Teste a tarefa concluída
Clique em Verificar meu progresso para conferir a tarefa realizada. Se o cluster do Dataproc tiver sido criado corretamente, você receberá uma pontuação de avaliação.
Criar um cluster do Dataproc
Tarefa 2. enviar um job
- Para enviar um job de amostra do Spark que calcula um valor aproximado para pi, execute o comando a seguir:
gcloud dataproc jobs submit spark --cluster example-cluster \
--class org.apache.spark.examples.SparkPi \
--jars file:///usr/lib/spark/examples/jars/spark-examples.jar -- 1000
Esse comando especifica:
- que você quer executar um job spark no cluster
example-cluster;
- a
class que contém o método principal do aplicativo de cálculo de pi do job;
- o local do arquivo jar que contém o código do job;
- os parâmetros que você quer transferir para o job. Neste caso, o número de tarefas (
1000).
Observação: os parâmetros transmitidos ao job precisam vir depois de dois traços (--). Para mais informações, consulte a documentação da gcloud.
A execução do job e a resposta final aparecem na janela do terminal:
Waiting for job output...
...
Pi is roughly 3.14118528
...
state: FINISHED
Teste a tarefa concluída
Clique em Verificar meu progresso para conferir a tarefa realizada. Se o job tiver sido enviado corretamente, você receberá uma pontuação de avaliação.
Enviar um job
Tarefa 3. atualizar um cluster
- Para mudar o número de workers no cluster para quatro, execute este comando:
gcloud dataproc clusters update example-cluster --num-workers 4
Os dados atualizados do cluster são exibidos na saída do comando:
Waiting on operation [projects/qwiklabs-gcp-7f7aa0829e65200f/regions/global/operations/b86892cc-e71d-4e7b-aa5e-6030c945ea67].
Waiting for cluster update operation...done.
- Você pode usar esse mesmo comando para diminuir o número de nós de trabalho:
gcloud dataproc clusters update example-cluster --num-workers 2
Agora você já sabe criar um cluster do Dataproc e ajustar o número de workers da linha de comando gcloud no Google Cloud.
Tarefa 4. testar seus conhecimentos
Responda às perguntas de múltipla escolha a seguir para reforçar sua compreensão dos conceitos abordados neste laboratório. Use tudo o que você aprendeu até aqui.
Parabéns!
Você aprendeu a usar a linha de comando para criar e modificar um cluster do Dataproc, além de enviar jobs.
Próximas etapas / Saiba mais
Este laboratório faz parte de uma série chamada Qwik Starts. Ela foi desenvolvida para apresentar os vários recursos disponíveis no Google Cloud. Pesquise "Qwik Starts" no catálogo de laboratórios para encontrar algum que seja do seu interesse.
Treinamento e certificação do Google Cloud
Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.
Manual atualizado em 26 de agosto de 2025.
Laboratório testado em 26 de agosto de 2025.
Copyright 2025 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.
