Checkpoints
Create a Dataproc cluster
/ 50
Submit a job
/ 50
Dataproc: Qwik Start - Linha de comando
GSP104
Aspecto geral
O Cloud Dataproc é um serviço de nuvem totalmente gerenciado, rápido e fácil de usar que executa os clusters do Apache Spark e do Apache Hadoop (links em inglês) de maneira mais simples e econômica. As operações que costumavam levar horas ou dias agora são concluídas em segundos ou minutos. Crie clusters do Cloud Dataproc rapidamente e redimensione-os a qualquer momento para evitar que seus pipelines de dados excedam os limites dos clusters.
Neste laboratório, mostramos como usar a gcloud no Google Cloud para criar um cluster do Google Cloud Dataproc, executar um job simples do Apache Spark (em inglês) no cluster e modificar o número de workers.
Configuração e requisitos
Antes de clicar no botão Start Lab
Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é iniciado quando você clica em Começar o laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.
Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.
Confira os requisitos para concluir o laboratório:
- Acesso a um navegador de Internet padrão (recomendamos o Chrome).
- Tempo para concluir o laboratório---não se esqueça: depois de começar, não será possível pausar o laboratório.
Como iniciar seu laboratório e fazer login no console do Google Cloud
-
Clique no botão Começar o laboratório. Se for preciso pagar, você verá um pop-up para selecionar a forma de pagamento. No painel Detalhes do laboratório à esquerda, você verá o seguinte:
- O botão Abrir Console do Cloud
- Tempo restante
- As credenciais temporárias que você vai usar neste laboratório
- Outras informações se forem necessárias
-
Clique em Abrir Console do Google. O laboratório ativa recursos e depois abre outra guia com a página Fazer login.
Dica: coloque as guias em janelas separadas lado a lado.
Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta. -
Caso seja preciso, copie o Nome de usuário no painel Detalhes do laboratório e cole esse nome na caixa de diálogo Fazer login. Clique em Avançar.
-
Copie a Senha no painel Detalhes do laboratório e a cole na caixa de diálogo Olá. Clique em Avançar.
Importante: você precisa usar as credenciais do painel à esquerda. Não use suas credenciais do Google Cloud Ensina. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais. -
Acesse as próximas páginas:
- Aceite os Termos e Condições.
- Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
- Não se inscreva em testes gratuitos.
Depois de alguns instantes, o console do GCP vai ser aberto nesta guia.
Ativar o Cloud Shell
O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.
- Clique em Ativar o Cloud Shell na parte de cima do console do Google Cloud.
Depois de se conectar, vai notar que sua conta já está autenticada, e que o projeto está configurado com seu PROJECT_ID. A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:
gcloud
é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.
- (Opcional) É possível listar o nome da conta ativa usando este comando:
-
Clique em Autorizar.
-
A saída será parecida com esta:
Saída:
- (Opcional) É possível listar o ID do projeto usando este comando:
Saída:
Exemplo de saída:
gcloud
, acesse o guia com informações gerais sobre a gcloud CLI no Google Cloud.
Tarefa 1. Crie um cluster
- No Cloud Shell, execute o comando abaixo para configurar a região:
- O Dataproc cria buckets temporários e de teste que são compartilhados entre clusters da mesma região. Como não vamos especificar uma conta para o Dataproc, ele vai usar a conta de serviço padrão do Compute Engine, que, por padrão, não tem permissões de acesso aos buckets de armazenamento. Vamos adicionar isso.
- Primeiro, execute estes comandos para saber o PROJECT_ID e o PROJECT_NUMBER:
- Agora, execute o comando abaixo para conceder o papel de Administrador de armazenamento à conta de serviço padrão do Compute Engine:
- Execute este comando para criar um cluster chamado
example-cluster
com VMs e2-standard-4 e as configurações padrão do Cloud Dataproc:
- Se for necessário confirmar sua zona do cluster: Digite Y.
A criação do cluster pode levar alguns minutos.
Quando a mensagem "Created" aparecer, você poderá avançar para a próxima etapa.
Teste a tarefa concluída
Clique em Verificar meu progresso para conferir a tarefa realizada. Se o cluster do Dataproc tiver sido criado corretamente, você receberá uma pontuação de avaliação.
Tarefa 2. Envie um job
- Para enviar um job de amostra do Spark que calcula um valor aproximado para pi, execute o comando a seguir:
Esse comando especifica:
- que você quer executar um job spark no cluster
example-cluster
; - a
class
que contém o método principal do aplicativo de cálculo de pi do job; - o local do arquivo jar que contém o código do job;
- os parâmetros que você quer transferir para o job. Neste caso, o número de tarefas (
1000
).
A execução do job e a resposta final são exibidas na janela do terminal:
Teste a tarefa concluída
Clique em Verificar meu progresso para conferir a tarefa realizada. Se o job tiver sido enviado corretamente, você receberá uma pontuação de avaliação.
Tarefa 3. Atualize um cluster
- Para mudar o número de workers no cluster para quatro, execute este comando:
Os dados atualizados do cluster são exibidos na resposta ao comando:
- É possível usar esse mesmo comando para diminuir o número de nós de trabalho:
Agora você pode criar um cluster do Dataproc cluster e ajustar o número de workers da linha de comando do gcloud
no Google Cloud.
Tarefa 4. Teste seu conhecimento
Responda às perguntas de múltipla escolha a seguir para reforçar sua compreensão dos conceitos abordados neste laboratório. Use tudo o que você aprendeu até aqui.
Parabéns!
Você aprendeu a usar a gcloud no Google Cloud criando um cluster do Google Cloud Dataproc.
Termine a Quest
Este laboratório autoguiado faz parte da Quest Baseline: Data, ML, AI. Uma Quest é uma série de laboratórios relacionados que formam um programa de aprendizado. Ao concluir uma Quest, você ganha um selo como reconhecimento da sua conquista. É possível publicar os selos e incluir um link para eles no seu currículo on-line ou nas redes sociais. Inscreva-se nesta Quest e receba o crédito de conclusão imediatamente. Consulte o catálogo do Google Cloud Ensina para conferir todas as Quests disponíveis.
Próximas etapas/Saiba mais
Este laboratório também faz parte de uma série chamada Qwik Starts. Ela foi desenvolvida para apresentar os vários recursos disponíveis no Google Cloud. Pesquise "Qwik Starts" no catálogo de laboratórios para encontrar algum que seja do seu interesse.
Treinamento e certificação do Google Cloud
Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.
Manual atualizado em 23 de outubro de 2023
Laboratório testado em 23 de outubro de 2023
Copyright 2024 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.