GSP1144

Visão geral

O Dataplex é a malha de dados inteligente que as organizações usam para conhecer, gerenciar, monitorar e supervisionar em um só lugar os dados em data lakes, data warehouses e data marts para potencializar a análise em grande escala. Especificamente, é possível usar o Dataplex para criar uma arquitetura de malha de dados, que é uma abordagem organizacional e técnica que descentraliza a propriedade dos dados entre os proprietários dos dados do domínio.

O Dataplex gerencia dados de uma forma que não exige movimentação nem cópia de dados. Conforme você adiciona novos recursos de dados, o Dataplex coleta os metadados de dados estruturados e não estruturados e os registra automaticamente em um metastore unificado e seguro. Os dados e os metadados podem então ser avaliados por serviços do Google Cloud, como o Data Catalog e o BigQuery.

Neste laboratório, você vai aprender a criar sua própria malha de dados com a criação e remoção de lakes, zonas e recursos no Dataplex usando a linha de comando.

Atividades deste laboratório

• Ativar a API Dataplex
• Criar um lake
• Adicionar uma zona a um lake
• Vincular e desvincular recursos
• Excluir zonas e lakes

Configuração e requisitos

Antes de clicar no botão Começar o Laboratório

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é ativado quando você clica em Iniciar laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, e não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

Observação: para executar este laboratório, use o modo de navegação anônima (recomendado) ou uma janela anônima do navegador. Isso evita conflitos entre sua conta pessoal e de estudante, o que poderia causar cobranças extras na sua conta pessoal.

• Tempo para concluir o laboratório: não se esqueça que, depois de começar, não será possível pausar o laboratório.

Observação: use apenas a conta de estudante neste laboratório. Se usar outra conta do Google Cloud, você poderá receber cobranças nela.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar por ele, uma caixa de diálogo vai aparecer para você selecionar a forma de pagamento. No painel Detalhes do Laboratório, à esquerda, você vai encontrar o seguinte:

   • O botão Abrir Console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer Login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Username"}}}

   Você também encontra o nome de usuário no painel Detalhes do Laboratório.

4. Clique em Próxima.

5. Copie a Senha abaixo e cole na caixa de diálogo de Olá.

   {{{user_0.password | "Password"}}}

   Você também encontra a senha no painel Detalhes do Laboratório.

6. Clique em Próxima.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: para acessar os produtos e serviços do Google Cloud, clique no Menu de navegação ou digite o nome do serviço ou produto no campo Pesquisar.

Ativar o Cloud Shell

O Cloud Shell é uma máquina virtual com várias ferramentas de desenvolvimento. Ele tem um diretório principal permanente de 5 GB e é executado no Google Cloud. O Cloud Shell oferece acesso de linha de comando aos recursos do Google Cloud.

1. Clique em Ativar o Cloud Shell na parte de cima do console do Google Cloud.

2. Clique nas seguintes janelas:

   • Continue na janela de informações do Cloud Shell.
   • Autorize o Cloud Shell a usar suas credenciais para fazer chamadas de APIs do Google Cloud.

Depois de se conectar, você verá que sua conta já está autenticada e que o projeto está configurado com seu Project_ID, . A saída contém uma linha que declara o projeto PROJECT_ID para esta sessão:

Your Cloud Platform project in this session is set to {{{project_0.project_id | "PROJECT_ID"}}}

A gcloud é a ferramenta de linha de comando do Google Cloud. Ela vem pré-instalada no Cloud Shell e aceita preenchimento com tabulação.

3. (Opcional) É possível listar o nome da conta ativa usando este comando:

gcloud auth list

4. Clique em Autorizar.

Saída:

ACTIVE: * ACCOUNT: {{{user_0.username | "ACCOUNT"}}} To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (Opcional) É possível listar o ID do projeto usando este comando:

gcloud config list project

Saída:

[core] project = {{{project_0.project_id | "PROJECT_ID"}}} Observação: consulte a documentação completa da gcloud no Google Cloud no guia de visão geral da gcloud CLI.

Ativar a API Dataplex e definir variáveis

1. No Cloud Shell, execute o seguinte comando para ativar a API Dataplex.

gcloud services enable \ dataplex.googleapis.com

2. Execute o comando a seguir para criar uma variável para o ID do projeto:

export PROJECT_ID=$(gcloud config get-value project)

3. Execute o comando a seguir para criar uma variável para a região:

export REGION={{{project_0.default_region | "filled in at lab start"}}} gcloud config set compute/region $REGION

Tarefa 1: criar um lake

No Dataplex, um lake é o domínio organizacional mais elevado que representa uma área de dados ou unidade de negócios específica. Por exemplo, é possível criar um lake para cada departamento ou domínio de dados da sua organização. Dessa forma, é possível organizar e fornecer dados para grupos de usuários específicos.

Nesta tarefa, você vai usar a linha de comando para criar um lake e começar a construir uma malha de dados.

• No Cloud Shell, execute o seguinte comando para criar um novo lake chamado Ecommerce:

gcloud dataplex lakes create ecommerce \ --location=$REGION \ --display-name="Ecommerce" \ --description="Ecommerce Domain"

A criação do lake pode levar até 3 minutos.

Se você receber um erro de Código de status: 403. Permissão "dataplex.lakes.create" negada, aguarde alguns minutos e tente novamente. As permissões podem precisar de mais tempo para serem concedidas após a ativação da API Dataplex na seção Configuração anterior.

A saída será semelhante a:

Created [ecommerce] Lake created in [projects/$PROJECT_ID/locations/$REGION]. Criar um lake do Dataplex

Tarefa 2: adicionar uma zona a um lake

Depois da criação de um lake, é possível adicionar zonas a ele. Zonas são subdomínios dentro de um lake que podem ser usados para categorizar ainda mais os dados. Por exemplo, é possível categorizar os dados por estágio, uso ou restrições.

Há dois tipos de zonas:

• As zonas de originais contêm dados em formatos brutos (como arquivos em buckets do Cloud Storage) e não passam por uma verificação de tipo rigorosa.
• As zonas de curadoria contêm dados limpos, formatados e prontos para análise, como conjuntos de dados do BigQuery.

Nesta tarefa, você vai usar a linha de comando para criar uma zona de curadoria para trabalhar com conjuntos de dados do BigQuery.

• No Cloud Shell, execute o comando a seguir para criar uma nova zona de curadoria chamada Orders Curated Zone com a descoberta de metadados ativada:

gcloud dataplex zones create orders-curated-zone \ --location=$REGION \ --lake=ecommerce \ --display-name="Orders Curated Zone" \ --resource-location-type=SINGLE_REGION \ --type=CURATED \ --discovery-enabled \ --discovery-schedule="0 * * * *"

Pode levar até 2 minutos para a criação da zona.

A saída será semelhante a:

Created [orders-curated-zone] Zone created in [projects/$PROJECT_ID/locations/$REGION/lakes/ecommerce]. Adicionar uma zona a um lake

Tarefa 3: vincular um recurso a uma zona

Os dados armazenados em buckets do Cloud Storage ou em conjuntos de dados do BigQuery podem ser vinculados como recursos a zonas em um lake do Dataplex.

Nesta tarefa, você vai usar a linha de comando para criar um conjunto de dados do BigQuery e vinculá-lo à zona criada anteriormente.

Criar um conjunto de dados do BigQuery

• No Cloud Shell, execute o comando a seguir para criar um novo conjunto de dados do BigQuery chamado orders:

bq mk --location=$REGION --dataset orders

Embora o conjunto de dados não contenha tabelas nem dados, agora é possível vinculá-lo à zona. As tabelas recém-criadas e os dados carregados serão automaticamente integrados à zona.

A saída será semelhante a:

Dataset '$PROJECT_ID:orders' successfully created.

Vincular o conjunto de dados do BigQuery à zona

• No Cloud Shell, execute o seguinte comando para vincular o conjunto de dados do BigQuery à zona como um recurso chamado Orders Curated Data e com a descoberta de metadados ativada:

gcloud dataplex assets create orders-curated-dataset \ --location=$REGION \ --lake=ecommerce \ --zone=orders-curated-zone \ --display-name="Orders Curated Dataset" \ --resource-type=BIGQUERY_DATASET \ --resource-name=projects/$PROJECT_ID/datasets/orders \ --discovery-enabled

Pode levar até 2 minutos para a criação da zona.

A saída será semelhante a:

Created [orders-curated-dataset] Asset created in [projects/$PROJECT_ID/locations/$REGION/lakes/ecommerce/zones/orders-curated-zone]. Vincular um recurso a uma zona

Tarefa 4: excluir recursos, zonas e lakes

Para excluir um lake, é preciso primeiro desvincular os recursos e depois excluir as zonas.

Nesta tarefa, você vai usar a linha de comando para desvincular o recurso da zona, excluir a zona e, por último, eliminar o lake.

Desvincular um recurso

• No Cloud Shell, execute o comando a seguir para desvincular o conjunto de dados do BigQuery da zona:

gcloud dataplex assets delete orders-curated-dataset --location=$REGION --zone=orders-curated-zone --lake=ecommerce

Se você precisar confirmar, digite Y.

Essa ação exclui os dados no conjunto de dados do BigQuery. Ela simplesmente impede que o conjunto de dados do BigQuery possa ser acessado ou detectado com o uso do lake no Dataplex.

A saída será semelhante a:

Deleted asset [orders-curated-dataset].

Excluir uma zona

• No Cloud Shell, execute o seguinte comando para excluir a zona:

gcloud dataplex zones delete orders-curated-zone --location=$REGION --lake=ecommerce

Se você precisar confirmar, digite Y.

A saída será semelhante a:

Deleted zone [orders-curated-zone].

Excluir o lake

• No Cloud Shell, execute o seguinte comando para excluir o lake:

gcloud dataplex lakes delete ecommerce --location=$REGION

Se você precisar confirmar, digite Y.

A saída será semelhante a:

Deleted lake [ecommerce]. Excluir recursos, zona e data lake do Dataplex

Parabéns!

Você usou a linha de comando para criar e excluir lakes, zonas e recursos no Dataplex.

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 23 de abril de 2025

Laboratório testado em 23 de abril de 2025

Copyright 2025 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.