GSP1279

Visão geral

Neste laboratório, você vai aprender a criar um sistema multimodal de respostas a perguntas do zero usando a Vertex AI do Google e a avançada família de modelos Gemini. Você vai entender como esses sistemas funcionam ao criar um deles sem usar ferramentas ou bibliotecas pré-criadas. Essa experiência prática desmistifica o processo, além de fornecer o conhecimento necessário para personalizar e otimizar seus próprios sistemas de respostas a perguntas no futuro. Você também vai conhecer as vantagens da geração aumentada por recuperação (RAG) multimodal em relação à RAG tradicional baseada em texto, descobrindo como a incorporação de informações visuais melhora o acesso ao conhecimento e as capacidades de raciocínio.

Pré-requisitos

Antes de fazer este laboratório, você precisa saber os seguintes conceitos:

• Noção básica de programação em Python.
• Conceitos gerais sobre APIs.
• Executar códigos Python em um notebook do Jupyter no Vertex AI Workbench.

Objetivos

Neste laboratório, você vai aprender a criar um mecanismo de pesquisa de documentos usando a geração aumentada por recuperação (RAG) multimodal:

• Extrair e armazenar metadados de documentos com textos e imagens e gerar embeddings dos documentos
• Pesquisar os metadados com consultas de texto para encontrar textos ou imagens semelhantes
• Pesquisar os metadados com consultas de imagens para encontrar imagens semelhantes
• Pesquisar respostas contextuais usando textos e imagens tendo uma consulta de texto como entrada

Configuração e requisitos

Antes de clicar no botão Começar o Laboratório

Leia estas instruções. Os laboratórios são cronometrados e não podem ser pausados. O timer é ativado quando você clica em Iniciar laboratório e mostra por quanto tempo os recursos do Google Cloud vão ficar disponíveis.

Este laboratório prático permite que você realize as atividades em um ambiente real de nuvem, e não em uma simulação ou demonstração. Você vai receber novas credenciais temporárias para fazer login e acessar o Google Cloud durante o laboratório.

Confira os requisitos para concluir o laboratório:

• Acesso a um navegador de Internet padrão (recomendamos o Chrome).

• Tempo para concluir o laboratório: não se esqueça que, depois de começar, não será possível pausar o laboratório.

Como iniciar seu laboratório e fazer login no console do Google Cloud

1. Clique no botão Começar o laboratório. Se for preciso pagar por ele, uma caixa de diálogo vai aparecer para você selecionar a forma de pagamento. No painel Detalhes do Laboratório, à esquerda, você vai encontrar o seguinte:

   • O botão Abrir Console do Google Cloud
   • O tempo restante
   • As credenciais temporárias que você vai usar neste laboratório
   • Outras informações, se forem necessárias

2. Se você estiver usando o navegador Chrome, clique em Abrir console do Google Cloud ou clique com o botão direito do mouse e selecione Abrir link em uma janela anônima.

   O laboratório ativa os recursos e depois abre a página Fazer Login em outra guia.

   Dica: coloque as guias em janelas separadas lado a lado.

   Observação: se aparecer a caixa de diálogo Escolher uma conta, clique em Usar outra conta.

3. Se necessário, copie o Nome de usuário abaixo e cole na caixa de diálogo Fazer login.

   {{{user_0.username | "Username"}}}

   Você também encontra o nome de usuário no painel Detalhes do Laboratório.

4. Clique em Próxima.

5. Copie a Senha abaixo e cole na caixa de diálogo de Olá.

   {{{user_0.password | "Password"}}}

   Você também encontra a senha no painel Detalhes do Laboratório.

6. Clique em Próxima.

   Importante: você precisa usar as credenciais fornecidas no laboratório, e não as da sua conta do Google Cloud. Observação: se você usar sua própria conta do Google Cloud neste laboratório, é possível que receba cobranças adicionais.

7. Acesse as próximas páginas:

   • Aceite os Termos e Condições.
   • Não adicione opções de recuperação nem autenticação de dois fatores (porque essa é uma conta temporária).
   • Não se inscreva em testes gratuitos.

Depois de alguns instantes, o console do Google Cloud será aberto nesta guia.

Observação: para acessar os produtos e serviços do Google Cloud, clique no Menu de navegação ou digite o nome do serviço ou produto no campo Pesquisar.

Tarefa 1: abrir o notebook no Vertex AI Workbench

1. No menu de navegação () do console do Google Cloud, clique em Vertex AI > Workbench.

2. Ache a instância e clique no botão Abrir o JupyterLab.

A interface do JupyterLab para sua instância do Workbench é aberta em uma nova guia do navegador.

Tarefa 2: configurar o notebook

1. Abra o arquivo .

2. Na caixa de diálogo Selecionar Kernel, escolha Python 3 na lista de kernels disponíveis.

3. Execute as seções Vamos começar e Importar bibliotecas do notebook.

   • Para ID do projeto, use , e em Local, use .

Clique em Verificar meu progresso para conferir o objetivo. Importar bibliotecas e configurar o notebook

Tarefa 3: criar metadados de documentos com textos e imagens

Nesta seção, você vai importar funções auxiliares para criar metadados, carregar metadados pré-computados de texto e imagens de um documento de origem, além de inspecionar os dados de texto e imagem processados.

1. Execute a seção Criar metadados de documentos com texto e imagens do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Importar funções auxiliares para criar metadados

Tarefa 4: pesquisa de texto

Nesta seção, você vai usar o modelo Gemini para pesquisar com uma pergunta simples e verificar se ela pode ser respondida com uma pesquisa de texto simples usando embeddings de texto. Você também vai usar o recurso multimodal do modelo Gemini para pesquisar uma imagem semelhante à consulta de texto.

1. Execute as seções Pesquisa de texto do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Pesquisa de texto

Tarefa 5: pesquisa de imagens

Imagine que você está pesquisando imagens, mas, em vez de digitar palavras, você usa uma imagem real como dica. É como pesquisar com um minimapa em vez de um endereço escrito. É uma forma diferente de pedir "Mostre mais coisas como esta". Em vez de digitar "vários exemplos de contexto longo do Gemini 2.0", você mostra uma imagem e diz "Encontre mais imagens como esta".

Nesta seção, você vai encontrar apenas imagens semelhantes que mostram os vários recursos do Gemini em um único documento. No entanto, é possível escalonar esse padrão de design para corresponder (encontrar imagens relevantes) em vários documentos.

1. Execute as seções Pesquisa de imagens do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Pesquisa de imagens

Tarefa 6: como criar um sistema de perguntas e respostas multimodal com geração aumentada por recuperação (mRAG)

Nesta última tarefa, você vai reunir tudo para implementar a RAG multimodal. Para implementar a RAG multimodal, o usuário fornece uma consulta de texto relacionada a informações presentes no texto e nas imagens do documento. Os blocos de texto semelhantes à consulta são recuperados das páginas do documento usando um método de pesquisa de texto. Ao mesmo tempo, uma pesquisa identifica imagens com descrições que correspondem à consulta.

O texto e as imagens relevantes combinados servem como contexto para o Gemini, que gera uma resposta à consulta, possivelmente se referindo a instruções específicas. Por fim, as citações indicam o texto e as imagens usados para formular a resposta.

1. Revise as seções Como criar um sistema de perguntas e respostas multimodal com geração aumentada por recuperação (mRAG) do notebook.

Clique em Verificar meu progresso para conferir o objetivo. Como criar um sistema de perguntas e respostas multimodal com geração aumentada por recuperação (mRAG)

Parabéns!

Parabéns! Neste laboratório, você aprendeu a criar um sistema multimodal de respostas a perguntas usando a API Gemini na Vertex AI. Você criou um mecanismo de pesquisa de documentos que pode pesquisar texto e imagens usando consultas de texto e imagem. Você também criou um sistema multimodal de respostas a perguntas que pode responder a perguntas usando texto e imagens.

Próximas etapas / Saiba mais

Confira os recursos a seguir para saber mais sobre o Gemini:

• Visão geral do Gemini
• IA generativa na documentação da Vertex AI
• IA generativa no YouTube
• Confira o manual da Vertex AI para acessar uma galeria selecionada e pesquisável de notebooks da IA generativa.
• Conheça outros notebooks e exemplos no Repositório da IA generativa do Google Cloud (em inglês).

Treinamento e certificação do Google Cloud

Esses treinamentos ajudam você a aproveitar as tecnologias do Google Cloud ao máximo. Nossas aulas incluem habilidades técnicas e práticas recomendadas para ajudar você a alcançar rapidamente o nível esperado e continuar sua jornada de aprendizado. Oferecemos treinamentos que vão do nível básico ao avançado, com opções de aulas virtuais, sob demanda e por meio de transmissões ao vivo para que você possa encaixá-las na correria do seu dia a dia. As certificações validam sua experiência e comprovam suas habilidades com as tecnologias do Google Cloud.

Manual atualizado em 11 de julho de 2025

Laboratório testado em 11 de julho de 2025

Copyright 2025 Google LLC. Todos os direitos reservados. Google e o logotipo do Google são marcas registradas da Google LLC. Todos os outros nomes de produtos e empresas podem ser marcas registradas das respectivas empresas a que estão associados.