GSP1279

개요

이 실습에서는 Google의 Vertex AI와 강력한 Gemini 모델 제품군을 사용하여 멀티모달 질의 응답 시스템을 처음부터 빌드하는 방법을 안내합니다. 사전 빌드된 도구나 라이브러리에 의존하지 않고 직접 시스템을 구축하면서 이러한 시스템의 작동 방식을 깊이 있게 이해할 수 있습니다. 이 실무형 실습을 통해 프로세스를 명확히 이해하고 향후 자체 질의 응답 시스템을 맞춤설정 및 최적화하는 데 필요한 지식을 갖출 수 있습니다. 또한 기존 텍스트 기반 RAG와 비교하여 멀티모달 검색 증강 생성(RAG)의 이점을 살펴보고 시각적 정보를 통합하여 자료 액세스 및 추론 기능을 향상하는 방법을 알아봅니다.

기본 요건

이 실습을 시작하기 전에 다음 개념을 숙지해야 합니다.

• 기본 Python 프로그래밍
• 일반적인 API 개념
• Vertex AI Workbench의 Jupyter 노트북에서 Python 코드를 실행하는 방법

목표

이 실습에서는 멀티모달 검색 증강 생성(RAG)을 사용하여 문서 검색엔진을 빌드하는 방법을 알아봅니다.

• 텍스트와 이미지가 모두 포함된 문서의 메타데이터를 추출 및 저장하고 문서 임베딩을 생성합니다.
• 텍스트 쿼리로 메타데이터를 검색하여 유사한 텍스트나 이미지를 찾습니다.
• 이미지 쿼리로 메타데이터를 검색하여 유사한 이미지를 찾습니다.
• 텍스트 쿼리를 입력하여 텍스트와 이미지를 모두 사용해 상황에 맞는 답변을 검색합니다.

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 창이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 창에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 창에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

작업 1. Vertex AI Workbench에서 노트북 열기

1. Google Cloud 콘솔의 탐색 메뉴()에서 Vertex AI > Workbench를 클릭합니다.

2. 인스턴스를 찾아 JupyterLab 열기 버튼을 클릭합니다.

Workbench 인스턴스의 JupyterLab 인터페이스가 새 브라우저 탭에서 열립니다.

참고: JupyterLab에 노트북이 표시되지 않는다면 다음 추가 단계에 따라 인스턴스를 재설정하세요.

1. JupyterLab의 브라우저 탭을 닫고 Workbench 홈페이지로 돌아갑니다.

2. 인스턴스 이름 옆의 체크박스를 선택하고 재설정을 클릭합니다.

3. JupyterLab 열기 버튼이 다시 사용 설정되면 1분 정도 기다린 후 JupyterLab 열기를 클릭합니다.

작업 2. 노트북 설정하기

1. 파일을 엽니다.

2. Select Kernel(커널 선택) 대화상자에서 사용 가능한 커널 목록 중 Python 3를 선택합니다.

3. 노트북의 Getting Started(시작하기) 및 Import libraries(라이브러리 가져오기) 섹션을 실행합니다.

   • Project ID(프로젝트 ID)로는 을(를) 사용하고, Location(위치)으로는 을(를) 사용합니다.

참고: Colab only(Colab만 해당)이라고 되어 있는 노트북 셀은 건너뛰어도 됩니다. 노트북 셀 실행 중 429 응답이 발생하는 경우 1분 동안 기다린 다음 다시 셀을 실행하여 계속 진행하세요.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 라이브러리 가져오기 및 노트북 설정하기

작업 3. 텍스트와 이미지가 포함된 문서의 메타데이터 빌드

이 섹션에서는 메타데이터를 빌드하기 위해 도우미 함수를 가져오고, 소스 문서에서 텍스트와 이미지의 사전 계산된 메타데이터를 로드하고, 처리된 텍스트와 이미지 데이터를 검사합니다.

1. 노트북의 텍스트와 이미지가 포함된 문서의 메타데이터 빌드 섹션을 통해 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 메타데이터를 빌드하기 위해 도우미 함수 가져오기

텍스트 및 이미지의 사전 계산된 메타데이터 로드 처리된 텍스트 및 이미지 데이터 검사

작업 4. 텍스트 검색

이 섹션에서는 Gemini 모델을 사용하여 간단한 질문으로 검색하고 텍스트 임베딩을 사용한 간단한 텍스트 검색이 이에 답할 수 있는지 확인합니다. 또한 Gemini 모델의 멀티모달 기능을 사용하여 텍스트 쿼리와 유사한 이미지를 검색합니다.

1. 노트북의 텍스트 검색 섹션을 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 텍스트 검색

작업 5. 이미지 검색

이미지를 검색한다고 상상해 보세요. 단, 단어를 입력하지 않고 실제 이미지를 단서로 사용합니다. 주소 대신 미니맵으로 검색하는 것과 비슷하다고 생각하면 됩니다. '이와 비슷한 것을 더 보여 줘'라고 요청하는 또 다른 방법입니다. 'Gemini 2.0 긴 컨텍스트의 다양한 예시'를 입력하는 대신 해당 이미지의 사진을 보여주면서 '이와 비슷한 것을 더 찾아 줘'라고 말합니다.

이 섹션에서는 단일 문서에서 Gemini의 다양한 기능을 보여주는 유사한 이미지만 찾습니다. 그러나 이 설계 패턴을 확장하여 여러 문서에서 일치하는 항목(관련 이미지)을 찾을 수 있습니다.

1. 노트북의 이미지 검색 섹션을 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 이미지 검색

작업 6. 검색 증강 생성을 사용한 멀티모달 QA 시스템(mRAG) 빌드

마지막 작업에서는 지금까지의 작업을 기반으로 멀티모달 RAG를 구현합니다. 멀티모달 RAG를 구현하기 위해 사용자는 문서 내 텍스트와 이미지 모두에 있는 정보와 관련된 텍스트 쿼리를 제공합니다. 텍스트 검색 방법을 사용하여 쿼리와 유사한 텍스트 청크를 문서 페이지에서 검색합니다. 동시에 이미지 검색은 쿼리와 일치하는 설명이 있는 이미지를 식별합니다.

관련 텍스트와 이미지가 결합되어 Gemini의 컨텍스트 역할을 하며, Gemini는 쿼리에 대한 대답을 생성하고 특정 지침을 참조할 수 있습니다. 마지막으로 인용은 대답을 만드는 데 사용된 텍스트와 이미지를 나타냅니다.

1. 노트북의 검색 증강 생성을 사용한 멀티모달 QA 시스템(mRAG) 빌드 섹션을 실행합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 검색 증강 생성을 사용한 멀티모달 QA 시스템(mRAG) 빌드

수고하셨습니다

수고하셨습니다. 이 실습에서는 Vertex AI의 Gemini API를 사용하여 멀티모달 질의 응답 시스템을 빌드하는 방법을 알아보았습니다. 텍스트 및 이미지 쿼리를 사용하여 텍스트와 이미지를 검색할 수 있는 문서 검색 엔진을 빌드했습니다. 또한 텍스트와 이미지를 모두 사용하여 질문에 답할 수 있는 멀티모달 질의 응답 시스템을 빌드했습니다.

다음 단계/자세히 알아보기

Gemini에 대한 자세한 내용은 다음 리소스를 참조하세요.

• Gemini 개요
• Vertex AI의 생성형 AI 문서
• YouTube의 생성형 AI
• Vertex AI 설명서에서 생성형 AI를 위한 선별된 노트북 갤러리를 검색하며 살펴보세요.
• Google Cloud 생성형 AI 저장소에서 다른 노트북과 샘플을 찾아보세요.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2025년 7월 11일

실습 최종 테스트: 2025년 7월 11일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.