GSP520

개요

챌린지 실습에서는 특정 시나리오와 일련의 작업이 주어집니다. 단계별 안내를 따르는 대신, 과정의 실습에서 배운 기술을 사용하여 스스로 작업을 완료하는 방법을 알아내 보세요. 이 페이지에 표시되어 있는 자동 채점 시스템에서 작업을 올바르게 완료했는지 피드백을 제공합니다.

챌린지 실습을 진행할 때는 새로운 Google Cloud 개념에 대한 정보가 제공되지 않습니다. 학습한 기술을 응용하여 기본값을 변경하거나 오류 메시지를 읽고 조사하여 실수를 바로잡아야 합니다.

100점을 받으려면 시간 내에 모든 작업을 성공적으로 완료해야 합니다.

이 실습은 Gemini 멀티모달 및 멀티모달 RAG로 리치 문서 검사하기 기술 배지 과정에 등록한 수강생에게 권장됩니다. 챌린지에 도전할 준비가 되셨나요?

테스트 주제

• 멀티모달 프롬프트를 사용하여 텍스트 및 시각적 데이터에서 정보 추출, 동영상 설명 생성, Gemini에서 멀티모달 기능을 사용하여 동영상 이외의 추가 정보 검색
• Gemini에서 멀티모달 검색 증강 생성(RAG) 기능을 사용하여 텍스트와 이미지가 포함된 문서의 메타데이터 구축, 모든 관련 텍스트 청크 가져오기, 인용 문구 인쇄

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

Vertex AI Workbench에서 노트북 열기

1. Google Cloud 콘솔의 탐색 메뉴()에서 Vertex AI > Workbench를 클릭합니다.

2. 인스턴스를 찾아 JupyterLab 열기 버튼을 클릭합니다.

Workbench 인스턴스의 JupyterLab 인터페이스가 새 브라우저 탭에서 열립니다.

참고: JupyterLab에 노트북이 표시되지 않는다면 다음 추가 단계에 따라 인스턴스를 재설정하세요.

1. JupyterLab의 브라우저 탭을 닫고 Workbench 홈페이지로 돌아갑니다.

2. 인스턴스 이름 옆의 체크박스를 선택하고 재설정을 클릭합니다.

3. JupyterLab 열기 버튼이 다시 사용 설정되면 1분 정도 기다린 후 JupyterLab 열기를 클릭합니다.

노트북 설정하기

1. 파일을 클릭합니다.

2. 커널 선택 대화상자의 사용 가능한 커널 목록에서 Python 3을 선택합니다.

3. 노트북의 설정 및 요건 섹션에서 4개 셀을 실행합니다(작업 1 시작 전).

4. 다음 정보를 사용하여 프로젝트의 Python용 Gen AI SDK를 초기화합니다.

   • 프로젝트 ID에 을(를) 입력합니다.
   • 위치에 을(를) 입력합니다.

챌린지 시나리오

귀하는 미디어 회사의 마케팅 캠페인 코디네이터로서 판매 목표를 달성하기 위해 마케팅 관리자와 긴밀히 협력하여 캠페인을 계획, 실행, 평가하고 있습니다. 최근에는 Google과 흥미로운 신규 계약을 체결했는데 마케팅 캠페인 코디네이터로서 Google 브랜드와 브랜드 아이덴티티를 최대한 빨리 숙지하는 데 도움이 되는 자료를 자세히 살펴보고자 합니다. 따라서 Gemini의 혁신적인 기능을 통해 Google의 브랜드 가이드라인, 이전 캠페인, 제품 광고, 고객 사례, 재무 보고서를 검토하여 Google에 대한 더 깊은 인사이트를 보다 효율적으로 확보할 계획입니다.

이 챌린지에서는 Gemini에서 멀티모달 기능을 사용하여 텍스트 및 시각적 데이터에서 정보를 추출하고, 동영상 설명을 생성하고, 동영상 이외의 추가 정보를 검색하는 멀티모달 프롬프트로 시작합니다. 또한 Gemini의 멀티모달 검색 증강 생성(RAG) 기법을 사용하여 텍스트와 이미지가 포함된 문서의 메타데이터 구축, 모든 관련 텍스트 청크 가져오기, 인용 문구 인쇄도 수행합니다.

작업 1. Gemini를 사용하여 멀티모달 인사이트 생성

이 작업에서는 멀티모달 프롬프트를 지원하는 멀티모달 모델인 Gemini를 사용하여 Google 브랜드와 브랜드 아이덴티티를 숙지합니다. 프롬프트 요청에 텍스트, 이미지, 동영상을 포함하고 텍스트 또는 코드 응답을 얻습니다.

이 작업을 완료하려면 노트북의 지정된 섹션에 있는 안내를 따르세요.

참고: 모든 작업에서 내 진행 상황 확인하기 버튼을 클릭하기 전에 노트북 스크립트를 저장합니다.

1. 멀티모달 모델을 사용하여 여러 이미지를 연구하려면 여러 이미지를 통한 이미지 이해 섹션의 안내를 따르세요.

목표를 확인하려면 내 진행 상황 확인하기를 클릭합니다. 여러 이미지를 통한 이미지 이해

2. 멀티모달 모델을 사용하여 이미지를 비교하려면 이미지 간의 유사점/차이점 섹션의 안내를 따르세요.

목표를 확인하려면 내 진행 상황 확인하기를 클릭합니다. 이미지 간의 유사점/차이점

3. 멀티모달 모델을 사용하여 동영상 설명을 생성하려면 동영상 설명 생성 섹션의 안내를 따르세요.

   Use [https://storage.googleapis.com/spls/gsp520/google-pixel-8-pro.mp4](https://storage.googleapis.com/spls/gsp520/google-pixel-8-pro.mp4) to complete this step.

4. 멀티모달 모델을 사용하여 동영상 전반에서 객체 태그를 추출하려면 동영상 전반에서 객체의 태그 추출 섹션의 안내를 따르세요.

   Use [https://storage.googleapis.com/spls/gsp520/google-pixel-8-pro.mp4](https://storage.googleapis.com/spls/gsp520/google-pixel-8-pro.mp4), to complete this step.

5. 멀티모달 모델을 사용하여 동영상을 자세히 살펴보려면 동영상에 관한 추가 질문하기 섹션의 안내를 따르세요.

   Use [https://storage.googleapis.com/spls/gsp520/google-pixel-8-pro.mp4](https://storage.googleapis.com/spls/gsp520/google-pixel-8-pro.mp4) to complete this step.

6. 멀티모달 모델을 사용하여 이미지에서 더 많은 정보를 가져오려면 동영상 내용 이외 추가 정보 검색 섹션의 안내를 따르세요.

목표를 확인하려면 내 진행 상황 확인하기를 클릭합니다. 동영상 설명을 생성하고 동영상 내용 이외의 추가 정보를 검색합니다.

작업 2. 멀티모달 검색 증강 생성(RAG)을 통해 지식 검색 및 통합

이 작업을 완료하려면 노트북의 지정된 섹션에 있는 안내를 따르세요.

작업 2에 사용 가능한 데이터 및 도우미 함수

• Google과 사용자 간의 관계를 정의하는 Google 서비스에 대한 서비스 약관 문서. 여기에는 사용자가 Google에 기대할 수 있는 사항, 서비스 사용 규칙, 콘텐츠와 관련된 지식 재산권, 분쟁이나 의견 충돌을 해결하는 절차가 포함됩니다. 이 샘플 문서에는 텍스트만 포함되어 있습니다.

• 회사의 재무 성과, 비즈니스 운영, 관리, 위험 요소에 대한 포괄적인 개요를 제공하는 Google-10K의 수정된 버전. 원본 문서가 다소 크기 때문에 1부와 2부로 구분되어 14페이지만 있는 수정된 버전을 대신 사용합니다. 크기는 줄었지만 이 샘플 문서의 표, 차트, 그래프 등의 이미지와 텍스트가 그대로 포함되어 있습니다.

또한 다음 도우미 함수 중에서 선택하여 아래 작업을 완료할 수 있습니다. 이러한 함수에 대한 자세한 내용은 GitHub를 참조하세요.

• 처리된 텍스트 메타데이터 검사 함수

  • text: 페이지의 원본 텍스트
  • text_embedding_page: 페이지의 원본 텍스트 임베딩
  • chunk_text: 원본 텍스트를 더 작은 청크로 나눈 것
  • chunk_number: 각 텍스트 청크의 색인
  • text_embedding_chunk: 각 텍스트 청크의 임베딩

• 처리된 이미지 메타데이터 검사 함수

  • img_desc: Gemini가 생성한 이미지의 텍스트 설명
  • mm_embedding_from_text_desc_and_img: 시각적 정보와 텍스트 정보를 모두 캡처하는 이미지와 설명의 혼합 임베딩
  • mm_embedding_from_img_only: 설명 기반 분석과의 비교를 위한 설명 없는 이미지 임베딩
  • text_embedding_from_image_description: 생성된 설명의 개별 텍스트 임베딩(텍스트 분석 및 비교 가능)

• 도우미 함수를 가져와 RAG 구현 함수

  • get_similar_text_from_query(): 텍스트 쿼리가 주어지면 코사인 유사성 알고리즘을 사용하여 문서에서 관련 텍스트를 찾습니다. 메타데이터의 텍스트 임베딩을 사용하여 계산합니다. 최고 점수, 페이지/청크 수 또는 임베딩 크기를 기준으로 결과를 필터링할 수 있습니다.
  • print_text_to_text_citation(): get_similar_text_from_query() 함수에서 검색된 텍스트의 소스(인용 문구) 및 세부정보를 인쇄합니다.
  • get_similar_image_from_query(): 이미지 경로나 이미지가 주어지면 문서에서 관련 있는 이미지를 찾습니다. 메타데이터의 이미지 임베딩을 사용합니다.
  • print_text_to_image_citation(): `get_similar_image_from_query()`` 함수에서 검색된 이미지의 소스(인용 문구) 및 세부 정보를 인쇄합니다.
  • get_gemini_response(): Gemini 모델과 상호작용하여 텍스트와 이미지 입력의 조합을 기반으로 질문에 답합니다.
  • display_images(): 경로 또는 PIL 이미지 객체로 제공된 일련의 이미지를 표시합니다.

1. 도우미 함수를 가져오고 실행하려면 텍스트와 이미지가 포함된 문서의 메타데이터 구축 섹션의 안내를 따르세요.

2. 제공된 변수를 사용하려면 사용자 쿼리 만들기 섹션의 안내를 따르세요.

3. 쿼리를 기반으로 관련 텍스트 청크를 검색하려면 모든 관련 텍스트 청크 가져오기 섹션의 안내를 따르세요.

4. 텍스트 청크를 구성하려면 context_text 만들기의 안내를 따르세요.

5. 컨텍스트를 Gemini에 전달하고 대답을 생성하려면 Gemini에 컨텍스트 전달 안내를 따르세요.

목표를 확인하려면 내 진행 상황 확인하기를 클릭합니다. 멀티모달 검색 증강 생성(RAG)을 통해 지식 검색 및 통합

수고하셨습니다

이 챌린지 실습을 완료함으로써 Gemini API를 활용하여 텍스트를 생성하고, 함수 호출을 만들고, 동영상 콘텐츠를 설명할 수 있음을 보여주었습니다. 프로덕션에 배포하기 전에 이러한 기능이 예상 표준을 충족하는지도 확인할 수 있었습니다. 수고하셨습니다.

다음 단계/자세히 알아보기

Gemini에 대한 자세한 내용은 다음 리소스를 참조하세요.

• Gemini 개요
• Vertex AI의 생성형 AI 문서
• YouTube의 생성형 AI
• Vertex AI 설명서에서 생성형 AI를 위한 선별된 노트북 갤러리를 검색하며 살펴보세요.
• Google Cloud 생성형 AI 저장소에서 다른 노트북과 샘플을 찾아보세요.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2025년 7월 11일

실습 최종 테스트: 2025년 7월 11일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.