GSP1248

개요

이 실습에서는 가져온 모델(ONNX 형식으로 생성된 PyTorch 모델)과 Google SQL 쿼리를 사용하여 BigQuery에서 이미지 분류 워크플로를 간소화하는 방법을 알아봅니다.

여러분은 Cymbal Media and Entertainment에 새로 입사한 데이터 분석가로서 가져온 모델과 BigQuery 머신러닝을 사용해 추론하여 야생 생물 이미지를 분류하는 실험을 맡게 되었습니다. 이 프로젝트의 목표는 이미지 분류 프로세스를 자동화하고 콘텐츠 제작을 간소화하고 Cymbal 스트리밍 플랫폼의 향후 콘텐츠에 사용할 더 많은 야생 생물 이미지 데이터베이스를 잠재적으로 구축하는 것입니다.

ONNX는 머신러닝 모델을 표현하도록 설계된 개방형 형식입니다. ONNX는 머신러닝 및 딥 러닝 모델의 구성요소인 공통 연산자 집합과 AI 개발자가 다양한 프레임워크, 도구, 런타임, 컴파일러로 모델을 사용할 수 있도록 지원하는 공통 파일 형식을 정의합니다.

BigQuery는 데이터의 가치를 극대화하는 데 도움이 되는 완전 관리형 AI 지원 데이터 분석 플랫폼으로서 멀티 엔진, 멀티 형식, 멀티 클라우드로 설계되었습니다. 주요 기능인 BigQuery 머신러닝을 사용한 추론을 통해 SQL 쿼리를 사용하여 머신러닝(ML) 모델을 만들고 실행할 수 있습니다.

GoogleSQL 쿼리를 사용한 ML 모델 실행

일반적으로 대규모 데이터 세트에서 ML 또는 인공지능(AI)을 수행하려면 ML 프레임워크에 대한 광범위한 프로그래밍과 지식이 필요합니다. 이 때문에 각 회사에서도 극소수의 직원만 솔루션 개발을 담당할 수 있으며, 데이터를 이해하더라도 ML 및 프로그래밍 전문 지식이 부족한 데이터 분석가는 개발에 참여하지 못합니다. 하지만 BigQuery ML을 사용하면 SQL 실무자는 기존 SQL 지식, 기술, 도구를 사용하여 ONNX로 빌드하고 Cloud Storage 버킷에 저장된 이 모델에서 결과를 생성할 수 있습니다. 이는 MLOps 관점에서 회사의 모델 선택과 유연성에 도움이 됩니다. 또한 ML 이니셔티브를 확장하는 데도 도움이 됩니다.

이미지 데이터 세트

이 실습에서 사용되는 이미지는 Kaggle의 Animals Detection Images Dataset에서 가져왔습니다.

목표

이 실습에서는 다음을 수행하는 방법에 대해 알아봅니다.

• Cloud 리소스 연결 만들기
• 연결의 서비스 계정에 권한 부여하기
• BigQuery 데이터 세트와 테이블 만들기
• ONNX 모델을 BigQuery로 가져오기
• 가져온 모델을 사용하여 이미지 분류하기

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 창이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 창에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 창에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

작업 1. Cloud 리소스 연결 만들기

이 작업에서는 Cloud Storage의 이미지를 데이터 세트 내의 객체 테이블로 가져올 수 있도록 BigQuery에서 Cloud 리소스 연결을 만듭니다.

참고: 실습 가이드에 할당된 Google Cloud 리전을 사용하여 리소스 연결을 만듭니다. 실습 오류를 줄이는 데 도움이 되도록 데이터 세트도 이 리전에서 만드는 것이 좋습니다.

1. Google Cloud 콘솔의 탐색 메뉴에서 BigQuery를 클릭합니다.

2. 'BigQuery에 오신 것을 환영합니다'라는 팝업이 표시됩니다. 완료를 클릭합니다.

3. 연결을 만들기 위해 +추가를 클릭한 다음 외부 데이터 소스에 대한 연결을 클릭합니다.

4. '연결 유형' 목록에서 Vertex AI 원격 모델, 원격 함수, BigLake(Cloud 리소스)를 선택합니다.

5. 연결을 위해 '연결 ID' 필드에 onnx_conn을 입력합니다.

6. '위치 유형'에서 리전을 선택합니다.

7. '리전'에서 을(를) 선택합니다.

8. 연결 만들기를 클릭합니다.

9. 연결로 이동을 클릭합니다.

10. BigQuery 탐색기에서 프로젝트의 '외부 연결' 섹션에 연결이 추가된 것을 볼 수 있습니다. '연결 정보' 창에서 서비스 계정 ID를 다음 작업에 사용할 수 있도록 텍스트 파일에 복사합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. Cloud 리소스 연결 만들기

작업 2. 이미지 및 파일을 검토하고 서비스 계정에 액세스 권한 부여

이 작업에서는 이미지와 파일(ONNX 모델 및 classifier.csv)을 검토한 다음 Cloud 리소스 연결의 서비스 계정에 IAM 권한을 부여합니다.

Cloud Storage의 이미지 및 ONNX 모델 검토

리소스 연결 서비스 계정에 권한을 부여하기 전에 이미지, 모델, classifier.csv 파일이 Cloud Storage 버킷에 저장되어 있는지 검토합니다.

1. Google Cloud 콘솔에서 탐색 메뉴()를 선택한 다음 Cloud Storage를 선택합니다.

2. -bucket 버킷을 클릭합니다.

3. 버킷에는 gsp1248 폴더가 있습니다. 폴더를 엽니다. 다음 3개 항목이 표시됩니다.

   • images 폴더: 분류할 모든 이미지가 포함되어 있습니다. images 폴더에 액세스하여 이미지를 검토하세요. 사자, 흑조, 하마, 아메리카흑곰, 킹크랩의 이미지를 볼 수 있습니다.
   • resnet18.onnx 파일은 모델 파일입니다. BigQuery로 가져와 이후 작업에서 사용합니다.
   • classifier.csv 파일은 모델에서 쿼리로 이미지를 분류하는 데 사용됩니다.

연결의 서비스 계정에 IAM 권한 부여

BigQuery에서 작업을 시작하기 전에 리소스 연결의 서비스 계정에 IAM 권한을 부여하면 쿼리를 실행할 때 액세스 거부 오류가 발생하지 않습니다.

1. 버킷 루트로 돌아갑니다.

2. 권한을 클릭합니다.

3. 액세스 권한 부여를 클릭합니다.

4. 앞에서 복사한 서비스 계정 ID를 새 주 구성원 필드에 입력합니다.

5. 역할 선택 필드에 스토리지 객체를 입력한 다음 스토리지 객체 관리자 역할을 선택합니다.

6. 저장을 클릭합니다.

   이렇게 하면 이제 서비스 계정 ID에 스토리지 객체 관리자 역할이 포함됩니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 연결의 서비스 계정에 IAM 권한 부여

작업 3. BigQuery에서 데이터 세트 및 테이블 만들기

이 작업에서는 프로젝트의 데이터 세트, 이미지를 저장할 객체 테이블, 분류 목록의 테이블을 만듭니다.

데이터 세트 만들기

1. Google Cloud 콘솔에서 탐색 메뉴()를 선택한 다음 BigQuery를 선택합니다.

2. 탐색기 패널의 에서 작업 보기()를 선택한 다음 데이터 세트 만들기를 선택합니다.

   테이블과 모델을 비롯한 데이터베이스 객체를 저장할 데이터 세트를 생성합니다.

3. 데이터 세트 만들기 창에 다음 정보를 입력합니다.

   필드	값
   데이터 세트 ID	onnx_demo
   위치 유형	선택

   다른 필드는 기본값을 유지합니다.

4. 데이터 세트 만들기를 클릭합니다.

   이렇게 하면 onnx_demo 데이터 세트가 만들어지고 BigQuery 탐색기의 프로젝트 아래에 나열됩니다.

이미지에 대한 객체 테이블 만들기

데이터 세트를 만들었으니 이제 버킷의 이미지를 참조하는 객체 테이블을 만들 수 있습니다.

SQL 쿼리를 사용하여 객체 테이블을 만듭니다.

1. +를 클릭하여 새 SQL 쿼리를 만듭니다.

2. 쿼리 편집기에 아래 쿼리를 붙여넣습니다.

   CREATE OR REPLACE EXTERNAL TABLE `onnx_demo.wildlife` WITH CONNECTION `{{{project_0.default_region|lab region}}}.onnx_conn` OPTIONS ( object_metadata = 'SIMPLE', uris = ['gs://{{{project_0.project_id|set at lab start}}}-bucket/gsp1248/images/*'] );

3. 쿼리를 실행합니다.

   이렇게 하면 wildlife 객체 테이블이 onnx_demo 데이터 세트에 추가되고, 각 동물 이미지의 URI(Cloud Storage 위치)와 함께 로드됩니다.

4. 탐색기에서 wildlife 테이블을 클릭하고 스키마와 세부정보를 검토합니다.

분류 목록의 테이블 만들기

SQL 쿼리를 사용하여 테이블 분류 목록을 만듭니다.

1. +를 클릭하여 새 SQL 쿼리를 만듭니다.

2. 쿼리 편집기에 아래 쿼리를 붙여넣습니다.

   LOAD DATA OVERWRITE onnx_demo.classifier (ID INT64,Classification STRING) FROM FILES ( format = 'CSV', uris = ['gs://{{{project_0.project_id|set at lab start}}}-bucket/gsp1248/classifier.csv']);

3. 쿼리를 실행합니다.

   이렇게 하면 classifier 테이블이 onnx_demo 데이터 세트에 추가되고 데이터 세트의 각 항목에 대한 ID 및 분류와 함께 로드됩니다. 여기에는 실습 뒷부분에서 분류할 야생 생물이 포함됩니다.

4. 탐색기에서 classifier 테이블을 클릭하고 스키마와 세부정보를 검토합니다. 자유롭게 테이블을 쿼리하여 각 항목이 어떻게 분류되는지 검토합니다. 참고: 테이블에는 야생 생물(동물, 어류, 곤충, 조류 등) 외에도 다른 많은 항목이 포함되어 있습니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. BigQuery에서 데이터 세트 및 테이블 만들기

작업 4. 모델을 BigQuery로 가져오기

이 작업에서는 이미지를 분류하는 데 사용할 resnet18 ONNX 모델을 BigQuery로 가져옵니다.

1. +를 클릭하여 새 SQL 쿼리를 만듭니다.

2. 쿼리 편집기에 아래 쿼리를 붙여넣습니다.

   CREATE OR REPLACE MODEL `onnx_demo.model` OPTIONS (MODEL_TYPE='ONNX', MODEL_PATH='gs://{{{project_0.project_id|set at lab start}}}-bucket/gsp1248/resnet18.onnx')

3. 쿼리를 실행합니다.

   이렇게 하면 모델이 해당 모델 섹션의 onnx_demo 데이터 세트에 추가됩니다.

4. 탐색기에서 모델을 클릭하고 세부정보를 검토합니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 모델을 BigQuery로 가져오기

작업 5. 가져온 ONNX 모델을 사용하여 이미지 분류

이 작업에서는 슬롯을 예약하고 프로젝트에 할당한 다음 쿼리를 사용하여 ONNX 모델로 새 이미지를 분류합니다.

슬롯 예약 추가

ONNX 모델을 사용하려면 슬롯 예약을 만들어 프로젝트에 할당해야 합니다.

1. BigQuery 메뉴에서 용량 관리를 클릭합니다.

2. '용량 관리' 페이지에서 예약 만들기를 클릭합니다.

3. '예약 만들기' 페이지에서 예약 이름으로 reservation을 입력합니다.

4. 위치에서 을(를) 선택합니다.

5. 최대 예약 크기 선택기 옵션에서 소형(100개 슬롯)을 선택합니다.

6. 저장을 클릭합니다.

프로젝트에 슬롯 예약을 할당합니다.

1. 예약의 예약 작업 버튼(작업 보기)을 클릭합니다.

2. 팝업 메뉴에서 할당 만들기를 클릭합니다.

3. '할당 만들기' 팝업 창에서 '작업 유형'이 기본적으로 '쿼리'로 설정된 것을 확인할 수 있습니다. 이 옵션을 그대로 둡니다.

4. 탐색을 클릭합니다.

5. 팝업에서 프로젝트 이름을 선택합니다. 프로젝트가 '조직, 폴더 또는 프로젝트 선택' 필드에 추가됩니다.

6. 만들기를 클릭합니다.

   이렇게 하면 방금 만든 슬롯 예약에 프로젝트가 할당됩니다.

7. 2분간 기다립니다. 슬롯 예약 할당이 계정에 적용되려면 시간이 걸립니다.

모델을 사용하여 이미지 분류

1. BigQuery Studio로 돌아갑니다.

2. +를 클릭하여 새 SQL 쿼리를 만듭니다.

3. 쿼리 편집기에 아래 쿼리를 붙여넣습니다.

   SELECT * FROM `{{{project_0.project_id|set at lab start}}}.onnx_demo.classifier` WHERE EXISTS ( SELECT 1 FROM ML.PREDICT(MODEL onnx_demo.model, ( SELECT ML.RESIZE_IMAGE(ML.DECODE_IMAGE(DATA), 224, 224, FALSE) AS input FROM `onnx_demo.wildlife` ) ) WHERE class_label = ID - 1 )

4. 쿼리를 실행합니다.

   이렇게 하면 이미지가 ONNX 모델을 기반으로 예측된 분류와 ID가 표시된 행으로 각각 분류됩니다.

내 진행 상황 확인하기를 클릭하여 목표를 확인합니다. 가져온 ONNX 모델을 사용하여 이미지 분류

수고하셨습니다

Cloud 리소스 연결을 만들고 연결의 서비스 계정에 액세스 권한을 부여하고 데이터 세트와 테이블을 만들고 ONNX 모델을 BigQuery로 가져오고 이 모델을 사용하여 이미지를 분류했습니다.

다음 단계/더 학습하기

• BigQuery ML 소개
• BigQuery ML 추론 엔진을 사용한 머신러닝 확장 - 블로그
• Open Neural Network Exchange

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2024년 5월 24일

실습 최종 테스트: 2024년 5월 24일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.