GSP1144

개요

Dataplex는 조직이 데이터 레이크, 데이터 웨어하우스, 데이터 마트의 데이터를 중앙에서 검색, 관리, 모니터링, 제어할 수 있게 하여 규모에 따른 분석을 제공하는 지능형 데이터 패브릭입니다. 구체적으로는, Dataplex를 사용하여 데이터 소유권을 도메인 데이터 소유자 간에 분산하는 조직적/기술적 접근 방식인 데이터 메시 아키텍처를 빌드할 수 있습니다.

Dataplex는 데이터 이동이나 복제가 불필요한 방식으로 데이터를 관리합니다. 새 데이터 애셋을 추가하면 Dataplex는 구조화된 데이터와 구조화되지 않은 데이터 모두에 대해 메타데이터를 가져오고 모든 메타데이터를 안전한 통합 metastore에 자동으로 등록합니다. 그러면 Data Catalog 및 BigQuery와 같은 Google Cloud 서비스를 통해 데이터 및 메타데이터를 평가할 수 있습니다.

이 실습에서는 명령줄을 사용하여 Dataplex에서 레이크, 영역, 애셋을 생성하고 삭제함으로써 자체 데이터 메시를 빌드하는 방법을 알아봅니다.

실습할 내용

• Dataplex API 사용 설정
• 레이크 만들기
• 레이크에 영역 추가
• 애셋 연결 및 분리
• 영역 및 레이크 삭제

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 창이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 창에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 창에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

Cloud Shell 활성화

Cloud Shell은 다양한 개발 도구가 탑재된 가상 머신으로, 5GB의 영구 홈 디렉터리를 제공하며 Google Cloud에서 실행됩니다. Cloud Shell을 사용하면 명령줄을 통해 Google Cloud 리소스에 액세스할 수 있습니다.

1. Google Cloud 콘솔 상단에서 Cloud Shell 활성화 를 클릭합니다.

2. 다음 창을 클릭합니다.

   • Cloud Shell 정보 창을 통해 계속 진행합니다.
   • 사용자 인증 정보를 사용하여 Google Cloud API를 호출할 수 있도록 Cloud Shell을 승인합니다.

연결되면 사용자 인증이 이미 처리된 것이며 프로젝트가 학습자의 PROJECT_ID, (으)로 설정됩니다. 출력에 이 세션의 PROJECT_ID를 선언하는 줄이 포함됩니다.

Your Cloud Platform project in this session is set to {{{project_0.project_id | "PROJECT_ID"}}}

gcloud는 Google Cloud의 명령줄 도구입니다. Cloud Shell에 사전 설치되어 있으며 명령줄 자동 완성을 지원합니다.

3. (선택사항) 다음 명령어를 사용하여 활성 계정 이름 목록을 표시할 수 있습니다.

gcloud auth list

4. 승인을 클릭합니다.

출력:

ACTIVE: * ACCOUNT: {{{user_0.username | "ACCOUNT"}}} To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (선택사항) 다음 명령어를 사용하여 프로젝트 ID 목록을 표시할 수 있습니다.

gcloud config list project

출력:

[core] project = {{{project_0.project_id | "PROJECT_ID"}}} 참고: gcloud 전체 문서는 Google Cloud에서 gcloud CLI 개요 가이드를 참고하세요.

Dataplex API 사용 설정 및 변수 설정

1. Cloud Shell에서 다음 명령어를 실행하여 Dataplex API를 사용 설정합니다.

gcloud services enable \ dataplex.googleapis.com

2. 다음 명령어를 실행하여 프로젝트 ID의 변수를 만듭니다.

export PROJECT_ID=$(gcloud config get-value project)

3. 다음 명령어를 실행하여 리전의 변수를 만듭니다.

export REGION={{{project_0.default_region | "filled in at lab start"}}} gcloud config set compute/region $REGION

작업 1. 레이크 만들기

Dataplex에서 레이크는 특정 데이터 영역이나 비즈니스 단위를 나타내는 가장 높은 조직적 도메인입니다. 예를 들어, 특정 사용자 그룹을 위해 데이터를 체계화하고 제공할 수 있도록 조직의 각 부서 또는 데이터 도메인에 대해 레이크를 만들 수 있습니다.

이 작업에서는 명령줄을 사용하여 레이크를 만들어 데이터 메시 빌드를 시작합니다.

• Cloud Shell에서 다음 명령어를 실행하여 Ecommerce라는 새 레이크를 만듭니다.

gcloud dataplex lakes create ecommerce \ --location=$REGION \ --display-name="Ecommerce" \ --description="Ecommerce Domain"

레이크를 만드는 데 최대 3분이 걸릴 수 있습니다.

상태 코드: 403. 'dataplex.lakes.create' 권한이 거부되었습니다라는 오류 메시지가 표시되면 몇 분 정도 기다린 후 다시 시도하세요. 이전 설정 섹션에서 Dataplex API를 사용 설정한 후 권한이 부여되기까지 시간이 더 걸릴 수 있습니다.

출력은 다음과 비슷하게 표시됩니다.

Created [ecommerce] Lake created in [projects/$PROJECT_ID/locations/$REGION]. Dataplex 레이크 만들기

작업 2. 레이크에 영역 추가

레이크를 만든 후 레이크에 영역을 추가할 수 있습니다. 영역은 데이터를 추가 분류하는 데 사용할 수 있는 레이크 내의 하위 도메인입니다. 예를 들어, 데이터를 스테이지, 사용 또는 제한으로 분류할 수 있습니다.

영역에는 두 가지 유형이 있습니다.

• 원시 데이터 영역에는 원시 형식의 데이터(Cloud Storage 버킷의 파일 등)가 포함되어 있으며 엄격한 유형 검사의 대상이 아닙니다.
• 선별 데이터 영역에는 BigQuery 데이터 세트와 같이 일정한 형식으로 정리되어 분석 준비를 마친 데이터가 포함됩니다.

이 작업에서는 명령줄을 사용하여 BigQuery 데이터 세트로 작업할 선별 데이터 영역을 만듭니다.

• Cloud Shell에서 다음 명령어를 실행하여 메타데이터 검색이 사용 설정된 Orders Curated Zone이라는 새로운 선별 데이터 영역을 만듭니다.

gcloud dataplex zones create orders-curated-zone \ --location=$REGION \ --lake=ecommerce \ --display-name="Orders Curated Zone" \ --resource-location-type=SINGLE_REGION \ --type=CURATED \ --discovery-enabled \ --discovery-schedule="0 * * * *"

영역을 만드는 데 최대 2분이 걸릴 수 있습니다.

출력은 다음과 비슷하게 표시됩니다.

Created [orders-curated-zone] Zone created in [projects/$PROJECT_ID/locations/$REGION/lakes/ecommerce]. 레이크에 영역 추가

작업 3. 영역에 애셋 연결

Cloud Storage 버킷 혹은 BigQuery 데이터 세트에 저장된 데이터는 Dataplex 레이크 내의 영역에 애셋으로 연결될 수 있습니다.

이 작업에서는 명령줄을 사용하여 BigQuery 데이터 세트를 만든 다음 이 데이터 세트를 이전에 만든 영역에 연결합니다.

BigQuery 데이터 세트 만들기

• Cloud Shell에서 다음 명령어를 실행하여 orders라는 새 BigQuery 데이터 세트를 만듭니다.

bq mk --location=$REGION --dataset orders

이 데이터 세트에는 테이블이나 데이터가 포함되어 있지 않지만 지금 바로 영역에 연결할 수 있으며, 새로 생성된 테이블과 로드된 데이터는 자동으로 영역에 통합됩니다.

출력은 다음과 비슷하게 표시됩니다.

Dataset '$PROJECT_ID:orders' successfully created.

BigQuery 데이터 세트를 영역에 연결

• Cloud Shell에서 다음 명령어를 실행하여 메타데이터 검색이 사용 설정된 Orders Curated Data라는 이름의 애셋으로 BigQuery 데이터 세트를 영역에 연결합니다.

gcloud dataplex assets create orders-curated-dataset \ --location=$REGION \ --lake=ecommerce \ --zone=orders-curated-zone \ --display-name="Orders Curated Dataset" \ --resource-type=BIGQUERY_DATASET \ --resource-name=projects/$PROJECT_ID/datasets/orders \ --discovery-enabled

영역을 만드는 데 최대 2분이 걸릴 수 있습니다.

출력은 다음과 비슷하게 표시됩니다.

Created [orders-curated-dataset] Asset created in [projects/$PROJECT_ID/locations/$REGION/lakes/ecommerce/zones/orders-curated-zone]. 영역에 애셋 연결

작업 4. 애셋, 영역, 레이크 삭제

레이크를 삭제하려면 먼저 애셋을 분리한 다음 영역을 삭제해야 합니다.

이 작업에서는 명령줄을 사용하여 영역에서 애셋을 분리한 다음 영역을 삭제하고 마지막으로 레이크를 삭제합니다.

애셋 분리

• Cloud Shell에서 다음 명령어를 실행하여 BigQuery 데이터 세트를 영역에서 분리합니다.

gcloud dataplex assets delete orders-curated-dataset --location=$REGION --zone=orders-curated-zone --lake=ecommerce

확인하라는 메시지가 나타나면 Y를 입력합니다.

이 작업은 BigQuery 데이터 세트의 기반 데이터를 삭제합니다. 이렇게 하면 Dataplex의 레이크를 통해 해당 BigQuery 데이터 세트에 접근하거나 검색할 수 없습니다.

출력은 다음과 비슷하게 표시됩니다.

Deleted asset [orders-curated-dataset].

영역 삭제

• Cloud Shell에서 다음 명령어를 실행하여 영역을 삭제합니다.

gcloud dataplex zones delete orders-curated-zone --location=$REGION --lake=ecommerce

확인하라는 메시지가 나타나면 Y를 입력합니다.

출력은 다음과 비슷하게 표시됩니다.

Deleted zone [orders-curated-zone].

레이크 삭제

• Cloud Shell에서 다음 명령어를 실행하여 레이크를 삭제합니다.

gcloud dataplex lakes delete ecommerce --location=$REGION

확인하라는 메시지가 나타나면 Y를 입력합니다.

출력은 다음과 비슷하게 표시됩니다.

Deleted lake [ecommerce]. 애셋, 영역, Dataplex 레이크 삭제

수고하셨습니다.

명령줄을 사용하여 Dataplex에서 레이크, 영역, 애셋을 만들고 삭제했습니다.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2025년 4월 23일

실습 최종 테스트: 2025년 4월 23일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.