GSP196

개요

이 실습에서는 CSV 텍스트 파일에서 Cloud SQL로 데이터를 가져온 다음 간단한 쿼리를 사용하여 기본 데이터 분석을 수행합니다.

이 실습에서 사용하는 데이터 세트는 미국 교통통계국에서 가져온 것으로, 미국 국내선 항공편에 대한 과거 정보가 포함되어 있습니다. 이 데이터 세트는 광범위한 데이터 과학 개념 및 기법을 실연하는 데 사용될 수 있습니다.

목표

• Cloud SQL 인스턴스 만들기
• Cloud SQL 데이터베이스 만들기
• Cloud SQL로 텍스트 데이터 가져오기
• 쿼리를 사용하여 초기 데이터 모델 빌드하기

설정 및 요건

실습 시작 버튼을 클릭하기 전에

다음 안내를 확인하세요. 실습에는 시간 제한이 있으며 일시중지할 수 없습니다. 실습 시작을 클릭하면 타이머가 시작됩니다. 이 타이머는 Google Cloud 리소스를 사용할 수 있는 시간이 얼마나 남았는지를 표시합니다.

실무형 실습을 통해 시뮬레이션이나 데모 환경이 아닌 실제 클라우드 환경에서 실습 활동을 진행할 수 있습니다. 실습 시간 동안 Google Cloud에 로그인하고 액세스하는 데 사용할 수 있는 새로운 임시 사용자 인증 정보가 제공됩니다.

이 실습을 완료하려면 다음을 준비해야 합니다.

• 표준 인터넷 브라우저 액세스 권한(Chrome 브라우저 권장)

참고: 이 실습을 실행하려면 시크릿 모드(권장) 또는 시크릿 브라우저 창을 사용하세요. 개인 계정과 학습자 계정 간의 충돌로 개인 계정에 추가 요금이 발생하는 일을 방지해 줍니다.

• 실습을 완료하기에 충분한 시간(실습을 시작하고 나면 일시중지할 수 없음)

참고: 이 실습에는 학습자 계정만 사용하세요. 다른 Google Cloud 계정을 사용하는 경우 해당 계정에 비용이 청구될 수 있습니다.

실습을 시작하고 Google Cloud 콘솔에 로그인하는 방법

1. 실습 시작 버튼을 클릭합니다. 실습 비용을 결제해야 하는 경우 결제 수단을 선택할 수 있는 대화상자가 열립니다. 왼쪽에는 다음과 같은 항목이 포함된 실습 세부정보 창이 있습니다.

   • Google Cloud 콘솔 열기 버튼
   • 남은 시간
   • 이 실습에 사용해야 하는 임시 사용자 인증 정보
   • 필요한 경우 실습 진행을 위한 기타 정보

2. Google Cloud 콘솔 열기를 클릭합니다(Chrome 브라우저를 실행 중인 경우 마우스 오른쪽 버튼으로 클릭하고 시크릿 창에서 링크 열기를 선택합니다).

   실습에서 리소스가 가동되면 다른 탭이 열리고 로그인 페이지가 표시됩니다.

   팁: 두 개의 탭을 각각 별도의 창으로 나란히 정렬하세요.

   참고: 계정 선택 대화상자가 표시되면 다른 계정 사용을 클릭합니다.

3. 필요한 경우 아래의 사용자 이름을 복사하여 로그인 대화상자에 붙여넣습니다.

   {{{user_0.username | "Username"}}}

   실습 세부정보 창에서도 사용자 이름을 확인할 수 있습니다.

4. 다음을 클릭합니다.

5. 아래의 비밀번호를 복사하여 시작하기 대화상자에 붙여넣습니다.

   {{{user_0.password | "Password"}}}

   실습 세부정보 창에서도 비밀번호를 확인할 수 있습니다.

6. 다음을 클릭합니다.

   중요: 실습에서 제공하는 사용자 인증 정보를 사용해야 합니다. Google Cloud 계정 사용자 인증 정보를 사용하지 마세요. 참고: 이 실습에 자신의 Google Cloud 계정을 사용하면 추가 요금이 발생할 수 있습니다.

7. 이후에 표시되는 페이지를 클릭하여 넘깁니다.

   • 이용약관에 동의합니다.
   • 임시 계정이므로 복구 옵션이나 2단계 인증을 추가하지 않습니다.
   • 무료 체험판을 신청하지 않습니다.

잠시 후 Google Cloud 콘솔이 이 탭에서 열립니다.

참고: Google Cloud 제품 및 서비스에 액세스하려면 탐색 메뉴를 클릭하거나 검색창에 제품 또는 서비스 이름을 입력합니다.

Cloud Shell 활성화

Cloud Shell은 다양한 개발 도구가 탑재된 가상 머신으로, 5GB의 영구 홈 디렉터리를 제공하며 Google Cloud에서 실행됩니다. Cloud Shell을 사용하면 명령줄을 통해 Google Cloud 리소스에 액세스할 수 있습니다.

1. Google Cloud 콘솔 상단에서 Cloud Shell 활성화 를 클릭합니다.

2. 다음 창을 클릭합니다.

   • Cloud Shell 정보 창을 통해 계속 진행합니다.
   • 사용자 인증 정보를 사용하여 Google Cloud API를 호출할 수 있도록 Cloud Shell을 승인합니다.

연결되면 사용자 인증이 이미 처리된 것이며 프로젝트가 학습자의 PROJECT_ID, (으)로 설정됩니다. 출력에 이 세션의 PROJECT_ID를 선언하는 줄이 포함됩니다.

Your Cloud Platform project in this session is set to {{{project_0.project_id | "PROJECT_ID"}}}

gcloud는 Google Cloud의 명령줄 도구입니다. Cloud Shell에 사전 설치되어 있으며 명령줄 자동 완성을 지원합니다.

3. (선택사항) 다음 명령어를 사용하여 활성 계정 이름 목록을 표시할 수 있습니다.

gcloud auth list

4. 승인을 클릭합니다.

출력:

ACTIVE: * ACCOUNT: {{{user_0.username | "ACCOUNT"}}} To set the active account, run: $ gcloud config set account `ACCOUNT`

5. (선택사항) 다음 명령어를 사용하여 프로젝트 ID 목록을 표시할 수 있습니다.

gcloud config list project

출력:

[core] project = {{{project_0.project_id | "PROJECT_ID"}}} 참고: gcloud 전체 문서는 Google Cloud에서 gcloud CLI 개요 가이드를 참고하세요.

작업 1. 환경 준비하기

이 실습에서는 O'Reilly Media, Inc.의 Data Science on the Google Cloud Platform, 2nd Edition(구글 클라우드 플랫폼상의 데이터 과학, 제2판) 서적을 위해 개발된 코드 샘플과 스크립트 모음을 사용합니다. 이 실습에서는 3장 'Creating Compelling Dashboards(혁신적인 대시보드 생성)'의 첫 번째 부분에서 다루는 Cloud SQL 구성과 데이터 가져오기 작업을 다룹니다. 2장에서 사용된 샘플 저장소를 GitHub에서 Cloud Shell로 클론하고 거기에서 모든 실습 작업을 수행합니다.

Google Cloud의 데이터 과학 저장소 클론

1. Cloud Shell에서 다음 명령어를 입력하여 저장소를 클론합니다.

git clone \ https://github.com/GoogleCloudPlatform/data-science-on-gcp/

2. 저장소 디렉터리로 변경합니다.

cd data-science-on-gcp/03_sqlstudio

3. 향후 실습에서 사용할 프로젝트 ID 환경 변수와 데이터를 저장할 스토리지 버킷을 생성합니다.

export PROJECT_ID=$(gcloud info --format='value(config.project)') export BUCKET=${PROJECT_ID}-ml

4. 다음 명령어를 입력하여 파일을 Cloud Storage 버킷에 스테이징합니다.

gsutil cp create_table.sql \ gs://$BUCKET/create_table.sql

작업 2. Cloud SQL 인스턴스 만들기

1. 다음 명령어를 입력하여 Cloud SQL 인스턴스를 생성합니다.

gcloud sql instances create flights \ --database-version=POSTGRES_13 --cpu=2 --memory=8GiB \ --region={{{project_0.default_region | "REGION"}}} --root-password=Passw0rd

이 명령어는 완료되는 데 몇 분 정도 걸립니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. Cloud SQL 인스턴스를 만들었다면 평가 점수가 표시됩니다.

Cloud SQL 인스턴스를 만듭니다.

2. Cloud Shell IP 주소로 환경 변수를 만듭니다.

export ADDRESS=$(curl -s http://ipecho.net/plain)/32

3. Cloud Shell 인스턴스가 SQL 인스턴스에 대한 관리 액세스 권한을 갖도록 허용 목록에 추가합니다.

gcloud sql instances patch flights --authorized-networks $ADDRESS

4. 메시지가 표시되면 Y를 눌러 변경 사항을 수락합니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. Cloud Shell이 SQL 인스턴스에 액세스할 수 있도록 허용 목록에 추가했다면 평가 점수가 표시됩니다.

Cloud Shell 인스턴스가 SQL 인스턴스에 액세스할 수 있도록 허용 목록에 추가합니다.

데이터베이스 및 테이블 만들기

Postgres 테이블로 데이터를 가져오려면 먼저 빈 데이터베이스와 올바른 스키마를 가진 테이블을 만듭니다.

1. Cloud 콘솔의 탐색 메뉴()에서 SQL을 클릭합니다.

2. 인스턴스의 개요 페이지를 열려면 인스턴스 이름(flights)을 클릭합니다.

3. 왼쪽의 SQL 탐색 메뉴에서 데이터베이스를 선택합니다.

4. 데이터베이스 만들기를 클릭합니다.

5. 새 데이터베이스 대화상자에서 데이터베이스 이름을 bts로 지정합니다.

6. 만들기를 클릭합니다.

7. 인스턴스의 개요 페이지를 열려면 SQL 탐색 메뉴에서 개요를 선택합니다.

8. 상단에서 가져오기를 클릭합니다.

9. Cloud Storage 파일 필드에서 찾아보기를 클릭합니다.

10. 버킷 섹션에서 버킷 이름 반대쪽에 있는 화살표를 클릭합니다.

11. create_table.sql 파일을 선택합니다.

12. 선택을 클릭합니다.

13. 파일 형식 섹션에서 SQL을 선택합니다.

14. Cloud SQL 인스턴스에서 데이터베이스 bts를 지정합니다.

15. 가져오기를 클릭하여 가져오기를 시작합니다.

몇 초 후 빈 테이블이 생성됩니다.

완료된 작업 테스트하기

내 진행 상황 확인하기를 클릭하여 실행한 작업을 확인합니다. create_table.sql 파일을 사용하여 bts 데이터베이스와 flights 테이블을 성공적으로 생성했다면 평가 점수가 표시됩니다.

create_table.sql 파일을 사용하여 bts 데이터베이스와 flights 테이블을 생성합니다.

작업 3. Cloud SQL 인스턴스에 데이터 추가하기

빈 데이터베이스와 테이블을 만들었으니 이제 CSV 파일을 이 테이블에 로드합니다. 버킷에서 201501.csv를 탐색하고 형식을 CSV로, 데이터베이스를 bts로, 테이블을 flights로 지정하여 1월 데이터를 로드합니다.

1. Cloud SQL 인스턴스 페이지에서 가져오기를 클릭합니다.

2. Cloud Storage 파일 필드에서 찾아보기를 클릭한 다음 버킷 이름 반대쪽에 있는 화살표를 클릭하고 201501.csv를 클릭합니다.

3. 선택을 클릭합니다.

4. 파일 형식으로 CSV를 선택합니다.

5. bts 데이터베이스를 선택하고 테이블로 flights를 입력합니다.

6. 가져오기를 클릭합니다.

작업 4. 데이터베이스와 상호작용하기

1. Cloud Shell에서 다음을 사용하여 Cloud SQL 인스턴스에 연결합니다.

gcloud sql connect flights --user=postgres

2. 비밀번호를 입력하라는 메시지가 표시되면 Passw0rd를 입력합니다. 입력할 때 글자가 표시되지 않을 수 있습니다.

3. 표시되는 메시지에서 bts 데이터베이스에 연결합니다.

\c bts;

4. 비밀번호를 입력하라는 메시지가 표시되면 Passw0rd를 입력합니다.

5. 그런 다음 쿼리를 실행하여 가장 붐비는 공항 5곳을 가져옵니다.

SELECT "Origin", COUNT(*) AS num_flights FROM flights GROUP BY "Origin" ORDER BY num_flights DESC LIMIT 5;

이 쿼리는 데이터 세트가 비교적 작기 때문에(1월 데이터만 포함) 성능이 좋지만, 월별 데이터를 추가할수록 데이터베이스 속도가 느려집니다.

관계형 데이터베이스는 데이터의 작은 하위 집합을 반환하는 임시 쿼리를 수행하는 비교적 작은 데이터 세트에 적합합니다. 더 큰 데이터 세트의 경우 관심 있는 열에 색인을 생성하여 관계형 데이터베이스의 성능을 조정합니다. 또한 관계형 데이터베이스는 일반적으로 트랜잭션을 지원하고 strong consistency를 보장하므로 자주 업데이트되는 데이터에 적합합니다.

그러나 다음과 같은 경우에는 관계형 데이터베이스가 적합하지 않습니다.

• 데이터가 주로 읽기 전용인 경우
• 데이터 세트 크기가 테라바이트 범위에 달하는 경우
• 전체 테이블을 스캔해야 하는 경우(예: 열의 최댓값 계산) 또는 데이터가 빠른 속도로 스트리밍되는 경우

항공편 지연 사용 사례가 여기에 해당합니다. 이 경우 관계형 데이터베이스에서 분석 데이터 웨어하우스인 BigQuery로 전환하는 것이 좋습니다. 분석 데이터 웨어하우스를 사용하면 SQL을 사용할 수 있으며 대규모 데이터 세트와 임시 쿼리를 훨씬 더 잘 처리할 수 있습니다(즉, 열에 색인을 생성할 필요가 없음).

수고하셨습니다.

이제 테이블을 만들고 Cloud Storage에 저장된 텍스트 데이터를 Cloud SQL로 가져오는 방법을 학습하셨습니다.

다음 단계/더 학습하기

다음은 몇 가지 후속 단계입니다.

• Data Science on the Google Cloud Platform, 2nd Edition(구글 클라우드 플랫폼상의 데이터 과학, 제2판): O'Reilly Media, Inc.

Google Cloud 교육 및 자격증

Google Cloud 기술을 최대한 활용하는 데 도움이 됩니다. Google 강의에는 빠른 습득과 지속적인 학습을 지원하는 기술적인 지식과 권장사항이 포함되어 있습니다. 기초에서 고급까지 수준별 학습을 제공하며 바쁜 일정에 알맞은 주문형, 실시간, 가상 옵션이 포함되어 있습니다. 인증은 Google Cloud 기술에 대한 역량과 전문성을 검증하고 입증하는 데 도움이 됩니다.

설명서 최종 업데이트: 2024년 7월 9일

실습 최종 테스트: 2024년 7월 16일

Copyright 2025 Google LLC. All rights reserved. Google 및 Google 로고는 Google LLC의 상표입니다. 기타 모든 회사명 및 제품명은 해당 업체의 상표일 수 있습니다.