home

หน้าแรก
 Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> การเขียนโปรแกรม >> Python

วิธีใช้ Boto3 ดึงรายละเอียด Glue Job หลายตัวพร้อมกัน

ในบทความนี้ เราจะดูวิธีดึง Resource Metadata สำหรับรายการ Job Names ที่กำหนด

ข้อกำหนดปัญหา

ใช้ไลบรารี Boto3 ใน Python เพื่อดึง Job ที่มีอยู่ในบัญชีของคุณ เช่น ดึงรายละเอียด Job ที่มีอยู่ในบัญชีของคุณ

ขั้นตอนการแก้ปัญหา

  1. ขั้นตอนที่ 1 – นำเข้า boto3 และ botocore.exceptions เพื่อจัดการข้อยกเว้น
  2. ขั้นตอนที่ 2 – ไม่ต้องมีพารามิเตอร์ ฟังก์ชันจะดึง Job ทั้งหมดที่รายการในบัญชีผู้ใช้และแสดง Metadata ของแต่ละ Job
  3. ขั้นตอนที่ 3 – สร้าง AWS Session ด้วย Boto3 ตรวจสอบ region_name ในโปรไฟล์เริ่มต้น หากไม่มี ให้ระบุโดยตรง
  4. ขั้นตอนที่ 4 – สร้าง AWS Client สำหรับ Glue
  5. ขั้นตอนที่ 5 – ใช้ฟังก์ชัน list_jobs เพื่อดึง Job ทั้งหมดที่รายการในบัญชีผู้ใช้
  6. ขั้นตอนที่ 6 – เรียก batch_get_jobs และส่งชื่อ Job ที่ได้จากฟังก์ชันก่อนหน้า
  7. ขั้นตอนที่ 7 – คืนค่า list_of_jobs และ Metadata ของแต่ละ Job
  8. ขั้นตอนที่ 8 – จัดการข้อยกเว้นทั่วไปหากเกิดข้อผิดพลาด

ตัวอย่างโค้ด

ใช้โค้ดต่อไปนี้เพื่อดึงรายละเอียดของแต่ละ Job ที่รายการในบัญชีผู้ใช้:

import boto3
from botocore.exceptions import ClientError

def get_resource_metadata_of_glue_jobs():
    session = boto3.session.Session()
    glue_client = session.client('glue')
    try:
        list_of_jobs = glue_client.list_jobs()
        response = glue_client.batch_get_jobs(JobNames=list_of_jobs['JobNames'])
        return list_of_jobs, response
    except ClientError as e:
        raise Exception("boto3 client error in get_resource_metadata_of_glue_jobs: " + e.__str__())
    except Exception as e:
        raise Exception("Unexpected error in get_resource_metadata_of_glue_jobs: " + e.__str__())

a, b = get_resource_metadata_of_glue_jobs()
# List of Jobs
print(a)
# Resource metadata of each job
print(b)

ผลลัพธ์

# List of Jobs
{'JobNames': ['01_PythonShellTest1', '01_pythonSHELL_14012021'], 'NextToken': 'eyJleHBpcmF0aW9uIjp7InNlY29uZHMiOjE2MTQxNzE2OTksIm5hbm9zIjo1MTYwMDAwMDB9LCJsYXN0RXZhbHVhdGlvbiI6IjMwMzcwMTM0ZjQ5NzVjNzNjMjI4Y2E5OTA4M2UwN2I0NGVhMjk2ZSJ9fX0=', 'ResponseMetadata': {'RequestId': '5d3eb19a-41f5-b24e-2d59ed9664b5', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Tue, 23 Feb 2021 13:01:39 GMT', 'content-type': 'application/x-amz-json-1.1', 'contentlength': '1134', 'connection': 'keep-alive', 'x-amzn-requestid': '5d3eb19a-41f5-b24e-2d59ed9664b5'}, 'RetryAttempts': 0}}

# Resource metadata of each job
{'Jobs': [{'Name': '01_PythonShellTest1', 'Role': 'arn:aws:iam::1234:role/dev-edl-glue-role', 'CreatedOn': datetime.datetime(2021, 1, 6, 19, 59, 19, 387000, tzinfo=tzlocal()), 'LastModifiedOn': datetime.datetime(2021, 2, 9, 21, 47, 31, 614000, tzinfo=tzlocal()), 'ExecutionProperty': {'MaxConcurrentRuns': 1}, 'Command': {'Name': 'pythonshell', 'ScriptLocation': 's3://test/01_pythonShellTest/test1/01_PythonShellTest1.py', 'PythonVersion': '3'}, 'DefaultArguments': {'--job-bookmark-option': 'job-bookmark-disable', '--job-language': 'python'}, 'MaxRetries': 0, 'AllocatedCapacity': 0, 'Timeout': 2880, 'MaxCapacity': 0.0625, 'GlueVersion': '1.0'}, {'Name': '01_pythonSHELL_14012021', 'Role': 'arn:aws:iam::1234:role/devedl-glue-role', 'CreatedOn': datetime.datetime(2021, 1, 14, 20, 22, 40, 965000, tzinfo=tzlocal()), 'LastModifiedOn': datetime.datetime(2021, 1, 14, 20, 22, 40, 965000, tzinfo=tzlocal()), 'ExecutionProperty': {'MaxConcurrentRuns': 1}, 'Command': {'Name': 'pythonshell', 'ScriptLocation': 's3://test/01_pythonSHELL_14012021_123.py', 'PythonVersion': '3'}, 'DefaultArguments': {'--job-bookmark-option': 'job-bookmark-disable'}, 'MaxRetries': 0, 'AllocatedCapacity': 0, 'Timeout': 2880, 'MaxCapacity': 0.0625, 'GlueVersion': '1.0'}]}