Computer >> คอมพิวเตอร์ >  >> การเขียนโปรแกรม >> Python

วิธีใช้ Boto3 เพื่ออัปเดตตัวกำหนดเวลาของโปรแกรมรวบรวมข้อมูลใน AWS Glue Data Catalog


ในบทความนี้ เราจะมาดูวิธีอัปเดตตัวกำหนดเวลาของโปรแกรมรวบรวมข้อมูลที่มีอยู่ในบัญชี AWS

ตัวอย่าง

คำชี้แจงปัญหา: ใช้ boto3 ไลบรารีใน Python เพื่ออัปเดตตัวกำหนดเวลาของโปรแกรมรวบรวมข้อมูล

แนวทาง/อัลกอริทึมในการแก้ปัญหานี้

  • ขั้นตอนที่ 1: นำเข้า boto3 และ botcore ข้อยกเว้นในการจัดการข้อยกเว้น

  • ขั้นตอนที่ 2: crawler_name และ กำหนดการ เป็นพารามิเตอร์ที่จำเป็นในฟังก์ชันนี้

  • รูปแบบของ กำหนดการ ควรเป็น cron(cron_expression) Cron_Expression สามารถเขียนเป็น (15 12 * * ? *) เช่น โปรแกรมรวบรวมข้อมูลจะทำงานทุกวันเวลา 12:15UTC

  • ขั้นตอนที่ 3: สร้างเซสชัน AWS โดยใช้ boto3 lib . ตรวจสอบให้แน่ใจว่า region_name ถูกกล่าวถึงในโปรไฟล์เริ่มต้น หากไม่กล่าวถึง ให้ส่ง region_name . อย่างชัดแจ้ง ขณะสร้างเซสชัน

  • ขั้นตอนที่ 4: สร้างไคลเอ็นต์ AWS สำหรับ กาว .

  • ขั้นตอนที่ 5: ตอนนี้ใช้ update_crawler_schedule และส่งผ่านพารามิเตอร์ crawler_name เป็น CrawlerName และ ตัวกำหนดตารางเวลา ตามกำหนดการ

  • ขั้นตอนที่ 6: ส่งคืนข้อมูลเมตาการตอบกลับและอัปเดตสถานะกำหนดการของโปรแกรมรวบรวมข้อมูล

  • ขั้นตอนที่ 7: จัดการกับข้อยกเว้นทั่วไปหากมีข้อผิดพลาดขณะอัปเดตตัวกำหนดเวลาของโปรแกรมรวบรวมข้อมูล

โค้ดตัวอย่าง

รหัสต่อไปนี้จะอัปเดตตัวกำหนดเวลาของโปรแกรมรวบรวมข้อมูล -

import boto3
from botocore.exceptions import ClientError

def update_scheduler_of_a_crawler(crawler_name, scheduler)
   session = boto3.session.Session()
   glue_client = session.client('glue')
   try:
      response = glue_client.update_crawler_schedule(CrawlerName=crawler_name,       Schedule=scheduler)
      return response
   except ClientError as e:
      raise Exception("boto3 client error in update_scheduler_of_a_crawler: " + e.__str__())
   except Exception as e:
      raise Exception("Unexpected error in update_scheduler_of_a_crawler: " + e.__str__())
print(update_scheduler_of_a_crawler("Data Dimension","cron(15 12 * * ? *)"))

ผลลัพธ์

{'ResponseMetadata': {'RequestId': '73e50130-*****************8e', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Sun, 28 Mar 2021 07:26:55 GMT', 'content-type': 'application/x-amz-json-1.1', 'content-length': '2', 'connection': 'keep-alive', 'x-amzn-requestid': '73e50130-***************8e'}, 'RetryAttempts': 0}}