home

หน้าแรก
 Computer >> คอมพิวเตอร์ >  >> การเขียนโปรแกรม >> Python

วิธีใช้ Boto3 เพื่อแบ่งหน้าผ่านเวอร์ชันอ็อบเจ็กต์ของบัคเก็ต S3 ที่มีอยู่ใน AWS Glue

คำชี้แจงปัญหา: ใช้ boto3 ไลบรารีใน Python เพื่อแบ่งหน้าผ่านเวอร์ชันอ็อบเจ็กต์ของบัคเก็ต S3 จาก AWS Glue Data Catalog ที่สร้างขึ้นในบัญชีของคุณ

แนวทาง/อัลกอริทึมในการแก้ปัญหานี้

  • ขั้นตอนที่ 1: นำเข้า boto3 และ botcore ข้อยกเว้นในการจัดการข้อยกเว้น

  • ขั้นตอนที่ 2: max_items , page_size และ starting_token เป็นพารามิเตอร์ทางเลือกสำหรับฟังก์ชันนี้ ขณะที่ bucket_name เป็นพารามิเตอร์ที่จำเป็น

    • max_items หมายถึงจำนวนระเบียนที่จะส่งคืนทั้งหมด หากจำนวนระเบียนที่มีอยู่> max_items แล้วก็ NextToken จะถูกจัดเตรียมในการตอบสนองต่อการแบ่งหน้าต่อ

    • page_size หมายถึงขนาดของแต่ละหน้า

    • starting_token ช่วยในการแบ่งหน้า และใช้ NextKeyMarker จากการตอบกลับครั้งก่อน

  • ขั้นตอนที่ 3: สร้างเซสชัน AWS โดยใช้ boto3 lib . ตรวจสอบให้แน่ใจว่า region_name ถูกกล่าวถึงในโปรไฟล์เริ่มต้น หากไม่กล่าวถึง ให้ส่ง region_name . อย่างชัดแจ้ง ขณะสร้างเซสชัน

  • ขั้นตอนที่ 4: สร้างไคลเอ็นต์ AWS สำหรับ S3

  • ขั้นตอนที่ 5: สร้าง ตัวแบ่งหน้า ออบเจ็กต์ที่มีรายละเอียดของเวอร์ชันออบเจ็กต์ของบัคเก็ต S3 โดยใช้ list_object_versions .

  • ขั้นตอนที่ 5: เรียก แบ่งหน้า และส่งผ่าน max_items , page_size และ starting_token เป็น PaginationConfig พารามิเตอร์ ในขณะที่ bucket_name เป็นพารามิเตอร์ Bucket

  • ขั้นตอนที่ 6: ส่งกลับจำนวนระเบียนตาม max_size และ page_size .

  • ขั้นตอนที่ 7: จัดการกับข้อยกเว้นทั่วไปหากมีสิ่งผิดปกติเกิดขึ้นขณะทำการแบ่งหน้า

โค้ดตัวอย่าง

ใช้รหัสต่อไปนี้เพื่อแบ่งหน้าผ่านเวอร์ชันวัตถุของถัง S3 ที่สร้างขึ้นในบัญชีผู้ใช้ -

import boto3
from botocore.exceptions import ClientError

def paginate_through_object_version_s3_bucket(bucket_name, max_items=None:int,page_size=None:int, starting_token=None:string):
   session = boto3.session.Session()
   s3_client = session.client('s3')
   try:
   paginator = s3_client.get_paginator('list_object_versions')
      response = paginator.paginate(Bucket=bucket_name, PaginationConfig={
         'MaxItems':max_items,
         'PageSize':page_size,
         'StartingToken':starting_token}
       )
   return response
   except ClientError as e:
      raise Exception("boto3 client error in paginate_through_object_version_s3_bucket: " + e.__str__())
   except Exception as e:
      raise Exception("Unexpected error in paginate_through_object_version_s3_bucket: " + e.__str__())

#1st Run
a = paginate_through_object_version_s3_bucket('s3-test-bucket',2,5)
print(*a)
#2nd Run
for items in a:
next_token = (items['NextKeyMarker'])
b = paginate_through_object_version_s3_bucket('s3-test-bucket',2,5,next_token)
print(*b)

ผลลัพธ์

#1st Run
{'ResponseMetadata': {'RequestId': 'XEVY**************CD0', 'HostId': **************', 'HTTPStatusCode': 200, 'HTTPHeaders': {'x-amz-id-2': *******************', 'x-amz-request-id': 'XEVYV***************', 'date': 'Sat, 03 Apr 2021 07:14:49 GMT', 'content-type': 'application/xml', 'transfer-encoding': 'chunked', 'server': 'AmazonS3'}, 'RetryAttempts': 0}, 'IsTruncated': True, 'KeyMarker': '', 'VersionIdMarker': '', 'NextKeyMarker': 'analytics-s3/template.json', 'NextVersionIdMarker': 'null',
'Versions': [{'ETag': '"e66659e02"', 'Size': 1554, 'StorageClass': 'STANDARD', 'Key': 'analytics-s3i/param.json', 'VersionId': 'null', 'IsLatest': True, 'LastModified': datetime.datetime(2020, 10, 29, 19, 50, 55, tzinfo=tzutc()), 'Owner': {'DisplayName': 'AWS.Development', 'ID': '928b5bd**************3d70'}},
{'ETag': '"22a4bf7**************9c1ed2612"', 'Size': 1756, 'StorageClass': 'STANDARD', 'Key': 'analytics-s3i/params.json', 'VersionId': 'null', 'IsLatest': True, 'LastModified': datetime.datetime(2021, 3, 10, 20, 10, 47, tzinfo=tzutc()), 'Owner': {'DisplayName': 'AWS.Development', 'ID': '928b5bde*****************2d4423d70'}}],
'Name': 's3-test-bucket', 'Prefix': '', 'MaxKeys': 5, 'EncodingType': 'url', 'DeleteMarkers': None, 'CommonPrefixes': None}

#2nd Run
{'ResponseMetadata': {'RequestId': '3V9*********703V', 'HostId': ****************', 'HTTPStatusCode': 200, 'HTTPHeaders': {'x-amz-id-2': '************************', 'x-amz-request-id': '3V9****************V', 'date': 'Sat, 03 Apr 2021 07:18:56 GMT', 'content-type': 'application/xml', 'transfer-encoding': 'chunked', 'server': 'AmazonS3'}, 'RetryAttempts': 0},
'IsTruncated': True, 'KeyMarker': analytics-s3i2/template.json', 'VersionIdMarker': '', 'NextKeyMarker': 'analytics-s3l/params.json', 'NextVersionIdMarker': 'null', 'Versions':
[{'ETag': '"dbd336ff00cb5af3d"', 'Size': 1557, 'StorageClass': 'STANDARD', 'Key': 'analytics-s3i3/param.json', 'VersionId': 'null', 'IsLatest': True, 'LastModified': datetime.datetime(2020, 10, 28, 18, 16, 38, tzinfo=tzutc()), 'Owner': {'DisplayName': 'AWS.Development', 'ID': '*****************'}},
{'ETag': '"66b49598df6"', 'Size': 21334, 'StorageClass': 'STANDARD', 'Key': 'analytics-s3i3/template.json', 'VersionId': 'null', 'IsLatest': True, 'LastModified': datetime.datetime(2020, 10, 28, 18, 16, 38, tzinfo=tzutc()), 'Owner': {'DisplayName': 'AWS.Development', 'ID': '****************'}}],
'Name': 's3-test-bucket', 'Prefix': '', 'MaxKeys': 5, 'EncodingType': 'url', 'DeleteMarkers': None, 'CommonPrefixes': None}