Computer >> บทช่วยสอนคอมพิวเตอร์ >  >> การเขียนโปรแกรม >> Python

วิธีตั้งค่าชุดข้อมูล (Configure Dataset) StackOverflow ด้วย TensorFlow ใน Python

บทนำ

TensorFlow ใช้ tf.data API เพื่อสร้าง Input Pipeline ที่มีประสิทธิภาพ สำคัญสำหรับการเทรนโมเดลขนาดใหญ่

การติดตั้ง

pip install tensorflow

ตัวอย่างโค้ด

AUTOTUNE = tf.data.experimental.AUTOTUNE

def configure_dataset(dataset):
    return dataset.cache().prefetch(buffer_size=AUTOTUNE)

binary_train_ds = configure_dataset(binary_train_ds)
binary_val_ds = configure_dataset(binary_val_ds)
binary_test_ds = configure_dataset(binary_test_ds)
int_train_ds = configure_dataset(int_train_ds)
int_val_ds = configure_dataset(int_val_ds)
int_test_ds = configure_dataset(int_test_ds)

คำอธิบาย

  • cache(): เก็บข้อมูลในหน่วยความจำหลังโหลดครั้งแรก ลด I/O ซ้ำ

  • prefetch(): โหลดข้อมูล batch ถัดไปพร้อมกับการเทรน batch ปัจจุบัน (Overlap)

  • AUTOTUNE: ให้ TensorFlow ปรับ buffer size อัตโนมัติ