Backpropagation กำหนดกระบวนการทั้งหมดที่ครอบคลุมทั้งการคำนวณการไล่ระดับสีและความจำเป็นในการโคตรเกรเดียนต์สุ่ม ในทางเทคนิคแล้ว Backpropagation ใช้เพื่อคำนวณความลาดชันของข้อผิดพลาดของเครือข่ายที่เกี่ยวข้องกับน้ำหนักที่ปรับเปลี่ยนได้ของเครือข่าย
ลักษณะของ Backpropagation คือวิธีการแบบวนซ้ำ แบบเรียกซ้ำ และมีประสิทธิภาพ โดยจะคำนวณน้ำหนักที่อัปเดตเพื่อเพิ่มเครือข่ายจนกว่าจะไม่สามารถใช้บริการที่ได้รับการฝึกอบรมได้ Backpropagation จำเป็นต้องมีอนุพันธ์ของบริการการเปิดใช้งานที่จะทราบในเวลาออกแบบเครือข่าย
Backpropagation ใช้กันอย่างแพร่หลายในการฝึกอบรมโครงข่ายประสาทเทียม และคำนวณฟังก์ชันการสูญเสียสำหรับน้ำหนักของเครือข่าย บริการที่มีโครงข่ายประสาทหลายชั้นและค้นพบคำอธิบายภายในของการแมปอินพุต-เอาท์พุต
เป็นรูปแบบมาตรฐานของการฝึกอบรมเครือข่ายเทียม ซึ่งสนับสนุนฟังก์ชันการสูญเสียการไล่ระดับสีในการคำนวณที่เกี่ยวข้องกับน้ำหนักทั้งหมดในเครือข่าย อัลกอริธึม backpropagation ใช้เพื่อฝึกโครงข่ายประสาทเทียมอย่างมีประสิทธิภาพมากขึ้นโดยใช้วิธีกฎลูกโซ่
การไล่ระดับสีนี้ใช้ในอัลกอริธึมการไล่ระดับสีสุ่มสุ่มแบบง่ายเพื่อค้นหาน้ำหนักที่ลดข้อผิดพลาดให้เหลือน้อยที่สุด ข้อผิดพลาดแพร่กระจายย้อนกลับจากโหนดเอาต์พุตไปยังโหนดภายใน
อัลกอริธึมการฝึกอบรม backpropagation ประกอบด้วยสี่ขั้นตอนดังต่อไปนี้ −
-
การเริ่มต้นของตุ้มน้ำหนัก − มีค่าสุ่มจำนวนเล็กน้อยถูกกำหนดไว้
-
ฟีดไปข้างหน้า − แต่ละหน่วย X รับสัญญาณอินพุตและส่งสัญญาณนี้ไปยังแต่ละหน่วยที่ซ่อนอยู่ Z1 , Z2 ,... Zn . แต่ละยูนิตที่ซ่อนอยู่จะคำนวณฟังก์ชันการเปิดใช้งานและส่งสัญญาณ Z1 ไปยังแต่ละหน่วยส่งออก หน่วยเอาต์พุตจะคำนวณฟังก์ชันการเปิดใช้งานเพื่อสร้างการตอบสนองของรูปแบบอินพุตที่กำหนด
-
การย้อนกลับของข้อผิดพลาด − แต่ละหน่วยเอาท์พุตเปรียบเทียบการเปิดใช้งาน Yk ด้วยค่าเป้าหมาย Tk เพื่อกำหนดข้อผิดพลาดที่เกี่ยวข้องสำหรับหน่วยนั้น มันขึ้นอยู่กับข้อผิดพลาดปัจจัย $\delta$k (K =1, ... . m) ถูกคำนวณและใช้เพื่อกระจายข้อผิดพลาดที่หน่วยเอาต์พุต Yk กลับไปที่ทุกหน่วยในเลเยอร์ก่อนหน้า ในทำนองเดียวกันปัจจัย $\delta$j (j =1, ... . p) ถูกเปรียบเทียบสำหรับแต่ละหน่วยที่ซ่อนอยู่ Zj .
-
สามารถอัปเดตน้ำหนักและอคติได้
ประเภทของการขยายพันธุ์ด้านหลัง
Backpropagation มีสองประเภทดังต่อไปนี้ -
การขยายพันธุ์หลังแบบคงที่ − ใน backpropagation ประเภทนี้ เอาต์พุตคงที่ถูกสร้างขึ้นเนื่องจากการแมปของอินพุตสแตติก ใช้เพื่อแก้ไขปัญหาการจัดประเภทแบบคงที่ เช่น การรู้จำอักขระด้วยแสง
การแพร่กระจายกลับเป็นซ้ำ − การขยายพันธุ์แบบกำเริบจะมุ่งไปข้างหน้าหรือชี้นำจนกว่าจะได้ค่าที่กำหนดหรือค่าขีดจำกัดที่เฉพาะเจาะจง หลังจากค่าที่กำหนดแล้ว ข้อผิดพลาดจะได้รับการประเมินและเผยแพร่ย้อนกลับ
