เครือข่ายประสาทเทียม (Artificial Neural Network) เป็นระบบที่พัฒนาจากฟังก์ชันของเครือข่ายประสาทชีวภาพ เป็นการจำลองของระบบประสาทชีวภาพ ลักษณะเฉพาะของเครือข่ายประสาทเทียมคือมีโครงสร้างหลายโครงสร้าง ซึ่งต้องการวิธีอัลกอริทึมหลายวิธี แต่ไม่ว่าจะเป็นระบบซับซ้อน เครือข่ายประสาทก็ง่าย
เครือข่ายเหล่านี้อยู่ระหว่างวิทยาการประมวลผลสัญญาณเฉพาะในกล่องเครื่องมือของผู้จัดการ พื้นที่เป็น interdisciplinary มาก แต่แนวทางนี้จะจำกัดมุมมองไปที่มุมมองวิศวกรรม
ในวิศวกรรม เครือข่ายประสาทผลิตสองฟังก์ชันสำคัญคือตัวแบ่งประเภทรูปแบบ (Pattern Classifiers) และตัวกรองปรับตัวเชิงไม่เส้น (Non-linear Adaptive Filters) เครือข่ายประสาทเทียมเป็น dynamic (ไดนามิก) มันให้ระบบเชิงไม่เส้นที่เรียนรู้ที่จะดำเนินการฟังก์ชัน (แผนที่อินพุท/เอาต์พุท) จากข้อมูล Adaptive หมายถึงพารามิเตอร์ระบบถูกเปลี่ยนแปลงระหว่างการดำเนินการ บ่อยครั้งเรียกว่าขั้นตอนการฝึกอบรม (Training Phase)
หลังขั้นตอนการฝึกอบรม พารามิเตอร์เครือข่ายประสาทเทียมถูกกำหนดคงที่ และระบบเริ่มแก้ปัญหาที่มีอยู่ (ขั้นตอนการทดสอบ - Testing Phase) เครือข่ายประสาทเทียมถูกสร้างด้วยขั้นตอนขั้นตอนเป็นระบบ (Systematic Step-by-step Procedure) เพื่อปรับปรุงการทดสอบประสิทธิภาพ หรือปฏิบัติตามข้อจำกัดภายในบางอย่างที่ชัดเจน ซึ่งโดยทั่วไปอธิบายเป็นกฎการเรียนรู้ (Learning Rule)
ปัญหาการออกแบบที่ต้องพิจารณา
จำนวนโหนดในชั้นป้อนเข้า (Input Layer) ต้องตัดสินใจ สามารถสร้างโหนดป้อนเข้าสำหรับตัวแปรอินพุททางคณิตศาสตร์หรือไบนารีแต่ละตัว หากตัวแปรอินพุทเป็นหมวดหมู่ (Categorical) สามารถสร้างหนึ่งโหนดสำหรับแต่ละค่าหมวดหมู่ หรือเข้ารหัสตัวแปร k-ary โดยใช้ [log2k] โหนดป้อนเข้า
จำนวนโหนดในชั้นเอาต์พุท (Output Layer) ต้องสร้าง สำหรับปัญหาสองคลาส (Two-class Problem) เพียงพอที่จะใช้โหนดเอาต์พุทเดี่ยว สำหรับปัญหา k-คลาส มี k โหนดเอาต์พุท
โทโพโลยีเครือข่าย (Network Topology) เช่น จำนวนชั้นซ่อน (Hidden Layers) และโหนดซ่อน (Hidden Nodes) และโครงสร้าง feed-forward หรือ recurrent network ควรเลือก คำอธิบายฟังก์ชันเป้าหมาย (Target Function) ขึ้นอยู่กับน้ำหนักของการเชื่อมต่อ จำนวนโหนดซ่อนและชั้นซ่อน บายัส (Biases) ในโหนด และประเภทของฟังก์ชันการกระตุ้น (Activation Function) การค้นหาโทโพโลยีที่เหมาะสมไม่ใช่งานง่าย
วิธีหนึ่งคือเริ่มจากเครือข่ายเชื่อมต่อเต็มที่ (Fully Connected Network) ที่มีจำนวนโหนดและชั้นซ่อนเพียงพอมากพอ แล้วทำซ้ำโครงสร้างการสร้างโมเดลด้วยจำนวนโหนดน้อยลง วิธีนี้อาจปานกลาง หรือทางเลือกแทน แทนที่จะทำซ้ำโครงสร้างการสร้างโมเดล สามารถลบโหนดบางส่วนและทำซ้ำกระบวนการประเมินโมเดลเพื่อเลือกความซับซ้อนของโมเดลที่เหมาะสม
น้ำหนัก (Weights) และบายัส (Biases) ควรเริ่มต้นการกำหนดค่า (Initialized) การกำหนดแบบสุ่ม (Random Assignments) โดยทั่วไปเพียงพอ
อินสแตนซ์ฝึกอบรมที่มีค่าขาดหาย (Missing Values) ต้องถูกลบหรือเติมค่าด้วยค่าที่มีความน่าจะเป็นสูงสุด
ทำความเข้าใจ ANN Design Issues: จำนวน Input Nodes (Numeric/Binary/Categorical), Output Nodes (2-class vs k-class), Network Topology (Hidden Layers/Nodes, Feed-forward/Recurrent), Weight Initialization, Missing Value Handling
