ความแตกต่างระหว่าง AIC และ BIC ความแตกต่างระหว่าง

Anonim

AIC และ BIC จะใช้กันอย่างแพร่หลายในเกณฑ์การคัดเลือกแบบจำลอง AIC หมายถึงเกณฑ์การให้ข้อมูลของ Akaike และ BIC หมายถึงเกณฑ์ข้อมูลเบย์ไซ (Bayesian Information Criteria) แม้ว่าทั้งสองคำนี้จะเลือกรูปแบบ แต่ก็ไม่เหมือนกัน อาจพบความแตกต่างระหว่างสองแนวทางในการเลือกแบบจำลอง

เกณฑ์ข้อมูลของ Akaike ก่อตั้งขึ้นในปีพ. ศ. 2516 และเกณฑ์ข้อมูลเบส์ในปี 2521 Hirotsugu Akaike ได้พัฒนาเกณฑ์ข้อมูลของ Akaike ในขณะที่ Gideon E. Schwarz ได้พัฒนาเกณฑ์ข้อมูล Bayesian

AIC สามารถเรียกได้ว่าเป็นตัวบ่งชี้ถึงความสมบูรณ์แบบของแบบจำลองทางสถิติใด ๆ ที่ประมาณไว้ BIC เป็นประเภทของการเลือกแบบจำลองในกลุ่มของโมเดลพาราเมตริกที่มีพารามิเตอร์ต่างกัน

เมื่อเปรียบเทียบเกณฑ์ข้อมูลข่าวสารของ Bayesian กับเกณฑ์ข้อมูลของ Akaike การลงโทษสำหรับพารามิเตอร์เพิ่มเติมจะมากกว่า BIC มากกว่า AIC แตกต่างจาก AIC, BIC penalizes พารามิเตอร์ฟรีมากขึ้นอย่างมาก

เกณฑ์ข้อมูลของ Akaike มักพยายามค้นหาโมเดลที่ไม่รู้จักซึ่งมีความเป็นจริงในมิติสูง ซึ่งหมายความว่าโมเดลไม่ใช่โมเดลที่แท้จริงใน AIC ในทางกลับกันเกณฑ์ข้อมูลข้อมูล Bayesian พบเฉพาะโมเดล True เท่านั้น นอกจากนี้ยังสามารถกล่าวได้ว่าเกณฑ์ข้อมูลเบย์เจี้ยนมีความสอดคล้องกันในขณะที่เกณฑ์ข้อมูลข่าวสารของอาคากิไม่เป็นเช่นนั้น

เมื่อเกณฑ์ข้อมูลของ Akaike จะแสดงถึงอันตรายที่จะต้องสวมใส่ The Bayesian Information Criteria จะแสดงให้เห็นถึงอันตรายที่จะเกิดขึ้น แม้ว่า BIC จะทนต่อการเปรียบเทียบกับ AIC แต่ก็แสดงให้เห็นถึงความอดทนน้อยลงในจำนวนที่สูงขึ้น

เกณฑ์ข้อมูล Akaike เป็นเกณฑ์ที่ดีสำหรับการทำ asymptotically เทียบเท่ากับ cross-validation ในทางตรงกันข้ามเกณฑ์ข้อมูลเบส์เป็นเกณฑ์ที่ดีสำหรับการประมาณค่าที่สม่ำเสมอ

สรุป

1 AIC หมายถึงเกณฑ์การให้ข้อมูลของ Akaike และ BIC หมายถึงเกณฑ์ข้อมูลเบย์ไซ (Bayesian Information Criteria)

2 Akaike's Information Criteria ก่อตั้งขึ้นในปีพ. ศ. 2516 และ Bayesian Information Criteria in 1978.

3. เมื่อเปรียบเทียบเกณฑ์ข้อมูลข่าวสารเบย์และเกณฑ์ข้อมูลข่าวสารของ Akaike การลงโทษสำหรับพารามิเตอร์เพิ่มเติมมีมากกว่า BIC มากกว่า AIC

4 เกณฑ์ข้อมูลของ Akaike มักพยายามค้นหาโมเดลที่ไม่รู้จักซึ่งมีความเป็นจริงในมิติสูง ในทางกลับกันเกณฑ์ข้อมูลข้อมูล Bayesian พบเฉพาะโมเดล True เท่านั้น

5 เกณฑ์ข้อมูลข่าวสารของ Bayesian มีความสม่ำเสมอในขณะที่เกณฑ์ข้อมูลข่าวสารของ Akaike ไม่เป็นเช่นนั้น

6 เกณฑ์ข้อมูลข่าวสารของ Akaike เหมาะสำหรับการทำ asymptotically เทียบเท่ากับ cross-validation ในทางตรงกันข้ามเกณฑ์ข้อมูลเบส์เป็นเกณฑ์ที่ดีสำหรับการประมาณค่าที่สม่ำเสมอ

7 แม้ว่า BIC จะทนต่อการเปรียบเทียบกับ AIC แต่ก็แสดงให้เห็นถึงความอดทนน้อยลงในจำนวนที่สูงขึ้น

8 แตกต่างจาก AIC, BIC penalizes พารามิเตอร์ฟรีมากขึ้นอย่างมาก

- ด้านบน iFrame -> - iFrame ด้านล่าง ->

//