A Comparison of Parameter Estimations of Multiple Regression Model with and without Multicollinearity A Comparison of Parameter Estimations

Main Article Content

Autcha Araveeporn
Natthapol Jaiphong
Arthima Inprom

บทคัดย่อ

งานวิจัยนี้มีจุดประสงค์เพื่อเปรียบเทียบวิธีการประมาณค่าพารามิเตอร์ ด้วยวิธีกำลังสองน้อยที่สุด วิธีกำลังสองน้อยที่สุดถ่วงน้ำหนัก วิธีเบส์เซียน และวิธีมอนติคาร์โล โซ่มาคอฟ สำหรับตัวแบบถดถอยพหุคูณซึ่งประกอบไปด้วยตัวแปรตามและตัวแปรอิสระสองตัวโดยพิจารณากรณีที่ตัวแปรอิสระมีความสัมพันธ์และไม่มีความสัมพันธ์กัน เกณฑ์ที่ใช้ในการพิจารณาวิธีที่มีประสิทธิภาพดีที่สุด คือ ค่าต่ำที่สุดของค่าเฉลี่ยความคลาดเคลื่อนกำลังสองเฉลี่ย  ในงานวิจัยนี้ใช้ข้อมูลจากการจำลองด้วยโปรแกรมอาร์ โดยตัวแปรอิสระที่มีความสัมพันธ์กันสุ่มมาจากการแจกแจงปรกติหลายตัวแปรที่ระดับความสัมพันธ์ของตัวแปรอิสระ เท่ากับ 0.3, 0.6 และ 0.9 ส่วนตัวแปรอิสระที่ไม่มีความสัมพันธ์กันสุ่มมาจากการแจกแจงปรกติ ส่วนตัวแปรตามได้มาจากการกำหนดค่าสัมประสิทธิ์ของตัวแบบถดถอยเชิงเส้นพหุคูณนำไปคูณกับตัวแปรอิสระและรวมกับค่าความคลาดเคลื่อนจากการแจกแจงปรกติที่สุ่มมาจากตัวแบบการถดถอยพหุคูณ ที่ขนาดตัวอย่างเท่ากับ 5, 30 และ 50  ผลการวิจัยพบว่าวิธีเบส์เซียนให้ค่าเฉลี่ยความคลาดเคลื่อนกำลังสองเฉลี่ยต่ำที่สุดที่ขนาดตัวอย่างเท่ากับ 5 แต่เมื่อขนาดตัวอย่างเพิ่มขึ้น พบว่าวิธีกำลังสองน้อยที่สุดถ่วงน้ำหนักให้ค่าเฉลี่ยความคลาดเคลื่อนกำลังสองเฉลี่ยต่ำที่สุด เมื่อตัวแปรอิสระมีและไม่มีความสัมพันธ์กัน

Article Details

ประเภทบทความ
Physical Sciences

เอกสารอ้างอิง

Sereewattananukul, P., 2012, Comparison of the Estimation Methods for the Multiple Linear Regression Model with Heteroscedasticity Error, Master Thesis, Chulalongkorn University, Bangkok, 13 p. (in Thai)

Koop, G., 2003, Bayesian Econometrics, John Wiley, England, 137 p.

Gilks, W., Richarden, S. and Speigelhalter, D., 1996, Markov Chain Monte Carlo in Practice, Interdisciplinary, Chapman & Hall, Suffolk.

Gelfand, A., Hills, S., Racine-Poon, A. and Smith, A., 1990, Illustration of Bayesian Inference in Normal Data Models using Gibbs Sampling, J. Am. Stat. Assoc. 85: 972-985.

Mekbunditkul, T., 2003, Parameters-Estimation of Polynomial Regression Models with Errors in Independent Variables, Master Thesis, Chulalongkorn University, Bangkok, 40 p. (in Thai)

Bunyamas, T., 2014, Comparison of the Estimation Methods for the Multiple Linear Regression with Nonconstant Variance Error From Lognormal and Gamma Distribution Master Thesis, Chulalongkorn University, Bangkok, 24 p. (in Thai)

Sae-ui, P., Supapakorn, T. and Payakkapong, P., 2016. A Comparison of Parameter Estimations of Bayesian, Ordinary Least Square and Parametric Bootstrap Methods for Simple Linear Regression Model, Thai Sci. Technol. 24(3): 363-369. (in Thai)

Diana, S. and Tanty, P. H., 2018. Linear Regression Model Using Bayesian Approach for Energy Performance of Residential Building. Pro. Com. Sc. 135: 671–677.

Willett, J.D. and Singer, J. D. 1988, Another Cautionary Note About R2: Its Use in Weighted Least-Squares Regression Analysis, J. Am. Stat. 42(3): 236-238.