Á¦7Àå ÁÖ¿ä³»¿ë ¹× Áú¹®
7.1 Introduction
7.2 Methods of Finding Estimators
È®·üº¯¼öÀÇ ºÐÆ÷°¡ Á¤ÀÇµÇ°í ±× ºÐÆ÷·ÎºÎÅÍ n°³ÀÇ °üÃø°ªÀ» ¾ò¾úÀ» ¶§, È®·üº¯¼öÀÇ ºÐÆ÷¸¦ °áÁ¤ÇÏ´Â ¸ð¼ö ¥èÀÇ ÃßÁ¤·®À» ¾î¶»°Ô ãÀ» °ÍÀΰ¡¿¡ ´ëÇØ »ý°¢Çغ»´Ù. ãÀº ÃßÁ¤·®ÀÌ 'ÁÁÀº' ÃßÁ¤·®ÀÎÁö¸¦ ÆÇ´ÜÇÏ´Â ¹æ¹ý¿¡ ´ëÇؼ´Â 7.3Àý¿¡¼ ´Ù·é´Ù.
Àû·ü¹ý¿¡ ÀÇÇÑ ÃßÁ¤·®Àº À¯ÀÏÇÏÁö ¾Ê´Ù: Example 7.2.3¿¡¼ Var(Yi)ÀÇ ÃßÁ¤·®À¸·Î ´ÙÀ½ ¼¼°¡Áö Áß ¾î¶² °ÍÀÌµç °¡´ÉÇѵ¥; E(Yi2)-(E(Yi))2, 2E(Yi), 2E(Yi)(E(Yi)/ri)=2(E(Yi))2/ri , Satterthwaite ±Ù»ç¿¡¼´Â Á¦ÀÏ ¸¶Áö¸· ½ÄÀ» ÀÌ¿ëÇÏ¿´´Ù.
ÃÖ´ë°¡´ÉµµÃßÁ¤·®À» ¹Ýº¹¹ý(iterative method)À¸·Î ±¸ÇØ¾ß ÇÒ ¶§ Àû·ü¹ý¿¡ ÀÇÇÑ ÃßÁ¤·®À» ÃʱⰪÀ¸·Î ¾²¸é ÃÖ´ë°¡´ÉµµÃßÁ¤·®À» »¡¸® ãÀ» ¼ö ÀÖ´Ù.
ÃÖ´ë°¡´ÉµµÃßÁ¤·®ÀÌ °®´Â ÁÁÀº ¼ºÁú(optimality properties)Àº 10.1Àý¿¡¼ ´Ù·é´Ù.
ÃÖ´ë°¡´ÉµµÃßÁ¤·®À» ãÀ» ¶§ Ç×»ó °¡´ÉµµÇÔ¼ö(¶Ç´Â ·Î±×¸¦ ÃëÇÑ °¡´ÉµµÇÔ¼ö)¸¦ ¹ÌºÐÇÏ´Â °ÍÀº ¾Æ´Ï¸ç(¿¹: Example 7.2.9¿Í Exercise 7.9), Example 7.2.5¿Í 7.2.6¿¡¼¿Í °°ÀÌ, ¹ÌºÐÇؼ ãÀ» ¼öµµ ÀÖÁö¸¸ °¡´ÉµµÇÔ¼öÀÇ »óÇÑÀ» ÀÌ¿ëÇؼ Á÷Á¢ ±¸ÇÒ ¼öµµ ÀÖ´Ù. ¶ÇÇÑ Example 7.2.8¿¡¼¿Í °°ÀÌ ¸ð¼öÀÇ ¿µ¿ª¿¡ Á¦ÇÑÁ¶°ÇÀÌ ÀÖÀ» ¶§ ÁÖÀÇÇØ¾ß ÇÑ´Ù.
ÃÖ´ë°¡´ÉµµÃßÁ¤·®À» °¡´ÉµµÇÔ¼ö¸¦ ¹ÌºÐÇؼ ãÀ» ¼ö ÀÖ±â À§Çؼ´Â ¿ì¼± ¸ð¼ö°ø°£(parameter space)ÀÇ ³»ºÎÁ¡(interior point)¿¡¼ °¡´ÉµµÇÔ¼ö°¡ ÃÖ´ë°¡ µÈ´Ù´Â °¡Á¤ÀÌ ÇÊ¿äÇÏ´Ù.(Exercise 7.9¿¡¼´Â ÀÌ °¡Á¤ÀÌ ¸¸Á·µÇÁö ¾Ê´Â´Ù.) ±×¸®°í ÀÏÂ÷¹ÌºÐÀ» 0À¸·Î ÇÏ´Â ÇØ´Â ÃÖ´ë°¡´Éµµ ÃßÁ¤·®ÀÌ µÇ±â À§ÇÑ ÇÊ¿äÁ¶°ÇÀÌÁö ÃæºÐÁ¶°ÇÀº ¾Æ´Ï¸ç, ÇØ°¡ À¯ÀÏÇÑÁö, ±×¸®°í ¸ð¼ö ¥è°¡ ½ºÄ®¶óÀÏ ¶§´Â ÀÌÂ÷¹ÌºÐ°ªÀÌ À½ÀÌ µÊÀ», ¸ð¼ö ¥è°¡ º¤ÅÍÀÏ ¶§´Â ÀÌÂ÷¹ÌºÐ Çà·ÄÀÌ À½Á¤Ä¡Çà·Ä(negative definite matrix)ÀÓÀ» È®ÀÎÇØ¾ß Çϴµ¥(Apostol(1977), Theorem 13.10 ÂüÁ¶), ÁÖ¾îÁø Çà·ÄÀÌ À½Á¤Ä¡Çà·ÄÀÓÀ» È®ÀÎÇÒ ¼ö ÀÖ´Â ¹æ¹ý ÁßÀÇ Çϳª°¡ Example 7.2.12ÀÇ Á¶°Ç b¿Í cÀÌ´Ù. ÀÏÂ÷¹ÌºÐÀ» 0À¸·Î ÇÏ´Â ÇØ°¡ À¯ÀÏÇÏÁö ¾Ê´Ù¸é global maximum point°¡ ¾Æ´Ò ¼ö ÀÖ´Ù. [Q] MLE´Â À¯ÀÏÇÑ°¡?
MLEÀÇ ºÒº¯¼º(Invariance Property of Maximum Likelihood Estimators)
Numerical instability of MLEs: ÀÚ·á°ªÀÌ Á¶±Ý º¯ÇÒ ¶§ MLE°¡ Å©°Ô º¯ÇÒ ¼ö ÀÖ´Ù (Example 7.2.13).
Bayesian approach, prior distribution, posterior distribution
»çÈĺÐÆ÷(posterior distribution)°¡ °áÇÕºÐÆ÷¿¡ ºñ·ÊÇÔÀ»(Áï, ¥ð(¥è|x)¡ð¥ð(¥è)f(x|¥è) ) ÀÌ¿ëÇϸé, xÀÇ marginal distributionÀ» ±¸ÇÏÁö ¾Ê°í ¥èÀÇ »çÈĺÐÆ÷¸¦ ¾Ë ¼ö ÀÖ´Ù.
conjugate prior distribution(ÄÓ·¹»çÀüºÐÆ÷ ¶Ç´Â °ø¾×»çÀüºÐÆ÷): [Q] ¿Ö conjugate prior¸¦ ¼±È£Çϴ°¡?
[Q] ÀÌ ±³Àç¿¡¼´Â »çÈÄÆò±Õ E(¥è|X)À» ¥èÀÇ Bayes Estimator·Î Á¤ÀÇÇÏ¿´´Âµ¥, E(¥è|X)°¡ ¥èÀÇ ÃßÁ¤·®À¸·Î¼ ¾î¶² ÁÁÀº ¼ºÁúÀ» °®´Â°¡? [A] E(¥è|X)´Â »çÈıâ´ë¼Õ½ÇÀ» ÃÖ¼Ò·Î ÇÏ´Â ÃßÁ¤·®ÀÌ´Ù. Áï, E(¥è|X) = arg mina ¡ò(¥è-a)2¥ð(¥è|x)d¥è.
[Q] 291ÂÊ¿¡ ³ª¿À´Â fiducial inference¿¡¼µµ ¥è¿¡ °üÇÑ likelihood¸¦ Á¤ÀÇÇϴµ¥ Bayesian inference¿Í fiducial inference´Â ¾î¶»°Ô ´Ù¸¥°¡?
7.3 Methods of Evaluating Estimators
°ü½ÉÀÖ´Â ¸ð¼ö ¥è¿¡ ´ëÇÑ (¶Ç´Â ¥ó(¥è)¿¡ ´ëÇÑ) ÃßÁ¤·®ÀÌ ¿©·¯ °³ ÀÖÀ» ¶§ ¾î¶² ÃßÁ¤·®À» ¼±ÅÃÇÒ °ÍÀΰ¡? 'ÁÁÀº' ÃßÁ¤·®ÀÇ ±âÁØÀº ¹«¾ùÀΰ¡?
10.1 Point Estimation
Á¦7Àå, 10.1Àý ¿¬½À¹®Á¦ (¼÷Á¦)
1 6 8 10 11 12 13 14 19 20 22
39 41 42 44 49 56 66 10.9