{"id":3642,"date":"2022-11-26T02:37:42","date_gmt":"2022-11-26T01:37:42","guid":{"rendered":"https:\/\/vielhuber.de\/?p=3642"},"modified":"2022-11-28T02:01:49","modified_gmt":"2022-11-28T01:01:49","slug":"steins-paradox","status":"publish","type":"post","link":"https:\/\/vielhuber.de\/blog\/steins-paradox\/","title":{"rendered":"Stein's Paradox"},"content":{"rendered":"\n<p>1961 ver\u00f6ffentlichten James und Stein das Paper \"<a href=\"https:\/\/projecteuclid.org\/proceedings\/berkeley-symposium-on-mathematical-statistics-and-probability\/Proceedings-of-the-Fourth-Berkeley-Symposium-on-Mathematical-Statistics-and\/Chapter\/Estimation-with-Quadratic-Loss\/bsmsp\/1200512173\" target=\"_blank\" rel=\"noreferrer noopener\">Estimation with Quadratic Loss<\/a>\". Man nehme normalverteilte Daten mit einem unbekannten Mittelwert \\(\\mu\\) und Varianz \\(1\\). W\u00e4hlt man nun einen zuf\u00e4lligen Wert \\(x\\) aus diesen Daten und muss auf Basis dessen den Mittelwert \\(\\mu\\) sch\u00e4tzen, ist intuitiv \\(x\\) ein vern\u00fcnftiger Sch\u00e4tzwert f\u00fcr \\(\\mu\\) (da eine Normalverteilung vorliegt, befindet sich das zuf\u00e4llig gew\u00e4hlte \\(x\\) wahrscheinlich in der N\u00e4he von \\(\\mu\\)).<\/p>\n\n\n\n<!--more-->\n\n\n\n<p>Nun wiederholt man das Experiment \u2013 dieses Mal mit drei voneinander unabh\u00e4ngigen, erneut normalverteilten Datens\u00e4tzen mit jeweils Varianz \\(1\\) und den Mittelwerten \\(\\mu_1\\), \\(\\mu_2\\), \\(\\mu_3\\). Nachdem man drei zuf\u00e4llige Werte \\(x_1\\), \\(x_2\\) und \\(x_3\\) erhalten hat, sch\u00e4tzt man (nach denselben Vorgehensweise) \\(\\mu_1=x_1\\), \\(\\mu_2=x_2\\) und \\(\\mu_3=x_3\\).<\/p>\n\n\n\n<p>Das \u00fcberraschende Resultat von James und Stein ist, dass es einen besseren Sch\u00e4tzwert f\u00fcr \\( \\left( \\mu_1, \\mu_2, \\mu_3 \\right) \\) (also der <em>Kombination<\/em> der drei unabh\u00e4ngigen Datens\u00e4tze) gibt als \\( \\left( x_1, x_2, x_3 \\right) \\). Der \"James-Stein-Sch\u00e4tzer\" lautet dann:<\/p>\n\n\n\n<p>$$ \\begin{pmatrix}\\mu_1\\\\\\mu_2\\\\\\mu_3\\end{pmatrix} = \\left( 1-\\frac{1}{x_1^2+x_2^2+x_3^2} \\right) \\begin{pmatrix}x_1\\\\x_2\\\\x_3\\end{pmatrix} \\neq \\begin{pmatrix}x_1\\\\x_2\\\\x_3\\end{pmatrix} $$<\/p>\n\n\n\n<p>Die mittlere quadratische Abweichung dieses Sch\u00e4tzers ist dann stets kleiner als die mittlere quadratische Abweichung \\( E \\left[ \\left|| X - \\mu \\right||^2 \\right] \\) des gew\u00f6hnlichen Sch\u00e4tzers.<\/p>\n\n\n\n<p>\u00dcberraschend und vielleicht paradox ist es, dass der James-Stein-Sch\u00e4tzer den gew\u00f6hnlichen Sch\u00e4tzer (durch einen Schrumpfungsfaktor) hin zum Ursprung verschiebt und damit in der Mehrzahl der F\u00e4lle ein besseres Ergebnis liefert. Das gilt f\u00fcr Dimensionen \\( \\geq 3 \\), nicht jedoch im zweidimensionalen Fall.<\/p>\n\n\n\n<p>Eine sch\u00f6ne geometrische Erkl\u00e4rung, warum das funktioniert, liefern <a href=\"https:\/\/projecteuclid.org\/journals\/statistical-science\/volume-27\/issue-1\/A-Geometrical-Explanation-of-Stein-Shrinkage\/10.1214\/11-STS382.full\" target=\"_blank\" rel=\"noreferrer noopener\">Brown &amp; Zao<\/a>. Man beachte, dass dies <em>nicht<\/em> hei\u00dft, einen besseren Sch\u00e4tzwert f\u00fcr jeden <em>einzelnen <\/em>Datensatz zu haben \u2013 man hat nur eben einen besseren Sch\u00e4tzer mit einem kleineren <em>kombinierten <\/em>Risiko.<\/p>\n\n\n\n<p><\/p>\n","protected":false},"excerpt":{"rendered":"<p>1961 ver\u00f6ffentlichten James und Stein das Paper \"Estimation with Quadratic Loss\". Man nehme normalverteilte Daten mit einem unbekannten Mittelwert \\(\\mu\\) und Varianz \\(1\\). W\u00e4hlt man nun einen zuf\u00e4lligen Wert \\(x\\) aus diesen Daten und muss auf Basis dessen den Mittelwert \\(\\mu\\) sch\u00e4tzen, ist intuitiv \\(x\\) ein vern\u00fcnftiger Sch\u00e4tzwert f\u00fcr \\(\\mu\\) (da eine Normalverteilung vorliegt, befindet [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"gtbabel_prevent_lngs":"","gtbabel_alt_lng":"","footnotes":""},"categories":[1],"tags":[],"class_list":{"0":"post-3642","1":"post","2":"type-post","3":"status-publish","4":"format-standard","6":"category-blog"},"acf":[],"yoast_head":"<title>Stein&#039;s Paradox &#060; Vielhuber David<\/title>\n<meta name=\"description\" content=\"1961 ver\u00f6ffentlichten James und Stein das Paper &quot;Estimation with Quadratic Loss&quot;. Man nehme normalverteilte Daten mit einem unbekannten Mittelwert (...\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/vielhuber.de\/blog\/steins-paradox\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Stein&#039;s Paradox &#060; Vielhuber David\" \/>\n<meta property=\"og:description\" content=\"1961 ver\u00f6ffentlichten James und Stein das Paper &quot;Estimation with Quadratic Loss&quot;. Man nehme normalverteilte Daten mit einem unbekannten Mittelwert (mu)\" \/>\n<meta property=\"og:url\" content=\"https:\/\/vielhuber.de\/blog\/steins-paradox\/\" \/>\n<meta property=\"og:site_name\" content=\"Vielhuber David\" \/>\n<meta property=\"article:published_time\" content=\"2022-11-26T01:37:42+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2022-11-28T01:01:49+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/vielhuber.de\/wp-content\/uploads\/about.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"700\" \/>\n\t<meta property=\"og:image:height\" content=\"552\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"David\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@vielhuber\" \/>\n<meta name=\"twitter:site\" content=\"@vielhuber\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"David\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"2\u00a0Minuten\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/\"},\"author\":{\"name\":\"David\",\"@id\":\"https:\\\/\\\/vielhuber.de\\\/#\\\/schema\\\/person\\\/64d4ff14713d413ea4d9b210d0c2c6ef\"},\"headline\":\"Stein's Paradox\",\"datePublished\":\"2022-11-26T01:37:42+00:00\",\"dateModified\":\"2022-11-28T01:01:49+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/\"},\"wordCount\":316,\"publisher\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/#\\\/schema\\\/person\\\/64d4ff14713d413ea4d9b210d0c2c6ef\"},\"articleSection\":[\"Blog\"],\"inLanguage\":\"de\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/\",\"url\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/\",\"name\":\"Stein's Paradox &#060; Vielhuber David\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/#website\"},\"datePublished\":\"2022-11-26T01:37:42+00:00\",\"dateModified\":\"2022-11-28T01:01:49+00:00\",\"description\":\"1961 ver\u00f6ffentlichten James und Stein das Paper \\\"Estimation with Quadratic Loss\\\". Man nehme normalverteilte Daten mit einem unbekannten Mittelwert \\\\(\\\\mu\\\\)\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/vielhuber.de\\\/blog\\\/steins-paradox\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/vielhuber.de\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Stein's Paradox\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/vielhuber.de\\\/#website\",\"url\":\"https:\\\/\\\/vielhuber.de\\\/\",\"name\":\"Vielhuber David\",\"description\":\"Full-Stack Developer\",\"publisher\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/#\\\/schema\\\/person\\\/64d4ff14713d413ea4d9b210d0c2c6ef\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/vielhuber.de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":[\"Person\",\"Organization\"],\"@id\":\"https:\\\/\\\/vielhuber.de\\\/#\\\/schema\\\/person\\\/64d4ff14713d413ea4d9b210d0c2c6ef\",\"name\":\"David\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/vielhuber.de\\\/wp-content\\\/uploads\\\/about.jpg\",\"url\":\"https:\\\/\\\/vielhuber.de\\\/wp-content\\\/uploads\\\/about.jpg\",\"contentUrl\":\"https:\\\/\\\/vielhuber.de\\\/wp-content\\\/uploads\\\/about.jpg\",\"width\":700,\"height\":552,\"caption\":\"David\"},\"logo\":{\"@id\":\"https:\\\/\\\/vielhuber.de\\\/wp-content\\\/uploads\\\/about.jpg\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/vielhuber\"]}]}<\/script>","yoast_head_json":{"title":"Stein's Paradox &#060; Vielhuber David","description":"1961 ver\u00f6ffentlichten James und Stein das Paper \"Estimation with Quadratic Loss\". Man nehme normalverteilte Daten mit einem unbekannten Mittelwert (...","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/vielhuber.de\/blog\/steins-paradox\/","og_locale":"de_DE","og_type":"article","og_title":"Stein's Paradox &#060; Vielhuber David","og_description":"1961 ver\u00f6ffentlichten James und Stein das Paper \"Estimation with Quadratic Loss\". Man nehme normalverteilte Daten mit einem unbekannten Mittelwert (mu)","og_url":"https:\/\/vielhuber.de\/blog\/steins-paradox\/","og_site_name":"Vielhuber David","article_published_time":"2022-11-26T01:37:42+00:00","article_modified_time":"2022-11-28T01:01:49+00:00","og_image":[{"width":700,"height":552,"url":"https:\/\/vielhuber.de\/wp-content\/uploads\/about.jpg","type":"image\/jpeg"}],"author":"David","twitter_card":"summary_large_image","twitter_creator":"@vielhuber","twitter_site":"@vielhuber","twitter_misc":{"Verfasst von":"David","Gesch\u00e4tzte Lesezeit":"2\u00a0Minuten"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/vielhuber.de\/blog\/steins-paradox\/#article","isPartOf":{"@id":"https:\/\/vielhuber.de\/blog\/steins-paradox\/"},"author":{"name":"David","@id":"https:\/\/vielhuber.de\/#\/schema\/person\/64d4ff14713d413ea4d9b210d0c2c6ef"},"headline":"Stein's Paradox","datePublished":"2022-11-26T01:37:42+00:00","dateModified":"2022-11-28T01:01:49+00:00","mainEntityOfPage":{"@id":"https:\/\/vielhuber.de\/blog\/steins-paradox\/"},"wordCount":316,"publisher":{"@id":"https:\/\/vielhuber.de\/#\/schema\/person\/64d4ff14713d413ea4d9b210d0c2c6ef"},"articleSection":["Blog"],"inLanguage":"de"},{"@type":"WebPage","@id":"https:\/\/vielhuber.de\/blog\/steins-paradox\/","url":"https:\/\/vielhuber.de\/blog\/steins-paradox\/","name":"Stein's Paradox &#060; Vielhuber David","isPartOf":{"@id":"https:\/\/vielhuber.de\/#website"},"datePublished":"2022-11-26T01:37:42+00:00","dateModified":"2022-11-28T01:01:49+00:00","description":"1961 ver\u00f6ffentlichten James und Stein das Paper \"Estimation with Quadratic Loss\". Man nehme normalverteilte Daten mit einem unbekannten Mittelwert \\(\\mu\\)","breadcrumb":{"@id":"https:\/\/vielhuber.de\/blog\/steins-paradox\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/vielhuber.de\/blog\/steins-paradox\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/vielhuber.de\/blog\/steins-paradox\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/vielhuber.de\/"},{"@type":"ListItem","position":2,"name":"Stein's Paradox"}]},{"@type":"WebSite","@id":"https:\/\/vielhuber.de\/#website","url":"https:\/\/vielhuber.de\/","name":"Vielhuber David","description":"Full-Stack Developer","publisher":{"@id":"https:\/\/vielhuber.de\/#\/schema\/person\/64d4ff14713d413ea4d9b210d0c2c6ef"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/vielhuber.de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":["Person","Organization"],"@id":"https:\/\/vielhuber.de\/#\/schema\/person\/64d4ff14713d413ea4d9b210d0c2c6ef","name":"David","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/vielhuber.de\/wp-content\/uploads\/about.jpg","url":"https:\/\/vielhuber.de\/wp-content\/uploads\/about.jpg","contentUrl":"https:\/\/vielhuber.de\/wp-content\/uploads\/about.jpg","width":700,"height":552,"caption":"David"},"logo":{"@id":"https:\/\/vielhuber.de\/wp-content\/uploads\/about.jpg"},"sameAs":["https:\/\/x.com\/vielhuber"]}]}},"_links":{"self":[{"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/posts\/3642","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/comments?post=3642"}],"version-history":[{"count":33,"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/posts\/3642\/revisions"}],"predecessor-version":[{"id":3677,"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/posts\/3642\/revisions\/3677"}],"wp:attachment":[{"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/media?parent=3642"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/categories?post=3642"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/vielhuber.de\/bn\/wp-json\/wp\/v2\/tags?post=3642"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}