Производящая функция моментов: что это и как она используется в анализе распределений

Производящая функция моментов (moment-generation functions) – это функция, которая служит альтернативным способом задания распределения вероятностей случайной величины. (Далее MGF – производящая функция моментов)

Идея моментов

Допустим, у нас есть случайная величина . Математическое ожидание и дисперсия это разные “моменты” случайной величины. Моменты, в свою очередь это числовые характеристики, которые описывают форму распределения случайной величины. Тогда первый момент относительно начала координат, асвязан со вторым моментом относительно среднего. По определению, дает -й момент случайной величины относительно начала координат. То есть, при = 1: . Когда стремится к бесконечности, вычислять очень сложно, потому что функция очень резко усиливает хвосты распределения, маленькие отклонения становятся огромными, и интеграл может просто расходиться. К счастью, есть функция

Производящая функция моментов – это функция, которая “собирает” все моменты в одну формулу.

Производящая функция моментов

Здесь, – это технический параметр, который нужен только для удобства вычисления моментов. Давайте разложим в ряд Тейлора:

Возьмем математическое ожидание обеих частей:

Теперь дифференцируем по :

Если мы подставим , то все члены с обнуляются!

А если мы возьмем вторую производную функции в точке , то получим , отсюда можно и найти дисперсию

Производящая функция моментов существует только если в какой-то окрестности нуля. Например, у распределения Коши MGF не существует вообще, интеграл расходится при любом .

Из ряда Тейлора видно, что коэффициент при это.

Значит если продифференцировать ровно раз по и подставить , все члены кроме одного обнуляются и останется:

Производящая функция моментов суммы независимых величин перемножаются

Если и независимы, то:

Доказательство

Это удобно потому что считать сумму случайных величин напрямую сложно, а перемножить две функции легко.

Пример

Экспоненциальное распределение . Плотность: . По определению производящей функции моментов:

Упрощаем:

Это стандартный интеграл от экспоненты . Здесь , значит нужно . Получаем:

Первый момент:

Второй момент: , тогда дисперсия:

мои контакты: tg @salyamq2