Эмпирический коэффициент детерминации оценивает, насколько вариация результативного признака Y объясняется вариацией фактора Х (остальная часть вариации Y объясняется вариацией прочих факторов). Показатель рассчитывается как доля межгрупповой дисперсии в общей дисперсии по формуле
, (9)
где – общая дисперсия признака Y,
– межгрупповая (факторная) дисперсия признака Y.
Значения показателя изменяются в пределах . При отсутствии корреляционной связи между признаками Х и Y имеет место равенство =0, а при наличии функциональной связи между ними - равенство=1.
Общая дисперсия характеризует вариацию результативного признака, сложившуюся под влиянием всех действующих на Y факторов (систематических и случайных). Этот показатель вычисляется по формуле
, (10)
где yi – индивидуальные значения результативного признака;
– общая средняя значений результативного признака;
n – число единиц совокупности.
Общая средняя вычисляется как средняя арифметическая простая по всем единицам совокупности:
(11)
или как средняя взвешенная по частоте групп интервального ряда:
(12)
Для вычисления удобно использовать формулу (11), т.к. в табл. 8 (графы 3 и 4 итоговой строки) имеются значения числителя и знаменателя формулы.
Расчет по формуле (11):
Для расчета общей дисперсии применяется вспомогательная таблица 12.
Таблица 12
Вспомогательная таблица для расчета общей дисперсии
Номер организации п/п |
Выпуск продукции, млн руб. |
|
|
|
1 |
2 |
3 |
4 |
5 |
1 |
36,45 |
-7,568 |
57,274 |
1328,602 |
2 |
23,4 |
-20,618 |
425,101 |
547,56 |
3 |
46,54 |
2,522 |
6,360 |
2165,971 |
4 |
59,752 |
15,734 |
247,558 |
3570,301 |
5 |
41,415 |
-2,603 |
6,775 |
1715,202 |
6 |
26,86 |
-17,158 |
294,396 |
721,459 |
7 |
79,2 |
35,182 |
1237,773 |
6272,64 |
8 |
54,72 |
10,702 |
114,532 |
2994,278 |
9 |
40,424 |
-3,594 |
12,916 |
1634,099 |
10 |
30,21 |
-13,808 |
190,660 |
912,644 |
11 |
42,418 |
-1,6 |
2,56 |
1799,286 |
12 |
64,575 |
20,557 |
422,590 |
4169,930 |
13 |
51,612 |
7,594 |
57,668 |
2663,798 |
14 |
35,42 |
-8,598 |
73,925 |
1254,576 |
15 |
14,4 |
-29,618 |
877,225 |
207,36 |
16 |
36,936 |
-7,082 |
50,154 |
1364,268 |
17 |
53,392 |
9,374 |
87,871 |
2850,705 |
18 |
41 |
-3,018 |
9,108 |
1681 |
19 |
55,68 |
11,662 |
136,002 |
3100,262 |
20 |
18,2 |
-25,818 |
666,569 |
331,24 |
21 |
31,8 |
-12,218 |
149,279 |
1011,240 |
22 |
39,204 |
-4,814 |
23,174 |
1536,953 |
23 |
57,128 |
13,11 |
171,872 |
3263,608 |
24 |
28,44 |
-15,578 |
242,674 |
808,833 |
25 |
43,344 |
-0,674 |
0,454 |
1878,702 |
26 |
70,72 |
26,702 |
712,996 |
5001,318 |
27 |
41,832 |
-2,186 |
4,778 |
1749,916 |
28 |
69,345 |
25,327 |
641,456 |
4808,729 |
29 |
35,903 |
-8,115 |
65,853 |
1289,025 |
30 |
50,22 |
6,202 |
38,464 |
2522,048 |
Итого |
1320,54 |
0 |
7028,017 |
65155,553 |