Расчет среднего значения и медианы. — КиберПедия 

Наброски и зарисовки растений, плодов, цветов: Освоить конструктивное построение структуры дерева через зарисовки отдельных деревьев, группы деревьев...

Индивидуальные очистные сооружения: К классу индивидуальных очистных сооружений относят сооружения, пропускная способность которых...

Расчет среднего значения и медианы.

2017-11-27 318
Расчет среднего значения и медианы. 0.00 из 5.00 0 оценок
Заказать работу

нА/мин

M=1,2315 нА/мин

 

Расчет дисперсии и стандартного отклонения.

Дисперсию выборки (V) вычисляют по формуле:


- отклонение от среднего

|xi-x| |xi-x|2
0,10879 0,01184
0,05401 0,00292
0,08991 0,00808
0,02039 0,00042
0,08059 0,00650
0,04519 0,00204
0,04181 0,00175
0,02869 0,00082
0,03119 0,00097
0,07501 0,00563
0,08781 0,00771
0,01919 0,00037
0,01921 0,00037
0,01069 0,00011
0,02299 0,00053

 

Рассчитаем дисперсию:

Стандартное отклонение представляет собой квадратный корень из дисперсии, взятый с положительным знаком, и имеет размерность измеряемой величины.

Расчет относительного стандартного отклонения.

 

Расчет доверительного интервала.

f=n-1=15-1=14

Коэффициент Стьюдента t(0,95;14)=2,15


Сравнение данных полученных при ручном обсчете и

Компьютерной программы Microsoft Excel.

Критерии Среднее значение Медиана Дисперсия Стандартное отклонение Относительное стандартное отклонение Доверительный интервал
Ручной расчет 1,21 1,2315 0,003575 0,05979 0,04932 0,03
Расчет с помощью программы Microsoft Excel 1,21 1,2315 0,003575 0,059791 0,049324 0,03

Задание №2. Расчет параметров линейной регрессии градуировочной прямой, определение коэффициента чувствительности, коэффициента корреляции.

Пример.2. При построении градуировочной прямой для биосенсора

амперометрического типа на основе дрожжевогоштамма

DebaryamyceshanseniiVKMY-2482 получены следующие данные.

Концентрация ГГА, мг/дм3                  
Среднее значение ответа биосенсера, нА/мин 2,3824 4,4943 5,9489 6,7708 7,8877 9,5994 11,8717 13,7131 15,2947

 

 

Зависимость аналитического сигнала (y), в данном случае ответ сенсора в нА/мин, от концентрации (х) в мг/дм3, можно выразить линейным уравнением:

Коэффициенты aи bможно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:

Расчет сумм:

 

xi xi2 yi yi2 xiyi
    2,382433 5,675989 71,473
    4,494267 20,19843 224,7133
    5,9489 35,38941 416,423
    6,770833 45,84418 609,375
    7,887667 62,21529 946,52
    9,599433 92,14912 1439,915
    11,87167 140,9365 2374,333
    13,7131 188,0491 3428,275
    15,29467 233,9268 4588,4
    77,963 824,3848 14099,43

Σxi=1260

Σxi2=245800

Σyi=77,963

Σyi2=842,3848

Σxiyi=14099,43

n=9

y=0,04589x+2,238 – линейное уравнение калибровочной прямой

 

Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений y для n образцов сравнения относительно рассчитанной прямой y=ax+b, определяется выражением:

 

 

Дисперсии параметров a и b равны:

 

Из дисперсии рассчитываем стандартные отклонения.

Рассчитаем доверительные интервалы для a и b:

где Р =0,95; f=n-2=9-2=7

t(P,f)=2,3

Коэффициент чувствительности:

Рассчитаем коэффициент корреляции:

Расчет и построение грауировочного графика

с помощью программы MicrosoftExcel.

 

ГГС, мг/дм ответы нА/мин среднее значение стандартное отклонение доверительный интервал
  2,5162 2,2769 2,3542 2,3824 0,1221 0,1
  4,4928 4,6326 4,3574 4,4943 0,1376 0,2
  5,6981 5,6102 6,5384 5,9489 0,5124 0,6
  6,9745 6,5895 6,7485 6,7708 0,1935 0,2
  7,8691 7,8358 7,9581 7,8877 0,0632 0,07
  9,584 9,6109 9,6034 9,5994 0,0139 0,02
  11,8259 11,9431 11,846 11,8717 0,0627 0,07
  13,7281 13,7128 13,6984 13,7131 0,0149 0,02
  15,3094 15,2981 15,2765 15,2947 0,0167 0,02

 

График градуировочной зависимости ответа сенсора от концентрации субстрата.

 

Уравнение прямой: y=0,0459x+2,2383

Коэффициент корреляции: R=0,9902


Расчет и построение грауировочного графика с помощью программы SigmaPlot.

Nonlinear Regression - Dynamic Fitting

Equation: Polynomial; Linear

f=y0+a*x

 

Results for the Overall Best-Fit Solution:

R Rsqr Adj Rsqr Standard Error of Estimate

 

0,9914 0,9828 0,9804 0,5821

 

Coefficient Std. Error t P VIF

y0 2,2023 0,3730 5,9037 0,0006 3,6966

a 0,0463 0,0023 20,0104 <0,0001 3,6966

 


Сравнение данных полученных при ручном обсчете и с помощью

Компьютерных программ.

 

параметры Sigma Plot Excel По формулам
а 0,0463 0,0459 0,05±0,02
b 2,2023 2,2383 2,2 ±0,1
уравнение прямой y=0,05x+2,2 y=0,05x+2,2 y=0,05x+2,2
R 0,9914 0,9902 0,9900

 


Задание №3.Оценка правильности метода.

Пример 3. Оценка была проведена при статистической обработке генеральной совокупности из 28 опытов по определениюбенз(а)пирена в растворе ГСО с тзвестнойконцентрацией 1,00 мкг/мл.

 

№ измерения Концентрация, мкг/мл № измерения Концентрация, мкг/мл
  0,87   0,99
  0,89   1,02
  0,90   1,03
  0,90   1,03
  0,92   1,04
  0,92   1,05
  0,94   1,05
  0,95   1,08
  0,97   1,08
  0,97   1,08
  0,98   1,09
  0,98   1,10
  0,98   1,11
  0,99   1,14

 

Выявление промахов.

Проверяем значение 1,14, т.к. оно сильнее отстоит от соседнего значения.

- размах варьирования

Тестовая статистки рассчитывается по формуле:

Критической величиной является табличное значение Q(P,n)=0,39.

Так как , то промаха нет, данное значение принадлежит выборке.

Рассчитаем среднее значение выборки:

Для проверки значимости различия между средним и константой воспользуемся следующей статистикой:

Рассчитаем стандартное отклонение для выборки:


- отклонение от среднего

концентрация, мкг/мл |xi-x| |xi-x|2
0,87 0,131786 0,017367
0,89 0,111786 0,012496
0,90 0,101786 0,01036
0,90 0,101786 0,01036
0,92 0,081786 0,006689
0,92 0,081786 0,006689
0,94 0,061786 0,003817
0,95 0,051786 0,002682
0,97 0,031786 0,00101
0,97 0,031786 0,00101
0,98 0,021786 0,000475
0,98 0,021786 0,000475
0,98 0,021786 0,000475
0,99 0,011786 0,000139
0,99 0,011786 0,000139
1,02 0,01821 0,000332
1,03 0,02821 0,000796
1,03 0,02821 0,000796
1,04 0,03821 0,00146
1,05 0,04821 0,002325
1,05 0,04821 0,002325
1,08 0,07821 0,006117
1,08 0,07821 0,006117
1,08 0,07821 0,006117
1,09 0,08821 0,007782
1,10 0,09821 0,009646
1,11 0,10821 0,01171
1,14 0,13821 0,019103

 

Рассчитает тестовую статистику:

Рассчитанную тестовую статистику сравним с критическим значением – коэффициент Стьюдента t(0,95;27)=2,04.

Отличие результата анализа от действительного значения незначимо, методика не содержит систематической погрешности.


 

Рассчитаем доверительный интервал:


Поделиться с друзьями:

Наброски и зарисовки растений, плодов, цветов: Освоить конструктивное построение структуры дерева через зарисовки отдельных деревьев, группы деревьев...

Археология об основании Рима: Новые раскопки проясняют и такой острый дискуссионный вопрос, как дата самого возникновения Рима...

Семя – орган полового размножения и расселения растений: наружи у семян имеется плотный покров – кожура...

История развития хранилищ для нефти: Первые склады нефти появились в XVII веке. Они представляли собой землянные ямы-амбара глубиной 4…5 м...



© cyberpedia.su 2017-2024 - Не является автором материалов. Исключительное право сохранено за автором текста.
Если вы не хотите, чтобы данный материал был у нас на сайте, перейдите по ссылке: Нарушение авторских прав. Мы поможем в написании вашей работы!

0.042 с.