Главная страница

ГФ11-1. Общие методы анализа редакционная коллегия государственной фармакопеи ссср


Скачать 1.83 Mb.
НазваниеОбщие методы анализа редакционная коллегия государственной фармакопеи ссср
Дата11.06.2020
Размер1.83 Mb.
Формат файлаdoc
Имя файлаГФ11-1.doc
ТипДокументы
#129576
страница30 из 42
1   ...   26   27   28   29   30   31   32   33   ...   42

D1 D2 D1 D2
0 0

D2 D1 D2 D1

(II.4.1)

0 0

D1 D2 D1 D2
0 0

D2 D1 D2 D1
Здесь каждая доза встречается по одному разу в каждой строке и в каждом столбце. В данном случае последовательные строки получены циклической перестановкой из предыдущих строк, но это не единственный способ построения латинского квадрата. Например, можно переставлять столбцы или строки (или и то, и другое) из приведенной выше схемы по жребию. В руководствах по планированию эксперимента можно найти и другие схемы.

Если для стандартного и испытуемого препаратов используются по три дозы, то соответствующий латинский квадрат будет иметь шесть строк и шесть столбцов и т.д. При двух дозах стандартного и двух дозах испытуемого препарата можно построить латинский квадрат 8х8, располагая дозы так, чтобы каждая встречалась по два раза в каждой строке и в каждом столбце.

0

Введем следующие обозначения: k - число строк в квадрате; r и

r - соответственно число использованных доз стандартного и

0

испытуемого препаратов (например, при размещении четырех доз D1,

0 0

D2, D1, D2 в квадрате 8х8 будет k = 8, r = 2, r = 2, а для

0

квадрата II.4.1: k = 4, r = 2, r = 2); у - эффективность в

ij

ячейке квадрата на пересечении i-й строки и j-го столбца

(независимо от того, относится эта эффективность к стандартному

_ _

или испытуемому препарату); у = SUM у /k и у = SUM у / k -

i j ij j ij

средние эффективности соответственно для строки i и для столбца j;
2 _ _

у = SUM y /k = SUM у /k = SUM у / k

i,j i,j i i j j
- общая средняя эффективность для всего комплекса. Тогда
2 ┌ 2 2┐

SUM d - k │SUM d + SUM d │

j,i └ i i j j┘

V = ----------------------------- , (II.4.2)

2 0

n(k - 2k - r - r + 2)
2 ┌ _ 2┐ ┌ _ 2┐

где SUM d = SUM │SUM (у - у ) │ = SUM │SUM (у - у ) │,

i └ j i,j i ┘ j └ i,j j ┘
2 _ _ 2 2 _ _ 2

SUM d = SUM (у - у ) , SUM d = SUM (у - у ) ,

i i i j j j
а n - число испытаний при каждой дозе стандартного или испытуемого

препарата. Остальные расчеты производятся по формулам предыдущего

параграфа, причем t(P, f) берутся из табл. II приложения для числа

степеней свободы f = (k -1)(k - 2).
Пример II.6. В табл. II.3.3 приведены результаты совместного

испытания стандартного и испытуемого препаратов неомицина при

дозах 100 и 200 мкг в 1 мл; активность характеризуется диаметром

зоны угнетения в миллиметрах. Использован латинский квадрат вида

(II.4.1). В этой же таблице показаны расчеты, приводящие к

2 2

величинам SUM d и SUM d , а в табл. II.4.2 показано вычисление

i i j j 2

средних дозовых эффективностей и величины SUM d .

i,j

2

Таким образом, SUM d = 14,00 + 28,75 + 5,00 + 8,75 = 56,50,

i,j

0

а так как в данном случае n = 4, k = 4, r = 2, r = 2, то по

формуле II.4.2 получаем:
56,50 - 4 x (5,125 + 2,125)

V = --------------------------- = 1,146.

4 x (16 - 8 - 2 - 2 + 2)
Данное испытание относится к типу 2;2, так что использование

соответствующего раздела табл. IV приложения вместе с формулами

II.3.4 - II.3.10 дает:
G = 219,0 - 230,75 - 221,50 + 232,75 = - 0,50;
---

V = 4 х 1,146 = 4,584; │G│ / / V = 0,233 < 2,447

G \/ G
(t(95%, f) для f = (4 - 1)(4 - 2) = 6), поэтому одинаковость

наклонов двух дозовых прямых не отвергается; далее:
Е = (- 219,0 + 230,75 - 221,50 + 232,75) / 2 = 11,50;
F = (- 219,0 - 230,75 + 221,50 + 232,75) / 2 = 2,25;
2

A = V = 1,146; I = lg 200 - lg 100 = 0,301; B = V/I = 12,65;
0

b = 11,50/0,301 = 38,2; M = 2,25/38,2 = 0,0589; D /D = 114,5%;
2 2

g = 12,65 х 2,447 /38,2 = 0,052; 1 - g = 0,948;
0,0589

M = ------- +/-

H, B 0,948
--------------------------------

2,447 / 2

+/- ------------ \/ 1,146 х 0,948 + 12,65 х 0,0589 =

38,2 х 0,948
= 0,062 +/- 0,0718 = [- 0,0097; 0,1340];
0

(D /D) = 97,8%; 136,1%.

H, B
При проведении испытания по методу латинского квадрата потеря отдельных результатов нарушает всю схему расчетов, поэтому необходимо "заместить" их надлежащими оценками. Проще всего это можно сделать, подставив на место выпавшего результата среднее из оставшихся результатов для той же дозы того же препарата. Применяемый в дисперсионном анализе более сложный способ оценки выпавшего значения не дает в задаче определения эквивалентных доз существенного повышения точности общих результатов испытания.
Таблица II.4.1
┌───────────────────────────────────────┬───────┬──────┬─────┬──────┐

│ _ │ │ │ │ 2 │

│ Результаты испытания, у │SUM у │ у │ d │ d │

│ ij │ j ij│ i │ i │ i │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у = 222 у = 229 у1 = 222 у2 = 235 │ 908 │227,00│1,00 │1,0000│

│ 1 2 │ │ │ │ │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у2 = 231 у = 217 у = 231 у1 = 220 │ 899 │224,75│-1,25│1,5625│

│ 1 2 │ │ │ │ │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у1 = 221 у2 = 233 у = 218 у = 228 │ 900 │225,00│-1,00│1,0000│

│ 1 2 │ │ │ │ │

│ │ │ │ │ │

├───────────────────────────────────────┼───────┼──────┼─────┼──────┤

│ 0 0 │ │ │ │ │

│у = 235 у1 = 223 у2 = 232 у = 219 │ 909 │227,25│1,25 │1,5625│

│ 2 1 │ │ │ │ │

├───────────────────────────────────────┼───────┴──────┴─────┴──────┤

│ │ 2 │

│SUM у 909 902 903 902 │ 3616 SUM d = 5,12 │

│ i i,j │ i i │

│ │ _ │

│у 227,25 225,50 225,75 225,50│ у = 226,00 │

│ j │ │

│d 1,25 - 0,50 - 0,25 - 0,50│ │

│ j │ │

│ 2 │ 2 │

│d 1,5625 0,2500 0,0625 0,2500│ SUM d = 2,125 │

│ j │ j j │

└───────────────────────────────────────┴───────────────────────────┘
Таблица II.4.2
┌───────┬──────┬───┬──┬──────┬──────┬───────┬──────┬─────┬────┬──────┬──────┬──────┐

│ │ 0 │ │ 2│ 0 │ │ 2 │ │ │ 2 │ │ │ 2 │

│ │ y │ d │d │ y │ d │ d │ y1 │ d │ d │ y │ d │ d │

│ │ 1 │ │ │ 2 │ │ │ │ │ │ 2 │ │ │

├───────┼──────┼───┼──┼──────┼──────┼───────┼──────┼─────┼────┼──────┼──────┼──────┤

│ │ 222 │ 3 │9 │ 229 │- 1,75│ 3,0625│ 222 │ 0,5 │0,25│ 235 │ 2,25 │5,0625│

│ │ 217 │- 2│4 │ 231 │ 0,25│ 0,0625│ 220 │- 1,5│2,25│ 231 │- 1,75│3,0626│

│ │ 218 │- 1│1 │ 228 │- 2,75│ 7,5625│ 221 │- 0,5│0,25│ 233 │ 0,25 │0,0625│

│ │ 219 │ 0 │0 │ 235 │ 4,25│18,0625│ 233 │ 1,5 │2,25│ 232 │- 0,75│0,5625│

├───────┼──────┼───┼──┼──────┼──────┼───────┼──────┼─────┼────┼──────┼──────┼──────┤

│Сумма │ 876 │ 0 │14│ 923 │ 0 │ 28,75 │ 886 │ 0 │ 5 │ 931 │ 0 │ 8,75 │

│Среднее│219,00│ │ │230,75│ │ │221,50│ │ │232,75│ │ │

└───────┴──────┴───┴──┴──────┴──────┴───────┴──────┴─────┴────┴──────┴──────┴──────┘
II.5. ОПРЕДЕЛЕНИЕ АКТИВНОСТИ АНТИБИОТИКОВ МЕТОДОМ

ДИФФУЗИИ В АГАР НА ЧАШКАХ ПЕТРИ
Описанная в предыдущем параграфе методика определения активности антибиотиков по схеме латинского квадрата предполагает использование лотков. Возможен и другой способ определения этой активности - по диффузии в агар на чашках Петри. Ниже описан трехдозный вариант этого метода <*>.

--------------------------------

<*> Этот раздел основан на разработке Всесоюзного НИИ антибиотиков и Государственного НИИ по стандартизации и контролю лекарственных средств Министерства здравоохранения СССР.
Стандартный (S) и испытуемый (U) образцы растворяют из расчета

1 мг в 1 мл (основной раствор), затем готовят по три концентрации

S S S

рабочих растворов стандарта (D1, D2, D3) и испытуемого образца

U U U

(D1, D2, D3), относящиеся друг к другу как 1:2:4. Все 6

растворов закапывают на одну чашку Петри, причем

последовательность внесения растворов в цилиндры или в лунки

должна быть случайной (возможные последовательности внесения

растворов приведены в табл. II.5.1). Число чашек n должно быть не

меньше 6.

Для уменьшения влияния колебаний во времени между внесением

различных растворов рекомендуется после внесения растворов

выдерживать чашки в течение 1-2 ч при комнатной температуре. После

S U

измерения зон угнетения роста результаты опыта у , и у

i,j i,j

(i = 1, 2, 3 - номера доз, j = 1, 2, ..., n - номера чашек)

записывают в таблицу (как показано в приведенном ниже численном

примере). Там же записывают получаемые расчетом следующие

вспомогательные величины:
S U

Si = SUM у и Ui = SUM у (II.5.1)

j i,j j i,j
- суммы по чашкам для каждой дозы стандарта и испытуемого образца;
S U

Tj = SUM у + SUM у , (II.5.2)

i i,j i i,j
- суммы по всем дозам для каждой чашки;
у = SUM у = (S1 + S2 + S3) +(U1 + U2 + U3) = SUM Tj (II.5.3)

i,j i,j j
- суммы всех диаметров зон задержки роста по всем дозам и чашкам.

Далее вычисляют:
S = S1 + S2 + S3 и U = U1 + U2 + U3 (II.5.4)
- суммы всех диаметров зон задержки роста отдельно для стандарта и

для испытуемого образца;
L = S3 - S1 и L = U3 - U1 (II.5.5)

S U

- "линейные контрасты" для стандарта и для испытуемого образца;
Q = S1 - 2S2 + S3 и Q = U1 - 2U2 + U3 (II.5.6)

S U
"квадратичные контрасты" для стандарта и для испытуемого образца.

Для проверки законности дальнейших расчетов следует провести дисперсионный анализ результатов опыта в соответствии с табл. II.5.2, а именно должно получиться F < F(95%; f, fост) для строк 2, 3, 4 и F > F (95%) для строки 1.

Выполнение первого условия одновременно означает, что вариации в этих строках 2, 3, 4 должны рассматриваться как случайные, и поэтому их следует включить в остаточную вариацию, произведя также перерасчет значимости линейной регрессии (кстати, это относится и к вариациям в строках 5 и 6, если они окажутся незначимыми). Разумеется, при указанном перерасчете степени свободы вариаций, включаемых в остаточную вариацию, должны прибавляться к числу степеней свободы последней (fост).
Таблица II.5.1
Расположение растворов стандарта и испытуемого образца

при трехдозном варианте метода диффузии в агар
┌─────┬──────────────────────────┬─────┬──────────────────────────┐

│Номер│Порядок внесения растворов│Номер│Порядок внесения растворов│

│чашек│ в цилиндры │чашек│ в цилиндры │

│ ├───┬───┬───┬────┬────┬────┼─────┼────┬────┬───┬───┬───┬────┤

│ │ 1 │ 2 │ 3 │ 4 │ 5 │ 6 │ │ 1 │ 2 │ 3 │ 4 │ 5 │ 6 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ S │ U │ U │ │ S │ U │ U │ S │ S│ U │

│1 │D1 │D2 │D2 │D3 │D1 │D2 │ 17 │ D1 │D2 │D3 │D1 │ D3│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ S │ U │ U │ │ S │ U │ S │ S │ U│ U │

│2 │D1 │D2 │D1 │D3 │D3 │D2 │ 18 │ D1 │D2 │D3 │D2 │ D3│ D1 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ U │ S │ U │ │ S │ U │ S │ S │ U│ U │

│3 │D1 │D2 │D3 │D2 │D3 │D1 │ 19 │ D1 │D2 │D3 │D2 │ D1│ D3 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ U │ S │ U │ │ S │ U │ U │ S │ U│ S │

│4 │D1 │D2 │D1 │D3 │D3 │D2 │ 20 │ D1 │D2 │D3 │D3 │ D1│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ U │ S │ U │ │ S │ U │ U │ S │ U│ S │

│5 │D1 │D2 │D1 │D2 │D3 │D3 │ 21 │ D1 │D2 │D1 │D3 │ D3│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ U │ S │ U │ │ S │ U │ U │ S │ U│ S │

│6 │D1 │D2 │D3 │D1 │D2 │D3 │ 22 │ D1 │D2 │D3 │D2 │ D1│ D3 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ S │ U │ U │ │ S │ U │ U │ S │ U│ S │

│7 │D1 │D3 │D1 │D2 │D3 │D2 │ 23 │ D1 │D2 │D1 │D2 │ D3│ D3 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ S │ U │ U │ │ S │ U │ S │ U │ U│ S │

│8 │D1 │D3 │D3 │D2 │D1 │D2 │ 24 │ D1 │D2 │D3 │D3 │ D1│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ S │ U │ U │ S │ U │ │ S │ U │ S │ U │ U│ S │

│9 │D1 │D3 │D2 │D3 │D2 │D1 │ 25 │ D1 │D2 │D3 │D1 │ D3│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ U │ U │ S │ U │ │ S │ U │ U │ S │ S│ U │

│10 │D1 │D3 │D2 │D1 │D2 │D3 │ 26 │ D1 │D3 │D1 │D2 │ D3│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ U │ S │ S │ U │ │ S │ U │ S │ S │ U│ U │

│11 │D1 │D1 │D2 │D3 │D2 │D3 │ 27 │ D1 │D3 │D2 │D3 │ D2│ D1 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ U │ S │ S │ U │ │ S │ U │ S │ S │ U│ U │

│12 │D1 │D1 │D3 │D2 │D3 │D3 │ 28 │ D1 │D3 │D3 │D2 │ D1│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ S │ S │ U │ U │ │ S │ U │ U │ S │ U│ S │

│13 │D1 │D1 │D2 │D3 │D2 │D3 │ 29 │ D1 │D3 │D1 │D3 │ D2│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ S │ U │ U │ S │ │ S │ U │ S │ U │ U│ S │

│14 │D1 │D1 │D3 │D2 │D3 │D2 │ 30 │ D1 │D3 │D3 │D2 │ D1│ D2 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ S │ U │ U │ S │ │ S │ U │ S │ U │ U│ S │

│15 │D1 │D1 │D2 │D3 │D2 │D3 │ 31 │ D2 │D3 │D2 │D1 │ D2│ D3 │

├─────┼───┼───┼───┼────┼────┼────┼─────┼────┼────┼───┼───┼───┼────┤

│ │ S │ U │ U │ S │ S │ U │ │ S │ U │ U │ S │ S│ U │

│16 │D1 │D2 │D3 │D2 │D3 │D1 │ 32 │ D1 │D3 │D1 │D2 │ D3│ D2 │

└─────┴───┴───┴───┴────┴────┴────┴─────┴────┴────┴───┴───┴───┴────┘
Если дисперсионный анализ дал нужный результат (т.е. выполняются указанные выше условия), то вычисляется логарифм отношения активностей испытуемого образца и стандарта по формуле:
А

U 4 U - S

M = lg ---- = --- I ---------, (II.5.7)

A 3 L + L

S U S
где A и A - активности, соответствующие рабочим растворам, а I -

U S

логарифм знаменателя прогрессии разведения (в данном случае I =

lg 2 = 0,301). Тогда отношение активностей равно:
R = antilg M (II.5.8)
Чтобы найти отношение активностей основных растворов

а /а , надо умножить величину R на коэффициент, учитывающий

U S

соответствующие (например, максимальные) степени разведения

основных растворов стандарта и образца ("гамма " и "гамма ").

S U

Тогда имеем:
"гамма "

U

а = а R --------. (II.5.9)

U S "гамма "

S
Границы 95%-ного доверительного интервала для логарифма

отношения активностей вычисляются по формуле:
---------------------

/ 2 8 2

M = CM +/- \/(С - 1)(CM + --- I ) , (II.5.10)

H, B 3
где

2 2

C = L / (L - t Sост ), (II.5.11)

2

причем L и Sост берутся из табл. II.5.2, а t - есть значение

критерия Стьюдента для Р = 95% и fост числа степеней свободы

2

величины Sост. Границы доверительного интервала для отношения

активностей (R и R ) будут антилогарифмами величин М и M, а для

H B H B

доверительных границ активности образца надо вводить коэффициент

"гамма " / "гамма " в соответствии с формулой II.5.9.

U S
Пример. II.8. Активность стандарта - 950 ЕД/мг. Основной

раствор стандарта готовят из расчета 1 мг/мл, так что a = 950

S

ЕД/мл. Учитывая, что контрольная концентрация для данного

S

антибиотика равна 1 ЕД/мл, готовят рабочие растворы стандарта D1,

S S

D2 и D3 путем разведения основного раствора в 500, 1000 и 2000

раз. Полагая, что активность испытуемого образца близка к

активности стандарта, и учитывая, что рабочие концентрации для

U U U

образца D1, D2, D3, должны быть близки к рабочим концентрациям

S S S

стандарта D1, D2, D3, основной раствор образца разводят также в

500, 1000 и 2000 раз. Количество чашек n = 6.

Результаты опыта записаны в табл. II.5.3. Там же записаны

значения Si, Ui, Tj и у, вычисленные по формулам II.5.1 - II.5.3.

По этим значениям, пользуясь формулами II.5.4 - II.5.6, получаем:
S = 3310; L = 325; Q = - 5;

S S

U = 3325: L = 345; Q = -5.

U U

Дисперсионный анализ результатов опыта представлен

в табл.II.5.4, из которой видно, что условия незначимости вариаций

в строках 2, 3 и 4 и значимости вариации в строке 1 выполняются,

что позволяет перейти к дальнейшим расчетам.

Прежде всего следует пересчитать остаточную вариацию с

включением в нее незначимых вариаций. Поскольку в данном случае

вариации незначимы не только в строках 2, 3 и 4, но и в строке 5,

последнюю тоже следует включить в остаточную вариацию. Тогда
1   ...   26   27   28   29   30   31   32   33   ...   42


написать администратору сайта