Девятко И. Методы социологического исследования. Логика социологического исследования методология и логика социологического исследования. Возможно ли объективное и научное социальное знание
Скачать 1.69 Mb.
|
ГЛАВА 4. ЭКСПЕРИМЕНТ В СОЦИАЛЬНЫХ НАУКАХ Эксперимент—это опытное исследование воздействия отдельного фактора (или нескольких факторов) на интересующую исследователя переменную. Экспериментальное исследование строится в соответствии с правилами индуктивного вывода о наличии причинно-следственной связи между событиями, во-первых, демонстрируя регулярный характер появления события-«отклика» после предшествующего по времени события-воздействия и, во-вторых, исключая посредством особых приемов экспериментальной изоляции и контроля альтернативные объяснения появления «отклика» с помощью посторонних влияний и конкурирующих каузальных гипотез '. Соответственно данные экспериментального исследования представляют собой наилучшее приближение к модели статистического вывода о наличии причинной взаимосвязи между воздействием и «откликом» или, в более привычных терминах, между независимой и зависимой переменными. В главах, посвященных массовым опросам и статистическому анализу результатов социологического исследования, обсуждаются возможности и ограничения неэкспериментальных, сугубо статистических методов анализа связи между переменными. В частности, речь идет о случаях ложной корреляции между переменными, а также о том, что в неэкспериментальных исследованиях часто невозможно однозначно упорядочить изучаемые переменные во времени и, следовательно, задать направление причинной связи2. Основанная на эксперименте модель статистического вывода в значительной степени лишена этих недостатков, хотя ее использование в социальных науках во многих случаях также сталкивается с существенными техническими, этическими и прочими ограничениями. Определение и виды эксперимента. Основные принципы экспериментирования в социальных науках Экспериментальный метод пришел в социальные науки из естественных наук, где он примерно с XVII века стал основным способом опытной проверки науч- 1 Эти общие правила индуктивного вывода были сформулированы еще Дж. С. Миллем в «Системе логики» (1843). 2 При отсутствии четких представлений о механизме причинной связи переменных (или отдельных событий) А и В единственным разумным основанием для построенного на опытных данных вывода о направлении причинной зависимости служит их последовательность во времени. Предшествование во времени—необходимое (но не достаточное) условие причинного воздействия А на В. ных теорий3. Самым популярным видом эксперимента в точных науках был и остается лабораторный эксперимент, получивший распространение также в науках о человеческом поведении. Лабораторный, или истинный, эксперимент нацелен на проверку теоретической гипотезы и осуществляется в условиях максимального контроля над уровнем воздействия независимой переменной и очищения (изоляции) этого воздействия от посторонних влияний, оказываемых внешними, т. е. иррелевант-ными с точки зрения проверяемой гипотезы, переменными. Экспериментальный контроль и изоляция позволяют отвергнуть иные возможные объяснения наблюдаемого эффекта— конкурентные гипотезы. Немаловажным условием обоснованности, валидности результатов, получаемых в лабораторном эксперименте, является возможность достаточно надежного измерения зависимой переменной. В этом случае при бесконечном количестве испытаний результаты неизбежных случайных возмущений в зависимой переменной «погасят» друг друга и исследователь получит точную оценку интересующего его воздействия. На практике описанные требования к истинному эксперименту могут быть полностью воплощены лишь в бесконечном идеальном эксперименте, при проведении которого внешние, так называемые экзогенные переменные остаются неизменными, и изменяется лишь независимая переменная, что обеспечивает полную валидность выводов о изучаемом соотношении между независимой и зависимой переменными4. Идеальный эксперимент—это эталон, относительно которого могут оцениваться и сопоставляться эксперименты реальные, однако буквальное выполнение всех его требований обычно невозможно или даже бессмысленно с точки зрения конкретной научной задачи, стоящей перед исследователем. Дональд Кэмпбелл приводит в качестве примера эксперимент Николсона и Карлслайла, которые продемонстрировали явление гидролиза, всего лишь «взяв в мае 1880 г. образец воды в районе Сохо (образец очень частный, характерный для местных условий и данного периода) и опустив в него весьма специфичный кусок медной проволоки, по которой пропускался электрический ток...» Влиянием посторонних факторов (прежде всего примесей) на протекание гидролиза в данном эксперименте можно было пренебречь, так как целью было подтверждение теоретически предсказанной закономерности, а не измерение скорости гидролиза или изучение особенностей его протекания в различных средах5. В социальных науках от лабораторного эксперимента принято отличать полевой эксперимент, проводимый в естественных условиях и в большинстве случаев имеющий своей целью не столько проверку научной гипотезы о причин- 3 Справедливости ради следует отметить, что торжеству экспериментального метода в естественных науках немало способствовало совершенство некоторых технических приемов и устройств, позаимствованных из донаучной традиции алхимиков. Последняя также уделяла большое внимание опытному знанию (как манифестации сверхчувственного знания) и активно использовала эксперименты-демонстрации или эксперименты, ориентированные на практические цели, если можно считать практической целью получение гомункулуса или философского камня. 4 См.: Петухов В. В. Словарь экспериментатора II Готтсданкер Р. Основы психологического эксперимента. М.: Изд-во МГУ, 1982. С. 454. 5 Кэмпбелл Д.. Модели экспериментов в социальной психологии и прикладных исследованиях: Пер. с англ./Сост. иобщ.ред.М.И.Бобневой.М.: Прогресс, 1980. С. 207—208. ной связи между переменными, сколько оценку эффективности различных программ или методов воздействия. Для многих прикладных социологических исследований, ориентированных на разработку и оценку социальных программ, социальное экспериментирование столь же типично, сколь типичны лабораторные эксперименты для социальной психологии или социологии малых групп. Социальное экспериментирование позволяет ответить на самые разнообразные вопросы, относящиеся преимущественно к сфере практической политики и администрирования — например, как влияет отмена смертной казни на показатели преступности, растет ли посещаемость музеев при снижении цен на входные билеты, во всех ли случаях повышение размера вознаграждения ведет к росту производительности труда и т. п. Например, в исследовании воздействия детского сериала «Улица Сезам» на культурное и интеллектуальное развитие американских дошкольников6 полевой эксперимент охватил детей и родителей, проживавших в городах (Бостон, Дарэм, Феникс), а также в сельских районах Калифорнии и Филадельфии. В ходе эксперимента детей и их родителей побуждали к просмотру сериала (независимая переменная), фиксируя изменения в когнитивном развитии дошкольников с помощью тестов достижений и тестов общего развития (зависимые переменные). Двухлетний полевой эксперимент позволил продемонстрировать заметный обучающий эффект, связанный с просмотром сериала, особенно очевидный в группе детей из неблагополучных семей. Полевой эксперимент—ведущий метод ориентированных на практику оценочных исследований (evaluative research)7. Однако далеко не всегда оценка эффективности новой, компьютеризованной системы обучения или, скажем, нового танкового прицела происходит в реальных полевых условиях. Иногда исследователи проводят эксперимент в условиях, имитирующих реальность или даже представляющих некоторые особенности реальной ситуации—обучения, вождения танка и т. п. —в преувеличенном, «очищенном» виде. Р. Готтсданкер предложил различать два типа полевых экспериментов —эксперименты, дублирующие реальный мир (т. е. уже описанные «натурные» эксперименты), и эксперименты, улучшающие реальный мир8. Эксперименты, улучшающие реальный мир, прежде всего позволяют повысить валидность и надежность данных. Так, данные «натурного» эксперимента по эффективности нового метода обучения вождению автомобиля будут подвержены влиянию множества трудноконтролируемых различий в условиях видимости, ландшафте, состоянии дорог и используемых автомобилей, тогда как данные тренажерных испытаний будут меньше подвержены такого рода смещениям. Кроме того, надежность эксперимента в «улучшенных» условиях также повысится за счет возможности контролировать частоту «встречного движения» на экране тренажера, соблюдать четкий временной режим, исключающий утомление оператора, и т. д. *'Цит. по: Bogatz G. A., Ball S. (eds.). The Second Year of Sesam Street: A Continuing Evaluation. Princeton (N. J.): Educational Testing Service, 1971. Vol. 1—2. II Riecken H. W., Boruch R. F. (eds.) Social Experimentation: A Method for Planning and Evaluating Social Intervention. N. Y., 1974. P. 306—307. 7 Об оценочных исследованиях см. в частности: Стародубцев С. П. Оценочные исследования: первое знакомство // Социологические исследования. 1992. № 7. С. 60—62. 8 Готтсданкер Р. Основы психологического эксперимента. М.: Изд-во МГУ, 1982. Для того чтобы понять, чем руководствуются социологи, осуществляя выбор одного из перечисленных видов эксперимента и конкретного плана построения экспериментального исследования, нам следует сначала рассмотреть ключевые понятия и принципы, лежащие в основе современного подхода к социальному экспериментированию. Суммируя вышеизложенное, можно сказать, что в лабораторном эксперименте обоснованность выводов экспериментального исследования, т. е. инвалидность и надежность, обеспечиваются благодаря трем принципам планирования эксперимента: 1) контролю над уровнем независимой переменной, 2) изоляции основного эффекта (т. е. собственно воздействия независимой переменной на зависимую переменную) от влияния посторонних, смешивающих факторов, а также 3) многократному воспроизведению полученных результатов, которое позволяет нивелировать случайные изменения результата9 отдельных испытаний, связанные с несистематическими колебаниями фона, случайными ошибками, усталостью и т. п. При этом первые два принципа планирования лабораторного эксперимента позволяют обеспечить валидность как соответствие эксперимента его цели, измерение именно того эффекта, который предполагалось измерить. Идеальный, т. е. совершенно валидный эксперимент, фиксирует лишь то отношение между переменными, которое и планирует изучить экспериментатор, и «отсекает» любые другие источники систематической вариации результатов. Валидность эксперимента, следовательно, определяет достоверность выводов о наличии либо отсутствии предполагаемой причинной связи и о подтверждении либо неподтверждении проверяемой в эксперименте теоретической гипотезы (рис. 7). Третий приницип обеспечивает надежность результатов—защиту от случайной ошибки, являющуюся, как говорилось выше, необходимым условием валидности. Однако большая часть экспериментов в социальных науках (как, впрочем, и в ряде инженерных дисциплин или агробиологии) происходит в условиях, когда перечисленные принципы не могут быть реализованы полностью. Возникающие здесь ограничения имеют технический, а иногда—скорее принципиальный характер. Если, например, в социологическом эксперименте независимыми переменными служат раса или социальное происхождение, то мы даже технически—не говоря уже о соображениях морали—не можем осуществлять полный контроль над этими переменными, т. е. совершенно произвольно определять их значение для каждого отдельного случая (субъекта). И даже если бы эту трудность можно было бы каким-то образом преодолеть на время проведения испытаний, нам было бы трудно изолировать интересующий нас основной эффект от влияния сопутствующих, «закоррелированных» с независимой переменной факторов, — связанного с расой или происхождением специфического социального опыта, соответствующих социальных навыков и т. п. (Со схожими трудностями сталкивается и агробиолог, оценивающий урожайность нового сорта пшеницы и пытающийся отделить главный фактор от прочих, также влияющих на урожайность: различий в освещенности опытных участков, в составе почвы и т. п.) Знаменитый английский статистик Р. Фишер первым обосновал возможность применения несколько иного подхода к планированию полевых эксперимен- 9 Случайные изменения результата, т. е. фиксируемое в конкретном испытании значение зависимой переменной, которое собственно и характеризует основной эффект,— воздействие независимой переменной на зависимую (или отсутствие такового). тов, лабораторных экспериментов с неполным контролем, а также квазиэкспериментов (о последних речь пойдет позднее). Этот подход основан на целенаправленном использовании законов случая и теории вероятности. Он требует введения в планирование эксперимента принципа рандомизации. Рандомизация—это стратегия случайного распределения субъектов по различным условиям (режимам) эксперимента и экспериментальным группам. Воспользуемся в качестве иллюстрации тем же простым примером психофизического опыта, которым пользуется сам Фишер при обсуждении роли приници-па рандомизации в планировании эксперимента10. Представим себе, что некая леди взялась угадать, в какие четыре из восьми чашек чая с молоком сначала налили молоко, а в какие—чай. Экспериментальная гипотеза состоит, таким образом, в том, что испытуемая обладает описанной способностью различения. Если воспользоваться простейшей формулой из комбинаторики, то общее число способов выбрать четыре чашки из восьми равно числу размещений А: Иными словами, если бы испытуемая не обладала способностью отличать «мо-лочно-чайные» чашки от «чайно-молочных» и прибегла к случайному угадыванию, то вероятность правильно определить 4 чашки составила бы '/70 (и3 70 существующих различных способов выбрать 4 чашки из 8 лишь один является правильным). Говоря точнее, при достаточно длинной серии испытаний часто- 10 Fisher R. A.. The Design of Experiment. 3"1 ed. L.: Oliver and Boyd, 1942. P. 17—-19. та правильных ответов приближалась бы к '/70- Если же частота правильных ответов существенно, с точки зрения избранного статистического критерия, превышает частоту случайного угадывания, то мы вправе сделать вывод о том, что интересующая нас специальная способность действительно существует. Однако описанная схема испытания явно не соответствует тем требованиям, которые предъявляются к уровню контроля над переменными и изоляции основного эффекта в лабораторном эксперименте. Возможные угрозы валиднос-ти наших статистических выводов носят довольно очевидный характер. Во-первых, мы не обладаем никакими средствами прямого измерения зависимой переменной—способности вкусового различения. Правильные угадывания— это лишь косвенные индикаторы такой способности и могут отражать влияние «посторонних» переменных, даже превосходящее основной эффект. Если, например, во все чашки, в которые сначала было налито молоко, был добавлен сахар, ясно, что все они будут безошибочно опознаны. Статистические выводы о значимости окажутся, таким образом, невалидными, т. е. не имеющими отношения к нашей экспериментальной гипотезе (хотя и подтверждающими конкурентную гипотезу о способности распознавать сладкий вкус). Систематическое постороннее влияние, составляющее угрозу валидности статистического вывода, может носить и другой характер: «молочные» и «чайные» чашки могут отличаться друг от друга толщиной, температурой, цветом. Чтобы устранить перечисленные угрозы валидности и нивелировать возникающие систематические смещения, экспериментатор должен использовать принцип рандомизации, т. е. обеспечить случайный порядок предъявления стимулов-чашек и их оценки, определяемый, например, с помощью таблицы случайных чисел или жребия. В идеале и отбор испытуемых для каждой серии опытов, и распределение уровней независимой переменной между чашками («молоко-чай» или «чай-молоко») должны основываться на законах случая. При планировании конкретного экспериментального исследования описанные принципы находят воплощение при разработке плана, или схемы, эксперимента, определяющего порядок предъявления испытуемым (или их группам) различных уровней (условий) независимой переменной для адекватной проверки экспериментальной гипотезы 11. Основные экспериментальные планы с контрольной группой и рандомизацией В социологии, психологии и других поведенческих науках особую роль играет использование принципа рандомизации при распределении испытуемых по группам. В эксперименте с неполным контролем или в полевом эксперименте, происходящем в естественных условиях (т. е. в условиях школьного класса, промышленной организации, городского района и т. д.) часто нужно доказать не только наличие ожидаемого эффекта в результате некоторого воздействия^, но и отсутствие того же эффекта в тех случаях, когда воздействия не было. Например, исследователь, изучающий воздействие просмотра антивоенных фильмов на изменения установок студентов, случайным образом отбирает из некоторой совокупности студентов экспериментальную группу, которой будет 11 Петухов В. В. Указ. соч. С. 446. показан антивоенный фильм, а также контрольную группу, которой он продемонстрирует нейтральный фильм, никак не связанный с изучаемыми установками. План этого простейшего рандомизированного эксперимента с предварительным и итоговым тестированием и контрольной группой (RTi.^C) будет выглядеть таким образом: R О1 Х О2 R Оз О4 где./?—процедура рандомизации (случайного распределения по группам), О, д— уровни установок в экспериментальной группе до и после просмотра фильма X, С?з,4—уровни установок в контрольной группе, не смотревшей фильма. Использование контрольной группы позволяет устранить некоторые важнейшие угрозы валидности эксперимента. Во-первых, если бы исследователь отказался от использования контрольной группы и ограничился тестированием, т. е. измерением установок «до-после» просмотра, то обнаруженные изменения в уровне установок можно было бы приписать влиянию на испытуемых самого по себе факта участия в эксперименте. Испытуемые, возможно, осознавали, что они отобраны для важного исследования и стремились некоторым образом соответствовать своей роли и оправдать некие гипотетические «ожидания» экспериментатора. Описанная угроза валидности широко известна и для нее существует несколько обозначений. В психологическом тестировании и экспериментальной психологии это называют «эффектом морской свинки» или «мотивом экспертизы». Иногда применяют термин, возникший в медицине, где при клинических испытаниях новых фармакологических средств и методов лечения часто наблюдают «эффект плацебо», т. е. заметное улучшение статуса у многих участников контрольной группы, в которой вместо реального воздействия использовались индифферентные средства и нейтральные врачебные манипуляции. В социологии самое популярное обозначение систематического смещения, возникающего из-за реакции испытуемых на ситуацию эксперимента — это «хо-уторнский эффект». В так называемых хоуторнских экспериментах (по названию промышленного предприятия в Чикаго) исследовались организационные и социально-психологические факторы, влияющие на производительность труда. Исследователи обнаружили, что эффект роста производительности труда в бригадах сохранялся даже при отсутствии собственно экспериментального воздействия. Предположительной причиной этого явления был рост группового самосознания у участников эксперимента '2. «Хоуторнский эффект»13—это угроза валидности, связанная с особенностями экспериментальной группы. Еще одна угроза валидности выводов, которую позволяет преодолеть описываемый план эксперимента, также связана с особенностями групп, а именно— с процессом отбора для участия в эксперименте. Если бы мы отказались от предварительного тестирования и случайного распределения испытуемых по экспериментальной и контрольной группам, мы совершили бы методическую ошибку, весьма характерную для любых экспериментов с добровольцами. Очень 12 См.: Roethlisberger F. G., Dickson W. J. Management and the Worker. Cambridge: Harvard University Press, 1939. 13 «Хоуторнский эффект», который, следуя выработанному в естественных науках образцу разрешения споров о приоритете, можно было бы именовать «хоуторнским эффектом плацебо, данного морской свинке при проведении экспертизы»... часто исследователи отбирают испытуемых для участия в специальной программе обучения или в новаторском организационном проекте, основываясь на изъявленном ими желании, а затем сравнивают результаты, показанные участниками оцениваемой программы, с результатами какой-либо другой доступной группы (или даже случайной выборки из соответствующей генеральной совокупности), не участвовавшей в такого рода программе. Однако такое сравнение некорректно: само по себе желание участвовать в эксперименте часто свидетельствует о изначально более высокой мотивации, осведомленности или интеллекте. Эти факторы сами по себе, или взаимодействуя с главной независимой переменной^, могут объяснить значимые различия в результатах, показанных экспериментальной группой. В только что описанном примере сравнение группы добровольцев, пожелавших посмотреть антивоенный фильм, с прочими студентами, может вести к завышенной оценке воздействия просмотра, если добровольцы изначально проявляют больший интерес к политическим проблемам. Лишь случайное распределение добровольцев по контрольной и экспериментальной группам при соблюдении «непрозрачности» такого распределения для всех испытуемых (участники обеих групп должны считать, что они подвергаются некоторому экспериментальному воздействию) позволяет судить о роли независимой переменной Х в возникновении межгрупповых различий 14. Вышеописанные угрозы валидности связаны преимущественно с особенностями групп, проявляющимися на стадии отбора или в ходе эксперимента. Однако рандомизация позволяет справиться и с некоторыми угрозами валидности, исходящими от переменных внешнего окружения, фона. К фоновым относятся, в частности, «возможные влияния времени года или событий, возникающих на институциональном уровне», а также факторы естественного развития — «все те биологические или психологические процессы, которые независимо от конкретных внешних событий систематически изменяются с течением времени»15. Испытуемые взрослеют, обучаются, устают, улучшают свои результаты при повторных тестированиях и т. п., что может сказываться на их результатах. Однако если такие посторонние влияния не оказывают избирательного воздействия только на членов экспериментальной группы, они будут вносить вклад лишь в случайную ошибку, а не в систематическое смещение. Иными словами, они будут с равной вероятностью распределены между случайным образом отобранными участниками контрольной и экспериментальной групп. План типа RTj.^C позволяет обеспечить случайный и равновероятный характер внешних, фоновых воздействий на контрольную и экспериментальную группу. Более того, он позволяет «вычесть» величину фонового влияния и оценить чистый основной эффект: если внешнее влияние все же имело место, оно в равной степени подействовало на показатели и экспериментальной, и контрольной групп; следовательно, разность между средними значениями первого и второго замеров уровня зависимой переменной в контрольной группе (О4 - 03) нужно вычесть 14 Сама процедура случайного распределения может быть осуществлена аналогично процедуре построения простой вероятностной выборки с использованием таблицы случайных чисел (см. гл. 7). Если единицы отбора—отдельные испытуемые, классы, городские районы — имеют тенденцию к естественной группировке, либо экспериментатор особенно заинтересован в сравнении малочисленных подгрупп, то можно использовать вероятностные процедуры с кластеризацией и стратификацией. 15 Кэмпбелл Д. Указ. соч. С. 51. из аналогичной разности значений зависимой переменной, зафиксированной в экспериментальной группе (О2 - О1), т. е.: |Х|=(О2 - О1) - (О4 - О3), при этом предварительное и послеэкспериментальное тестирование в экспериментальной и контрольной группах должны проводиться практически одновременно. Систематическая угроза валидности, связанная с фоновыми факторами, может все же возникнуть и при использовании рандомизации и контрольной группы. Это происходит тогда, когда фоновые факторы взаимодействуют с независимой переменной (или некоторыми ее уровнями). Природу такого взаимодействия легко понять на примере исследования, в котором изучается влияние тревожности, возникающей в ситуации неопределенности, на успешность решения сложных задач. В такого рода экспериментах для создания ситуации неопределенности и повышения реактивной тревожности (независимые переменные) часто используют неясные инструкции, косвенные негативные оценки действий испытуемого, высказываемые лицами, проводящими эксперимент (типа «Ну-ну, посмотрим, как Вы сможете это использовать»), а также предварительные серии, где испытуемому приходится решать заведомо неразрешимые задачи. Разумеется, всем этим воздействиям (X) подвергаются лишь члены экспериментальной группы. Если испытуемые—это студенты, которым в силу случайного стечения обстоятельств через неделю предстоит сдавать экзамены, или сотрудники подразделения фирмы, ожидающие скорой переаттестации, то эти факторы «фона» будут взаимодействовать с независимыми переменными, не только суммируясь с ними, но и усиливая их эффект. Негативные подкрепления, получаемые в ходе эксперимента, будут восприниматься значительно острее накануне экзаменационной сессии или переаттестации, а связанная с этими событиями фоновая тревожность и неопределенность будет взаимодействовать с тревожностью и неопределенностью, создаваемыми преднамеренно. Оценить чистый эффект взаимодействия с помощью сравнения с результатами контрольной группы вышеописанным способом в данном случае невозможно, так как взаимодействие фоновых смещений с основным эффектом происходит лишь там, где имеет место экспериментальное воздействие X. В контрольной группе приближающееся неприятное событие также может повлиять на результаты итогового замера или даже обоих замеров, но оно не будет взаимодействовать, «перемножаться» с воздействием независимой переменной (такое взаимодействие можно описать в более точных терминах, однако это требует введения некоторых статистических понятий, см., в частности, с. 73—74). Для оценки величины взаимодействия фоновых смешивающих переменных с основным эффектом нужны более сложные экспериментальные планы. Некоторые из них будут обсуждаться ниже. Иногда имеет смысл воспользоваться упрощенным вариантом описанного плана с рандомизацией и контрольной группой, а именно планом с рандомизацией без предварительного тестирования (RTC), который схематически выглядит следующим образом: R Х О1 R О2 Привлекательность этого плана заключается прежде всего в его экономичности. Если при распределении испытуемых между группами и уровнями воздей- ствия использовалась истинная вероятностная процедура16, то проведение предварительного тестирования — как в плане RT1-2C — лишь увеличивает стоимость эксперимента, не оказывая существенного влияния на качество получаемых данных. По сути, правильно осуществленная рандомизация (R)—это наилучшая гарантия отсутствия изначального смещения между группами (т. е. равенства исходных среднегрупповых значений зависимой переменной О в контрольной и экспериментальной группах). Кроме того, в широкомасштабных социологических исследованиях, а также в прикладных исследованиях в области педагогики и социальной работы, проведение и предварительных, и повторных измерений зависимой переменной (политических установок, криминального поведения и т. п.) часто неосуществимо либо ведет к возникновению реакции на саму процедуру тестирования. Если, к примеру, мы изучаем влияние участия в предвыборной групповой дискуссии на последующую поддержку политических партий, то предварительное измерение политических установок может повлиять на активность опрошенных в ходе самой дискуссии и их последующие установки. Можно заключить, что план RTC предпочтителен всегда, когда нежелательно повторное предъявление весьма специфичных по содержанию и схожих по форме тестов, вопросов, измерительных процедур. Иными словами, этот план заслуживает широкого применения в социологических и оценочных исследованиях. Кроме того, он является самым приемлемым средством проведения так называемых методических экспериментов, в которых оценивается эффективность различных видов опроса, способов заполнения и форматов анкет и т. п. (примером такого методического эксперимента является описанное в главе «Массовые опросы» исследование Бредберна и Судмана, в котором эффективность метода «случайного ответа» сравнивалась с эффективностью использования данных административной статистики). План RTC использовался, в частности, в одном из практически ориентированных социальных экспериментов по совершенствованию системы правоохранительных и пенитенциарных учреждений, проводившихся в США в 1960-70-е гг. В 1961 г. Федеральное бюро пенитенциарных учреждений США начало трехлетний эксперимент, целью которого было изучить воздействие поддерживающего консультирования и специальных реабилитационных программ на поведение мальчиков-подростков, находящихся в исправительных учреждениях. Местом проведения эксперимента стала специальная школа-колония для несовершеннолетних правонарушителей . При проведении рандомизации мальчиков случайным образом распределяли между отрядами, где проводился эксперимент, и отрядами, служив- 16 Самая распространенная ошибка, совершаемая исследователями при проведении рандомизации в эксперименте,—замена случайного распределения попарным уравниванием, когда, скажем, к двум пожилым домохозяйкам со средним образованием в экспериментальной группе подбирают двух пожилых домохозяек в контрольной группе и т. д. Попарное уравнивание может вести к таким же неконтролируемым смещениям, как и использование квотной выборки (см. гл. 7). Иногда в случаях, когда отбор производится внутри команд, школьных классов и других естественных группировок, попарное уравнивание после разбиения группы пополам допустимо, если приписывание групп к контрольным или экспериментальным условиям будет проводиться случайно. Однако в двумерном эксперименте (типа «есть воздействие—нет воздействия») такой подход неприемлем, т.к. ведет к резкому снижению статистических свойств получаемых оценок. шими контрольными (каждый отряд жил в отдельно расположенном корпусе). В экспериментальных отрядах было увеличено количество воспитателей, проводились специальные индивидуальные и групповые консультации, использовалась система вознаграждений за хорошее поведение. В контрольных группах применялись обычные методы воспитания и обучения, а также традиционные наказания за нарушение внутреннего распорядка. Результаты эксперимента показали, что мальчики из экспериментальных групп раньше покидали спецшколу, лучше успевали в учебе, вели себя адаптивнее. Не было обнаружено значимых различий в показателях рецидивной преступности для подростков из экспериментальных и контрольных групп, освобожденных из школы-колонии, однако ребята из экспериментальных групп значительно отличались от ребят из контрольных групп по показателю тяжести вновь совершенных преступлений (первые, в случае рецидива, совершали менее тяжкие преступления). По результатам эксперимента было принято решение о внедрении экспериментальной коррекционной программы во всех подразделениях школы 17. Еще один популярный план с рандомизацией и контрольной группой—это план Соломона18. План Соломона—это расширенный вариант плана RT1-2C, позволяющий проконтролировать и оценить эффекты естественного развития и фона, а также определить взаимодействие эффекта тестирования с основным воздействием X. Здесь наряду с экспериментальной и контрольной группами с предварительным тестированием используются экспериментальная и контрольная группы без предварительного тестирования (как в плане RTC). Схематически это выглядит следующим образом: Очевидно, что если главный эффект Х реален, то даже при наличии существенного эффекта тестирования («хоуторнского эффекта») будут выполняться четыре неравенства: О2>О1, О2>О4, О5>О6; О5>О3. Оценкой сравнительной величины эффекта предварительного тестирования (без взаимодействия с Х) может служить величина разности О6 - О3. Сравнение O6, с О1 и О3 позволяет оценить влияние фоновых факторов и факторов естественного развития 19. До сих пор мы обсуждали содержательные аспекты проверки экспериментальной гипотезы о наличии главного эффекта X с помощью различных планов эксперимента, а также преимущества разных планов для обеспечения разных аспектов валидности. Очевидно, однако, что в каждом конкретном эксперименте величина главного эффекта, т. е. наблюдаемого различия результатов экспериментальной и контрольной группы, будет варьировать не только под воздействием независимой переменной, но и просто в результате действия различных случайных возмущений. Конечно, если бы наш эксперимент был идеален и абсолютно надежен (см. выше), то при каком угодно числе повторений мы бы 17 Federal Bureau of Prisons. Rational Innovation: An Account of Changes in the Program of the National Training School for Boys from 1961—1964. Washington (D. C.), 1964. Цит. по: H. W. Riecken, R. F. Boruch (eds.) Social Experimentation. N. Y.: Academic Press, 1974. 18 Впервые описан в статье Р. Соломона. См.: Solomon R. L. An Extension of Control Group Design // Psychological Bulletin. 1949. Vol. 46. № 1. P. 137—150. 19 См.: Кэмпбелл Д. Указ. соч. С. 88—89. всегда получали одну и ту же истинную оценку величины воздействия (при отсутствии или контроле смешивающего влияния дополнительных переменных). Однако реальные эксперименты — особенно, как уже говорилось, эксперименты в социальных науках — не бывают и не могут быть идеальными и безупречно надежными. Следовательно, перед исследователем всегда стоит задача статистической оценки значимости полученных результатов. Вероятностным «воплощением» содержательной экспериментальной гипотезы является статистическая гипотеза. Принятие или непринятие статистической гипотезы—необходимое, но недостаточное условие принятия или от-вержения содержательной гипотезы, проверяемой в эксперименте. Проверяемая в конкретном эксперименте статистическая гипотеза всегда формулируется как гипотеза о том, что при бесконечном количестве повторений этого эксперимента среднее различие между экспериментальной и контрольной группами (или между воздействием разных уровней независимой переменной) равнялось бы нулю. Такую статистическую гипотезу, фактически сводящуюся к утверждению о случайном характере наблюдаемых в реальном эксперименте различий, называют нулевой гипотезой, или нуль-гипотезой (Н0). Отвержение или неотвержение нуль-гипотезы позволяет говорить о том, что в данном эксперименте содержательная гипотеза подтвердилась, либо подтвердилась противоположная ей альтернативная гипотеза, либо не было получено подтверждения ни одной из них. Вспомним воображаемый эксперимент Фишера с чаем и молоком, описанный в начале главы. Мы отмечали, что при использовании тактики случайного угадывания испытуемая смогла бы правильно определить последовательность наполнения чашки примерно в 1 случае из 70. Следовательно, 2 «попадания» из 100 даже при очень большом количестве испытаний едва ли могут считаться значимым результатом. Куда достовернее выглядят 90 или даже 95 «попаданий» из 100 (оставшиеся «ошибки» можно отнести на счет действия случайных факторов). Чтобы определить уровень значимости и построить доверительный интервал в этом случае достаточно метода, описанного в главе 8. Вообще, критерии значимости и статистические методы, используемые при проверке статистической гипотезы для конкретного плана эксперимента, называют статистическими моделями. Для планов с контрольной группой основная статистическая модель—это использование t-критерия, о чем подробнее говорится чуть ниже. Для более сложных планов многомерных или факторных экспериментов, общий обзор которых дается в следующем разделе главы, ведущие статистические модели—это дисперсионный анализ и использование F-критерия Фишера. Итак, для того чтобы оценить статистическую значимость в элементарных рандомизированных планах, описанных выше, нам необходимо проверить статистическую гипотезу о разности средних значений зависимой переменной в контрольной и экспериментальной труппах. Конкретное значение разности средних значений зависимой переменной в экспериментальной и контрольной группе, обнаруженное в отдельном эксперименте (скажем, 4 балла по некоторой «шкале пацифизма»), нужно соотнести с определенным интервалом, в который это значение «укладывается» с заданной (доверительной) вероятностью. Иными словами, нужно решить задачу интервального оценивания, подобную задаче оценки отдельного параметра совокупности в выборочном обследовании (эта задача описана в гл. 8). Разница в том, что проводя эксперимент, мы интересуемся не вероятными пределами, в которых лежит некая характеристика выборки из реально существующей совокупности, а пределами, в которых лежит полученный нами в эксперименте результат относительно результата воображаемой бесконечной совокупности идентичных экспериментов. Нулевая гипотеза утверждает, что истинное значение различия средних равно нулю, варьируя в каких-то пределах от эксперимента к эксперименту (т. е. Н0: (Xэкспери- мент - Хконтрольн) =0). Если удается показать, что полученное в эксперименте зна-чение разности групповых средних не позволяет принять нулевую гипотезу, то делается вывод о подтверждении гипотезы, противоположной нулевой (т. е. Н1: (Хэксперимент. - Хконтрольн.) <> 0) — о статистической значимости различий между группами—и, значит, о подтверждении экспериментальной гипотезы (или о подтверждении гипотезы, противоположной экспериментальной,—если различие между экспериментальной и контрольной группой оказалось с обратным знаком). Заметьте, что нулевая гипотеза всегда формулируется как гипотеза о том, что истинное значение разности средних (или, скажем, величины взаимосвязи между двумя переменными) равно нулю, а полученные в эксперименте величины отличаются от нуля исключительно из-за случайной ошибки выборки. Чем дальше от нуля — в ту или другую сторону —расположено наблюдаемое значение, тем больше его статистическая значимость и меньше вероятность того, что оно явилось результатом ошибки выборки. Для того чтобы сравнить полученное в эксперименте с контрольной и экспериментальной группами значение разности между средними с гипотетическим выборочным распределением этой величины для бесконечного числа испытаний (такие распределения имеются не только для разности средних, но и для средних величин, стандартных отклонений и т. д.— см. с. 167—169), нужно высчитать стандартную ошибку разности между средними. Формула для стандартной ошибки разности между средними—SМэ-Мк—немного отличается от формулы стандартной ошибки средней SM20, приведенной в главе 8. Тем не менее она весьма проста: где Sэ и Sк— величины стандартного отклонения, рассчитанные для экспериментальной и контрольной групп, пэ и пк— число наблюдений (испытуемых) в экспериментальной и контрольной группах. После этого нужно определить, на сколько единиц стандартной ошибки отстоит полученная разность средних (Xэксперимент. - Хконтрольн.) от нуля, представляю- 20 Напомним, что стандартная ошибка среднего равна стандартному отклонению теоретического распределения выборочных средних. Эта величина используется как мера ошибки выборки (с. 170). Выборочные средние (т. е. средние значения множества выборок из гипотетической генеральной совокупности) распределены приблизительно нормально. А вот распределение разностией выборочных средних (t-распределение) выглядит как «уплощенное» нормальное распределение, причем чем меньше размер выборки, тем более плоским и «размазанным» выглядит t-распределение. Это распределение было впервые описано У. Госсетом (опубликовавшим свои результаты под псевдонимом Стьюдент). Госсет показал, что для малых выборок вероятностное оценивание выборочных средних дает надежные результаты лишь в том случае, если вместо самого распределения средних мы рассматриваем распределение их разностей. щего собой—в согласии с нуль-гипотезой—среднее гипотетического распределения разностей средних, t-распределения. Для этого полученную в эксперименте разность групповых средних нужно перевести в t-единицы (т. е. единицы стандартного отклонения для t-распределения). Для данной разности средних величину t можно высчитать по формуле: Полученное значение t нужно сравнить с соответствующим значением из таблицы t-распределения для избранного уровня значимости (р = 0,05 или 0,01) и числа степеней свободы, соответствующего количеству наблюдений в каждой группе (или подвыборке). Число степеней свободы—довольно сложное статистическое понятие, анализ которого выходит за пределы этого учебника (в самом общем виде оно обсуждается в гл. 7). На практике число степеней свободы можно рассматривать как величину, равную числу наблюдений (испытуемых, опрошенных, баллов и т. п.) минус число оцениваемых параметров. Для разности средних двух групп это составит число наблюдений в экспериментальной группе минус один (Ид-1) плюс число наблюдений в контрольной группе минус один (nк- 1): Таблицы t-распределения можно найти в любом учебнике или справочнике по статистике (см. «Дополнительную литературу» к данной главе, а также к гл. 8). Здесь мы приводим лишь фрагмент такой таблицы. Таблица 4.1 Сокращенная таблица t-распределения Стьюдента (W. Gosset, 1908)
Рассмотрим пример вычисления t для описанного выше эксперимента, в котором изучалось воздействие антивоенного фильма на изменение установок студентов. Пусть для контрольной и экспериментальной групп при итоговом тестировании по шкале пацифистских установок были получены следующие результаты: Наша статистическая задача заключается в том, чтобы определить, отличаются ли средние двух групп настолько, чтобы можно было отвергнуть нулевую гипотезу о том, что эти средние взяты из одной генеральной совокупности. Воспользуемся приведенной выше формулой для вычисления значения t21: Число степеней свободы в приведенном примере: (28-1) +(34-1) =60. Полученное значение t= 3,4760 заведомо превосходит табличные значения и для p<0,05, и для р< 0,01 (на 5%-м уровне значение /для 60 степеней свободы составит 2,00, а на 1%-м—2,660). Следовательно, мы можем отклонить нулевую гипотезу и сделать вывод, что существует статистически значимая разница между средними уровнями пацифизма в группе студентов, посмотревших антивоенный фильм, и в контрольной группе. Важно, однако, всегда помнить о том, что статистическая значимость результатов совершенно отлична от их содержательной значимости! Даже высокая статистическая значимость результатов эксперимента не гарантирует, что эти результаты будут иметь сколько-нибудь интересную интерпретацию и повлияют на состояние современного социологического знания. Содержательная значимость зависит прежде всего от нашей способности увязать экспериментальную гипотезу с существующими социологическими теориями. |