Принципы отбора содержания. Критерии оценки содержания теста

 

При создании теста внимание разработчика, прежде всего, привлекают вопросы отбора содержания, которое можно определить как оптимальное отображение содержания учебной дисциплины в системе тестовых заданий. Требование оптимальности предполагает использование определенной методики отбора, включающей вопросы целеполагания, планирования и оценки качества содержания теста.

Этап целеполагания является наиболее трудным и вместе с тем наиболее важным: от результатов его выполнения в первую очередь зависит качество содержания теста. В процессе целеполагания преподавателю необходимо решить вопрос о том, какие результаты учеников он хочет оценить с помощью теста.

Основания для ошибок в выводах педагога далеко не всегда связаны с технологическими недостатками традиционных средств контроля. Иногда они обусловлены недоработками педагога на этапе целеполагания, когда центр тяжести проверки смещается на второстепенные цели обучения, а иногда этап целеполагания отсутствует вовсе, поскольку часть педагогов уверена в непогрешимости своего опыта и интуиции, особенно при условии многолетней работы в школе. Однако никакие даже очень совершенные методы контроля и никакой опыт не дадут оснований для надежных выводов о достижении целей обучения до тех пор, пока нет уверенности в правильной постановке целей контроля и в их правильном, несмещенном отображении в содержании теста.

При создании теста ставится задача отобразить в его содержании то главное, что должны знать ученики в результате обучения, поэтому ограничиться простым перечислением целей обучения нельзя. В тест хотелось бы включить все, но, к сожалению, это невозможно, поэтому часть целей приходится просто отбросить и не проверять степень их достижения учащимися. Для того чтобы не утратить самое главное, необходимо структурировать цели и ввести определенную иерархию в их взаимное расположение. Без сомнения, здесь нет и не может быть готовых общих рецептов, поскольку в каждой дисциплине свои приоритеты. К тому же отдельные цели заметно связаны между собой, и потому простого представления о системе целей как об упорядоченной совокупности без рассмотрения связей между элементами явно недостаточно.

После определения целей тестирования и их конкретизации необходимо разработать план и спецификацию теста.

При разработке плана делается примерная раскладка процентного соотношения содержания разделов и определяется необходимое число заданий, по каждому разделу дисциплины исходя из важности раздела и числа часов, отведенных на его изучение в программе.

Раскладку начинают с подсчета планируемого исходного числа заданий в тесте, которое затем в процессе работы над тестом будет неоднократно меняться в сторону увеличения или уменьшения. Обычно предельное число не превышает 60 - 80 заданий, поскольку время тестирования выбирают в пределах 1,5 - 2 ч., а на выполнение одного задания отводится в среднем не более 2 мин.

После выполнения первого шага по планированию содержания разрабатывается спецификация теста, в которой фиксируется структура, содержание проверки и процентное соотношение заданий в тесте. Иногда спецификацию делают в развернутой форме, содержащей указания на тип заданий, который будет использоваться для оценки достижений учащихся в соответствии с намеченными целями создания теста, время выполнения теста, число заданий, особенности проведения тестирования, которые могут повлиять на характеристики теста и т.д.

Спецификация в развернутой форме включает:

1) цель создания теста, обоснование выбора подхода к его созданию, описание возможных сфер применения теста;

2) перечень нормативных документов, используемых при планировании содержания теста;

3) описание общей структуры теста, включающее перечень субтестов (если они есть) с указанием подходов к их разработке;

4) количество заданий различной формы с указанием числа ответов к закрытым заданиям, общее число заданий в тесте;

5) число параллельных вариантов теста либо ссылку на кластер, содержащую число и номера заданий кластера;

6) вес каждого задания, рекомендуемый автором теста;

7) рекомендуемое время выполнения теста, в том числе на каждый субтест, среднее время выполнения одного задания с учетом специфики формы;

8) соотношение заданий по различным разделам и видам учебной деятельности школьников;

9) рекомендации по контингенту учащихся для апробации теста;

10) охват требований стандартов (для аттестационных тестов);

11) перечень требований, не вошедших в тест (для аттестационных тестов);

12) рекомендуемую автором стратегию расположения заданий в тесте.

Знания и умения делятся таким образом:

А – знания понятий, определений, терминов;

В – знание законов и формул;

С – умение применять законы и формулы для решения задач;

D – умение интерпретировать результаты на графиках и схемах;

Е – умение проводить оценочные суждения.

Нередко устанавливаются следующие пропорции:

 

А – 10%, В – 20%, С – 30%, D – 30%, Е – 10%.

Помимо критериев, есть общие принципы, способствующие в определенной степени правильному отбору содержания тестов.

Принцип репрезентативности регламентирует не только полноту отображения, но и значимость содержательных элементов теста. Содержание заданий должно быть таким, чтобы по ответам на них можно было сделать вывод о знании или незнании всей программы проверяемого раздела или курса.

Принцип системности предполагает подбор содержательных элементов, отвечающих требованиям системности и связанных между собой обшей структурой знаний. При соблюдении принципа системности тест можно использовать для выявления не только объема знаний, но и для оценки качества структуры знаний учеников.

После отбора содержания теста начинается наиболее ответственный этап создания предтестовых заданий. Эта работа поручается обычно самым опытным преподавателям с большим стажем работы в школе. Однако для создания заданий одного опыта недостаточно. Необходимы также специальные знания по теории и методике разработки педагогических тестов, обеспечивающие профессиональный подход к созданию предтестовых заданий.

В.С. Аванесов выделил 3 критерия отбора содержания тестовых заданий:

1) определенность содержания теста;

2) непротиворечивость содержания заданий;

3) обоснованность содержания тестовых заданий.

1. Определенность содержания теста образует предмет педагогического измерения. В случае гомогенного теста возникает вопрос об уверенности в том, что все задания теста проверяют знания именно по определенной учебной дисциплине, а не по какой-то другой. Довольно часто случается так, что правильные ответы на некоторые задания требуют знаний не только интересующей дисциплины, но и ряда других, обычно смежных и предшествовавших учебных дисциплин. Близость и связанность которых затрудняет точное определение предметной принадлежности измеряемых знаний.

Например, в физических расчетах используется немало математических знаний и потому в систему физического знания обычно включается та математика, которая используется при решении физических задач. Неудача в математических расчетах порождает неудачу при ответах на задания физического теста. Отрицательный балл ставится, соответственно, за незнание физики, хотя испытуемый допустил ошибки математического толка. Если в такой тест включено много таких заданий, которые для правильного решения требуют не столько физических знаний, сколько умений выполнять усложненные расчеты, то это может быть примером неточно определенного содержания теста по физике. Чем меньше пересечение знаний одной учебной дисциплины со знаниями другой, тем определеннее выражается в тесте содержание учебной дисциплины. Определенность содержания требуется и во всех других тестах. В гетерогенном тесте это достигается посредством явного выделения заданий одной учебной дисциплины в отдельную шкалу. При этом нередко встречаются задания, хорошо работающие не только на одну, но и на две, три и даже большее число шкал.

Во всяком тестовом задании заранее определяется, что однозначно считается ответом на задание, с какой степенью полноты должен быть правильный ответ. Не допускается определение понятия через перечисление элементов, не входящих в него.

2. Непротиворечивость содержания заданий требует, чтобы относительно одной и той же мысли не возникали суждения, одновременно утверждающие и отрицающие ее. Недопустимо существование двух исключающих ответов на одно и то же задание теста. Если испытуемым дается инструкция: "Обведите кружком номер правильного ответа", а затем в одном из ответов утверждается, что правильного ответа нет, то это порождается пример непоследовательности мышления разработчика теста. В некоторых тестах встречаются ответы, вообще не связанные с содержанием задания. Таки ответы довольно легко распознаются испытуемыми как ошибочные, и потому тест оказывается неэффективным. Для повышения эффективности тест предварительно проходит апробацию на типичной выборке испытуемых. И если обнаружатся такие ответы к заданиям, которые испытуемые вообще не выбирают, то такие ответы из теста удаляются. Потому что они не выполняют функцию так называемых дистракторов, призванных отвлечь внимание незнающих испытуемых от правильного ответа. Кроме того, такие дистракторы вредны для теста, ибо снижают точность измерений (но об этом в статьях, где будут рассматриваться вопросы надежности тестов).

3. Обоснованность содержания тестовых заданий означает наличие у них оснований истинности. Обоснованность связана с аргументами, которые могут быть приведены в пользу той или другой формулировки заданий теста. При отсутствии доказательных аргументов в пользу правильности сформулированного задания оно в тест не включается, ни под каким предлогом. То же происходит, если в процессе экспертного обсуждения возникает хотя бы один контраргумент, или допускается условие, при котором данное утверждение может оказаться двусмысленным или ложным. Идея обоснованности содержания теста тесно переплетается с принципом содержательной правильности тестовых заданий, о чем уже говорилось в предыдущей статье. Напомним, что в тест включается только то содержание учебной дисциплины, которое является объективно истинным и что поддается некоторой рациональной аргументации. Соответственно, спорные точки зрения, вполне приемлемые в науке, не рекомендуется включать в содержание тестовых заданий.

Неистинность содержания тестовых заданий отличается от некорректности их формулировки. Неистинность, как отмечалось выше, определяется соответствующим ответом, в то время как некорректно сформулированное задание может продуцировать ответы как правильные, так и неправильные, а то и вызывать недоумение. Сюда же можно отнести неточно или двусмысленно сформулированные задания, порождающие несколько правильных или условно правильных ответов. Отсюда возникает необходимость вводить дополнительные условия истинности, что удлиняет само задание и усложняет его семантику. Некорректность формулировки обычно выясняется в процессе обсуждения содержания заданий с опытными педагогами-экспертами. Успех такого обсуждения возможен при создании соответствующей культурной среды, где допустимы только конструктивные и тактичные суждения. Увы, опыт убеждает, что такое встречается не часто. Между тем, только совместное и доброжелательное обсуждение материалов разработчиками и экспертами способно породить атмосферу поиска наилучших вариантов содержания теста. Этот поиск практически бесконечен, и здесь нет истины в последней инстанции.

 

5. Соотношение формы задания и вида проверяемых знаний, умений, навыков

 

Как уже упоминалось в предыдущих статьях, для целей тестирования знания, можно разделить на три вида: предлагаемые, приобретаемые и проверяемые. Теперь рассмотрим этот вопрос чуть подробнее.

Предлагаемые знания даются учащимся в форме учебных пособий, материалов, текстов, лекций, рассказов и т.п., отражающих основную часть образовательной программы. Эти знания формулируются, кроме того, в системе заданий, по которым сами учащиеся могут проверить степень своей подготовленности.

Приобретаемые учащимися знания являются обычно только частью предлагаемых знаний, большей или меньшей, в зависимости от учебной активности учащихся. С развитием компьютерного обучения появились условия для превышения объема приобретаемых знаний над объемом предлагаемых знаний. Это новая ситуация, связанная с возможностями массового погружения учащихся в мировое образовательное пространство, в котором ведущая роль заданий в процессе приобретения знаний уже осознана достаточно хорошо. Решение учебных заданий является главным стимулом для активизации учения, собственной деятельности учащихся. Эта деятельность может протекать в форме работы с учителем, в группе или самостоятельно. Распространенные в литературе рассуждения об уровнях усвоения относятся исключительно к приобретаемым знаниям.

Проверяемые знания образуют основное содержание того документа, который может называться называется программой экзамена или тестирования, в зависимости от избираемой формы контроля знаний. Главной признаком проверяемых знаний является их актуальность, что означает готовность испытуемых к практическому применению знаний для решения заданий, используемых в момент проверки. В высшей школе этот же признак иногда называют оперативностью знаний.

В процессе тестирования школьников и абитуриентов обычно проверяются только такие знания, которые находятся в оперативной памяти, те, что не требует обращения к справочникам, словарям, картам, таблицам и т.п. В числе проверяемых знаний можно выделить еще нормативные знания, которые подлежат обязательному усвоению учащимися и последующему контролю со стороны органов управления образованием посредством экспертно подобранной и утвержденной руководящим органом системы заданий, задач и других контрольных материалов.

Кроме того, выделяются свойства знаний. В.И. Гинецинский выделяет следующие свойства знаний:

 рефлексивность (я не только знаю нечто, но и знаю, что я это знаю);

 транзитивность (если я знаю, что некто знает нечто, то из этого следует, что я знаю это нечто);

 антисимметричность (если я знаю кого-то, то это не значит, что он меня знает).

Классификация видов и уровней знаний

Классификации видов и уровней знаний, сформулированная Блумом для решения практических задач педагогического измерения.

1. Знание названий, имен. Сократу принадлежат слова: кто постигает имена, тот постигнет и то, чему принадлежат эти имена. Как отмечает известный зарубежный философ Дж. Остин, знание предмета или явления во многом определяется тем, знаем ли мы его название, точнее - его правильное название.

2. Знание смысла названий и имен. Давно известно, что как понимаем, так и действуем. Понимание смысла названий и имен помогает их запоминанию и правильному употреблению. Например, при имени "Байкал" некоторые из младших школьников могут думать не о знаменитом озере, жемчужине России, а о фруктовой воде, продаваемой под тем же названием. Другой пример можно взять из области политического сознания. Как справедливо отмечают в своей книге Ю.Н. Афанасьев, А.С. Строганов и С.Г. Шеховцев, сознание бывших советских людей оказалось неспособными видеть различные смыслы таких абстракций языка как "свобода", "власть", "демократия", "государство", "народ", "общество", считая их как бы ясными по умолчанию. Что и стало одной из причин, позволившей при активном соучастии этих людей уничтожить систему их собственного жизнеобеспечения.

3. Фактуальные знания. Знание фактов позволяет не повторять ошибки, свои и чужие, обогатить доказательную основу знаний. Нередко фиксируются в виде научных текстов, результатов наблюдений, рекомендаций типа техники безопасности, житейской мудрости, поговорок, изречений. Например, из Древнего Китая пришло изречение китайского мыслителя Джу Си: не варите песок в надежде получить кашу.

4. Знание определений. Самое слабое место в школьном образовании, потому что определениям нельзя научить; их можно понять и усвоить только как результат самостоятельных усилий по овладению требуемыми понятиями. Знание системы определений является одним из лучших свидетельств теоретической подготовленности. В учебном процессе все четыре рассмотренных вида знаний можно объединить в группу репродуктивных знаний. Как отмечал И.Я. Лернер, за годы школьного обучения учащиеся выполняют свыше 10 тыс. заданий. Учитель вынужден организовать репродуктивную деятельность, без которой содержание изначально не усваивается.

Это знания, не требующие при усвоении заметной трансформации, и потому они воспроизводятся в той же форме, в какой воспринимались. Их можно, с некоторой условностью, назвать знаниями первого уровня.

5. Сравнительные, сопоставительные знания. Они широко распространены в практике и в науке, присущи преимущественно интеллектуально развитым лицам, особенно специалистам. Они способны анализировать и выбирать лучшие варианты действий при достижении той или иной цели. Как отмечал Н.Кузанский, "все исследователи судят о неизвестном путем соизмеряющего сравнения с чем-то уже знакомым, так что все исследуется в сравнении".

6. Знание противоположностей, противоречий, антонимов и т.п. объектов. Такие знания ценны в обучении, особенно на самом начальном этапе. В некоторых сферах такие знания являются главными. Например, в школьном курсе безопасности жизнедеятельности надо точно знать - что ученикам можно делать, а чего нельзя делать, ни при каких обстоятельствах.

7. Ассоциативные знания. Они свойственны интеллектуально развитому и творческому человеку. Чем богаче ассоциации, тем больше условий и выше вероятность для проявления творчества. В значительной мере именно на богатстве ассоциаций построена языковая культура личности, писательский труд, работа художника, конструктора и работников других творческих профессий.

8. Классификационные знания. Применяются главным образом в науке; Примеры - классификации Линнея, периодическая система элементов Д.И. Менделеева, классификации тестов и т.п. Классификационные знания являются обобщенными, системными знания. Этот вид знаний присущ только лицам с достаточным интеллектуальным развитием, так как требует развитого абстрактного мышления, целостного и взаимосвязанного видения совокупности явлений и процессов. Система знаний - это, прежде всего, владение эффективными определениями основных понятий изучаемых наук.

Знания п.п. 5-8 можно отнести ко второму уровню. Такие знания позволяют учащимся решать типовые задания как результат подведения каждого конкретного задания под известные классы изучаемых явлений и методов.

9. Причинные знания, знания причинно-следственных отношений, знание оснований. Как писал В. Шекспир, пора необъяснимого прошла, всему приходится подыскивать причины. В современной науке причинный анализ является основным направлением исследований. Как отмечал Л. Витгенштейн, говорят "я знаю" тогда, когда готовы привести неоспоримые основания.

10. Процессуальные, алгоритмические, процедурные знания. Являются основными в практической деятельности. Овладение этими знаниями является существенным признаком профессиональной подготовленности и культуры. В эту же группу можно отнести технологические знания, позволяющие неизбежно получать запланированный результат.

11. Технологические знания. Эти знания представляют собой особый вид знаний, проявляющихся на разных уровнях подготовленности. Это может быть сравнительно простое знание об отдельной операции технологической цепочки, или комплекса знаний, позволяющих непременно достигать поставленных целей с минимально возможными затратами.

Знания п.п. 9-11 можно отнести к знаниям более высокого, третьего уровня. Они приобретаются, главным образом, в системе среднего и высшего профессионального образования.

К высшему, четвертому уровню знаний можно отнести следующие виды знаний:

12. Вероятностные знания. Такие знания нужны в случаях неопределенности, нехватки имеющихся знаний, неточности имеющейся информации, при необходимости минимизировать риск ошибки при принятии решений. Это знания о закономерностях распределения данных, достоверности различий, о степени обоснованности гипотез.

13. Абстрактные знания. Эти особый вид знаний, при котором оперируют идеализованными понятиями и объектами, несуществующими в реальности. Много таких объектов в геометрии, естествознании, и в тех общественных науках, которые на Западе называют поведенческими - это психология, социология, педагогика. Вероятностные, абстрактные и специальные научные знания в каждой отдельной дисциплине знания составляют основу теоретических знаний. Это уровень теоретических знаний.

14. Методологические знания. Это знания о методах преобразования действительности, научные знания о построении эффективной деятельности. Это знания самого высокого, пятого уровня.

Перечисленные виды знаний не образуют пока полной классификационной системы и потому допускают возможность заметного расширения представленной номенклатуры, замены одних видов знаний другими, объединения их в различные группы.

Каждый из перечисленных видов знаний выражается соответствующей формой тестовых заданий.

Для определения степени обученности по каждой учебной дисциплине выделяют объем знаний, которые необходимы для усвоения согласно учебной программе, что составляет базовый объем знаний. Базовые знания представляют минимум государственного образовательного стандарта. Однако и среди базовых знаний выделяют те, которые должны оставаться в памяти по любой дисциплине, в совокупности образуют мировоззренческие знания. Б.У. Родионов и А.О. Татур (центр тестирования МИФИ) выделяют несколько звеньев мировоззренческих знаний: базовые знания, программные знания, сверхпрограммные знания. Педагогические тесты – единственный инструмент, позволяющий не только измерить обученность, но и умение использовать знания. Если говорить только об умениях, то на всех уровнях усвоения знаний можно выделить четыре вида умений:

1) умение узнавать объекты, понятие, факты, законы, модели;

2) умение действовать по образцу, по известному алгоритму, правилу;

3) умение проводить анализ ситуации, вычленять главное и строить из освоенных операций процедуры, позволяющие получить решение тестового задания;

4) умение и способность находить оригинальные решения.

Четыре вида умений, названные Б.У. Родионовым и А.О. Татур, не противоречат теории поэтапного формирования умственных действий, в основу которой и положен метод разработки автоматизированного тестирования с целью оценки усвоения знаний, приобретения умений и навыков. Это позволяет создать не только экспертные системы оценок степени обучаемости студентов, но и построить гибкую динамичную рейтинговую систему контроля знаний.