Экспертные оценки

Б. Формирование вопросов и составление  анкет

Правила опроса экспертов содержат ряд положений, обязательных к выполнению всеми. Эти правила должны обеспечивать соблюдение условий, благоприятствующих формированию экспертами объективного мнения. В число таких условий входит:

• независимость формирования экспертами собственного мнения об оцениваемых событиях;
• удобство работы с предполагаемыми анкетами (вопросы формулируются в общепринятых терминах и должны исключать всякую смысловую неоднозначность и др. — см. раздел 4.10.4);
• логическое соответствие вопросов структуре объекта опроса;
• приемлемые затраты времени на ответы по вопросам анкеты, удобное время получения вопросов и выдачи ответов;
• сохранение анонимности ответов для членов экспертной группы;
• проведение коллективных обсуждений оцениваемых событий;
• предоставление экспертам требуемой информации.

Для обеспечения  выполнения этих условий должны быть разработаны правила проведения опроса и организации работы экспертной группы. Причем в них должна быть учтена специфика оцениваемых событий, а также особенности организаций, из которых приглашаются эксперты.

В. Формирование правил определения суммарных оценок на основе оценок отдельных экспертов

Если имеются  оценки a ij событий (факторов) С i определенные каждым n j є N экспертом, то возникает вопрос о том, каким образом могут быть получены групповые оценки событий.

В общем случае групповая оценка a i каждого С i события зависит от оценок экспертами этого события и степени компетентности h j , экспертов. Степень компетентности h j , эксперта учитывает его опыт и квалификацию и является основной характеристикой эксперта, которая используется при определении групповых оценок. Поэтому

Следовательно, задание способа формирования групповых  экспертных оценок состоит в определении  этой функции. Причем необходимо, чтобы  она была строго монотонно возрастающей по a ij и h j ).

Этому условию  удовлетворяет множество функций. Обычно полагают, что функцию (1) можно  представить как 

При равной компетентности экспертов эта формула принимает  вид средней оценки

В зависимости  от специфики экспертного опроса, объекта исследования и используемой методики обработки экспертных данных оценки a ij могут иметь различную шкалу измерения: от 0 до 1, от 0 до 10 и от 0 до 100. Принципиальной разницы в данных шкалах нет, выбор той или иной из них во многом определяется удобством получения и обработки оценок, а также вкусом исследователя, проводящего экспертный опрос.

Для того чтобы  учитывать различие в компетентности экспертов, им могут быть приписаны  различные «веса», которые учитываются  при определении групповых оценок. Причем значения этих коэффициентов  интерпретируются как вероятность  задания экспертом достоверной  оценки. Тогда 0 < h j ? 1. Значения весовых коэффициентов могут быть использованы при построении системы стимулирования работы группы экспертов. Например, дополнительная оплата за работу по оценке событий определится пропорционально весовому коэффициенту эксперта.

Существуют различные  приемы оценки компетентности эксперта, выбор которых определяется как  характером решаемой задачи, так и  возможностями проведения конкретного  экспертного опроса.

На наш взгляд, оценку следует строить на основе определенной шкалы, каждый балл которой  определяется с помощью выбора соответствующих  характеристик, оценивающих квалификацию эксперта. При этом должен быть учтен  уровень квалификации эксперта в  узкой области специализации, уровень  теоретической подготовки, его практический опыт и широта кругозора. Перечисленные  характеристики лучше всего оценивать  по десятибалльной шкале, разработанной  специально к конкретному экспертному  опросу. Полученные характеристики следует  свести в один показатель, характеризующий  объективную оценку компетентности эксперта, - h j 0 .

Кроме того, целесообразно  определить показатель относительной  самооценки эксперта (субъективный показатель — h c j ). Этот показатель получается следующим образом: для каждого вопроса или группы вопросов, по которым считается необходимым оценить компетентность эксперта, в таблице экспертных оценок предусматривается шкала под названием «относительная самооценка эксперта». В ней эксперту самому предлагается проставить себе балл по десятибалльной шкале, ориентируясь, к примеру, на следующие значения баллов:

• 10 — эксперт специализируется по данному вопросу, имеет по нему законченные теоретические или практические разработки (научные исследования, запущенные в производство технические разработки, данный вопрос непосредственно относится к области его узкой служебной деятельности);
• 8 — в практическом решении данного вопроса эксперт участвует, но этот вопрос не входит в сферу его узкой специализации;
• 5 — вопрос входит в сферу тесно связанного с его узкой специализацией направления (смежная прикладная дисциплина, смежная область практической деятельности);
• 3 — вопрос не входит в сферу тесно связанного с его узкой специализацией направления (например, знакомство с проблемой по литературным источникам, по работе на другом предприятии и т. п.).

В целом показатель «относительная самооценка эксперта»  направлен на то, чтобы эксперт  сам оценил уровень своей компетентности по заданному вопросу.

Для того чтобы  шкала баллов не оказывала влияния  на самооценку, в графе «относительная самооценка эксперта» можно привести перечень характеристик компетентности экспертов без проставления баллов. В этом случае эксперт должен подчеркнуть  те характеристики, которые, по его  мнению, определяют уровень личной компетентности. Баллы проставляются  рабочей группой при анализе  собранных анкет. Анкета для определения  компетентности экспертов приводится в табл. 5.1.

Произведение  объективного и субъективного показателей, деленное на сто, будет характеризовать  компетентность эксперта по данному  вопросу, т.е.

Деление на 100 нужно  для приведения диапазона изменения  h j , к виду 0 < h j ? 1. Тогда показатель компетентности эксперта можно трактовать как вероятность задания им достоверной оценки.

При неоднократном  повторении опроса одним и тем  же коллективом экспертов (либо устойчивым большинством) по сходным вопросам можно и необходимо на каждом новом  опросе воспользоваться уже накопленными результатами для уточнения характеристик  компетентности экспертов.

Кроме того, компетентность экспертов может быть определена самими экспертами. Для этого каждый эксперт, входящий в группу, задает весовые коэффициенты всем остальным  экспертам, кроме себя. Далее определяется среднеарифметическая оценка компетентности каждого эксперта.

Если экспертиза проводится неоднократно одной и  той же группой (или устойчивым большинством) экспертов по сходным вопросам, следует  при каждом новом опросе воспользоваться  уже полученными результатами для  уточнения характеристик компетентности экспертов.

Практика экспертных опросов показывает, что, хотя методы самооценки недостаточны для того, чтобы служить единственным критерием  оценки компетентности экспертов, использование  этих методов способствует более  обоснованным выбору и оценке экспертов.

Таким образом, получены данные, подтверждающие связь  между средней групповой самооценкой (частное от деления суммы индивидуальных на число экспертов в группе) и  точностью экспертизы [29]. На рис. 5.1 изображена кривая, показывающая зависимость  между средней групповой самооценкой (у) и средней групповой ошибкой (х).

1 В 2 С 3 А Y 

Рис. 5.1. Влияние средней  групповой самооценки на точность экспертизы

Между этими  величинами существует обратная связь, заключающаяся в том, что средняя  групповая ошибка монотонно убывает  с возрастанием средней самооценки. Из этого вытекает следующий вывод. Пусть, например, группа кандидатов в  эксперты со средней оценкой С разделена на две подгруппы, из которых подгруппа А имеет более высокую самооценку, чем группа в целом, а подгруппа В — более низкую. Тогда подгруппа А будет в среднем более точной, чем вся группа, а подгруппа В — менее точной.

С другой стороны, различные подходы к оценке компетентности экспертов можно рассмотреть  и с иных позиций. Экспертные оценки носят субъективный характер, оценка компетентности экспертов — также. Возникает вопрос: повышает ли точность результатов экспертизы наложение  субъективных оценок компетентности экспертов? Может быть, проще определять окончательные  оценки без формализованного учета  компетентности экспертов? Только при  этом следует на этапе отбора экспертов  уделить больше внимания неформальной оценке уровня их квалификации, а затем, при подведении результатов экспертизы, считать их всех равнокомпетентньми, и в качестве интегральной оценки рассматривать среднеарифметическое их отдельных оценок. Часто на практике поступают именно таким образом.

Г. Работа с экспертами

В зависимости  от характера исследуемого объекта, от степени его формализации и  возможности привлечения необходимых  экспертов порядок работы с ними может быть различным, но в основном он содержит следующие три этапа.

На первом этапе  эксперты привлекаются в индивидуальном порядке с целью уточнить модель объекта, ее параметры и показатели, подлежащие экспертной оценке; уточнить формулировки вопросов и терминологию в анкетах; согласовать целесообразность представления таблиц экспертных оценок в той или иной форме; уточнить состав группы экспертов.

На втором этапе  экспертам направляются анкеты с  пояснительным письмом, в котором  описывается цель работы, структура  и порядок заполнения анкет с  примерами.

Когда имеется  возможность собрать экспертов  вместе, особенно если удается их сгруппировать  в соответствии с какими-либо признаками, существенно важными для данного опроса, например эксперты из одной организации, только сотрудники сбытовых служб, то цели и задачи анкетирования, а также все вопросы, связанные с анкетированием, могут быть доложены устно. Обязательное условие такой формы экспертного опроса — последующее самостоятельное заполнение анкет при соблюдении всех правил анкетирования.

Третий этап работы с экспертами осуществляется после получения результатов  опроса и изучения исследуемого объекта  другими методами в процессе обработки  и анализа полученных результатов. На этом этапе от экспертов в форме  консультаций обычно получают всю недостающую  информацию, которая требуется для  уточнения полученных данных и их окончательного анализа.

Д. Анализ и обработка  экспертных оценок

При проведении анализа собранных экспертных данных в соответствии с целями исследования и принятыми моделями необходимо определить согласованность действий экспертов и достоверность экспертных оценок.

Пусть для каждого  события C I на основании оценок a ij , заданных группой из Р экспертов, образована матрица рангов важности — II ? ij II, где i =1, 2,..., m — число событий, j =1, 2,..., p — число экспертов. Матрица II ? ij II получается из матрицы II ? ij II путем определения, исходя из коэффициентов относительной важности событий ? ij , рангов важности этих событий, т.е. событиям присваиваются номера 1, 2, 3,..., m натурального ряда чисел.

Таким образом, при ранжировании события располагаются  в порядке возрастания или  убывания какого-либо признака X, количественно  неизмеримого. Ранг a i указывает то место, которое занимает i -е событие среди других m событий, ранжированных в соответствии с признаком X.

Ранжирование  применяется, когда события располагаются  согласно неизмеримому и неподсчитываемому качеству (например, потребительские свойства товара, направления совершенствования товара и т. д.) или рассматриваются только относительно взаимного расположения во времени или пространстве. Ранжирование может являться менее точным выражением упорядоченной связи событий относительно какого-либо измеримого или подсчитываемого качества как замена переменной порядковым номером в прикидочных расчетах в целях экономии времени и уменьшения трудоемкости вычислений.

При использовании  рангов важности для сравнения результатов (событий) нельзя установить, насколько  один результат лучше другого, можно  только определить ряд предпочтения рассматриваемых результатов. Иными  словами, числа, характеризующие порядковую меру предпочтительности результатов, при сравнении, предположим, событий А и Б нельзя делить или вычитать, пытаясь узнать, насколько первый результат лучше второго (см. раздел 4.10.1).

Будем рассматривать  упорядоченную последовательность суммарных рангов m событий, которую представим в виде