Меры неопределенности и субъектные вероятности

Неопределенность различных явлений и процессов реального мира обусловливает необходимость разработки математических моделей, позволяющих учитывать этот объективно существующий фактор при принятии решений в любой практической области. Формализованные модели неопределенности могут быть построены на следующем математическом понятийном аппарате:

· вероятностное множество (пространство);

· расплывчатое (нечетное, размытое) множество.

Основными математическими понятиями в них являются:

· постоянная или случайная величина;

· множество.

Центральным понятием вероятностных моделей является случайная величина, обобщающая неслучайную (детерминированную) величину.

«Истинная логика нашего мира – правильный подсчет вероятностей». Однако определение вероятностей в условиях неопределенности и реализовать эту концепцию Джеймса К. Максвелла* на практике оказывается весьма затруднительно. Конструктивной идеей, позволяющей преодолеть объективно существующие на этом пути трудности, может оказаться использование принципа максимума неопределенности, сущность которого и некоторые приложения будут даны ниже.

Известно, что первичным источником информации является эксперимент. Процесс экспериментирования состоит из отдельных испытаний (серии наблюдений и измерений, произведенных при определенных условиях). Исходным понятием теории вероятностей является понятие стохастического (случайного) или вероятностного эксперимента, исход которого не вполне однозначно определяется условиями опыта. Предметом изучения теории вероятностей являются математические модели случайных экспериментов. Моделью исхода стохастического эксперимента является случайная величина . С точки зрения теории вероятностей, обычно предполагается, что всю информацию о случайной величине содержит функция распределения, функция квантилей, характеристическая функция и репрезентативная выборка.

Распределение вероятностей дискретной случайной величины задается указанием вероятности исхода стохастического

эксперимента

, . (1)

В том случае, когда случайная величина является непрерывной и может быть представлена случайной точкой прямой (континуума*), функцию распределения такой случайной величины определяют как вероятность того, что величина примет значение, меньшее

. (2)

Если для функции распределения допустимо представление

, (3)

то называется плотностью распределения.

Случайная величина может быть представлена характеристической функцией

где – оператор нахождения математического ожидания, функцией квантилей (обратной функции распределения) и репрезентативной выборкой следующих величин .

Неопределенность исхода стохастического эксперимента обусловила необходимость ее количественного описания и введения меры неопределенности. В качестве меры неопределенности распределения вероятностей дискретной случайной величины обычно используется энтропия (энтропия Шеннона)

. (4)

Энтропия Шеннона является мерой неопределенности конечной схемы (случайного объекта с конечным множеством возможных состояний). Непрерывные случайные объекты (случайные объекты с континуумом возможных состояний) не допускают введения конечной меры абсолютной неопределенности. Неопределенность реализации одного из бесконечного множества состояний может быть сколь угодно велика. Поэтому неопределенность выбора величины из континуума значений с плотностью распределения можно количественно определить относительно другой случайной величины с некоторым стандартным распределением. В качестве стандарта неопределенности для сравнения обычно берется неопределенность случайной величины, равномерно распределенной в единичном интервале квантования. В этом случай в качестве меры относительной неопределенности распределения вероятностей непрерывной случайной величины используется дифференциальная энтропия

. (5)

Меры неопределенности могут быть использованы для сравнения различных распределений.

Нечеткое множество – это обобщение обычного (четкого) множества. Научное направление, ориентированное на принятие решений в неопределенных условиях, когда цели и ограничения не могут быть указаны точно, а представляются расплывчатыми категориями («размытыми», «нечетко определенными»), основоположником этого научного направления является Лотфи Заде, поэтому это научное направление иногда называют «исчисление Заде». Различие между случайностью и расплывчатостью заключается в следующем. Случайность связана с неопределенностью, касающейся принадлежности или непринадлежности некоторого объекта к нерасплывчатому множеству. Понятие же расплывчатости относится к классам, в которых могут иметься различные градации степени принадлежности, промежуточные между полной принадлежностью и непринадлежностью объектов к данному классу. Л.Заде введена в рассмотрение так называемые функции принадлежности, ставящие в соответствии каждому элементу множества действительное число в интервале [0, 1]. Особенностью функций принадлежности по сравнению с функциями распределения вероятностей является то, что последние имеют объективную основу (теоретико-вероятностное обоснование или в виде статистических данных), а функции принадлежности и их аппроксимации являются субъективными и по своей сущности это роднит с так называемыми субъективными вероятностями.

Под субъективной вероятностью понимается мера уверенности некоторого человека или группы людей в том, что данное событие в действительности будет иметь место. Субъективная вероятность получается в результате опроса эксперта или группы экспертов. Она находит применение в тех случаях, когда невозможно воспользоваться вероятностью объективной. Этому может быть несколько причин: неполнота или отсутствие данных о наблюдении в прошлом, в частности, отсутствие аналогов исследуемой ситуации в прошлом, необоснованно высокая стоимость получения объективной вероятности, а также подозрение, что ранее наблюдавшиеся закономерности и полученные объективные вероятности не будут иметь место в будущем. Как мера уверенности человека в возможности наступления событий субъективная вероятность может быть формально представлена различными способами: распределением вероятностей на множестве событий, бинарным отношением на множестве событий, не полностью заданным распределением вероятностей или частным бинарным отношением или другими способами. В зависимости от формы представления выделяют количественную и качественную субъективность вероятность. Количественная субъективная вероятность является вероятностной мерой на множестве событий, удовлетворяющей той же системе аксиом, что и вероятность объективная. Поэтому с формальной точки зрения количественная субъективная вероятность ничем не отличается от объективной вероятности. Разница заключается в том смысле, которой вкладывается в эти понятия. Практически построение количественной субъективной вероятности требует от эксперта указания числовых значений вероятности для ряда событий. Известно, однако, что такая количественная информация является для человека более сложной и потому ненадежной. Значительно более простой и потому более достоверной является информация, состоящая из ответов на вопросы о сравнительной вероятности (возможности) двух событий. В связи с этим большой практический интерес представляет нечисловая формализация субъективной вероятности, основанная на использовании бинарных отношений превосходства и равенства событий по вероятности. Таким образом, формализованная субъективная вероятность получила название качественной. Приведем определение качественной вероятности. Пусть – непустое множество элементарных событий, – алгебра событий-подмножества множества (включающая пустое множество Ø); здесь не предполагается, что есть – алгебра. Элементы будем обозначать заглавными латинскими буквами , , . По смыслу, соотношение означает, что событие не менее вероятно (возможно, правдоподобно), чем событие . Асимметричная часть этого отношения обозначается , а симметричная ~ , где – отношение, обратное к Смысл отношений и ~ заключается в следующем: соотношение означает, что событие (строго) более вероятно, чем событие ; ~ означает, что события и равновероятны.

Бинарное отношение называется качественной вероятностью, если выполнены следующие аксиомы (де Финатти, Купман):

1. (Сравнимость). Для любых и выполнено по крайней мере одно из соотношений или .

2. (Транзитивность). Из соотношений и следует .

3. (Существенность). Для любого выполнено , причем .

4. (Аддитивность). Если , то соотношение и выполнены или не выполнены одновременно.

Из аксиом 1 и 2 следует, что качественная вероятность является полным (связным) квазипорядком на множестве событий (рефлексивность отношения следует из аксиомы сравнимости). Поэтому отношение является строгим порядком, а ~ – эквивалентностью.

Аксиомы качественной вероятности выражают минимальные требования к последовательности и непротиворечивости субъективных суждений.

Основным вопросом, связанным с понятием качественной вероятности, традиционно считается вопрос о возможности построения количественной вероятности, которая в каком-либо смысле согласована с качественной. Это явилось отражением того факта, что при решении практических задач до последнего времени использовалось только количественная вероятность, а качественная вероятность вызывала только теоретический интерес. Однако в последнее время в теории принятия решений появились специальные процедуры, рассчитанные на анализ качественной информации, в связи с чем понятие качественной вероятности приобрело самостоятельное практическое значение.

Для получения количественных оценок субъективной вероятности разработано большое число методов. Однако практически все эти методы (метод отношений, метод собственного значения, метод равноценной корзины, метод переменного перевала, метод фиксированного интервала и др.) основаны на проведении опроса эксперта или группы экспертов. Поэтому представляется целесообразным при решении рассматриваемой проблемы использовать формализованные методы получения количественных оценок субъективной вероятности на основе теоретико-информационного подхода.

Наличие ряда ситуаций, обладающих той или иной степенью неопределенности, требуют для своего описания привлечения математического аппарата, который бы априори включал в себя вероятность появления неопределенности и ее мер.

Вводимое в рассмотрение понятие меры неопределенности должно удовлетворять вполне очевидным требованиям.

Мера неопределенности должна быть функционалом и не зависеть от конкретных значений случайной величины, непрерывной относительно аргументов, равной нулю при отсутствии всякой неопределенности, аддитивной, а также иметь максимум, отражающий наибольшую неопределенность.

В качестве меры неопределенности случайного объекта исследования с конечным множеством состояний с соответствующими вероятностями используется энтропия Шеннона (4).

Энтропия Шеннона является мерой неопределенности конечной схемы и обладает, как нетрудно заметить, рядом свойств, удовлетворяющим весьма общим приведенным выше требованиям.

Если случайная величина распределена равномерно

, ,

то с точки зрения теории принятия решений ситуация характеризуется наибольшей неопределенностью, а мера неопределенности (1.1) достигает максимума .

В этом легко убедиться, решая следующую задачу на условный экстремум

, .

При любом другом распределении случайных величин энтропия Шеннона будет меньше .

Можно указать и на некоторые другие меры неопределенности, удовлетворяющие перечисленным выше общим требованиям и ориентированным на использование оценок субъективной вероятности событий. Так, например, при анализе нечетких факторов в когнитивном анализе сложных систем важно правильно расставить для них приоритеты и определить степень их влияния на учёт фактора неопределенности. Опираясь на аксиомы качественной вероятности Финатти и Купмана можно определить для простого линейного отношения порядка приоритетов факторов ,

(6)

меру неопределенности второго рода . (7)

Мера неопределенности второго рода (1.7) обладает тем свойством, отличным от остальных мер, что ее максимум достигается на так называемых оценках Фишборна

, , (8)

для простого отношения порядка предпочтения (1.6), что весьма важно для решения задач анализа, опирающегося на факты качественного, а не количественного содержания.

Действительно, для простого отношения порядка предпочтения, решая задачу на условный экстремум

, (9)

,

с помощью метода неопределенных множителей Лагранжа, найдем

;

, .

Откуда следует, что

или после сокращения на

.

Просуммировав по последнее соотношение, можно найти

.

Следовательно, и оценка вероятности (8).

Вполне очевидно, что использование меры неопределенности допускает обобщение оценок Фишборна на более сложные отношения предпочтения, возникающие при анализе различного рода ситуаций. В этом случае количественная оценка может быть представлена в виде

, , (10)

где ; ;

– порядковый номер предпочтения объекта в общей их совокупности, определяемый по отношению порядка предпочтения;

– степень кратности порядковых номеров .

Справедливость зависимости (10) вытекает из решения следующей экстремальной задачи

(11)

Для иллюстрации такого подхода рассмотрим следующий пример.

Вероятностная оценка (8) является случайной величиной, обусловленной числом учитываемых факторов и схематизацией отношения порядка приоритетов факторов. Поэтому представляется целесообразным, используя меру неопределенности (4), оценить степень влияния на снижение уровня неопределенности числа вводимых в рассмотрение факторов и выбора экспертами отношения их предпочтения. Заметим, что помимо простого отношения порядка предпочтения, которому соответствует оценка вероятностей (8), имеет место в теории субъективной вероятностей, строгое отношение порядка

,

для определения «веса» -го фактора используется зависимость

.

Если для факторов установлено усиленное линейное отношение порядка

, ,

то для расчета значимости какого фактора используется зависимость

.

Таким образом, для оценки степени снижения уровня неопределенности целесообразно для сравнения различных распределений использовать универсальную меру неопределенности (4)

В качестве показателя, характеризующего степень снижения уровня неопределенности, используется показатель избыточности .

Показатель избыточности характеризует степень близости закона распределения к равномерному.

В качестве базового примера рассмотрим вопрос как влияет число вводимых в рассмотрение факторов при простом линейном отношении порядка на показатель избыточности.

При .

По формуле (5.8) находим

, , ,

.

Аналогично: для ;

для ;

для и так далее.

Таким образом, оценки вероятностей (оценки Фишборна) снижают уровень неопределенности на 8-7% при практически учитываемых числе факторов.

Более определенная с точки зрения экспертов система предпочтения факторов может обеспечить большую степень снижения уровня неопределенности, которую можно определить аналогичным образом.

В качестве примера приложения аппарата субъективных вероятностей рассмотрим следующую задачу из эконометрии.

В теории потребительского поведения на вербальном уровне в этой теории сформулирован закон убывающей предельной полезности, суть которого заключается в том, что по мере того как потребитель увеличивает потребление товара или услуги, предельная полезность каждой дополнительной единицы товара или услуги сокращается.

При построение модели убывающей предельной полезности необходимо учитывать наличие фактора неопределенности и ограниченную возможность использования экспериментальных данных. Когда отсутствует количественная информация о приросте полезности при увеличении объёма потребления данного блага на одну единицу, можно применить порядковый (ординалистский) подход к оценке прироста полезности и упорядочить по степени предпочтения возможную оценку потребителем полезности при покупке дополнительных благ

, (12)

означающую, что покупка каждой дополнительной единицы продукта вносит меньший прирост в общую сумму полезностей, реализуемую при покупке единиц. Количественную степень предпочтения могут дать оценки Фишборна (4), которые можно рассматривать в качестве вероятностей перехода из состояния за один шаг (за одну покупку) в состоянии и так далее. Кроме того, при достаточно большем числе наблюдений можно оценить среднее число единиц товара, приобретаемого покупателем. На основе принципа максимума неопределенности определение вероятности того, что покупатель купит товаров , определяется в результате решения следующей экстремальной задачи

,

, , (13)

где – среднее число покупок (или товаров, приходящихся на одного покупателя).

Решение этой задачи показывает, что случайная величина (число покупаемых товаров) подчиняется геометрическому распределению

с параметром распределения и, следовательно, количественная оценка степени предпочтения потребления (12) зависит от случайной величины .

Это обстоятельство обусловливает необходимость модификации оценки Фишборна. Для решения этой задачи воспользуемся аппаратом производящих функций.

Если случайная величина принимает только целые неотрицательные значения, то производящей функцией распределения называется функция комплексного переменного, представленная в виде ряда

, (14)

где – оператор нахождения математического ожидания.

По производящей функции распределение восстанавливается однозначно по формуле , (15)

где .

Для рассматриваемого случая с учётом рандомизации величины по геометрическому распределению производящая функция определяется следующим образом

(16)

и после несложных алгебраических преобразований

. (17)

Используя зависимость (15), последовательно находим

,

и т. д.

 

В общем виде , . (18)

В качестве примера дадим количественную оценку степени убывания полезности при покупке второго товара. Если среднее число покупок, приходящегося на одного покупателя равно единице. Тогда по распределению (16, 17) находим и

,

.

Таким образом, относительная степень снижения полезности второй покупки составляет около 20% . По отношению к предельной полезности покупок вклад первой покупки составляет 38%, второй – 7, 6% и так далее. Нетрудно заметить, что в рассматриваемой наиболее характерной ситуации вклад первых двух покупок составляет почти 50% (45, 6%).