Байес желілері: анықтамасы, мысалдары және олар қалай жұмыс істейді

Мазмұны:

Байес желілері: анықтамасы, мысалдары және олар қалай жұмыс істейді
Байес желілері: анықтамасы, мысалдары және олар қалай жұмыс істейді
Anonim

Сенім, шешім желісі, Байес (иан) моделі немесе ықтималдықпен басқарылатын ациклдік графика моделі – бағытталған ациклдік график (DAG) арқылы айнымалылар жиынын және олардың шартты тәуелділіктерін көрсететін нұсқалық схема (статистикалық модель түрі)).

Мысалы, Байес желісі аурулар мен белгілер арасындағы ықтималдық қатынасты көрсете алады. Соңғысын ескере отырып, желіні әртүрлі аурулардың болу мүмкіндігін есептеу үшін пайдалануға болады. Төмендегі бейнеде есептеулері бар Байес сенім желісінің мысалын көре аласыз.

Image
Image

Тиімділік

Тиімді алгоритмдер Байес желілерінде қорытынды жасауға және оқуға қабілетті. Айнымалыларды модельдейтін желілер (сөйлеу сигналдары немесе белок тізбегі сияқты) динамикалық желілер деп аталады. Белгісіздік жағдайында есептерді көрсете алатын және шеше алатын Байес желілерінің жалпыламалары әсер ету диаграммалары деп аталады.

Эссенция

ФормальдыБайес желілері - түйіндері Байездік мағынада айнымалы мәндерді білдіретін DAG: олар байқалатын мәндер, жасырын айнымалылар, белгісіз параметрлер немесе гипотезалар болуы мүмкін. Өйткені бұл өте қызықты.

Байес желісінің мысалы

Екі оқиға шөптің сулануына себеп болуы мүмкін: белсенді спринклер немесе жаңбыр. Жаңбыр спринктерді пайдалануға тікелей әсер етеді (яғни, жаңбыр жауған кезде спринклер әдетте әрекетсіз болады). Бұл жағдайды Bayes желісі арқылы модельдеуге болады.

Типтік формула
Типтік формула

Симуляция

Байес желісі оның айнымалылары мен олардың қарым-қатынастары үшін толық үлгі болғандықтан, олар туралы ықтималдық сұрауларға жауап беру үшін пайдалануға болады. Мысалы, ол басқа деректер (дәлел айнымалылар) байқалған кезде айнымалылар ішкі жиынының күйі туралы білімді жаңарту үшін пайдаланылуы мүмкін. Бұл қызықты процесс ықтималдық қорытынды деп аталады.

A posteriori айнымалылар ішкі жиыны үшін мәндерді таңдау кезінде табу қолданбалары үшін әмбебап жеткілікті статистиканы береді. Осылайша, бұл алгоритмді күрделі есептерге Байес теоремасын автоматты түрде қолдану механизмі ретінде қарастыруға болады. Мақалада берілген суреттерде Байес сенім желілерінің мысалдарын көре аласыз.

Практикалық Байес желісі
Практикалық Байес желісі

Шығару әдістері

Ең көп тараған нақты қорытынды әдістері: айнымалыларды жою, ол (интеграция немесе жинақтау арқылы) байқалмайтынды жоядысоманы өнімге бөлу арқылы сұраусыз параметрлерді бірінен соң бірі.

Көп айнымалыларды бірден сұрауға және жаңа дәлелдемелерді жылдам таратуға болатындай етіп есептеулерді кэштейтін "ағаштың" таралуын басыңыз; және рекурсивті сәйкестендіру және/немесе іздеу, бұл кеңістік пен уақыт арасындағы айырбастауға мүмкіндік береді және жеткілікті кеңістік пайдаланылған кезде айнымалыларды жоюдың тиімділігіне сәйкес келеді.

Бұл әдістердің барлығы желінің ұзындығына экспоненциалды түрде тәуелді ерекше күрделілікке ие. Ең көп тараған жуықтап шығару алгоритмдері шағын сегменттерді жою, циклдік сенімді тарату, жалпылама сенім тарату және вариациялық әдістер болып табылады.

Желілердің түрлері
Желілердің түрлері

Желілік

Байес желісін толық көрсету және осылайша бірлескен ықтималдық үлестірімін толық көрсету үшін әрбір X түйіні үшін X ата-аналарына байланысты X ықтималдық үлестірімін көрсету қажет.

Ата-анасының шартты түрде X таратуы кез келген нысанда болуы мүмкін. Дискретті немесе Гаусс үлестірімдерімен жұмыс істеу әдеттегідей, өйткені ол есептеулерді жеңілдетеді. Кейде тек тарату шектеулері белгілі. Содан кейін шектеулер берілген ең жоғары энтропияға ие жалғыз үлестірімді анықтау үшін энтропияны пайдалануға болады.

Сол сияқты динамикалық Байес желісінің нақты контекстінде жасырынның уақытша эволюциясының шартты таралуыкүй әдетте болжанатын кездейсоқ процестің энтропия жылдамдығын арттыру үшін орнатылады.

Байес сенім торы
Байес сенім торы

Бақыланбаған айнымалылардың болуын ескере отырып, ықтималдықты (немесе кейінгі ықтималдықты) тікелей максимумдау жиі қиын. Бұл әсіресе Bayesian шешім қабылдау желісіне қатысты.

Классикалық тәсіл

Бұл мәселеге классикалық тәсіл күтуді максимизациялау алгоритмі болып табылады, ол бақыланатын деректерге байланысты бақыланбаған айнымалылардың күтілетін мәндерін есептеуді жалпы ықтималдықты (немесе кейінгі мәнді) барынша көбейтумен ауыстырады, бұрын есептелген күтілетін болжамды мәндері дұрыс. Қалыпты жүйелілік жағдайында бұл процесс параметрлердің максималды (немесе максимум a posteriori) мәндерінде жинақталады.

Параметрлерге неғұрлым толық Bayesian тәсілі оларды қосымша бақыланбаған айнымалылар ретінде қарастыру және бақыланатын деректер берілген барлық түйіндер бойынша толық артқы таралуды есептеу, содан кейін параметрлерді біріктіру болып табылады. Бұл тәсіл қымбат болуы мүмкін және үлкен үлгілерге әкеледі, бұл классикалық параметрлерді реттеу тәсілдерін қолжетімді етеді.

Ең қарапайым жағдайда, Байес желісін сарапшы анықтайды, содан кейін қорытынды жасау үшін пайдаланылады. Басқа қолданбаларда анықтау міндеті адам үшін тым қиын. Бұл жағдайда деректер арасында Байездік нейрондық желінің құрылымын және жергілікті тарату параметрлерін білу керек.

Байес желілері
Байес желілері

Балама әдіс

Құрылымдық оқытудың балама әдісі оңтайландыру іздеуін пайдаланады. Бұл бағалау функциясын және іздеу стратегиясын қолдануды талап етеді. Жалпы бағалау алгоритмі - BIC немесе BDeu сияқты жаттығу деректері берілген құрылымның кейінгі ықтималдығы.

Ұпайды барынша арттыратын құрылымды қайтаратын толық іздеуге қажетті уақыт айнымалылар санында суперэкпоненциалды. Жергілікті іздеу стратегиясы құрылымды бағалауды жақсарту үшін қадамдық өзгерістер жасайды. Фридман және оның әріптестері қажетті құрылымды табу үшін айнымалылар арасындағы өзара ақпаратты пайдалануды қарастырды. Олар негізгі үміткерлер жинағын k түйінмен шектейді және оларды мұқият іздейді.

БН дәл зерттеудің ерекше жылдам әдісі - мәселені оңтайландыру мәселесі ретінде елестету және оны бүтін бағдарламалау арқылы шешу. Бүтін программаға (IP) қиюшы жазықтықтар түрінде шешу кезінде циклдік шектеулер қосылады. Мұндай әдіс 100 айнымалыға дейін мәселелерді шеше алады.

Графиктер және желілер
Графиктер және желілер

Мәселені шешу

Мыңдаған айнымалысы бар мәселелерді шешу үшін басқа тәсіл қажет. Олардың бірі - алдымен бір тапсырысты таңдау, содан кейін осы тапсырысқа қатысты оңтайлы BN құрылымын табу. Бұл ықтимал тапсырыстың іздеу кеңістігінде жұмыс істеуді білдіреді, бұл желілік құрылымдардың кеңістігінен кішірек болғандықтан ыңғайлы. Содан кейін бірнеше тапсырыс таңдалады және бағаланады. Бұл әдіс шықтыӘдебиеттердегі ең жақсысы айнымалылар саны үлкен болғанда қолжетімді.

Тағы бір әдіс - MLE жабылатын ыдырайтын үлгілердің ішкі сыныбына назар аудару. Содан кейін жүздеген айнымалылар үшін дәйекті құрылымды таба аласыз.

Шектеулі ені үш сызықпен Байес желілерін зерттеу дәл, түсіндірілетін қорытындыны қамтамасыз ету үшін қажет, себебі соңғысының ең нашар күрделілігі ағаш ұзындығы k бойынша экспоненциалды (экпоненциалды уақыт гипотезасына сәйкес). Дегенмен, графиктің ғаламдық қасиеті ретінде ол оқу процесінің күрделілігін айтарлықтай арттырады. Осы тұрғыда K-ағашты тиімді оқыту үшін пайдалануға болады.

Қысқа желі
Қысқа желі

Даму

Байестік сенім желісін әзірлеу көбінесе X G-ке қатысты жергілікті Марков қасиетін қанағаттандыратын DAG G жасаудан басталады. Кейде бұл себептік DAG. G-де әрбір айнымалының ата-анасына қатысты шартты ықтималдық үлестірімдері бағаланады. Көп жағдайларда, атап айтқанда айнымалылар дискретті болғанда, егер X-тің бірлескен таралуы осы шартты үлестірімдердің туындысы болса, онда X-ке қатысты Байес желісі болады. G.

Марковтың «түйін көрпесі» түйіндер жиынтығы. Марков көрпе түйінді сол атпен түйіннің қалған бос бөлігінен тәуелсіз етеді және оның таралуын есептеу үшін жеткілікті білім болып табылады. X - G-ге қатысты Байес желісі, егер әрбір түйін оның Марковиандығын ескере отырып, барлық басқа түйіндерден шартты түрде тәуелсіз болса.көрпе.

Ұсынылған: