Bayes-i hálózatok: definíciók, példák és működésük

Tartalomjegyzék:

Bayes-i hálózatok: definíciók, példák és működésük
Bayes-i hálózatok: definíciók, példák és működésük
Anonim

A hiedelem, döntési hálózat, Bayes-féle (ian) modell vagy valószínűségileg vezérelt aciklikus gráfmodell egy változatos séma (a statisztikai modell egy típusa), amely változók halmazát és feltételes függőségeiket reprezentálja egy irányított aciklikus gráfon (DAG) keresztül.).

Például egy Bayes-hálózat a betegségek és a tünetek közötti valószínűségi összefüggéseket ábrázolhatja. Ez utóbbi ismeretében a hálózat segítségével kiszámítható a különféle betegségek előfordulásának lehetősége. Az alábbi videóban láthat egy példát egy Bayes-féle hithálózatra számításokkal.

Image
Image

Hatékonyság

A hatékony algoritmusok következtetéseket és tanulást végezhetnek a Bayes-hálózatokon. A változókat (például beszédjeleket vagy fehérjeszekvenciákat) modellező hálózatokat dinamikus hálózatoknak nevezzük. A Bayes-hálózatok olyan általánosításait, amelyek bizonytalanság mellett is képesek ábrázolni és megoldani a problémákat, hatásdiagramoknak nevezzük.

Essence

FormálisanA Bayes-hálózatok olyan DAG-k, amelyek csomópontjai a Bayes-féle értelemben vett változókat képviselik: lehetnek megfigyelt értékek, rejtett változók, ismeretlen paraméterek vagy hipotézisek. Mert nagyon érdekes.

Bayes-i hálózat példa

Két esemény okozhatja a fű nedvesedését: egy aktív öntöző vagy az eső. Az eső közvetlen hatással van a sprinkler használatára (nevezetesen, hogy amikor esik, a sprinkler általában inaktív). Ez a helyzet Bayes-hálózat segítségével modellezhető.

Tipikus képlet
Tipikus képlet

Szimuláció

Mivel a Bayes-hálózat a változóinak és azok kapcsolatainak teljes modellje, használható a velük kapcsolatos valószínűségi lekérdezések megválaszolására. Használható például a változók egy részhalmazának állapotával kapcsolatos ismeretek frissítésére, amikor más adatokat (bizonyítékváltozókat) figyelünk meg. Ezt az érdekes folyamatot valószínűségi következtetésnek nevezik.

A posteriori univerzálisan elegendő statisztikát ad a felfedezési alkalmazásokhoz, amikor a változók egy részhalmazának értékeit választják ki. Így ez az algoritmus egy olyan mechanizmusnak tekinthető, amely automatikusan alkalmazza Bayes tételét összetett problémákra. A cikkben szereplő képeken bayesi hithálózatokra láthat példákat.

Gyakorlati Bayes-hálózat
Gyakorlati Bayes-hálózat

Kimeneti módszerek

A leggyakoribb egzakt következtetési módszerek a következők: változó elimináció, amely kiküszöböli (integrálással vagy összegzéssel) a nem megfigyelhetőa nem lekérdezés paramétereit egyenként úgy, hogy hozzárendeli az összeget a termékhez.

Kattintson egy „fa” terjesztésére, amely gyorsítótárazza a számításokat, így egyszerre sok változó lekérdezhető, és az új bizonyítások gyorsan terjeszthetők; és rekurzív egyeztetés és/vagy keresés, amelyek lehetővé teszik a tér és az idő közötti kompromisszumot, és megfelelnek a változók eltávolításának hatékonyságának, ha elegendő hely van felhasználva.

Ezek a módszerek különleges összetettséggel rendelkeznek, amely exponenciálisan függ a hálózat hosszától. A leggyakoribb közelítő következtetési algoritmusok a mini szegmens elimináció, a ciklikus hiedelemterjesztés, az általánosított hiedelemterjesztés és a variációs módszerek.

A hálózatok típusai
A hálózatok típusai

Hálózatépítés

A Bayes-hálózat teljes meghatározásához és így a közös valószínűségi eloszlás teljes megjelenítéséhez minden X csomóponthoz meg kell adni az X valószínűségi eloszlását az X szülőinek köszönhetően.

X feltételes elosztása a szülei által bármilyen formában lehet. Gyakori a diszkrét vagy Gauss-eloszlások használata, mivel ez leegyszerűsíti a számításokat. Néha csak az elosztási megszorítások ismertek. Ezután az entrópia segítségével meghatározhatja azt az egyetlen eloszlást, amelynek a legnagyobb entrópiája van a megszorítások mellett.

Hasonlóan, egy dinamikus Bayes-hálózat sajátos kontextusában a látens időbeli fejlődésének feltételes eloszlásaaz állapot általában úgy van beállítva, hogy maximalizálja az implikált véletlenszerű folyamat entrópia sebességét.

Bayesi bizalomháló
Bayesi bizalomháló

A valószínűség (vagy utólagos valószínűség) közvetlen maximalizálása gyakran trükkös a nem megfigyelt változók jelenléte miatt. Ez különösen igaz a Bayes-féle döntési hálózatra.

Klasszikus megközelítés

A probléma klasszikus megközelítése a várakozás-maximalizálási algoritmus, amely a megfigyelt adatoktól függő, nem megfigyelt változók várható értékének kiszámítását a teljes valószínűség (vagy utólagos érték) maximalizálásával váltja fel, feltételezve, hogy a korábban kiszámított várható az értékek helyesek. Mérsékelt szabályosság mellett ez a folyamat a paraméterek maximális (vagy maximum a posteriori) értékéhez konvergál.

A paraméterek teljesebb Bayes-féle megközelítése az, ha további nem megfigyelt változóként kezeljük őket, és a megfigyelt adatok alapján kiszámítjuk a teljes utólagos eloszlást az összes csomóponton, majd integráljuk a paramétereket. Ez a megközelítés költséges lehet, és nagy modelleket eredményezhet, így elérhetőbbé válik a klasszikus paraméterhangolási megközelítés.

A legegyszerűbb esetben a Bayes-hálózatot szakértő határozza meg, majd következtetések levonására használja. Más alkalmazásokban a meghatározás túl nehéz az ember számára. Ebben az esetben az adatok között meg kell tanulni a Bayes-féle neurális hálózat szerkezetét és a lokális eloszlások paramétereit.

Bayesi hálózatok
Bayesi hálózatok

Alternatív módszer

A strukturált tanulás alternatív módszere az optimalizálási keresést használja. Ehhez kiértékelő függvény és keresési stratégia alkalmazására van szükség. Egy általános pontozási algoritmus egy struktúra utólagos valószínűsége olyan betanítási adatok mellett, mint a BIC vagy BDeu.

A pontszámot maximalizáló struktúrát visszaadó kimerítő kereséshez szükséges idő exponenciális a változók számában. A helyi keresési stratégia fokozatos változtatásokat hajt végre a szerkezetbecslés javítása érdekében. Friedman és munkatársai fontolóra vették a változók közötti kölcsönös információ felhasználását a kívánt struktúra megtalálásához. K csomópontra korlátozzák a szülőjelöltek készletét, és alaposan megkeresik őket.

A BN pontos tanulmányozásának egy különösen gyors módszere, ha a problémát optimalizálási problémaként képzeljük el, és egészszámú programozással oldjuk meg. Az aciklicitási megszorítások a megoldás során vágósíkok formájában hozzáadódnak az egész programhoz (IP). Egy ilyen módszer akár 100 változó problémáját is képes kezelni.

Grafikonok és hálózatok
Grafikonok és hálózatok

Problémamegoldás

A több ezer változót tartalmazó problémák megoldásához más megközelítésre van szükség. Az egyik az, hogy először ki kell választani egy rendelést, majd meg kell találni az optimális BN-struktúrát az adott sorrendhez képest. Ez azt jelenti, hogy a lehetséges rendezés keresőterében kell dolgozni, ami kényelmes, mert kisebb, mint a hálózati struktúrák tere. Ezután több rendelést kiválasztanak és értékelnek. Ez a módszer kiderültaz irodalomban elérhető legjobb, amikor a változók száma hatalmas.

Egy másik módszer a felbontható modellek egy alosztályára összpontosítani, amelyeknél az MLE-k zárva vannak. Ezután több száz változóhoz találhat konzisztens struktúrát.

A bayesi hálózatok tanulmányozása korlátozott, három soros szélességgel szükséges a pontos, értelmezhető következtetés levonásához, mivel ez utóbbiak legrosszabb eseti összetettsége exponenciális k fahosszban (az exponenciális idő hipotézis szerint). A gráf globális tulajdonságaként azonban nagymértékben megnöveli a tanulási folyamat összetettségét. Ebben az összefüggésben a K-tree hatékony tanulásra használható.

Rövid hálózat
Rövid hálózat

Fejlesztés

A bayesi bizalmi háló fejlesztése gyakran egy DAG G létrehozásával kezdődik úgy, hogy X megfelel egy helyi Markov-tulajdonságnak G-re vonatkozóan. Néha ez egy oksági DAG. Az egyes változók feltételes valószínűség-eloszlását a szülői G-ben megbecsüljük. Sok esetben, különösen ha a változók diszkrétek, ha X együttes eloszlása ezeknek a feltételes eloszlásoknak a szorzata, akkor X Bayes-féle hálózattá válik a G.

Markov „csomótakarója” csomók halmaza. A Markov quilt függetleníti a csomópontot az azonos nevű csomópont többi üres részétől, és elegendő tudással rendelkezik eloszlásának kiszámításához. X egy Bayes-hálózat G-hez képest, ha minden csomópont feltételesen független az összes többi csomóponttól, figyelembe véve a Markov-át.takaró.

Ajánlott: