changeset 66:5e8c92cff438

add d-separation
author Markus Kaiser <markus.kaiser@in.tum.de>
date Tue, 11 Dec 2012 19:46:44 +0100
parents 519642bf43ac
children 81cc712cd971
files bayesian_networks/presentation.tex
diffstat 1 files changed, 102 insertions(+), 10 deletions(-) [+]
line wrap: on
line diff
--- a/bayesian_networks/presentation.tex	Sun Dec 09 21:01:33 2012 +0100
+++ b/bayesian_networks/presentation.tex	Tue Dec 11 19:46:44 2012 +0100
@@ -54,10 +54,11 @@
 \pgfsetlayers{background,midground,main}
 \tikzstyle{edge} = [draw,very thick,->,>=latex]
 \tikzstyle{selected edge} = [edge, tumred]
+\tikzstyle{circular node} = [circle,thick,draw,fill=tumblue!20,minimum size=12pt,inner sep=0pt,font=\bfseries]
 \tikzstyle{net node} = [ellipse, draw, thick, fill=tumblue!20,
 						minimum width=6em, minimum height=2.5em,
 						node distance=10em, inner sep = 0]
-\tikzstyle{selected net node} = [net node, fill=tumred!20]						
+\tikzstyle{selected net node} = [net node, fill=tumred!20]
 \def \netvspace {8em}						
 \tikzstyle{net cpt} = [draw, thick, fill = tumgreen!20,
 						font=\scriptsize, node distance=3em,
@@ -67,7 +68,7 @@
 \subtitle{Seminar ``Kognitive Robotik''}
 \author{\href{mailto:markus.kaiser@in.tum.de}{Markus Kaiser}} 
 %\date{\today}
-\date{2012-12-12}
+\date{12-12-12}
 \institute{Technische Universität München}
 %Inhaltsverzeichnis zu Begin von jedem Abschnitt einblenden?
 %\AtBeginSection[]{
@@ -346,22 +347,113 @@
 		\node [net node] (gewissen) at ($0.5*(sport.center) + 0.5*(lernen.center) - (0,\netvspace)$) {Gewissen};
 		\node [net node] (regen) at ($0.5*(sport.center) + 0.5*(kaufen.center) + (0,\netvspace)$) {Regen};
 		
-		\node<2,4> [selected net node] (sport) {Sport};
+		\node<2,3> [selected net node] (sport) {Sport};
 		\node<2> [selected net node] (kaufen) [left of = sport] {Kaufen};				
-		\node<3,4> [selected net node] (lernen) [right of = sport] {Lernen};
+		\node<3> [selected net node] (lernen) [right of = sport] {Lernen};
 		
-		\node<4> [selected net node] (gewissen) at ($0.5*(sport.center) + 0.5*(lernen.center) - (0,\netvspace)$) {Gewissen};
-		\node<2,3> [selected net node] (regen) at ($0.5*(sport.center) + 0.5*(kaufen.center) + (0,\netvspace)$) {Regen};			
+		\node<3> [selected net node] (gewissen) at ($0.5*(sport.center) + 0.5*(lernen.center) - (0,\netvspace)$) {Gewissen};
+		\node<2,4> [selected net node] (regen) at ($0.5*(sport.center) + 0.5*(kaufen.center) + (0,\netvspace)$) {Regen};	
+		\node<4> [selected net node] (gewissen) at ($0.5*(sport.center) + 0.5*(lernen.center) - (0,\netvspace)$) {Gewissen};				
 		
 		\foreach \src/\dest in {regen/kaufen, regen/sport,
 								sport/gewissen, lernen/gewissen}
 			\path [edge] (\src) -- (\dest);
 			
 		\foreach \i/\src/\dest in {2/regen/kaufen, 2/regen/sport,
-								   4/sport/gewissen, 4/lernen/gewissen}
+								   3/sport/gewissen, 3/lernen/gewissen}
 			\path<\i> [selected edge] (\src) -- (\dest);
 			
-		\only<5> {
+	\end{tikzpicture}
+\end{frame}
+
+\begin{frame}[t]
+	\frametitle{d-Separation}
+	
+	\begin{definition}[d-Separation]
+	Zwei Knotenmengen $X$ und $Y$ sind in einem DAG $G$ durch $Z$ \alert{d-separiert} $\langle X \mid Z \mid Y \rangle_G$ wenn es \alert{keinen} (ungerichteten) Pfad zwischen $X$ und $Y$ gibt für den gilt
+	\begin{enumerate}
+	\item Jeder Knoten an dem Kanten \alert{zusammenlaufen} ist selbst in $Z$ oder hat einen Nachfahren in $Z$
+	\item Jeder \alert{andere Knoten} ist nicht in $Z$
+	\end{enumerate}
+	\end{definition}
+
+	\vfill	
+	
+	\uncover<2-5> {
+	\begin{center}
+	\begin{tikzpicture}
+		\tikzstyle {dag node} = [circular node, font=\normalfont, inner sep = 2pt,
+								node distance = 4em]	
+		\tikzstyle {bad dag node} = [dag node, fill=tumred!20]
+		\tikzstyle {good dag node} = [dag node, fill=tumgreen!20]		
+								
+		\def \xdist {4em}
+		\def \ydist {3em}
+
+		\useasboundingbox ($(-3*\xdist, -\ydist)$) rectangle ($(\xdist, \ydist)$);
+		\node [dag node] (C) at (0,0) {C};
+		\node [dag node] (A) at ($(C.center) + (-\xdist, \ydist)$) {A};
+		\node [dag node] (B) at ($(C.center) + (\xdist, \ydist)$) {B};
+		\node [dag node] (E) at ($(C.center) + (-\xdist, -\ydist)$) {E};
+		\node [dag node] (F) at ($(C.center) + (\xdist, -\ydist)$) {F};
+		\node [dag node] (D) at ($(C.center) + (2 * \xdist, 0)$) {D};
+		
+		\foreach \src/\dest in {A/C, B/C, B/D, C/F, D/F, C/E}
+			\path [edge] (\src) -- (\dest);
+		
+		\foreach \i/\Node in {3/A, 3/B, 4/A, 4/B, 5/A, 5/E}
+			\node<\i> [good dag node] at ($(\Node.center)$) {\Node};
+			
+		\foreach \i/\Node in {4/C, 5/C}
+			\node<\i> [bad dag node] at ($(\Node.center)$) {\Node};
+
+		\foreach \i/\src/\dest in {4/A/C, 4/B/C}
+			\path<\i> [selected edge] (\src) -- (\dest);
+			
+		\foreach \i/\Cap in {3/$\langle A \mid \emptyset \mid B \rangle$,
+							4/$\neg \langle A \mid F \mid B \rangle$,
+							5/$\langle A \mid C \mid E \rangle$
+							}
+			\node<\i> at ($(C.center) + (-3*\xdist, 0)$) {\Cap};
+	
+	\end{tikzpicture}
+	\end{center}
+	}
+\end{frame}
+
+\begin{frame}
+	\frametitle{Bayesnetze}
+	
+	\begin{theorem}[Unabhängigkeiten in Bayes-Netzen]
+	Zufallsvariablen $X$ und $Y$ sind in einem Bayes-Netz \alert{bedingt unabhängig} unter $E$ wenn $\langle X \mid E \mid Y \rangle$.\\
+	Speziell ist \alert{jeder Knoten} bedingt unabhängig von
+	\begin{itemize}
+	\item \alert{allen nicht-Nachfahren} gegeben seine \alert{Eltern}
+	\item \alert{allen Knoten} gegeben seine \alert{Markov-Einbettung}
+	\end{itemize}
+	\end{theorem}
+	
+	\begin{definition}[Markov-Einbettung]
+	Die \alert{Markov-Einbettung} (Markov blanket) eines Knotens ist die Menge all seiner \alert{Eltern}, \alert{Kinder} und den \alert{Eltern aller Kinder}.
+	\end{definition}
+\end{frame}
+
+\begin{frame}
+	\frametitle{Bayesnetze}
+
+	\begin{tikzpicture}
+		\node [net node] (sport) {Sport};
+		\node [net node] (kaufen) [left of = sport] {Kaufen};				
+		\node [net node] (lernen) [right of = sport] {Lernen};
+		
+		\node [net node] (gewissen) at ($0.5*(sport.center) + 0.5*(lernen.center) - (0,\netvspace)$) {Gewissen};
+		\node [net node] (regen) at ($0.5*(sport.center) + 0.5*(kaufen.center) + (0,\netvspace)$) {Regen};		
+		
+		\foreach \src/\dest in {regen/kaufen, regen/sport,
+								sport/gewissen, lernen/gewissen}
+			\path [edge] (\src) -- (\dest);
+			
+		\only<2> {
 			\node [net cpt] at ($(regen.center)-(5em,0)$)
 			{\begin{tabu}{c}
 			$\Pr[R]$ \\ 	\tabucline{-} 
@@ -405,7 +497,7 @@
 	
 	\begin{theorem}[Gemeinsame Verteilung]
 	Für einen Eintrag $\Pr[x_1,\ldots,x_n]$ in der gemeinsamen Verteilung eines Bayesnetzes gilt
-		$$\Pr[x_1,\ldots,x_n] = \prod_{i=1}^n \Pr[x_i \mid \mathrm{parents}(X_i)]$$	
+		$$\Pr[x_1,\ldots,x_n] = \prod_{i=1}^n \Pr[x_i \mid \mathsf{parents}(X_i)]$$	
 	\end{theorem}
 
 	Was ist die Wahrscheinlichkeit, dass ich ein \alert{schlechtes Gewissen} bei \alert{schönem Wetter} habe, obwohl ich \alert{Sport gemacht} habe nachdem ich \alert{einkaufen} war?
@@ -637,7 +729,7 @@
 	
 	\begin{tikzpicture}[grow=down]
 	\tikzstyle{every node} = [font=\scriptsize]
-	\tikzstyle{op} = [circle,thick,draw,fill=tumblue!20,minimum size=12pt,inner sep=0pt, font=\bfseries]
+	\tikzstyle{op} = [circular node]
 	\tikzstyle{edge from parent} = [edge]
 	
 	\tikzstyle{level 2} = [sibling distance = 14em]