Die mathematische Spieltheorie beschäftigt sich mit den sich gegenseitig beeinflussenden Entscheidungen mehrerer (rational handelnder) Spieler und deren mathematischen Beschreibung. Sie steht in Abgrenzung zu den Spieltheorien von z.B. Kulturanthropologen, Pädagogen, Psychologen etc. zu Strukturen und Funktionen des Spiels.
Grundsätzlich haben „Spiele“ der mathematischen Spieltheorie stets folgende Eigenschaften: Es gibt mehrere Spieler; es gibt Regeln, die die Interaktionsmöglichkeiten und den Umgang mit Informationen (wer weiß wann was?) festlegen; die Spielerentscheidungen haben Konsequenzen, die die eigenen und die Entscheidungen der Mitspieler beeinflussen; und es gibt eine Belohnung oder Auszahlung (oder Strafe) abhängig von bestimmten Bedingungen.
Das Gefangenendilemma, ein Nicht-Nullsummenspiel, ist das bekannteste „Spiel“ der mathematischen Spieltheorie. In seiner Grundform als einmaliges Single-Shot-Spiel mit anonymen Gegenspieler ist die einzige rationale Strategie, den Gegner herein zu legen, d.h. die Entscheidung ist ausschließlich eine ethische. In diesem Zusammenhang sei einmal mehr auf Heinz von Foersters Betrachtung prinzipiell entscheidbarer und prinzipiell unentscheidbarer Fragen hingewiesen: Rationalität bzw. „rationales Handeln“ ist eine Entscheidungsfindungsstrategie unter vielen, die gewählt, modifiziert oder auch abgelehnt werden kann.
Christopher X.J. Jensen hat ein interaktives PDF dazu erstellt:
https://upload.wikimedia.org/wikipedia/commons/e/e8/Prisoner’s_Dilemma_embezzlement_scenario.pdf