Vorlesung: Mathematische Grundlagen der Computerlinguistik

Susanne Schacht

Universität Zürich, WS 97/98

Die Vorlesung spricht Themen sowohl der mathematischen Grundlagen der Linguistik als auch der formalen Grundlagen der maschinellen Sprachverarbeitung an. Die Veranstaltung besteht aus den vier Blöcken Mengentheorie und Algebra, Logik, Theoretische Informatik und Statistik; die Betonung liegt dabei jeweils auf möglichen Anwendungen für die Computerlinguistik.

Literatur

Hauptquelle des Vorlesungstoffes ist [PMW]. Den statistischen Teil decken [KS] oder [Ch] ab, das erste ist im WWW, das zweite ist z.Zt. noch das einzige Lehrbuch im Druck, das sich mit statistischen Methoden der CL befasst. Ausserdem werden zu spezielleren Themen noch Literaturhinweise folgen.

[PMW] Barbara H. Partee, Alice ter Meulen & Robert Wall:
Mathematical Methods in Linguistics, Kluwer Academic Publishers, 1990.
Das Buch deckt ca. 3/4 der Vorlesung ab. Es setzt keine mathematischen Grundkenntnisse voraus und betont die Anwendungen der vorgestellten Formalismen.
Katalog-Eintrag des Verlags
[KS] Brigitte Krenn, Christer Samuelson:
The Linguist's Guide to Statistics on-line im PS-Format
Universität Saarbrücken, 1997.
[Ch] Eugene Charniak:
Statistical Language Learning, Bradford/MIT Press, 1993.
Einführung in statistische Methoden in der Computerlinguistik, mathematisch eher dünn.

alle Folien als PS-File

Folien zur Vorlesung:

Mengentheorie und Algebra

Einführung;Mengen und Relationen [PMW], Kap. 1 - 3
PDF-File / PS-File
Funktionen und Algebraische Strukturen [PMW], Kap. 2.3 - 2.4, 4; Kap. 9, 10
PDF-File / PS-File / Beispiel: Graphen von Funktionen (PS)
Am 3. 11.: Posets und Verbände [PMW], Kap. 11.1 - 11.3

PDF-File / PS-File

Logik, formale Systeme
1. Prädikatenlogik [PMW], Kap. 7
  - Zu 1 und 2 z.B.
    Uwe Schöning: Logik für Informatiker, BI Wissenschaftsverlag, 1987;
    etwas andere Notation als in [PMW].
  PDF-File / PS-File
2. Definite Clause Grammars, Merkmalslogik, Unifikation
  - Anwendung der Prädikatenlogik:
    Fernando C. N. Pereira and David H. D. Warren: Definite Clause Grammars for Language Analysis - A Survey of the Formalism and a Comparison with Augmented Transition Networks.
    In: Artificial Intelligence 13(1980), pp. 231-278. Davon pp. 231-253
  - Merkmalstrukturen, z.B. Stuart M. Shieber: An introduction to unification-based approaches to grammar, CLSI Lecture Notes, 1986.
  PDF-File / PS-File
3. Formale Systeme, Inferenz [PMW], Kap. 8
  natürlichsprachliche Semantik: Probleme;
  Nicht-Standard-Logiken:
  Kripke-Semantik, [PMW], Kap. 12.5 ;
  Modal- und Temporallogik, [PMW], Kap. 15;
  Beschreibungslogik,
  - knapp in G. Görz (Hrsg.): Einführung in die künstliche Intelligenz, Addison-Wesley 1995,S. 35ff
  - J. Schmolze, W.Woods: The KL-ONE family; in: F. Lehman (Hrsg.): Semantic Networks in Artificial Intelligence, Pergamon Press, 1992.
  PDF-File / PS-File
4. Montague-Semantik: Typtheorie, Lambda-Kalkül, Intensionale Logik [PMW], Kap. 13
  - H. Lohnstein: Formale Semantik und natürliche Sprache; Westdeutscher Verlag, 1996.
  - D.R. Dowty, R.E. Wall, S. Peters: Introduction to Montague semantics; Reidel, 1989.
  PDF-File / PS-File
Aufgabe:
Versuchen Sie, Ausdrücke der Intensionalen Logik für folgende zwei Sätze zu finden. Geben Sie ein Modell dafür an.
Es besteht die entfernte Chance, dass sich nichts von allem, was folgt, je ereignet hat;
viel wahrscheinlicher ist jedoch, dass es sich, falls es sich je ereignet haben sollte, nie wieder ereignen wird.
(Peter Ustinov, Der Alte Mann und Mr. Smith)

PDF-File / PS-File
Theoretische Informatik

Formale Grammatiken, Chomsky-Hierarchie [PMW], Kap. 16
PDF-File / PS-File

Sprachen und Automaten [PMW], Kap. 17 - 18
PDF-File / PS-File

Berechenbarkeit und Komplexität [PMW], Kap. 19 ; Zusatzmaterial
PDF-File / PS-File
Statistik [KS]

Grundbegriffe und Kombinatorik
PDF-File / PS-File

Zufallsvariablen, besondere Wahrscheinlichkeitsverteilungen,
(Hidden) Markov Modelle
PDF-File / PS-File

Algorithmen für HMMs;
Anwendungen für HMMs: Tagging
PDF-File / PS-File

Probabilistische Grammatiken
PDF-File / PS-File

Weitere Anwendungen: Data-Oriented Processing
PDF-File / PS-File

Susanne Schacht
e-mail:  sue@coling.uni-freiburg.de
address: Arbeitsgruppe  Linguistische Informatik/Computerlinguistik
         Universität Freiburg
         Friedrichstr. 50
         79098 Freiburg im Breisgau
         Germany
phone:   +49-761-203-3253
fax:     +49-761-203-3251

Computerlinguistik in Freiburg Computerlinguistik in Zürich

Last modified: Thu Feb 5 13:13:04 1998