icon-symbol-logout-darkest-grey

Field of Focus III - Geförderte ProjekteVIPICOL

Visual Information Processing in The Context of Language

Projektleiter:

Johannes Gerwien (Institut für Deutsch als Fremdsprachenphilologie)

Wissenschaftliche Mitarbeiterin
Ines Marberg

Förderlinie:

Sprache, Kognition, Kultur

 

Sprechen wir über das, was wir sehen, oder sehen wir das, worüber wir sprechen? Die bisherige Forschung zeigt: beides. Bei der visuellen Wahrnehmung spielen sowohl Bottom-up- wie auch Top-down-Prozesse eine Rolle.

So ziehen etwa starke Kontraste und Bewegungen Aufmerksamkeit und damit auch Blicke auf sich (bottom-up). Gleichzeitig können Top-down-Prozesse die Aufmerksamkeit auf bestimmte Zielobjekte fokussieren und irrelevante visuelle Informationen von einem beträchtlichen Teil unserer Umwelt blockieren. Man denke nur etwa daran, wie man eine Menschenmenge nach einer ganz bestimmten Person absucht und dabei nicht sieht, dass ein anderer guter Bekannter direkt vor einem steht.

Aktuelle Forschungsergebnisse zeigen, dass auch Sprache beeinflusst, wie visuelle Informationen verarbeitet werden: Je nach sprachlicher Aufgabe verändern sich visuelle Aufmerksamkeitsmuster.

Die wichtigste Methode zur Untersuchung von visuellem Verhalten in sprachlichen Kontexten ist Eyetracking. Eyetracking erlaubt es, in einer experimentell kontrollierten visuellen Umgebung zu bestimmen, zu welchem Zeitpunkt die overte Aufmerksamkeit wo ist. Dabei stellen sich allerdings zwei ernstzunehmende Probleme: Zum einen können visuelle Informationen auch ohne direkte Fixierung aufgenommen werden (parafoveale Verarbeitung). Zum anderen können den Fixationen verschiedene kognitive Prozesse zugrunde liegen, insbesondere Szenenverständnis, Objektidentifizierung und Informationsabruf vom mentalen Lexikon. Dies macht es schwierig, die beobachteten Fixationsmuster den verschiedenen Phasen im Sprachproduktionsprozess zuzuordnen.

Das Ziel dieses Projekts ist die Entwicklung einer experimentellen Methode zur Überwindung dieser Probleme. Die Grundidee besteht darin, die kognitiven Mechanismen zu triggern, die bei der Beschreibung eines visuellen Stimulus ablaufen (visuelle Wahrnehmung, Entwicklung eines Grundverständnisses der Szene, Objektidentifizierung, Planung und Aufbau einer linguistischen Repräsentation) und währenddessen Eigenschaften des visuellen Stimulus zu modulieren. Der Zeitpunkt der Modulation sollte Rückschlüsse darauf erlauben, welche Prozesse bis dahin abgeschlossen sind. Eine wesentliche Voraussetzung für diese Methode ist die Tatsache, dass Menschen unter bestimmten Bedingungen nicht in der Lage sind, selbst krasse Veränderungen in ihrer visuellen Umgebung wahrzunehmen. Die Kombination mit Eyetracking sollte es ermöglichen, Hypothesen über den zeitlichen Verlauf der Wahrnehmungs- und Sprachproduktionsprozesse sowie ihre Interaktion zu testen und neue Hypothesen zu generieren. In VIPICOL erproben wir die Methode anhand von Hypothesen aus der linguistischen Typologie im Bereich der Bewegungsereignisse.