Modelos de semántica en humanos y computadoras

Enviado por acabana el Mié, 10/18/2023 - 11:49

Título del seminario optativo:

Descripción:

Desde sus inicios, las teorías cognitivas de la representación del significado de las palabras han estado influenciadas por (y a la vez ellas influencian a) los desarrollos en el área de las tecnologías de la información y la computación. Existe un vínculo natural, y cada vez más estrecho, entre modelos computacionales que lidian con el lenguaje humano (desarrollados en la llamada área ingenieril de "Procesamiento del Lenguaje Natural") y cómo los propios cerebros humanos lidian con el lenguaje. En este seminario repasaremos desde los orígenes psicológicos de las teorías de representación del significado hasta los grandes modelos de lenguaje basados en redes neurales artificiales. El curso se divide en tres módulo. En un primer módulo repasaremos los primeros modelos psicológicos como el diferencias semántico de Osgood y los modelos de árboles y grafos de Collins, Quillian y Loftus, así como los estudios normativos y experimentales del léxico, tales como las normas de asociación libre, las normas de producción de rasgos, etc. En el segundo módulo iremos de los modelos clásicos de espacios semánticos, como el Análisis Semántico Latente, a los más modernos modelos de lenguaje, como los basados en trasnformers, pasando por los "word embeddings" como word2vec y GloVE. En el tercer módulo veremos cómo estas dos literaturas se vinculan, y cómo es posible utiliar a los modelos computacionales como herramienta para el estudio de la mente, así como modelos cognitivos en sí mismos.

Año:

2024

Ciclo:

Graduación: 7to semestre

Módulo:

Articulación de saberes

Créditos:

Grupos:

Día (sugerido)

Hora (sugerida)

Cant. estudiantes

Docentes

Salón

Miércoles

12:50 a 15:05

Docente
Perfil docente profile for acabana Nombre: ALVARO JESUS Apellido: CABANA FAJARDO

Salón 5

Código de la materia:

OG167

Objetivos formativos:

Se espera que el estudiante logre:

* Comprender los elementos básicos de los modelos inciales de organización de la semántica léxica

* Entender los fundamentos de las representaciones espaciales del significado.

* Conocer los métodos empleados en el área del PLN para representar el significado de las palabras y de expresiones supraléxicas.

* Conocer algunas técnicas experimentales y normativas empleadas en el estudio del léxico.

* Conocer cómo dialogan el estudio de la organización mental del significado de las palabras y los avances en modelos computacionales del lenguaje.

Contenidos del curso - Bibliografía básica:

Módulo 1. Representación del significado de la palabras. Diferencial semántico de Osgood. Modelos de Collins, Loftus y Quillian. Normas de asociación libre, de producción de rasgos semánticos. Facilitación semántica, cloze probability. (4 clases + 1 sesión de presentación de artículos)

Módulo 2. Espacios semánticos. Representación vectorial en espacios de alta dimensión. Análisis Semántico Latente y modelos similares. Word embeddings (word2Vec, fastText, GloVE). Modelos de lenguaje basados en redes neuronales: Red recurrente simple de Elman. Transformers: BERT, GPT. (4 clases + 1 sesión de presentación de artículos)

Módulo 3. El problema de platón y la riqueza del estímulo. Facilitación semántica y espacios semánticos. Word embeddings y asociación libre. (4 clases + 1 sesión de presentación de artículos). Correlaciones entre modelos de lenguaje y neuroimagen funcional. (4 clases + 1 sesión de presentación de artículos)

Bibliografía (Se trabajará con versiones traducidas al español de los artículos en inglés)

Cabana, Á., Zugarramurdi, C., Valle-Lisboa, C., & De Deyne, S. (2020). The “Small World of Words” Free Association Norms for Rioplatense Spanish. PsyrXiv.

Caucheteux, C., Gramfort, A., & King, J. R. (2022). Deep language algorithms predict semantic comprehension from brain activity. Scientific reports, 12(1), 1-10.

Landauer, T. K., & Dumais, S. T. (1997). A solution to Plato's problem: The latent semantic analysis theory of acquisition, induction, and representation of knowledge. Psychological review, 104(2), 211.

Jurafsky, D., & Martin, J. H. Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition.

Sahlgren, M. (2006). The Word-Space Model: Using distributional analysis to represent syntagmatic and paradigmatic relations between words in high-dimensional vector spaces (Doctoral dissertation, Institutionen för lingvistik).

De Deyne, S., Navarro, D. J., Perfors, A., Brysbaert, M., & Storms, G. (2019). The “Small World of Words” English word association norms for over 12,000 cue words. Behavior research methods, 51(3), 987-1006.

Metodología:

Seminario presencial de frecuencia semanal de 2 hs 15. En cada módulo se trabajará en 4 sesiones expositivas (interactivas), y 1 sesión de presentación de artículos por parte de los estudiantes, en modalidad presencial con control de asistencia (80% mínimo de asistencia). Los materiales quedarán disponibles en la plataforma EVA.

Dispositivos de evaluación:

Se evaluará la participación activa en clase (10% de la nota final). Presentación de artículos (30% de la nota). Trabajo final: análisis crítico de un artículo reciente de la literatura (o un ensayo interactivo con una plataforma de Chat en modo debate o simulacro de examen). Control de asistencia al 80% de las clases.

Perfil docente profile for acabana