Sinopsis

La técnica del Análisis de la Semántica Latente (LSA) es común en muchas disciplinas. Tiene un papel destacado tanto en ingeniería como en psicología y lingüística, tanto para minería de datos textuales como para modelar procesos en el ámbito de la Ciencia Cognitiva. Dentro de estas disciplinas es empleada para representación textual y técnicas de emparejamiento por similitud, para filtrar las entradas en modelos predictivos, para evaluación automática de tex-tos académicos, como conocimiento externo en agentes virtuales, para desambiguación en reconocedores de voz, etc. Muchas son las tareas notables dentro de lo que se ha venido a llamar aprendizaje automático en que LSA forma parte del cauce de análisis y muchos los procesos en Ciencia Cognitiva simulados tomándola como base de representación.

Este libro es una monografía de la técnica donde se explican conceptual, matemática y computacionalmente los aspectos básicos para hacerla funcionar. Además de sus aspectos más apegados a la ingeniería, se hace también énfasis en el valor añadido que se aporta desde los modelos cognitivos de la memoria y la construcción del significado. Se explican formalizaciones de modelos que pueden resultar útiles para resolver tareas en las que están involucrados sesgos y sus manejos, como por ejemplo el modelo Construcción-Integración o el modelo cuántico de similitud entre otros. No en balde, este valor añadido es reconocido implícitamente por las grandes empresas al llamar computación cognitiva al aprendizaje automático de última generación. Además, también entre otros, se estudian mecanismos para resumidores extractivos y evaluadores automáticos en forma de rúbrica semántica.

En general, las directrices explicadas en este manual sobre LSA pueden ser aplicables a otros modelos más modernos como por ejemplo word2vec -Skip-gram y CBOW- (que junto con LSA y otros son llamados ahora métodos de Word embedding). Por esto mismo hemos incluido un apartado que explica word2vec y que analiza con detalle las similitudes y las diferencias con LSA. También incluye una explicación de la forma en que los vectores de estos modelos pueden participar en los modelos de aprendizaje profundo de última generación.

Índice

1. El procesado LSA y sus técnicas.
1.1. Introducción.
1.2. Fuentes textuales
1.3. ¿Qué palabras pasarán al análisis?
1.4. Aparición de las palabras en contextos
1.5. Suavizamiento de palabras entrópicas
1.6. Reducción de dimensionalidad mediante SVD
1.7. Reducción de la dimensionalidad en LSA

2. Sensibilidad a las relaciones de órdenes superiores.
2.1. El problema platónico y la pobreza del estímulo
2.2. Captación de las relaciones de distintos órdenes
2.3. Medida de las relaciones de distintos órdenes en los textos

3. Trabajando con la matriz de palabras.
3.1. Introducción
3.2. Cosenos
3.3. Distancias
3.4. Proyecciones como medida de similitud
3.5. Construcción-integración
3.6. Cómo proyectar párrafos que no han formado parte de la muestra
3.7. Normalización de los vectores términos
3.8. Ponderación de las dimensiones por los valores singulares
3.9. Diversidad semántica

4. Manejo de espacios.
4.1. Alineación de espacios
4.2. ¿Cómo dar significado a las dimensiones latentes?

5. Algunas aplicaciones concretas.
5.1. Evaluación de textos académicos
5.2. Resumidores extractivos
5.3. Vectores como entrada a modelos predictivo

6. Representaciones basadas en Word2Vec.
6.1. Introducción
6.2. Formato de las entradas y salidas
6.3. Topología de la red
6.4. Procedimiento secuencial
6.5. ¿Cuál es realmente la matriz de palabras al finalizar el proceso?

7. Últimas valoraciones.
7.1. LSA en las ciencias cognitivas y la ingeniería
7.2. Recursos para procesar corpus con LSA

8. Un caso práctico de uso con r en modelado de memoria.
8.1. Antecedentes
8.2. Caso
8.3. Tentativa de resolución
8.4. Otro ejemplo con graficación

Bibliografía