Ponencias
- Estrategias de simplificación para LLMs | Hackathon Somos NLP 2023
Los modelos grandes de lenguaje (LLM) tienen capacidades impresionantes para el análisis y la generación de lenguaje. Pero son cada vez más grandes, y eso demanda cada vez más recursos de computación, con costes económicos, ecológicos y de accesibilidad. En esta charla se describirán las tendencias actuales más relevantes de modificación de LLMs tales como adaptación o cuantificación, que permiten utilizarlos de forma que exijan menos capacidades de computación, minimizando la distorsión respecto al modelo original.
- Muestreo de datos para entrenamiento de modelos | Hackathon Somos NLP 2022
Los modelos NLP modernos con arquitectura tipo Transformer son increíblemente efectivos, pero también necesitan una increíble cantidad de datos para entrenar bien. En esta charla comentaré procedimientos para filtrar adecuadamente esos datasets de entrenamiento, especialmente el muestreo basado en perplejidad.
Biografía
Paulo Villegas trabaja de experto tecnológico en la Chief Digital Office de Telefónica, en el área de prototipado de soluciones y servicios sobre Inteligencia Artificial y Data Science. También es profesor asociado en la Universidad Autónoma de Madrid, y profesor colaborador en la UNED y en CESTE.
Última actualización: 3 de abril de 2023