OpenCourseWare
Procesamiento de Lenguaje Natural
con Aprendizaje Profundo,
Frameworks para Aprendizaje
Profundo
Objetivos
● Estudiar los frameworks más populares para el desarrollo de sistema
de PLN basados en aprendizaje profundo.
● Conocer los pros y contras de cada uno de estos frameworks.
2
Frameworks para aprendizaje profundo
● Theano
● Tensorflow
● Keras
● Pytorch
● Hugging Face
3
Theano
● Desarrollada por la Universidad de Montreal (Lambling y
Bengio), 2007.
● Código abierto.
● Librería optimizada para redes neuronales.
● Se considera el framework padre de aprendizaje profundo.
4
Tensorflow
● Desarrollado por Google en 2005.
● Código abierto
● Librerías para crear y entrenar modelos de aprendizaje
automático, y en particular, redes de neuronas profundas.
● También incluye modelos pre-entrenados y datasets.
● Excelente documentación y buenas herramientas de
visualización.
● Incluye recursos para desarrollo y explotación de los modelos.
5
Keras
● Desarrollada por Google. Integrado en Tensorflow en 2017.
● API código abierto para crear y entrenar redes neuronales.
Desarrollado en Python.
● Muy fácil de usar.
● Keras es una interfaz que opera con bibliotecas más potentes
(backend) tales como Theano o Tensorflow.
● Es decir, Keras no implementa las operaciones matemáticas de
las redes neuronales.
6
Pytorch
● Desarrollado por Facebook en 2017.
● Basado en Torch (librería de código abierto para aprendizaje
automático y profundo).
● Utilizada para PLN y Visión artificial.
● Fácil de usar.
● Utilidades debugging.
● Eficiente en memoria y tiempo.
7
Hugging Face
● Comunidad código abierto cuyo objetivo es avanzar en IA y PLN.
● Librería Transformers para PLN.
● + 100.000 modelos pre-entrenados disponibles.
● + 10.000 datasets disponibles.
● Modelos y librerías pueden ser usados con los frameworks
anteriores.
8
Resumen
● Nivel de dificultad: Keras < Pytorch < Tensorflow.
● Velocidad modelos: Keras es lento. Pytorch y Tensorflow son
más rápidos.
● Keras para datasets pequeños. Pytorch y Tensorflow para
datasets grandes.
● Hugging Face es el futuro!. Centrada principalmente en
transformers.
9
OpenCourseWare
Procesamiento de Lenguaje Natural con
Aprendizaje Profundo,
Gracias!!!
[Link]
10