Algoritmos y Aplicaciones de Machine Learning
Cargado por
Jonathan Nabor Lopez EspinosaAlgoritmos y Aplicaciones de Machine Learning
Cargado por
Jonathan Nabor Lopez EspinosaMachine Learning:
Algoritmos y
Aplicaciones
Bosquejo
Ejemplo en
Antecedentes Inspiración ambiente Algoritmos
industrial
Antecedentes
Inspiración
Modelo matemático
Algoritmos
• Perceptron
• Linear Regression
• Logistic Regression
• Neural Network
• Convolutional Neural Network
• Haar Cascade
Proceso de entrenamiento
1. Hipótesis
2. Error promedio del sistema
3. Actualización de parámetros
Perceptron
1. Hipótesis
2. Actualización de parámetros
3. Error promedio del sistema
Perceptron
1. Hipótesis
2. Actualización de parámetros
3. Error promedio del sistema
Perceptron
1. Hipótesis
2. Actualización de parámetros
3. Error promedio del sistema
Perceptron
Valores de los parámetros luego del entrenamiento:
Linear Regression
1. Hipótesis
2. Error promedio del sistema
3. Actualización de parámetros (Gradient Descent)
Linear Regression
1. Hipótesis
2. Error promedio del sistema
3. Actualización de parámetros (Gradient Descent)
Linear Regression
1. Hipótesis
2. Error promedio del sistema
3. Actualización de parámetros (Gradient Descent)
Learning rate
Linear Regression
x h(x)
Linear Regression
con una variable
x1 x2 h(x)
Linear Regression
con múltiples
variables
Linear Regression
Logistic Regression
1. Hipótesis
donde,
2. Error promedio del sistema
3. Actualización de parámetros (Gradient Descent)
Logistic Regression
1. Hipótesis
donde,
2. Error promedio del sistema
3. Actualización de parámetros (Gradient Descent)
Logistic Regression
1. Hipótesis
donde,
2. Error promedio del sistema
3. Actualización de parámetros (Gradient Descent)
Linear Reg. Vs Logistic Reg.
x2
x1
Logistic Regression
Neural Network
Muestras
linealmente no
separables
Neural Network
Z(2) a(2)
1. Forward propagation
Neural Network
2. Error promedio del sistema
Neural Network
3. Back Propagation d2
d3
Gradient Descent
d4
Pasos para
obtener el
Gradient Descent
Neural Network
4. Actualización de parámetros
Neural Network
Underfitting y Overfitting
Convolutional Neural Network
CIFAR-10 arquitectura: INPUT – CONV – RELU – POOL – FC
[32x32x3]
Convolutional Neural Network
CIFAR-10 arquitectura: INPUT – CONV – RELU – POOL – FC
3x3
[28x28]
Convolutional Neural Network
CIFAR-10 arquitectura: INPUT – CONV – RELU – POOL – FC
[28x28]
Convolutional Neural Network
CIFAR-10 arquitectura: INPUT – CONV – RELU – POOL – FC
[14x14]
Convolutional Neural Network
CIFAR-10 arquitectura: INPUT – CONV – RELU – POOL – FC
Convolutional Neural Network
Típica arquitectura
Convolutional Neural Network
Haar Cascade
Haar Features – Integral Image – Adaboost – Cascade
Haar Cascade
Haar Features – Integral Image – Adaboost – Cascade
Input image Integral image
A+D-C-B=
16+64-32-32=16
Haar Cascade
Haar Features – Integral Image – Adaboost – Cascade
Haar Cascade
Haar Features – Integral Image – Adaboost – Cascade
Training the Cascade
1. Instalar una Virtual Machine
Instalar
Xubuntu
y OpenCV
Training the Cascade
2. Colectar imágenes “positivas”
Imagenes con el
objeto a detectar
Training the Cascade
3. Colectar imágenes “negativas”
Imagenes sin el
objeto a detectar
Training the Cascade
4. Crear un archivo [Link] con el directorio de
todas las imágenes negativas.
Carpeta Neg/[Link] Nombre del archivo
Neg/[Link]
Neg/[Link]
Etc…
Training the Cascade
5. Crear archivo [Link]
Directorio Núm. de imágenes, Coordenadas, Tamaño
• rawdata\[Link] 1 34 12 74 24
• rawdata\[Link] 2 35 25 70 39 40 95 80 92
• rawdata\[Link] 2 10 24 90 90 45 68 99 82
Training the Cascade
6. Crear vector de imágenes “positivas”
• opencv_createsamples -info info/[Link] -num
1950 -w 20 -h 20 -vec [Link]
Training the Cascade
7. Ejecutar comando de entrenamiento
• opencv_traincascade -data data -vec
[Link] -bg [Link] -numPos 1800 -numNeg
900 -numStages 10 -w 20 -h 20
8. Extraer el archivo .xml
