0% encontró este documento útil (0 votos)
4 vistas18 páginas

SVR: Regresión con SVM Explicada

La regresión de soporte vectorial (SVR) busca ajustar un margen que contenga la mayor cantidad de observaciones posible, utilizando un hiperparámetro épsilon para controlar la anchura del margen. A diferencia de la regresión lineal, SVR se enfoca en que los errores no superen un umbral establecido, y utiliza un espacio de dimensión superior para realizar la regresión. La elección del núcleo y la función de pérdida son fundamentales para determinar la precisión y forma del estimador en SVR.

Cargado por

Felipe Mora
Derechos de autor
© All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF, TXT o lee en línea desde Scribd
0% encontró este documento útil (0 votos)
4 vistas18 páginas

SVR: Regresión con SVM Explicada

La regresión de soporte vectorial (SVR) busca ajustar un margen que contenga la mayor cantidad de observaciones posible, utilizando un hiperparámetro épsilon para controlar la anchura del margen. A diferencia de la regresión lineal, SVR se enfoca en que los errores no superen un umbral establecido, y utiliza un espacio de dimensión superior para realizar la regresión. La elección del núcleo y la función de pérdida son fundamentales para determinar la precisión y forma del estimador en SVR.

Cargado por

Felipe Mora
Derechos de autor
© All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF, TXT o lee en línea desde Scribd

Machine Learning A-Z © SuperDataScience

• Las Máquinas de Soporte Vectorial sirven tanto para regresiones


lineales como no lineales, por eso las llamamos SVR
• En lugar de ajustar el mayor corredor (o la mayor calle) posible entre
dos clases, ajustando el margen de los mismos como hacen en
general las SVM, las SVR intentan mantener cuántas más
observaciones posibles del conjunto de datos dentro del corredor en
torno a la recta limitando unos márgenes máximos.
• La anchura del pasillo (o la calle) en torno a la recta se controla
mediante un hiper parámetro, épsilon.

Machine Learning A-Z © SuperDataScience


• La SVR lleva a cabo una regresión lineal en
un espacio de dimensión superior.
• Podemos pensar que al crear una SVR es
como si cada punto de datos del conjunto
de entrenamiento representara su propia
dimensión. Al evaluar el núcleo entre un
punto de test y un punto del conjunto de
[Link]
entrenamiento, el resultado es la [Link]/stable/auto_examples/svm
coordenada del punto de test en dicha _svm_regression.html#
dimensión.

Machine Learning A-Z © SuperDataScience


• El vector que obtenemos al evaluar el
punto de test para todos los puntos del
dataset, k es la representación del punto
de test en la dimensión superior.
• Cuando tenemos ese vector en el espacio
de dimensión superior, lo utilizamos para
hacer la regresión propiamente dicha.
[Link]
[Link]/stable/auto_examples/svm
_svm_regression.html#

Machine Learning A-Z © SuperDataScience


[Link]
Machine Learning A-Z © SuperDataScience
Se necesita que el conjunto de entrenamiento
cubra el dominio de interés y vaya acompañado de las
soluciones en dicho dominio.

El trabajo de la SVM es aproximar la función que se ha


usado para generar los puntos del conjunto de
entrenamiento:

Machine Learning A-Z © SuperDataScience


En un problema de clasificación, los vectores X se utilizan
para definir un hiperplano que separe las dos categorías
en nuestra solución.

Estos vectores se utilizan para llevar a cabo la regresión


lineal. Los vectores más cercanos al punto de test se
llaman vectores de soporte. Podemos evaluar nuestra
función en cualquier lugar, por lo que cualquier vector
podría estar más cerca de nuestra ubicación de
evaluación de prueba.
Machine Learning A-Z © SuperDataScience
[Link]
Machine Learning A-Z © SuperDataScience
Machine Learning A-Z © SuperDataScience
1. Tener un conjunto de entrenamiento,
2. Elegir un núcleo y sus parámetros así como llevar a cabo
cualquier regularización que sea necesaria
3. Crear la matriz de correlaciones,
4. Entrenar el modelo, de forma exacta o aproximada para
obtener los coeficientes de contracción,
5. Utilizar estos coeficientes para crear un estimador

Machine Learning A-Z © SuperDataScience


Lo siguiente es elegir un núcleo:
• Lineal
• No Lineal
• Gaussiano

Regularización
• Ruido

Machine Learning A-Z © SuperDataScience


Matriz de Correlaciones

Machine Learning A-Z © SuperDataScience


La parte principal del algoritmo es

• es el vector de valores del conjunto de entrenamiento


• es la matrix de correlaciones
• es el conjunto de incógnitas, para las cuales
resolvemos el sistema de ecuaciones lineal como

Machine Learning A-Z © SuperDataScience


• Cuando tenemos la estimación de los parámetros
usamos los coeficientes que hemos calculado durante el
paso de optimización y el kernel que habíamos elegido al
inicio.
• Para estimar el valor para un punto de test calculamos
el vector de correlaciones ,

de donde:
Machine Learning A-Z © SuperDataScience
Intentemos simplificar las cosas:
La SVR tiene un objetivo de regresión diferente a la regresión
lineal.
• En la regresión lineal se intenta minimizar el error entre la
predicción y los datos.
• En SVR el objetivo es que los errores no superen el umbral
establecido.

Machine Learning A-Z © SuperDataScience


[Link]

Machine Learning A-Z © SuperDataScience


[Link]

[Link]

[Link]

Machine Learning A-Z © SuperDataScience


Los procesos gaussianos son una forma particular de SVM. La
diferencia entre los dos radica en la elección del núcleo y la
función de pérdida. La forma funcional del kernel determina qué
vectores en su conjunto de entrenamiento influyen más
fuertemente en la regresión y la forma de su estimador. La
elección de la función de pérdida determina los coeficientes
utilizados en la regresión. Juntas, estas dos piezas determinan
totalmente la forma y la precisión de su estimador. Aunque esto
hace que parezca que los dos son totalmente diferentes, el
espíritu de los dos es idéntico.
Machine Learning A-Z © SuperDataScience

También podría gustarte