Stacking

El método de Stacking (denominado también stacked generalization o meta ensamblado) implica el entrenamiento de un modelo para combinar las predicciones de otros modelos: Se comienza entrenando varios aprendices sobre los datos de entrenamiento (modelos de primer nivel), y se termina entrenando el modelo final (modelo de segundo nivel o stacking model) sobre los datos originales considerando como características adicionales las predicciones de los primeros. Este modelo final es frecuentemente una regresión logística.

Este enfoque puede ser utilizado tanto en escenarios supervisados como no supervisados y el rendimiento de este método de ensamblado aumenta cuanto más diversos sean los modelos de primer nivel.

En el segundo nivel comentado pueden considerarse, no un único modelo, sino varios, siendo posible crear niveles adicionales (por ejemplo un tercer nivel) en el que se entrene un modelo basado en las predicciones de los modelos de segundo nivel.