Einfache Probleme, einfache Modelle.

Warum Komplexität nicht immer von Vorteil ist.

Nicht immer muss es ein komplexes Machine Learning Modell sein, wenn Entscheidungen im Unternehmenskontext durch statistische Modelle unterstützt werden sollen. „Einfache“ Modelle, wie beispielsweise die lineare Regression, reichen oftmals aus, um die vorliegende Fragestellung zu beantworten.

1. Gut erforscht

Viele einfache Modelle sind bereits seit Jahrzehnten bekannt. Durch diese langjährige Erfahrung mit den Modellen, sind diese besonders gut erforscht und besitzen viele Erweiterungen, die sich mitunter sehr spezifischen Fragestellungen widmen. Dadurch wird eine Vielzahl an Anwendungsfällen bereits abgedeckt.

2. Geringe Datenmengen

Um komplexe Modelle zu trainieren, bedarf es oft großer Datenmengen, um Strukturen in den Daten zuverlässig zu erkennen. Einfache Modelle benötigen häufig weniger Trainingsdaten als komplexe Machine-Learning-Verfahren, da sie weniger Freiheitsgrade besitzen und dadurch eine geringere Gefahr des Overfittings aufweisen.

 Limitation: Die grundlegende Annahme vieler einfacher Modelle ist ein vergleichsweise einfacher Zusammenhang zwischen Einflussgrößen und Zielgröße. Durch geeignete Transformationen oder Erweiterungen lassen sich jedoch auch zahlreiche nichtlineare Zusammenhänge beschreiben.

3. Schnelle Rechenzeit und wenig Speicherplatz

Einfache Modelle benötigen oft wenige Rechenoperationen und sind recheneffizient implementiert. Die mathematischen Verfahren und Implementierungen sind seit vielen Jahren etabliert und entsprechend effizient hinsichtlich Rechenzeit und Speicherplatz umgesetzt. Daher lassen sich einfache Modelle insbesondere in Fällen mit begrenzter Rechenleistung oder Speicherkapazität verwenden, wie beispielsweise bei der Berechnung im Echtzeitbetrieb auf einer Sensor-Maschine, die zugleich auch immer wieder neue Daten aufnimmt.

4. Hohe Interpretierbarkeit

In vielen Fällen kommt es neben der eigentlichen Entscheidung auch darauf an, wie diese Entscheidung getroffen wurde. Einfache Modelle zeichnen sich durch eine hohe Interpretierbarkeit aus. Dies bedeutet, dass sich die getroffene Entscheidung direkt nachvollziehen lässt. Außerdem lässt sich bei interpretierbaren Modellen sagen, was sich hätte ändern müssen, damit die Entscheidung anders ausgefallen wäre. Komplexe Modelle bieten häufig eine höhere Vorhersagegenauigkeit, sind jedoch oftmals schwieriger zu interpretieren. Verfahren wie SHAP oder LIME können zusätzliche Einblicke liefern, ersetzen jedoch nicht immer die direkte Nachvollziehbarkeit eines einfachen Modells.

5. Einfach Anwendbarkeit

Einfache Modelle zeichnen sich oft durch wenige Einstellungsgrößen (Hyperparameter) aus. Komplexe Modelle hingegen besitzen teilweise sehr viele Hyperparameter, die für die erfolgreiche Anwendung des Modells entscheidend sind und daher systematisch angepasst werden müssen. Dies ist zeit- und teils kostenaufwendig und kann bei suboptimaler Wahl der Hyperparameter zu erheblichen Verlusten bezüglich der Vorhersagegüte führen. Aufgrund ihrer geringeren Komplexität sind einfache Modelle häufig robuster gegenüber zufälligen Schwankungen in den Trainingsdaten und liefern reproduzierbare Ergebnisse.

Zusammenfassend kann also gesagt werden, dass es in jedem Fall ratsam ist, erst einmal ein einfaches Modell auszuprobieren, um die zugrundeliegende Fragestellung zu beantworten. Oftmals liefert dies bereits zufriedenstellende Ergebnisse und Einblicke in die Zusammenhänge verschiedener Einflussgrößen. Sollte dies nicht ausreichen, so kann danach immer noch auf ein komplexeres Modell zurückgegriffen werden.

---