Improved machine learning approaches for individualized human assistance, supervision, and behavior prediction
In recent years, research and development of predicting driving behaviors play an important role in the development of Advanced Driver Assistance Systems (ADAS). For this reason, many machine learning approaches have been developed and applied in this field. Due to the advantages of Hidden Markov Model (HMM) in dealing with time series data as well as state transition descriptions, the HMM seems to be a suitable algorithm in driving behavior prediction.
Therefore, one of the aims of this thesis is to analyze the current state of various driving behavior models and related HMM-based algorithms.
Except for using a single HMM to establish a driving behavior model, two design ideas (HMM-derived or HMM-combined approaches) can be concluded from the existing research to improve the HMM performance. Based on the two design ideas two newly developed approaches named Fuzzy Logic-based Hidden Markov Models (FL-HMM) and Multi-Layer HMM (ML-HMM) are designed based on HMM-combined and HMM-derived approach in this thesis.
To determine and predict drivers behaviors in the future, the main idea is to learn the driver's historical behaviors. For this reason a model has to be established and trained first. To improve the training process, in this thesis a strategy is developed for higher reliability in terms of accuracy, detection rate, and false alarm rate. The strategy is named full scale training loop and can be used to optimize both model structure and model training. Based on the proposed approach, seven algorithms including five conventional algorithms (HMM, Support Vector Machines (SVM), Artificial Neural Networks (ANN), Convolutional Neural Network (CNN), Random Forest (RF)) and two new approaches (FL-HMM, ML-HMM) are used as examples to identify driving behaviors.
To improve the prediction performance of the related models, design parameters, which are unknown and need to be set manually before training, are modified. Using the proposed training procedure the most suitable design parameters can be determined automatically to optimize the performance of the algorithms. In this thesis, design parameters are divided into two categories: hyperparameters and prefilter.
The focus is to demonstrate the ability of the proposed approach to improve the prediction performance of different algorithms, and to discuss the effects of hyperparameters and prefilters.
Based on the data achieved from 17 drivers, four different models are designed for each algorithm to validate the effectiveness of using hyperparameters and prefilters. The finally obtained results show that the prediction performance can be improved using the proposed optimized training procedure.
Seit einigen Jahren spielt die Forschung zur Vorhersage des Fahrverhaltens von Fahrerinnen und Fahrern eine wichtige Rolle bei der Entwicklung von Fahrerassistenzsysteme (eng: Advanced Driver Assistance System, ADAS). Aus diesem Grund wurden viele Methoden des Maschinellen Lernens entwickelt und in diesem Bereich angewendet. Aufgrund der Vorteile des Hidden-Markov-Modells (HMM) beim Umgang mit Zeitreihendaten sowie Zustandsübergangsbeschreibungen scheint das HMM ein geeigneter Algorithmus für die Vorhersage des Fahrverhaltens zu sein. Eines der Ziele dieser Arbeit ist es, verschiedene Fahrverhaltensmodelle und verwandte HMM-basierter Algorithmen zu analysieren.
Außer der Verwendung eines einzelnen HMM zur Erstellung eines Fahrverhaltensmodells, können zwei Entwurfsideen (HMM-abgeleitete und HMM-kombinierte An-sätze) aus den vorhandenen Forschungsergebnissen abgeleitet werden, um die HMM-Leistung zu verbessern.
Basierend auf HMM-kombiniertem und HMM-abgeleitetem Entwurfsideen werden zwei neu Methoden namens Fuzzy Logic-basierte Hidden Markov-Modelle (FL-HMM) und Multi-Layer-HMM (ML-HMM) in dieser Arbeit entworfen.
Um das zukünftige Fahrverhalten zu bestimmen und vorherzusagen, besteht die Hauptidee darin, das historische Verhalten des Fahrers maschinell zu erlernen. Aus diesem Grund muss zuerst ein Modell erstellt und trainiert werden. Um den Trainingsprozess zu verbessern, wird in dieser Arbeit eine Strategie für eine höhere Zuverlässigkeit in Bezug auf die Genauigkeit, die Erkennungsrate und die Fehlalarmrate entwickelt. Die Strategie wird als Full-Scale-Trainingsschleife bezeichnet und kann zur Optimierung der Modellstruktur und des Modelltrainings verwendet werden. Basierend auf der vorgeschlagenen Strategie, werden fünf herkömmliche Methoden (HMM, Support Vector Machines (SVM), künstliche neuronale Netze (ANN), Convolutional Neural Network (CNN), Random Forest (RF)) und zwei neue Methoden (FL-HMM, ML-HMM) als Beispiele zur Identifizierung des Fahrverhaltens verwendet.
Die Designparameter sind unbekannt und müssen vor dem Training manuell ein-gestellt werden. Diese Parameter können verwendet werden, um die Struktur und den Trainingsprozess des Algorithmus zu bestimmen. Zur Verbesserung der Vorhersageleistung der zugehörigen Modelle, werden die Designparameter geändert, um geeignete Werte zu finden.
Unter Verwendung der vorgeschlagenen Trainingsstrategie können die am besten geeigneten Designparameter automatisch bestimmt werden, um die Leistung der Algorithmen zu optimieren. In dieser Arbeit werden die Designparameter in zwei Kategorien unterteilt: Hyperparameter und Vorfilter. Der Schwerpunkt liegt auf der Demonstration der Fähigkeit der vorgeschlagenen Strategien, um die Vorhersageleistung der verschiedenen Methoden zu verbessern und die Auswirkungen von Hyperparametern und Vorfiltern zu diskutieren.
Basierend auf den Daten von 17 Fahrern werden für jede Methode vier verschiedene Modelle entwickelt, um die Wirksamkeit von Hyperparametern und Vorfiltern zu validieren. Die erhaltenen Ergebnisse zeigen, dass die Vorhersageleistung unter Verwendung der vorgeschlagenen optimierten Trainingsstrategie verbessert werden kann.