H. Budig, V. Gollnick

Die Funktionale Gefahrenanalyse (FHA) ist in der zivilen und der militärischen Entwicklung zur Bewertung der Tolerierbarkeit von Fehlerhäufigkeiten technischer Systeme weit verbreitet. Sie berücksichtigt dabei den Schweregrad von möglichen negativen Auswirkungen konkreter Fehlfunktion. Sie fokussiert sich jedoch ausschließlich auf technische Fehlfunktionen und deren Auswirkungen und bezieht ethische Auswirkungen nicht mit ein. Wir stellen die Ethische Gefahrenanalyse als Erweiterung der FHA vor. Hierbei zeigen wir, dass ethische Gefahren aufgrund von technischen Fehlfunktionen, aber auch bei korrekter technischer Funktion, entstehen können. Zudem wird im Luftverteidigungskontext die Zugehörigkeit einer betroffenen Person zu einer bestimmten Konfliktteilnehmergruppe relevant. Durch die zunehmende Aufmerksamkeit, die KI-basierte Systeme in der militärischen Anwendung bekommen, fokussieren wir uns für die EHA insbesondere auf Machine- Learning Systeme. Die aktuelle Forschungsliteratur zeigt, dass etablierte Verfahren zur funktionalen Risikobewertung für Machine Learning Systeme nicht ausreichend sind. Zur Adaption wird eine neue Methodik entwickelt, die den Weg für eine objektive Beurteildung der Zuverlässigkeit dieser Systemen ebnen soll. Die DIN ISO 5469 wird hierfür als eine methodische Grundlage verwendet. Zudem wird ein neues Klassifikationsschema zur Schweregradbewertung ethischer Gefahren notwendig. Wir wenden die EHA auf ein konkretes Beispiel der luftgestützten Objektdetektion an. Es wird dargelegt, welche technischen Fehlfunktionen und ethischen Gefahren auf einer konreten Funktionsebene auftreten können, und welche Auswirkungen zu erwarten sind. Diese Auswirkungen können bestimmten Zuverlässigkeitsklassen von konkreten ML-Algorithmen gegenübergestellt werden. Die EHA soll langfristig Entwickler und Entscheider unterstützen, indem es einen Bewertungsrahmen bietet, welche ML-Algorithmen für den Einsatz im entsprechenden Kontext und System zulässig sind.

Functional Hazard Analysis (FHA) is widely used in both civil and military development to assess the tolerability of failure rates in technical systems. It takes into account the severity of potential negative consequences resulting from specific malfunctions. However, it focuses exclusively on technical malfunctions and their effects, failing to incorporate ethical implications. We propose an "Ethical Hazard Analysis" (EHA) as an extension of the FHA. We demonstrate that ethical hazards can arise not only from technical malfunctions but also when a system is functioning exactly as designed. Furthermore, in the context of air defense, the affiliation of an affected individual with a specific group involved in a conflict becomes a relevant factor. Given the increasing attention surrounding the use of AI-based systems in military applications, our EHA focuses specifically on machine learning (ML) systems. Current research indicates that established methods for functional risk assessment are insufficient for ML systems. To address this, we have developed a new methodology designed to pave the way for an objective assessment of the reliability of such systems, utilizing the DIN ISO 5469 standard as a methodological foundation. Additionally, a new classification scheme is required to evaluate the severity of ethical hazards. We apply the EHA to a concrete example: airborne object detection. We outline the technical malfunctions and ethical hazards that may arise at a specific functional level, along with their anticipated consequences. These consequences can then be mapped against the reliability classes of specific ML algorithms. In the long term, the EHA is intended to support developers and decision-makers by providing an evaluation framework to determine which ML algorithms are suitable for deployment within a given context and system.

Deutscher Luft- und Raumfahrtkongress 2026, Aachen

Deutsche Gesellschaft für Luft- und Raumfahrt - Lilienthal-Oberth e.V., Bonn, 2026

Conference Paper

deutsch

21,0 x 29,7 cm, 19 Seiten

urn:nbn:de:101:1-2611041041520.612486107917

10.25967/680457

Machine Learning, Ethik, Funktionale Sicherheit, Luftverteidigungssysteme

Download - Bitte beachten Sie die Nutzungsbedingungen dieses Dokuments: Copyright protected  

Budig, H.; Gollnick, V. (2026): Die Ethische Gefahrenanalyse als funktionaler Ansatz zur Bewertung von Machine Learning Risiken in Luftverteidigungssystemen. Deutsche Gesellschaft für Luft- und Raumfahrt - Lilienthal-Oberth e.V.. (Text). https://doi.org/10.25967/680457. urn:nbn:de:101:1-2611041041520.612486107917.

04.11.2026