Wie problematisch das werden kann, zeigte unter anderem die Boeing 737 MAX Grounding. Nach zwei schweren Flugzeugabstürzen zwischen 2018 und 2019 wurde die Flugzeugreihe weltweit stillgelegt. Eine wichtige Rolle spielte dabei ein automatisches Assistenzsystem, das unter bestimmten Bedingungen massiv in die Flugsteuerung eingriff. Die anschließenden Untersuchungen führten international zu intensiven Diskussionen über technische Abhängigkeiten und die Mensch-Maschine-Interaktion in hochautomatisierten Systemen.
Gerade die Luftfahrt gilt als Bereich mit außergewöhnlich hohen Sicherheitsstandards und umfangreichen Schutzmechanismen. Umso deutlicher zeigte dieser Fall: Auch hochentwickelte Systeme funktionieren nicht automatisch fehlerfrei.