En av de mest citerade artiklarna om automation är ”Ironies of Automation” från 1983 av Lisanne Bainbridge, kognitiv psykolog. Hennes artikel må vara över 35 år gammal men känns ännu relevant och citeras fortfarande.
En utgångspunkt för Bainbridge är att målet med automation oftast är att minska behovet av människan men hon påpekar direkt att även högt automatiserade system har behov av människan för övervakning, justering, underhåll och utveckling, dvs de är egentligen människa/maskin-system som är väldigt beroende av människan! Förväntningar på automation rymmer dock parodier och paradoxer.

Ironier kring design av automation
En utgångspunkt för design av automation är ofta att människan är opålitlig och ineffektiv och därför bör ersättas. Detta är förknippat med två ironier:
1. Designern är människa och designfel kan vara ett stort operativt problem.
2. Designern ersätter människan med automation så långt det är möjligt. Det som är för svårt att automatisera får människan fortfarande utföra.

Vad återstår för människan efter automation?
En vanlig uppgift som lämnas kvar åt människan är att övervaka så att automationen fungerar korrekt och att vid behov ta över om automationen fallerar. Ironin är här att skickligheten försämras om man inte använder den. En erfaren operatör som övervakar automation blir så småningom en oerfaren operatör med begränsade möjligheter att ta över. En situation som kräver mänskligt ingripande är dessutom sällan helt normal utan kräver extra skicklighet. Till detta kommer att övervakning inte är en uppgift som människan är väl lämpad för. Vi klarar helt enkelt inte av att sitta och titta/lyssna i väntan på att något ska hända. Alltså krävs en alarmfunktion och då uppstår frågan om vem som övervakar alarmfunktionen?

Lösningar
Bainbridge pekar inte bara på ironierna utan föreslår även lösningar. För att mänsklig övervakning ska fungera krävs alarm och helst ska alarmet tydligt visa vad som är fel samt vad som behöver göras.
Ett sätt att hantera svårigheten att ta över då automation fallerar är genom att träna regelbundet i t.ex. en simulator. Sådan utbildning bör dessutom vara mindre inriktad på att ”följa procedurer” utan mer på att kunna hantera ovana och oförutsedda situationer. Ironin här är att ju bättre ett automatiserat system fungerar, desto mindre naturlig erfarenhet får operatören och desto högre blir kostnaderna för simulatorer och utbildning.
Bainbridge artikel är alltså över 35 år gammal och man kan tycka att den borde vara överspelad vid det här laget. Ändå ser vi fortfarande exempel på de ironier hon pekar på. Automation bygger på mänsklig design och den är inte felfri. Kraven på människan i samband med automation ökar ofta istället för att minska och därmed följer ökat behov av utbildning.