Hem » Human Factors

Kategoriarkiv: Human Factors

Johan Berg: Mentorship program proposed by FAA – Part 2

Please read the first part of this two-part series of posts here – Johan Berg: Mentorship program proposed by FAA – Part 1.

The second a new Captain sits down in the left seat for the first time to command a commercial flight is the same moment piloting the airplane from A to B becomes secondary. It might happen unconsciously, but your mind is filled with the responsibilities and tasks related to this become a top priority. It can feel like if the whole system around you immediately starts to throw you curveballs from all angles. This is where experience becomes such a valuable part of getting safely to the destination. The Captain is ultimately responsible to facilitate the communication process to assure the safe operation of every flight. As a consequence, most communications related to the launch and progress of a flight is passing via the Captain at some point.

I’ve identified 9 key roles directly involved in the safe dispatch of every flight.
• Pilots
• Flight Attendants
• Dispatchers
• Gate Agents
• Maintenance staff
• Ground Handling crew
• Fuelling staff
• Catering staff
• Cleaning staff

Getting to know and understand each and every position and being able to identify their needs and challenges is immensely beneficial in many different ways. A flight is a teamwork effort with everyone as per above involved at some point.

Being new at the job can be overwhelming for anyone and certainly so for a new Captain. For someone who is inexperienced it is always a challenge to map your understanding onto the daily operation and to fully recognize the impact of the organization, mindset, and structure of an airline. On the other hand, for someone with experience, it can be a challenge to relate to what used to be, as there is a risk of being affected by old habits that might not fit in as well in the new airline.

Who should participate?
As much as I would like to see everyone in these roles doing some kind of regular workshops or training together, I have realized the almost impossible task to make this happen. However, I would like to see all positions that actually have their name on a flight release, participate in the mentorship and CRM training in the same classroom (Pilots, Flight Attendants, and Dispatchers). It is my firm belief that this is totally doable and would catalyze improvements of the teamwork on the line.

Summary
It is a good thing that the FAA will make a system like this mandatory and regulated. I do feel that they did not reach all the way and missed a golden opportunity when they only mentioned pilots (Captains) to have this mandatory program. I have identified at least nine roles directly involved in every flight that would benefit from a better understanding of each other’s tasks and duties. In a perfect world, all staff in these roles should be participating in this program but that would be a logistical challenge. Partly, because some of the positions do not actually work for the same company. But there are still more questions than answers, such as these:
-Who will be responsible for the program within the operator?
-What will be the requirements for someone to qualify as a mentor/coach?

One major change for the better with this system in place is the shift of focus from avoiding doing the wrong thing and making the wrong decision to proactively working on doing the right thing, taking the right decision, and how to grow and become better based on previous experiences and exposure.

Johan Berg
Professional Aviator, sentimental with my pen

Johan Berg: Mentorship program proposed by FAA – Part 1

On March 3rd, 2020 FAA issued an Advisory Circular (AC 121-43) to standardize and legislate ”internal mentorship” for pilots, with the aim for this to become mandatory in April 2023 for all airline and charter operators.

What is mentoring?
The FAA has defined what mentoring means in the Advisory Circular as an experienced individual that can offer career support and development, psychological support, and role-modeling to a less experienced individual.
It is not very defined how this is going to be facilitated at this time and what function in the airline organizations that will hold accountability for the process.

Why is the FAA reacting to this now?
The FAA adjusted related regulations a few years ago, adding additional steps to get an FAA-ATP and at the same time made an FAA-ATP a minimum requirement also for First Officers in Part 121 operation. It can be assumed that they have identified a risk with the extremely quick progress of upgrading to Captain in the Part 121 world and have assessed that they need to mitigate the risks associated with this. Just a few years ago this was not an issue since the supply vs. demand of pilots with experience was different then.

The proposal may be seen as pro-active in order to stay ahead of a trend of declining experience or as a weakness (or even hazard) that has been present for some time, i.e. that operators do not have any standards for internal mentorships or any other way to support the development of First Officers towards becoming Captains. As always, there are two sides to a story and some will see this as a reactive proposal in response to two accidents linked to non-standard behavior and SOP deviations. The accidents mentioned in the FAA proposal is Northwest Airlink Flight 3701, a CRJ200 operated by Pinnacle Airlines, and Continental Connection Flight 3407, a Dash-8 Q400 operated by Colgan Air. It is reasonable to assume the Atlas Air 3591 crash outside Houston in Jan 2019 also reinforced the motivations for the proposal although the final accident investigation report was yet to be published when AC 121-43 was issued.

Historically there has been a tradition of unofficial mentorship in major airlines since the early days of the airline industry. Young and inexperienced new hires were welcomed by senior Captains who were proud of their position and felt the responsibility to pass their experience and knowledge on to the next generation of pilots in their airline. This unofficial mentorship has gradually been eroded in recent decades.

I have tried to analyze this in order to identify reasons and came to a few possible ones:
• Increasing financial strains for companies
• Training programs shaved down to regulatory minimum as published by the authorities
• Significantly degraded relationship between the pilots and the airlines, most likely contributing to less pride in the role and a lessened sense of responsibility for the future of the airline

More on this and the mentorship program proposed by FAA in the next part!

Johan Berg
Professional Aviator, sentimental with my pen

Anders Ellerstrand: Forskning om safety 7 – pionjärernas syn

Här är sista avsnittet om en ovanlig men mycket intressant bok. Det handlar om ”Safety Science Research – evolution, challenges and new directions”. Boken innehåller 22 kapitel av olika författare men är sammanställd och redigerad av Jean-Christophe Le Coze. I bokens andra sektion ger sju ”pionjärer” sin syn på det som skrivits i den första sektionen.

Jag tyckte det var uppfriskande att läsa denna sektion. Många av författarna i boken är säkert goda vänner men här framförs bitvis tuff kritik. Det är dock en saklig, ”akademisk” kritik, inte personkritik.

Rhona Flin
Flin verkar inte vara så imponerad. Hon börjar med att sammanfatta hur kunskap om safety utvecklats, framförallt under 90-talet och hon menar att det mesta är relevant ännu idag och att det som presenterats av nya forskare tidigare i boken inte innebär några paradigm-skiften. Den ”nya synen” på safety (Safety-II och Safety Differently) tycker Flin liknar den nya syn (positive psychology) som förändrade psykologin redan för 20 år sedan. Hon pekar på risken att man med en ”ny syn” tappar en del av det som fungerat bra tidigare.
Flin skriver om gapet mellan forskare och utförare som Shorrock tog upp och hon stödjer tanken att akademin måste närma sig utförarna och att forskning måste sträva efter att få faktisk påverkan på policy eller på hur arbete utförs. Hon beskriver också ett problem inom forskarvärlden som handlar om att man gärna vill presentera något helt nytt istället för att öka värdet på tidigare forskning genom att replikera den. Istället för att testa befintliga teorier vill man formulera och testa egna, nya teorier. Flin varnar för att sätta olika delar av safety-forskning mot varandra. Det måste finnas utrymme för en mångfald att existera tillsammans. I boken saknar Flin en diskussion om vilken effekt ny teknologi kommer att få.

Erik Hollnagel
Hollnagel undrar om bokens många olika bidrag utan direkt sammanhang ska ses som en styrka eller en svaghet. Han menar att safety är mer aktuellt idag än det någonsin varit. Det saknas fortfarande en tydlig definition av vad safety är, ändå talas det om safety som om alla förstod begreppet på samma vis. Det vanligaste är att se på safety som ett tillstånd som definieras av när det saknas snarare än när det är på plats. Hollnagel menar att alla bokens kapitel genomsyras av denna syn. Själv hänvisar han till James Reason när han menar att vi borde se mer på vad som skapar safety, på situationer där arbetet fungerar väl och där ”inget händer”.
Hollnagel tycker att det i de olika kapitlen fokuseras på djup snarare än på bredd. Även om ingen författare hävdar att hen presenterar en universell lösning så tycker Hollnagel att han saknar ett erkännande av att safety måste se på system från ett brett perspektiv. De olika kapitlen ger många olika synvinklar men Hollnagel saknar ett försök att knyta ihop delarna till en helhet. Han menar att detta är en av lärdomarna från de ”gyllene åren” som inte verkar ha satt sig.
Sammanfattningsvis menar Hollnagel att boken visar att inte mycket hänt inom safety forskning. Att de nya perspektiv som finns används för att lösa gamla problem utan att fundera på om vi verkligen försöker lösa rätt problem.

Nick Pidgeon
Som kommentar till Shorrock menar Pidgeon att av alla forskningsområden han arbetat med är safety det där samarbetet fungerar bäst mellan akademiker och utövare. Som exempel tar han James Reason vars arbete verkligen påverkat praktiskt safety-arbete.

Paul R. Schulman
Schulman väljer att inte ”recensera” övriga författare utan för ett mer allmänt resonemang. Han ställer intressanta frågor kring definitionen av olika begrepp. Hur förhåller sig t.ex. ”safety” och ”risk” till varandra? Han menar att olyckor eller incidenter kan ske utan att förändra en riskbedömning medan ett enda fel kan få oss att ifrågasätta safety. Att vi ännu saknar tydliga definitioner försvårar också våra möjligheter att mäta safety. Han pekar på att många av de begrepp som används inom safety saknar definitioner eller mätmöjligheter. Exempel är HRO (high reliability organisations), komplexitet, säkerhetskultur och resiliens. En konsekvens är att det inte går att mäta vilken roll dessa spelat i incidenter eller olyckor vilket försvårar forskning. Schulman pekar också på att flera författare tar upp effekter av globaliseringen och av ökad samverkan mellan länder och organisationer vilket borde betyda att forskning inom safety behöver bredda sitt omfång. Det räcker inte längre att studera enskilda organisationer.

Ron Westrum
Westrum diskuterar kultur och menar att det är en avsevärd skillnad mellan nationell kultur som är relativt oföränderlig utom på mycket lång sikt och organisationskultur som hela tiden förändras efter händelser i organisationen. Chefer har stor påverkan på organisationskulturen; genom att sätta upp mål och genom att skapa olika incitament. Westrum pekar också på en annan viktig faktor, nämligen hur närvarande chefer är. I starka berättelser ger han exempel på såväl kompetent och närvarande ledarskap som inkompetent och frånvarande ledarskap.

Anders Ellerstrand: Forskning om safety 5 – diskursiva effekter

Jag fortsätter här berätta om en ovanlig men mycket intressant bok. Det handlar om ”Safety Science Research – evolution, challenges and new directions”. Boken innehåller 22 kapitel av olika författare men är sammanställd och redigerad av Jean-Christophe Le Coze (tidigare avsnitt finns här – del 1, del 2 och del 3).

I bokens elfte kapitel tar Johan Bergström upp diskursiva effekter som han menar uppstår när nya (akademiska) föreställningar om säkerhet introduceras som praxis i organisationer. Efter att en ny vetenskaplig teori accepteras och implementerats, kan brister i hur teorin appliceras sedan användas som ett sätt att förklara orsaken till en olycka. Bergström tar upp några exempel:

Resilience Engineering

Bergström beskriver hur begreppet resiliens utvecklats från akademiska diskussioner till att bli ett etablerat begrepp inom säkerhet (såväl safety som security). Tidigt handlade diskussionerna om resiliens om att hjälpa människor att hantera komplexitet under belastning. Utvecklingen har bl.a. lett till att resiliens idag finns med i EASA lagtext som beskriver utbildning inom CRM.
Det problem som Bergström pekar på är att texten lägger nya värderingar på pilotens agerande. Som exempel nämns att piloten nu kan beskrivas som alltför beroende av standardprocedurer, kan överreagera eller agera på ett obalanserat sätt. Resultatet kan bli att begreppet resiliens går från att bemyndiga en pilot att hantera en situation, till att istället öka pilotens ansvar för situationer som kan uppstå. Bergström menar att piloten får ett ansvar för inte bara sitt eget agerande utan för hela systemet.

Just Culture

Begreppet ”Just Culture” introducerades av James Reason 1997 och har sedan behandlats av flera andra, inklusive Sidney Dekker vars uppfattning om vad begreppet borde innebära dock skiljer sig från Reasons. Begreppet är idag väl etablerat och har i likhet med resiliens funnit sin väg till regelverken där det beskrivs som en kultur där personal inte ska bestraffas för handlingar och beslut som görs i överensstämmelse med deras erfarenhet och utbildning. Samtidigt tolereras inte grov oaktsamhet, avsiktliga regelbrott och destruktiva handlingar. I och med att begreppet nu införts i regeltext kan det bli domstolar som får avgöra var skiljelinjen mellan dessa dras.
Bergström menar att medan begreppet uppkom som ett sätt att låta organisationer själva avgöra skiljelinjen har det nu istället hamnat hos myndigheter. Det som från början hade som syfte att göra det möjligt för personal att rapportera även egna misstag utan risk för bestraffning, har istället gjort det möjligt för det juridiska systemet att avgöra när en bestraffning är rimlig.

Slutsats

Bergström visar att en önskan att kunna styra och hantera företeelser som resiliens och just culture kan få diskursiva effekter bortom vad som förväntades. Effekten kan bli att ansvar för brister i organisation och system läggs på individer. Detta sker när individerna ges ett ansvar att kompensera för sådana brister genom att anpassa sitt arbete och genom att rapportera brister även när myndigheter har rätten att utdöma var ansvaret ligger.

Bergström föreslår att dessa negativa effekter kan undgås genom att välja hur man formulerar sig och beskriva hur organisationer (snarare än individer) kan agera internt med hänsyn till fördelning av inflytande, frihet och expertis.

Human Factors – Ett kunskapsområde utan gränser?

Detta inlägg handlar inte om något som hänt just nu i flygindustrin, eller ens om en aktuell trend att följa, utan är en reflektion‎ på det område jag arbetar med – Human Factors – och dess roll både inom och bortom flygindustrin. Detta ligger nära en del av de många och utmärkta inlägg som Anders Ellerstrand skrivit om flygsäkerhet och forskning inom säkerhet, med skillnaden att detta endast är mina egna tankar.

Human Factors växte fram under 1900-talet som ett gensvar på teknologisk utveckling och människans roll avseende säker och effektiv användning av ny teknologi. Dess rötter kan spåras till åtgärder for att använda arbetare effektivt samt skydda dem från skada, något som sällan var i fokus fram till att industriell stordrift på 1800-talet innebar att olyckor skadade inte bara människor och materiel, utan också kapital och vinst mer än tidigare. (Tidigare hade olyckor mestadels hänvisats till högre makter, vilket gjorde att det inte fanns någon anledning att undersöka och försöka förstå dem.)

Den unga flygindustrin blev det första och största fältet för de första initiativen för Human Factors. Det handlade först om att välja ut de rätta kandidaterna för pilotyrket. Därefter kom det att handla en hel del om design, med endast en långsamt växande insikt om att förklaringarna ”mänskliga fel” eller ”pilotfel” i olycksrapporter ofta endast fungerade som ett sätt att dölja brister i design. Denna period följdes av ett uppvaknande avseende betydelsen av samarbete och människans roll i förhållande till teknik och alla delar av ”systemet” inom och kring operativ verksamhet. Human Factors och dess praktiska utbildningsversion för piloter och kabinpersonal CRM (eller TRM för ATC, MRM för teknisk personal, FRM för disatchers o.s.v.) blev först använt under 80-talet och sedan obligatoriskt som reglebunden träning.

Vad är då inte Human Factors? Ja, det är svårare att svara på med tanke på att närmast allt som har med mänsklig verksamhet och har någon koppling till säkerhet har mutats in som en del av området. Det finns mycket gott att säga om ett brett, tvärvetenskapligt och praktikt orienterat forskningsområde som Human Factors. Men bredden gör det ibland probleamtiskt att definiera vad som är Human Factors och om det nu inte finns en sådan gräns så blir området i sig besvärligt att förklara och motivera när det kommer till dess roll i verksamhet.

Tidvis kan Human Factors inom flygindustrin vara synoymt med flygpsykologi, i andra sammanhang med ergonomi. I Sverige och en del andra länder har förkortingen MTO (Man – Technology – Organisation) blivit ett annat sätt att tala om Human Factors. Dessutom så innebär den tvärvetenskapliga kraktären att många som aretar inom område inom ramem för en beskrivning av Human Factors hamnar under en beteckning som de inte är speciellt intresserade av att vara en del av. Detta har haft den märkliga konsekvensen att Human Factors är erkänt och använt på många håll, men det finns få platser i akademin där denna etikett är mer än eftertanke. Försök att hitta ”Human Factors” avdelningar och utbildningar runtom i världen och de är förvånande få av dem. Oftast får den som vill ta sig in i denna värld kombinera sig fram utbildningsmässigt för att kunna starta sin karriär inom området.

När Human Factors nu etbalerat sig inte bara som ett område for forskning, utan även som praktik, är frågan om området kan fortsätta att vara så odefinierat brett som det länge varit. Risken är att allt fler överlappningar med involverade, inkluderade eller angränsande områden kommer att leda till otydlighet eller konflikter. Det är inte svårt att tänka sig att dessa andra områden då kan komma att finna allt mindre entusiasm avseende etiketten ”Human Factors” på det som de arbetar med. I viss mån har nog den flexibla tolkningsmöjligheten avseende Human Factors bidragit till dess spridning. Jag hoppas dock att en mer specifik och tydlig definition av området gradvis kan växa fram. Det hade nog gynnat dess fortsatta tillväxt mer än en fortsatt otydlighet avseende vad det innebär att arbeta med ”Human Factors”.

Anders Ellerstrand: Forskning om safety 4 – visualisering av safety

Jag fortsätter här berätta om en ovanlig men mycket intressant bok. Det handlar om ”Safety Science Research – evolution, challenges and new directions”. Boken innehåller 22 kapitel av olika författare men är sammanställd och redigerad av Jean-Christophe Le Coze. (Tidigare avsnitt finns här – del 1, del 2 och del 3).

I bokens tionde kapitel tar Jean-Christophe Le Coze upp betydelsen av att visuellt illustrera teorier och koncept inom safety-forskning. Coze börjar med en historisk genomgång med fyra exempel:

Hög-risk-system
Charles Perrow klassificerade hög-risk-system 1984 och illustrerade detta med en matris med två skalor. En gick från ”loose coupling” till ”tight coupling” (länk) medan den andra gick från linjär till komplex.

I denna matris placerade sedan Perrow olika företeelser. Ett exempel är kärnkraftverk som ligger längst upp i högra hörnan – ”tight coupling” och komplex – medan tillverkningsindustri ligger nästan motsatt. Perrow blev känd för sin bok om ”normala olyckor” som uppstod som systemiska olyckor hos företeelser i övre högra rutan – hög-risk-system.

Sociotekniska system
Jens Rasmussen beskrev under 80- och 90-talen hur olika aktörer hade en påverkan på det som kunde utvecklas till en olycka. Han skapade en enkel tabell med aktörer på olika nivåer – från myndigheter längts upp till personal och arbetsplats längst ner.

Det som gör den enkla illustrationen så värdefull är pilar i tabellen som visar flöden av inflytande, beslut och andra påverkansfaktorer.

Safety-modell 1
Även nästa illustration kommer från Rasmussen. Den visar hur individer har ett visst mått av frihet att agera och anpassa sig när de utför sitt arbete.

Detta sker i ett utrymme som fortfarande är säkert men som kan begränsas från olika håll. Det handlar om att begränsa arbetsbelastning men också om att vara ekonomiskt effektiv. Dessa två begränsningar utgör samtidigt en press mot den tredje begränsningen – safety. Med sin illustration visade Rasmussen hur det i organisationer finns krafter som riskerar att minska marginalerna till en olycka.

Safety-modell 2
Den mest kända illustrationen är nog ”the Swiss Cheese Model” som skapades av James Reason. Den visar på ett behov av att skydda sig mot olyckor genom ett ”försvar på djupet”. Liksom Rasmussens tabell visar den hur olika nivåer har sin funktion i att skapa ett system som förebygger olyckor. Det krävs en rad faktorer på många nivåer för att skapa de förutsättningar som leder till en olycka.

Framtidens visualiseringar
Coze menar att många försök att illustrera koncept leder till alltför stora förenklingar där man använder geometriska figurer som ofta visar upp hierarkier. Det finns ett behov av att illustrera mer komplexa miljöer och interagerande. Han visar ett exempel men för mig blir den alltför svårtillgänglig.

Coze menar att visuella illustrationer är viktiga i safety-forskning och kommer att vara så även framöver. Han pekar på att en framgångsrik illustration inte ska behöva mycket förklarande text utan kunna förmedla sitt budskap själv. Tekniskt finns idag stora möjligheter att skapa illustrationer som arbetar med t.ex. tre dimensioner. Jag tycker inte Coze lyckas visa på hur framtidens safety-forskning kan illustreras men han tydliggör behovet.

Anders Ellerstrand: Forskning om safety 2 – standardisering och digitalisering

Jag fortsätter här berätta om en ovanlig men mycket intressant bok. Det handlar om ”Safety Science Research – evolution, challenges and new directions”. Boken innehåller 22 kapitel av olika författare men är sammanställd och redigerad av Jean-Christophe Le Coze.

I bokens första kapitel tar Almklov och Antonsen upp standardisering och digitalisering. De inleder med en ökad betydelse av att förstå hur arbete faktiskt går till och skillnaden mellan ”work as imagined” och ”work as done”. Den skillnaden ses ofta som något negativt och författarna hävdar att det en finns en ökande tendens mot ökande standardisering som åtföljs av ökad rapportering och kontroll vilka också baseras på standards. Även möjligheten att mäta utfört arbete ökar och ”what gets measured is what matters”.

En ökad och detaljerad standardisering är attraktiv för den som vill mäta, kontrollera och följa upp. Det underlättar även styrning. En chef behöver inte längre ha full kunskap eller förståelse för verksamheten eftersom det levereras data som hela tiden beskriver hur standards upprätthålls.
Även en procedur beskriven i ett dokument och en uppmaning att följa den får naturligtvis en påverkan på hur arbetet utförs. När detta ersätts av digitala system ökar möjligheten till ytterligare standardisering och kontroll på en alltmer detaljerad nivå. En digitaliserad procedur kan t.ex. omöjliggöra ”genvägar” som att utelämna delar av proceduren. Det är naturligtvis avsikten och det kan ha många fördelar. Ett exempel skulle kunna vara ett system som gör att bilen inte går att starta förrän bilbältet är fäst. Det skulle ju garantera att ingen förare glömmer bilbältet eller väljer att frångå reglerna.

Problemet är att sådana system också tar bort möjligheten till ett situationsanpassat arbetssätt. Jag kommer att tänka på en film jag såg där en kvinna är på väg från sitt hus till sin bil. Då kommer två beväpnade rånare springande. Kvinnan lyckas mycket snabbt ta sig in i bilen, starta den och köra iväg. Man kan tänka sig vad som kunde ha hänt om bilen inte var möjlig att starta förrän bilbältet var fäst.
Jag tror det finns många jobb där man någon gång frågat sig om man ska ”jobba säkert eller efter reglerna”. Det är knappast möjligt att formulera bestämmelser, standards och procedurer som fullständigt beskriver arbetet eller som beskriver alla tänkbara situationer. Idag fungerar det ändå oftast bra genom människors förmåga att anpassa sitt sätt att arbeta. I en alltmer standardiserad och digitaliserad värld kan människor berövas denna möjlighet att anpassa sitt arbete och det är inte säkert att resultatet blir säkrare eller effektivare.

Jag tycker Almklov och Antonsen i sin artikel pekar på något väsentligt. Det är troligt att vi framöver får se en ökad standardisering och digitalisering men en sådan utveckling kanske inte är odelat positiv.

Anders Ellerstrand: Forskning om safety – del 1

Uppdelat i några kommande avsnitt tänker jag berätta om en ovanlig men mycket intressant bok. Det handlar om ”Safety Science Research – evolution, challenges and new directions”. Boken innehåller 22 kapitel av olika författare men är sammanställd och redigerad av Jean-Christophe Le Coze.

Boken börjar med en ganska lång introduktion som bl.a. beskriver de ”gyllene åren” under 1980 och 1990-talen då mycket av det vi idag arbetar med inom safety etablerades. Här beskrivs de olika teorier och koncept som utvecklades och de kända namn som bidrog presenteras. Här beskrivs även översiktligt var vi är nu och vilka trender som syns.

Boken är i övrigt indelad i två sektioner. Den första heter ”New Generation” och består av 14 kapitel där dagens forskare inom safety får ge sin syn. Bland författarna kan här nämnas Jean-Christophe Le Coze, Johan Bergström och Steven Shorrock. Här finns många intressanta kapitel och jag ska ta upp något av det jag fastnat för i kommande avsnitt.

Riktigt intressant blir det sedan i nästa sektion där sju av ”veteranerna” får kommentera det som skrivits i den första sektionen och ge sin syn. Här finns författare som Rhona Flin, Erik Hollnagel och Karl E. Weick.

De kommande avsnitten har inte som ambition att sammanfatta hela bokens innehåll. Däremot vore det kul om jag lyckas väcka intresse så att ni själva söker upp boken och läser.

EASA presenterar riktlinjer för artificiell intelligens

Det har talats mycket om artificiell intelligens – AI – i alla sammanhang och så även inom flygindustrin. Detta har även tagits upp här på bloggen (länk). Det har dock handlat mycket om visioner, potential och möjligheter och mindre om vad som behövs för att användningen av AI ska vara säker i alla de olika sammanhang som den kan användas. Detta har nu EASA tagit upp, vilket i sin tur har rapporterats på AINonline (länk nedan).

EASA presenterade nyligen ett tidigt utkast på en ”roadmap” som tar upp de frågor som måste tas upp och lösas för att användning av AI ska kunna fungera säkert och effektivt i flygindustrin. Tanken är att dokumentet ska användas för samtal med industrin och för att sedan kunna formulera mer riktlinjer och regler. Bland de frågor som tas upp är transparens, undvikande av diskriminering, rimlig och rättvisa certifieringsprocesser och andra frågor kopplade till dessa områden.

EASA har inte kommit på allt detta på egen hand utan baserar dokumentet på arbete som genomförts av en grupp ledd av Europeiska kommissionen om bär namnet High-Level Expert Group on Artificial Intelligence (AI HLEG). För pålitlig AI har denna grupp föreslagit sju områden för krav att ställas: tydlighet avseende ansvar, teknisk robusthet och säkerhet, möjlighet till översikt och kontroll, integritet och hantering av data, icke-diskriminering och rättvisa, samt samhälls- och miljöpåverkan.

EASA var även tydliga med att man för närvarande inte har nog med resurser för att
Att EASA har tagit detta initiativ är bra men frågan är vilken påverkan principer på så hög nivå har på arbete med att utveckla och använda AI praktiskt inom flygindustrin.

Länk till artikel:
EASA’s Early Roadmap on AI Warns of Ethical Imperatives

Anders Ellerstrand: Flygsäkerhet 17 – Sammanfattning

Det blev alltså hela 16 inlägg om flygsäkerhet här på bloggen. Här följer en guide/sammanfattning:

I avsnitt 1 försökte jag definiera flygsäkerhet. Oftast diskuteras istället frånvaron av säkerhet – olyckor och incidenter. Det är också detta vi mäter med tanken att frånvaro av olyckor är detsamma som att det är säkert. Av det följer att vi mest studerar olyckor. I avsnitt 2 togs ett par kända personligheter upp som starkt påverkat vår syn på hur olyckor uppkommer – Heinrich och Reason. Heinrich pekade på människan som ett problem, medan Reason pekade på att även om de ”osäkra handlingarna” görs av människor, måste vi studera hela systemet för att förstå hur omständigheterna skapas där vi gör misstag.

I avsnitt 3, 4 och 5 tog jag upp en berättelse av Sidney Dekker där han visar att de faktorer som finns med vid olyckor och incidenter också är närvarande då vi lyckas, vilket ju utgör den stora majoriteten. Det är inte så enkelt som att om man bara följer alla bestämmelser så blir resultatet bra. Istället är bestämmelserna sällan heltäckande, målen vi arbetar med ofta motsägelsefulla och resurserna för små. För att ändå lösa uppgiften anpassar vi oss, tar genvägar, gör avsteg från bestämmelser osv. Och nästan alltid är det detta som gör att vi lyckas, trots de brister som finns. Även avsnitt 6 handlade om vår förmåga att anpassa oss till situationens krav.

Avsnitten 7, 8, 9 och 10 började med att diskutera hur delar av system kan vara olika beroende av varandra. Vissa delar är ”tätt kopplade” och en förändring i en del påverkar omedelbart andra delar. Sedan diskuterades hur vår förmåga till anpassning också bidrar till förändringar i systemet och till att öka skillnaden mellan ”work-as-imagined” och ”work-as-done”. Om delar som är ”löst kopplade” förändras kan skillnaden bli så stor att ett senare behov av ”tät koppling” inte längre fungerar. Även här har människans förmåga till anpassning troligen en viktig roll.

Avsnitt 11 handlade om svårigheten att mäta flygsäkerhet. Vi kan se en positiv historisk utveckling men idag är olyckorna så få att det är svårt att veta om trenden fortsatt är positiv. ICAO fokuserar istället på att fortsätta arbetet med att få alla stater att implementera ICAO standards i så stor utsträckning som möjligt och litar på att flygsäkerheten på det viset ska fortsätta ges en positiv global utveckling.

Avsnitt 12, 13 och 14 försöker peka in i framtiden genom att visa på olika sätt att utveckla arbetet för förbättrad flygsäkerhet. Här finns korta beskrivningar av Safety-II och Resilience Engineering, där Erik Hollnagel är en framträdande person som utvecklat teorier och skrivit flera böcker. I avsnitt 14 diskuterades tankar av Amalberti som menar att i dagens mycket säkra system finns det ingen som vet vilka åtgärder som fungerar när det gäller att höja flygsäkerheten. Här lyfts också fram några idéer kring hur framtidens safety management måste förändras för att lyfta in Safety-II parallellt med Safety-I.

Slutligen ger avsnitten 15 och 16 ett par praktiska exempel på hur flygsäkerhetsarbete kan se ut, dels med en berättelse från Namibia, dels med ett intressant verktyg för proaktivt flygsäkerhetsarbete kallat PIRATe.
Stort tack till er som följt denna serie som nu avslutas. Självklart finns mycket kvar att diskutera och ämnet kommer att tas upp här på bloggen igen…