Kunstig intelligens er bevæger sig fra lufthavnsterminalen til cockpittet, hvor luftfartsselskaber udforsker systemer, der kan automatisere pilotopgaver nu og understøtte fuldt autonom flyvning senere. Tilsyneladende kunne AI gøre flyvning mere sikker, mere effektiv og mindre afhængig af overbelastede menneskelige besætninger. Men transporthistorien på jorden og i luften giver foruroligende påmindelser om, at sikkerhedskritiske automatiseringsfejl er ødelæggende dyre. Hvad kunne så gå galt?

På Quonset State Airport i Rhode Island blev en eksperimentel Cessna Caravan udstyret med Merlin Labs "Merlin Pilot"-system, blev fløjet helt autonomt med passagerer. Under flyvningen sad testpiloten ved styringen, men fløj ikke flyet, da systemet håndterede alle pilotopgaver samt acceleration, start, drejning, nedstigning og landing.

Systemet går ud over konventionel pilotassistance, fordi det er designet til at interagere direkte med flyveinstruktioner i stedet for blot at holde højde eller hastighed. Merlin Pilot bruger en model for naturlig sprogbehandling til at lytte til en simuleret flyveleder og reagere over radioen ved hjælp af en computergenereret kvindestemme. Maskinen fulgte ikke en forudbestemt rute, men fortolkede i stedet talte instruktioner og konverterede dem til handling i det virkelige liv.

Merlin siger, at de allerede har gennemført hundredvis af testflyvninger, mens de arbejder hen imod certificering fra Federal Aviation Administration (FAA), og at den første større testbane muligvis bliver militærflyvning snarere end passagerflyvning. Virksomheden har allerede sikret sig en kontrakt på 100 millioner dollars med det amerikanske luftvåben for at bringe teknologien til C-130 fragtfly, mens administrerende direktør insisterer på, at målet ikke er at "skifte kontakten" til pilotløse fly, men at placere kunstig intelligens ved siden af ​​menneskelige piloter og gradvist opbygge tillid.

Luftfart er selvfølgelig allerede i høj grad afhængig af automatisering. Autopilot findes, sammen med automatisk landing, fly-by-wire-kontrolsystemer, trafikkollisionsassistance og flystyringscomputere. Faktisk ses moderne luftfart ofte som mere sikker i disse dage, hovedsageligt på grund af de maskiner, der allerede hjælper mennesker med at undgå træthed, fejl og overbelastning.

Kunstig intelligens er imidlertid en anden sag. Traditionel automatisering følger designede regler inden for strengt regulerede grænser for specifikke situationer. AI-systemer trænes i stedet på data, hvorfra de fortolker, hvordan de skal handle i fremtidige situationer, i stedet for at være eksplicit programmeret til hvert scenarie. FAA's egen køreplan for AI-sikkerhedssikring siger, at luftfarten står over for en ny udfordring med systemer, der "opnår ydeevne og kapacitet gennem læring snarere end design", fordi feltet mangler de samme ingeniørprincipper, der styrer traditionel designsikring.

Derfor anerkender tilsynsmyndigheden, at kunstig intelligens ikke passer perfekt ind i den klassiske sikkerhedsmodel. Traditionelt set er luftfart den branche, der kontrollerer, certificerer, tester, duplikerer, simulerer og godkender. Kunstig intelligens-systemer, der styrer fly, fungerer på helt andre operationelle grundlag.

Den Europæiske Unions Luftfartssikkerhedsagentur (EASA) bevæger sig i samme retning, men fremstår mere optimistisk i sin formulering. I sin Kunstig intelligens og luftfart I rapporten siger EASA, at AI "vil spille en rolle inden for alle luftfartsområder" og tilbyder avanceret assistance til luftfartsprofessionelle og procesoptimering, der kan gøre sektoren sikrere og mere bæredygtig. EASA advarer dog også om risiciene omkring kompleksiteten af ​​maskinlæringssystemer, etik og cybersikkerhed.

På vejene demonstrerede den første generation af test af selvkørende køretøjer de sande omkostninger ved fejl i forbindelse med kunstig intelligens. Den 18. marts 2018 påkørte et automatiseret testkøretøj fra Uber den 49-årige Elaine Herzberg i Tempe, Arizona, og dræbte det. National Transportation Safety Board sagde, at køretøjets udviklingsmæssige automatiserede køresystem var aktivt på det tidspunkt. I sin rapport pegede den på Ubers "utilstrækkelige sikkerhedskultur" og sagde, at virksomheden "ikke i tilstrækkelig grad håndterede den forventede sikkerhedsrisiko ved sit automatiserede køresystems funktionelle begrænsninger, herunder systemets manglende evne til korrekt at klassificere og forudsige fodgængerens krydsende vejbane i denne ulykke."

I oktober 2023 lancerede vi, Californiske tilsynsmyndigheder suspenderet Cruises førerløse robottaxi-service udgjorde efter at have afsluttet sine køretøjer "en urimelig risiko for den offentlige sikkerhed". Suspenderingen fulgte efter flere hændelser, herunder en hvor en Cruise Robottaxi kørte over en fodgænger – som allerede var blevet ramt af et menneskedrevet køretøj – og stoppede oven på hende, hvorved hun sad fastklemt med traumatiske kvæstelser.

Krydstogt var senere idømt en bøde på 1.5 millioner dollars efter at de føderale tilsynsmyndigheder udtalte, at virksomheden havde indgivet ufuldstændige rapporter, der ikke oplyste, at dens køretøj slæbte fodgængeren omkring 20 meter. NHTSA's viceadministrator sagde, at virksomheder, der udvikler automatiserede køresystemer, skal prioritere "sikkerhed og gennemsigtighed fra starten".

Risikoen ved kunstig intelligens handler ikke kun om, hvorvidt offentligheden kan lære at stole på selve maskinen, men også om de virksomheder, der bygger systemerne, de myndigheder, der godkender deres brug, og den interne rapporteringskultur, der bestemmer, hvad offentligheden lærer, når noget uundgåeligt går galt.

Automatiseringen er allerede gået galt i luften. Boeing 737 MAX var jordforbundet verden over efter to styrt – Lion Air Flight 610 i oktober 2018 og Ethiopian Airlines Flight 302 i marts 2019 – dræbte i alt 346 mennesker. Efterforskere fokuserede stærkt på Maneuvering Characteristics Augmentation System (MCAS), et automatiseret flykontrolsystem, der kunne presse flyets næse ned efter at have modtaget defekte sensordata. MCAS i sig selv var ikke kunstig intelligens, men det demonstrerer, hvor farlig automatisering kan være, når det introduceres i transportsystemer med høj risiko.

NTSB senere kritiserede antagelser foretaget omkring MCAS, hvor det fremgik, at Boeings sikkerhedsvurdering ikke i tilstrækkelig grad tog højde for, hvordan flere advarsler og indikationer på cockpittet kunne påvirke piloternes genkendelse af og reaktion på utilsigtet MCAS-aktivering forårsaget af fejlagtige data om angrebsvinkel.

I mellemtiden ser luftfartsindustrien på fordelene. Den Internationale Civile Luftfartsorganisation (ICAO) opsummeret at "AI revolutionerer luftfartsindustrien, optimerer processer og forbedrer effektiviteten på nøgleområder som lufttrafikstyring, prædiktiv vedligeholdelse og sikkerhed". Det kan hjælpe med at forudsige udstyrsfejl, reducere brændstofforbrug, optimere ruter, håndtere trafikpropper, forbedre pilotuddannelsen og behandle vejr- eller trafikdata med hastigheder, som intet menneske nogensinde kunne. Men ICAO advarer også om, at dens introduktion rejser spørgsmål om menneske-maskine-interaktion, operatørernes situationsbevidsthed, beslutningstagning og overdreven afhængighed af systemer.

Men når det kommer til automatiserede flyvninger, er den store pris ved en enkelt fejl svær at overvurdere. Hvad nu hvis 99,999 flyvninger udføres sikkert, men AI ikke formår at vurdere en kombination af vejr, sensorfejl, lufttrafikkonflikt og menneskelig forvirring korrekt, som det var umuligt at modellere i første omgang?

Hvad nu hvis piloter bliver overvågere af de systemer, som de sjældent behøver at tilsidesætte, men som forventes at tage kontrol på få sekunder i et specifikt scenarie, som maskinen ikke selv kan løse? Og hvad nu hvis den virkelige advarsel her ikke er AI's tilsyneladende uundgåelige overtagelse, men en stille forringelse af menneskelige færdigheder? Enhver fejl i luften, som set i 737 MAX-katastroferne, kan koste hundredvis af liv.

Regulatorer insisterer på, at overgangen vil være forsigtig. FAA siger Kunstig intelligens bør introduceres gradvist, startende med applikationer med lavere risiko, og erfaring bør bidrage til bredere sikkerhedsmetoder. Men det kommercielle pres vil ikke være neutralt. Flyselskaber står over for mangel på piloter, omkostningspres, brændstofbegrænsninger og konstante krav om effektivitet. Teknologivirksomheder har brug for kunder, og regeringer ønsker innovation. Hvis AI fremhæves som fremtiden for luftfartssikkerhed, kan enhver modstand gøres mod lyde, der er imod fremskridt.

Her er der behov for informeret skepsis. Luftfart blev sikker gennem en kultur, der mistillid til fiasko og undersøgte ulykker obsessivt. Ekstrem forsigtighed er et krav, når AI kommer ind i luftrummet, uden de samme antagelser, som vi ser i andre brancher, om at maskinen vil være klogere end mennesket. Og endnu vigtigere er det, at offentligheden har brug for mere end blot blankt sprog om innovation. Den fortjener at vide, hvem der er ansvarlig, når algoritmen tager fejl, hvordan piloter forbliver dygtige nok til at gribe ind, hvad regulatorer virkelig kan certificere, og om den første generation af AI-luftfart vil blive testet med tilstrækkelig ydmyghed, før passagererne bliver en del af eksperimentet.

Expose har akut brug for din hjælp…

Støt afsløringen

Kan du venligst hjælpe med at holde lyset tændt med The Exposes ærlige, pålidelige, kraftfulde og sandfærdige journalistik?

Din regering og Big Tech-organisationer
prøv at tave The Expose ned og lukke den ned.

Så har vi brug for din hjælp til at sikre
vi kan fortsætte med at bringe dig
fakta, som mainstreamen nægter at vise.

Regeringen finansierer os ikke
at udgive løgne og propaganda på deres
vegne ligesom mainstream medierne.

I stedet er vi udelukkende afhængige af din støtte.
støt os venligst i vores bestræbelser på at bringe
din ærlige, pålidelige og undersøgende journalistik
i dag. Det er sikkert, hurtigt og nemt.

Vælg venligst din foretrukne metode nedenfor for at vise din støtte.

Månedligt abonnement

Månedlig donation

Engangsdonation

Køb os en kaffe

Hold dig opdateret!

Hold dig opdateret med nyhedsopdateringer via e-mail

Daglig fordøjelse

Amerikanske nyhedsindlæg

Nyhedsindlæg i Storbritannien

Verdensnyheder

Alle nyhedsindlæg

Er du et menneske? 5 + 5 =

Fremskreden Alzheimers behandlet med succes med psilocybin, viser en nylig casestudie

Svensk politi angriber uafhængige journalister ved NATO-topmøde

Barry Young er blevet retsforfulgt af staten for at have afsløret dødsfald ved covid-injektion i New Zealand.

Fra den dag vi bliver født, bestemmes vores helbred af vores mavefornemmelse

g.calder

Jeg er George Calder – en livslang sandhedssøger, dataentusiast og en uforbeholden spørger. Jeg har brugt det meste af to årtier på at grave mig igennem dokumenter, afkode statistikker og udfordre fortællinger, der ikke holder stik under lup. Mine skriverier handler ikke om meninger – det handler om beviser, logik og klarhed. Hvis det ikke kan bakkes op, hører det ikke hjemme i historien. Før jeg kom til Expose News, arbejdede jeg med akademisk forskning og politisk analyse, hvilket lærte mig én ting: sandheden er sjældent højlydt, men den er der altid – hvis man ved, hvor man skal lede. Jeg skriver, fordi offentligheden fortjener mere end overskrifter. Du fortjener kontekst, gennemsigtighed og friheden til at tænke kritisk. Uanset om jeg pakker en regeringsrapport ud, analyserer medicinske data eller afslører mediebias, er mit mål simpelt: at skære igennem støjen og levere fakta. Når jeg ikke skriver, finder du mig vandrende, læsende obskure historiebøger eller eksperimenterende med opskrifter, der aldrig helt bliver rigtige.

Se hele bio