FFI satser – På autonomi og ubemannede systemer

Robotikken kommer til å prege samfunnet og Forsvaret i økende grad. Utviklingen kan ikke ­stoppes, og bare i begrenset grad reguleres. Spørsmålet er derfor hvordan vi utnytter den og forsvarer oss mot den. Innføringen av ubemannede systemer kan komme til å bli den viktigste ­utviklingen for Forsvaret noensinne. Ved hjelp av robotikken har Norge muligheten til å få et forsvar med bedre balanse mellom oppgaver og ressurser. Dessverre satser også potensielle motstandere sterkt på robotikken, og ­trusselen mot oss endrer karakter.

En helt nødvendig og ­uunngåelig ­utvikling

FFI har 20 års erfaring med ubemannede systemer. I 2015 iverksatte FFI en strategisk satsing innen dette feltet for å styrke oss ytterligere som en proaktiv støttespiller for Forsvaret. Det viktigste tiltaket i den ­strategiske satsingen har vært opprettelsen av et internfinansiert prosjekt: Autonomi for Ubemannede Systemer. Prosjektet er rettet mot ubemannede systemer generelt, og personell fra en lang rekke ulike fagmiljøer på FFI deltar. Autonomiprosjektet sam­arbeider tett med prosjekter som arbeider med domenespesifikk teknologi for ubemannede kjøretøy (UGV), ubemannede overflatefartøy (USV), ubemannede luftfarkoster (UAV) samt ubemannede undervannsfarkoster (AUV).

FFI anser en satsing på ubemannede systemer som nødvendig for Forsvaret på sikt. Ubemannede farkoster og robotikk medfører mange positive muligheter. I tillegg er det viktig å arbeide med forsvar mot eventuelle motstanderes bruk av robotikken. Vi ser allerede i dag at dette er “game changing technology” som kommer “enten man vil eller ei”, og som kan utnyttes av “alle”.

FFI arbeider for at ubemannede systemer skal vurderes som reelle alternativer når dagens materiell skal fases ut (f.eks. P-3 Orion). Vi er aktivt med når sjøforsvarets evne til å drive minejakt skal videreføres uten bemannede fartøy. Oksøy-klassen skal ut­fases, og den evnen de realiserte for ­Forsvaret vil sannsynligvis bli erstattet ved bruk av ubemannede systemer (AUV og USV). Det er samtidig stort potensiale i å supplere bemannede systemer med ubemannede. Innføring av mini UAV-systemet (MUAS) RAVEN har vist at dette kan gi stor nytte til lav kostnad.

Autonomiprosjektet

Autonomiprosjektet utvikler nå et felles autonomi­rammeverk for ubemannede farkoster. Begrepet autonomi viser til evnen til å observere, forstå, beslutte og handle på en selvstendig måte i komplekse omgivelser med stor grad av uforutsigbarhet. Autonomi gir mer selvstendige systemer sammenliknet med dagens fjernstyrte og automatiserte løsninger, og det gjør systemene mindre ressurskrevende og mer kapable.

Rammeverket som FFI utvikler vil inkludere en del felles funksjonalitet – en autonomikjerne – som skal danne basis for fleksibel autonomi om bord i farkoster. Avansert farkostoppførsel skal bli mulig, og samvirke mellom personell og roboter – og roboter imellom – skal kunne tilpasses den enkelte situasjon.

Autonomikjernen tar utgangspunkt i programvaren i undervannsfarkosten HUGIN. Denne programvaren er kuriøst nok kalt HAL (HUGIN Autonomy Layer) – med klare assosiasjoner til HAL 9000 i boken og filmen “2001 En Romodyssé” av Arthur C. Clarke. Likhetene for øvrig er små, heldig­vis. Vi anser det som viktig å sikre såkalt “meaningful human control”.

Autonomirammeverket utvikles i samspill med nye løsninger for kommando og kontroll. En kontrollstasjon utviklet av UAV-miljøet på FFI – FFI kontroll­stasjon – kan brukes til å kontrollere alle typer farkoster, integrere mot øvrig kommando og kontroll (herunder Battle Management System) samt eksperimentere med ny ­funksjonalitet.

Autonomiprosjektet arbeider med en rekke sentrale teknologiområder: autonom planleggings- og beslutningsevne, menneske­-maskin-grensesnitt, autonom sensordata­behandling, autonom ruteplanlegging, tilstands­overvåkning og feilhåndtering, kommunikasjon og GPS-uavhengig navigasjon.

Spesifikk funksjonalitet for de ulike farkostene utvikles i samarbeid mellom autonomi­prosjektet og anvendelses-­prosjektene. Eksempelvis utvikles løsninger for å følge trafikkreglene til sjøs (USV), kjøre autonomt i terrenget (UGV), og unngå kollisjoner i luften (UAV). På aktivitetsområdet Distribuert Autonomi jobbes det med samvirke mellom mange farkoster, herunder konsepter som ofte omtales som svermer.

Teknologier for fremtidens UAS

Det seneste i en lang rekke UAV-prosjekter på FFI er Teknologier for fremtidens UAS.
I dette prosjektet arbeider vi med ­løsninger for å redusere operatørbelastning og be­manningsbehov for UAS – altså med auto­nomi for UAS. Prosjektets valgte scenario er autonom akseovervåkning med UAV, og denne anvendelsen vil bli demonstrert i praksis med små UAV-er i 2017.

Prosjektet bidrar til utredninger rundt MQ-4C Triton som mulig arvtaker for P-3 Orion. Triton er et system som er ­tilgjengelig i dag, og som er mye omtalt – også her i ­LUFTLED. Flyet har en formidabel kapasitet til å samle data, men er også personell­krevende, som store flysystemer flest. UAV-­prosjektet på FFI anslår et personell­behov på om lag 120 personer totalt, for å ­holde ett fly i luften kontinuerlig. Dette er lavere enn tidligere overslag, og betydelig lavere enn ­organisasjonen som er etablert for AGS (Alliance Ground Surveillance). Det er også lavere enn for tilsvarende bemannede systemer.

Også temaet sonarbøyer og ubåtjakt er berørt av studien i UAV-prosjektet. FFI har tro på at det er mulig å realisere en god evne til ubåtjakt, enten med kun ubemannede, eller med en kombinasjonsløsning av ­u­bemannede og bemannede plattformer.

UAV-prosjektet har i en årrekke støttet utviklingen innen Nano Unmanned Aircraft System (NUAS), spesifikt systemet PD-100 Black Hornet fra Prox Dynamics, og vi fortsetter dette arbeidet. Prosjektet er også ­sentralt i arbeidet med robust, GPS-­uavhengig navigasjon.

Store muligheter til å tenke nytt

“Ubemannethet” gir i utgangspunktet mange muligheter for plattformegenskaper, bruksmåter og kostnader. Ubemannede farkoster kan overgå bemannede i utholdenhet, manøvrerbarhet og hastighet. De kan være svært små, eller svært store. De kan være billige (som RAVEN og billigere), eller svært kostbare (som med X-47). De kan være identiske med bemannede, og de kan tillate bemanning ved behov (OPV-­optionally Piloted Vehicle). Valgfri bemanning ombord blir tilfellet med USV-en som FFI nå utvikler, og kan i prinsippet bli det også for F-35 i fremtiden.

UAV-er kan i utgangspunktet gis en høy evne til å overleve i nektet luftrom, dersom dette blir et sentralt krav. Det har det ikke vært til nå. Bemanningens rolle i å gi plattformer overlevelsesevne er et ­interessant tema. Piloters betydning for hvor viktig det er at hver farkost overlever, er derimot ­tydelig, i og med at aksepten for tap av ­piloter er meget lav.

Utviklingstakten er enorm, og Norges mulighet til å påvirke utviklingen er reell. Når vi anskaffer bemannede plattformer, forutsetter vi at en hel del ting faller på plass før levering og full operativ evne. Det må vi også gjøre med de ubemannede. Det er ingen grunn til å vise mindre tillit til teknologi­utviklingen innen ubemannede systemer enn innen bemannede, ikke minst fordi det i stor grad er den samme teknologien vi snakker om.

Menneskene blir enda viktigere

Bringer ubemannede systemer militære operasjoner i retning av robotkrigføring? Ja, delvis. Blir mennesker irrelevante? Nei, tvert i mot blir de viktigere. Kravene til personellet vil fortsette å øke. En høykompetent – men liten – styrke av operatører kan råde over mange ubemannede systemer. Disse menneskene vil operere høyteknologi, og må samtidig beherske de tradisjonelle militære fagene og ferdighetene.

Krig foregår mellom mennesker, uansett om de bruker roboter slik at menneskene selv er fjernet noe fra kamphandlingene. Mennesker må ha kontroll over stridsmidlene, i den forstand at våpensystemer handler etter de samme prinsipper som menneskene, og etter de ønskede retningslinjene. Kvinner og menn i Forsvaret må kunne utnytte den nyeste teknologien best mulig, endre den underveis i krigen, og sørge for at robotene fungerer som menneskenes fysiske verktøy, og ikke som deres erstattere på slagmarken. Dette krever mye kunnskap og kompetanse. Dermed blir hvert enkelt menneske i Forsvaret enda viktigere for forsvarsevnen.

Mennesker og maskiner i samarbeid

Hvis vi tar for oss den velkjente (i militære kretser) OODA-loop’en (Observe, Orient, Decide, Act), så er det definitivt de første to bokstavene som er kritiske og vanskelige for både maskiner og mennesker i krig.

FFI har betydelig aktivitet innen automatisk behandling av sensordata. Basert på status i dag, virker det sannsynlig at ubemannede systemer innen ti år vil ha en god evne til å oppfatte og “forstå” sine omgivelser. Dette inkluderer blant annet å “se” annen lufttrafikk (“see-and-avoid” for UAV), gjenkjenne ulike typer materiell, og å se og forstå været og det fysiske nærmiljøet. Evnen til å forstå komplekse sosiale scener er nok utfordrende for maskiner i noe lengre tid. I hvor stor grad vi kan stole på programvare er et viktig tema, ikke minst når vi snakker om programvare som endrer oppførsel basert på hva den observerer og lærer.

Mennesker er noen ganger dårlige “verktøy” i krig. Det er usikkert om direkte menneskelig farkostkontroll, altså bemanning om bord eller fjernstyring, kan oppfattes som en garanti for etisk forsvarlig og ­riktig oppførsel. Mennesker er først og fremst uovertrufne i det å være menneskelig – på godt og vondt. Det kan være fornuftig å avlaste og erstatte mennesker der dette er hensiktsmessig, og utnytte mennesker godt der de gjør en god jobb.

Operatører vil være et bindeledd mellom robotene og samfunnet. Det vil si at de skal sørge for at robotene blir en forlengelse av menneskenes vilje. Fremtidens forsvar bør dra nytte av det beste ved mennesker og det beste ved roboter, i effektivt samspill. Full autonomi blir sjelden aktuelt, men snarere et godt menneske-maskin-samarbeid. Dermed oppnås en rask og effektiv “OODA-loop”.

Innovasjon i Forsvaret – og nye ­innovative trusler

Ubemannede systemer åpner for konseptuell ny­tenkning. Vi kan se med friske øyne på hvordan materiell konstrueres, vedlikeholdes og brukes. Vi må samtidig tenke nytt når det gjelder menneskers roller i de militære systemene.

Det er i dag økende interesse for utradisjonelle konsepter, eksempelvis det amerikanske ­GREMLINS. Mindre kontroversielt er nok loyal wingman-­konseptet, der ett eller flere ubemannede fly brukes som ­partnere og såkaltstyrkemultiplikatorer sammen med bemannede kampfly. F-35 vil utvilsomt samvirke tett med ubemannede farkoster av ymse slag – i luften og på bakken og på sjøoverflaten. Noen av disse kan vise seg å være ubemannede F-35. I den andre enden av skalaen vil vi komme til å se en rivende utvikling innen svært små roboter som kan fungere i grupper eller ­svermer og inngå i enkeltmannsutrustning. Et ­eksempel på slike er Prox Dynamics PD-100.

Det militærindustrielle komplekset er ikke lenger ledende i utviklingen av teknologi. Enkelte store aktører som Google og bilindustrien er nå de mest drivende innen kunstig intelligens og autonomi. ­Kanskje like interessant er det at vi nå ser et stort antall innovative enkeltmennesker og små grupper som utvikler nye løsninger svært hurtig – i stor grad basert på åpen kildekode og tilgjengelige komponenter. “DIY Drones” er ett eksempel på et nettsamfunn for slike entusiaster. “Dronecode” er en noe mer formalisert variant, der åpen kildekode for UAS utvikles og deles. Økosystemet rundt Robot Operating System (ROS ) er et annet eksempel. “Maker Faire” er etablert som en sosial arena for ny­skapning i det sivile. Det blir viktig også for Forsvaret å ta til seg noe av denne maker-kulturen.

Flere av våre potensielle og nåværende motstandere har tatt i bruk en offensiv holdning til ny teknologi. Enkelte aktører bryr seg lite om regulering og lovverk. Forsvaret står potensielt overfor en form for “Do It Yourself War” (DIY War)eller “Maker Warfare” der det er svært vanskelig å vite hva vi kommer til å møte. Det er derfor viktig for Forsvaret å fremskaffe – og ta i bruk – nye løsninger hurtig for å møte disse uforutsigbare truslene.

Etisk ansvar i FoU

Det er positivt at samfunnsdebatten rundt droner og robotikk i militær sammenheng nå har blitt balansert og informert, eksemplifisert gjennom utgivelsen av boken “Når Dronene Våkner”. Vi er klar over de potensielt problematiske aspektene ved autonome systemer. Etikkdiskusjoner er en naturlig og nødvendig del av vårt daglige arbeid. Etisk og juridisk forsvarlighet designes inn i programvaren og i den helhetlige system- og virksomhets-arkitekturen. Forskere og utviklere har et klart etisk ansvar. Vi er opptatt av å sørge for at måten vi utnytter robotikken er forenlig med lovverket og ­allmenhetens oppfatning av hva som er akseptabelt.