Kübekháza, Ungarn. Fra rådhuset i Kübekháza tar det bare seks minutter å kjøre til grensegjerdet. Borgermesteren i den lille sør-ungarske grenselandsbyen, 49 år gamle Róbert Molnár, setter seg gjerne bak rattet i sin svarte Citroën for å vise frem stedet.

Mens borgermesteren kjører mot grensen, gestikulerer han med begge armer og snur hodet mot baksetet for å fortelle hvor dramatisk det er å leve tett på en av Europas mest omtalte og omstridte grensekonflikter i nyere tid.

Under den kaotiske flyktning- og migrasjonskrisen sommeren 2015 passerte flere enn 10 000 mennesker Ungarns sørlige grense – hver eneste dag. Mange av dem hadde hørt den tyske forbundskansler Angela Merkels optimistiske velkomstrop «Wir schaffen Das», men ved inngangen til Viktor Orbáns Ungarn ble de møtt av piggtråd, brutale politibetjenter og verdenspressen.

Europa talte plutselig med to tunger, men det ble Orbán som trakk det lengste strået. Helt siden midten av september 2015 har statsministerens 175 kilometer lange grensegjerde voktet EUs ytre grense mot Serbia.

Men i dag skyldes den dramatiske hverdagen i Kübekháza og omegn ikke at det strømmer migranter inn i landet. De har for lengst sluttet å komme denne veien, konstaterer Molnár. På mange områder har den kristne borgermesteren stort sett ligget tett på Orbáns konservative linje.

Men gjerdet på grensen mot Serbia har ført til en bekymringsfull utvikling som Molnár ikke kan stille seg bak: Ungarns – og i neste omgang det meste av EUs – begeistring over de teknologiske midlene man kan ta i bruk for å stoppe migrasjonen til Europa.

Et teknologifiksert ingenmannsland. Borgermesteren har parkert bilen ved en grusvei. Til fots beveger vi oss over en nyhøstet maisåker og bort til det fire meter høye, doble jerngitteret med piggtråd på toppen. Mindre enn et halvt minutt tar det fra vi setter foten i grenseområdet før en politibil dukker opp. Politibetjentene kjenner raskt borgermesteren igjen og hilser pliktskyldig. Det er gjerdets varmesensorer langs bakken som automatisk har registrert at det er bevegelse ved grensen – selv her på ungarsk side.

Umiddelbart varsles de lokale patruljerende grensevaktene, samtidig som rikspolitiet får beskjed inne i hovedkontoret i Budapest, 200 kilometer lenger nord. Herfra kan politisjefen og hans kolleger også følge med via de mange hundre videokameraene som henger hele veien langs grensegjerdet. Det høres en sakte summing fra det nærmeste kameraet da det dreier linsen i retning Róbert Molnár. Han slår blikket bort og leser opp fra et advarselsskilt på gjerdet: «Electric fence», står det der.

«Jeg har ikke selv forsøkt om gjerdet faktisk gir elektrisk støt om man berører det», sier borgermesteren med et smil. Han slår straks over i et mer alvorlig toneleie.

«Jeg kan godt akseptere selve gjerdet. Men all den teknologien som følger med, gjør meg virkelig utilpass. Nå har de begynt å teste droner oppe i luften. Vi kan høre dem summe om kvelden», forteller han.

«Enda mer dystert er det å lytte til den anonyme høyttalerstemmen som innimellom brøler robotaktige gloser på arabisk og engelsk utover de tomme maisåkrene, selv når en uskyldig person kommer forbi: ‘Attention, attention, I am warning you. Go away!’ Det er uhyggelig. Hvor går grensen for teknologien?» vil Róbert Molnár gjerne vite.

Men ingen i Kübekházas teknologifikserte ingenmannsland er i stand til å svare på borgermesterens spørsmål.

Maskiner erstatter mennesker ved grensen. En indikasjon fikk imidlertid ungarerne for noen måneder siden da Orbán-regjeringen la frem en rapport om landets fremtidige overvåkingsteknologi: Innen utgangen av 2021 vil Ungarn og flere andre europeiske land sende svermer av selvstyrte droner til værs for døgnet rundt å kunne patruljere både Europas indre og ytre grenser fra fugleperspektiv. I rapporten står det også at ubemannede kjøretøyer på bakken skal, i en tid hvor det er mangel på grensevakter av kjøtt og blod, «optimere beskyttelsen av våre grenser».

Regjeringen vil også opprette et nytt kommandosenter i Budapest med adgang til infrarød- og radarovervåking av hele Ungarns grenseområde. Fra kommandosenteret kan operatørene også programmere dronene til å utføre spesifikke oppgaver i tillegg til det automatiserte rutinearbeidet.

«Ingen av disse dronene vil være bevæpnet», forsikres det imidlertid i rapporten.

Planene er en del av The Roborder Project som er finansiert av EUs forsknings- og utviklingsfond, Horizon 2020. Til sammen har EU de siste årene brukt over 100 millioner euro på å finansiere minst 14 forskningsprosjekter innen grense- og overvåkingsteknologi. Det viser en rapport fra organisasjonen Privacy International.

«Prosjektene vitner om at EU har valgt en tilnærming som kriminaliserer migrasjon og legger vekt på sikkerhet», sier italienske Antonella Napolitano, leder av organisasjonens avdeling for migrasjon og overvåking.

«Private virksomheter er med på å oppildne fortellingen om migrasjon som en sikkerhetstrussel, hvor løsningen ifølge disse virksomhetene er mer sikkerhet i form av militære og teknologiske verktøy, som bare de kan levere», forklarer Napolitano.

Hun mener EU har et ’Security-Industrial Complex’, på samme måte som USA har et ’Military-Industrial Complex’ – et ofte kritisert sammenfall av interesser mellom landets militære og den amerikanske våpenindustrien.

Den automatiserte løgndetektor. En lignende oppfatning finner vi hos juristen Petra Molnár. Hun er til daglig tilknyttet University of Toronto i hjemlandet Canada, men oppholder seg for øyeblikket i Hellas hvor hun undersøker hvordan koronapandemien påvirker grense- og migrasjonskonflikter.

«Vi opplever en markant stigning i teknologier som skal overvåke og kontrollere migrasjonen over hele verden, særlig i Europa», sier hun. Hun har selv ungarske røtter.

«I jakten på nye grenseteknologier er det oppstått en rekke tvilsomme prosjekter som bygger på fordommer og diskriminering av fremmede», tilføyer Petra Molnár.

Hun fremhever pilotprosjektet iBorderCtrl som er finansiert med 4 millioner euro fra EUs Horizon 2020-fond. Prosjektet er basert på kunstig intelligens og er i korte trekk en slags automatisert løgndetektor.

Ungarn er et av de ivrige forsøkslandene. Konseptet går ut på å plassere en digital betjent, som via en skjerm ved grenseoverganger skal analysere ansiktstrekk, øyebevegelser og stemme, for å bedømme om migranten snakker sant eller ikke. Hvis systemet har mistanke om at den reisende lyver, går ekte grensebetjenter inn og overtar avhøret.

«Men hva skjer da hvis en asylsøker medvirker i en slik interaksjon? Kan systemet ta høyde for traumer og traumers effekt på hukommelsen? Kan det ta hensyn til de kulturelle forskjellene i kommunikasjonen? Det oppstår mange nye problemer så fort man prøver å løse et komplekst problem med kunstig intelligens», sier Petra Molnár.

Pilotprosjektet er nå avsluttet, men det finnes ingen tilgjengelige konklusjoner. Vi har derfor kontaktet den britiske medgrunnleggeren av iBorderCtrl, teknologientreprenøren James O’Shea. Han avviser all kritikk.

«Jeg vil snu det rundt og si at iBorderCtrl faktisk i noen grad har bidratt til den offentlige bevissthet om etiske og juridiske spørsmål vedrørende kunstig intelligens», skriver han i en e-post.

Teknologier er aldri objektive. I Storbritannia – et av de mest overvåkede samfunnene i Europa – har forskere ved landets universiteter i årevis beskjeftiget seg med de etiske spørsmålene rundt overvåkingsteknologi. En av dem er sosiolog Andrew Balmer fra University of Manchester. Han mener kunstig intelligens til bevoktning av grenser er en farlig vei å legge ut på.

«Løgndetektorer, hverken gamle polygrafer eller nye roboter, vil aldri kunne fungere. For det finnes ikke noen gyldig sammenheng mellom løgn og kroppslige reaksjoner. Kroppen er ikke mer sannferdig enn sinnet», poengterer han.

«Problemet med løgndetektorer og algoritmer er at vi behandler teknologiene som om de er objektive, men selvfølgelig er de ikke det. De er bygget av mennesker, og de brukes av mennesker. Og mennesker er beheftet med feil», sier Balmer og tilføyer at den slags teknologier ofte fører til rasistisk, kjønns- eller aldersdiskriminerende feedback.

«Det vi har bruk for på grensen, er mindre automatisering og mer menneskelighet. Vi er nødt til å utfordre den politiske fortellingen om at automatisering kan fremskynde migrasjons- og transportprosesser over Europas grenser», sier Balmer.

Vil fremtidens droner være bevæpnet? Dronene som summer over Ungarns sørlige grense, er også kommet for å bli. The Roborder Project er bare begynnelsen, mener forfatter og teknologiprofessor Noel Sharkey fra University of Sheffield.

«Droner og roboter gir mange flere øyne til å fange opp ulovlige grensepasseringer, men det er ekstremt vanskelig å få dem til å tenke selvstendig», sier han.

«Regjeringer blir ofte forført av hypen og løftet om teknologisk innovasjon. Dronekameraene kan finne migranter som krysser grensen, men hva kan de gjøre med det, bortsett fra å varsle grensevaktene så de kan pågripe dem?» spør han.

Ifølge Noel Sharkey er det ikke utenkelig at bevæpnede roboter etter hvert vil bli brukt til å pågripe eller skyte mennesker som ulovlig forsøker å krysse en grense.

«Det er svært fristende å automatisere grensene langs Europa for å forhindre folk i å komme inn. Men teknologien kan anta mange former, som etter hvert vil kunne føre til grusom urettferdighet», advarer Sharkey.

Heller ikke juristen Petra Molnár er optimistisk på vegne av fremtidens grenseovervåking.

«Teknologier som droner og kunstig intelligens, ignorerer fullstendig årsakene til hvorfor folk migrerer og reduserer i stedet løsningen til en ikke-menneskelig algoritme. Den utviklingen kan føre til dype krenkelser av menneskerettighetene», mener hun.

«Hvis man skal bruke utviklingen så langt som en indikasjon, så vil flere og flere teknologier fremover bli brukt underveis på hele migrantens reise – både før, under og etter ankomsten til en bestemt grense», spår Petra Molnár.

EU forsøker med ny migrasjonspakt. For øyeblikket diskuterer EUs medlemsland hvordan de i fremtiden vil forholde seg til migranter og flyktninger. Men det er, som alltid, stor uenighet om tilnærmingen. I denne omgang har EU presentert et opplegg til en ny migrasjonspakt som skal legge vekt på ‘frivillig solidaritet’. Det betyr at medlemslandene selv kan bestemme hvordan de vil være solidariske og hjelpe med å løse migrasjonsutfordringene – enten ved å ta imot asylsøkere eller ved å betale til felleskassen og hjelpe med å sende migranter tilbake til deres hjemland. Men ingen medlemsland kan la være å hjelpe, lyder det fra EU.

Ungarns statsminister Viktor Orbán er ikke begeistret for utspillet. Han konstaterer at planen legger opp til endringer, men det er fortsatt slett ikke spiselig for Ungarn. Orbán sier han savner et gjennombrudd.

«Et gjennombrudd ville vært 'hotspots', så ingen kan komme inn på EUs territorium uten tillatelse», sier Orbán ifølge nyhetsbyrået AFP. Med «hotspots» mener han at alle asylsøknader skal behandles ved mottak utenfor EU.

Mye tyder på at det er flere konflikter under oppseiling når det gjelder migrasjonsspørsmålet i EU og Ungarn.

Paradoks der gjerdet slutter. Tilbake ved grensen i Kübekháza forteller borgermester Róbert Molnár hvordan Viktor Orbáns regjeringsparti vendte ham ryggen i 2015 fordi han offentlig kritiserte alt oppstyret rundt det famøse gjerdet.

«Det kommer et tidspunkt i en manns liv hvor man må stå opp for sine prinsipper. Men det har hatt store omkostninger for meg», sier borgermesteren som blant annet er hengt ut i den regjeringsvennlige pressen.

Róbert Molnár vil gjerne vise oss et ekte paradoks ved Viktor Orbáns grensegjerde som er gått det meste av verdenspressen hus forbi. Vi går noen hundre meter lenger østover og står nå akkurat der hvor den ungarske grenselinjen til Serbia stopper og grensen til Romania begynner. Det er bemerkelsesverdig at også det doble jerngitteret stopper akkurat her.

«Så i prinsippet kan ‘de farlige migrantene’ bare gå noen meter lenger mot øst og krysse grensen fra Romania til Ungarn hvor det ikke er noen fysisk barriere», forklarer Róbert Molnár.

«Det beviser at grensegjerdet i bunn og grunn er ren symbolikk. Men Orbán trengte ikke bygge det lengre. For da hadde han allerede lykkes med å skremme hele Europa til å tro at det var det som skulle til», sier borgermesteren.

«Men snart trenger kanskje ikke Europas ledere å bygge flere fysiske gjerder», funderer Molnár.

«Droner, varmesensorer, roboter og andre usynlige teknologier kan snart klare oppgaven helt alene.»