View profile

Omvärldsbevakning - Anton Lif - Issue #12

Revue
 
 

Omvärldsbevakning - Anton Lif

June 30 · Issue #12 · View online

Nyhetsbrevet spänner över psykologiskt försvar, säkerhetspolitik, krisberedskap och kommunikation med tonvikt på kognitiv påverkan.

Min främsta expertis finns inom områdena påverkansoperationer och kommunikation, det efter bland annat åtta år vid Försvarsmaktens förband för psykologiska operationer (psyops). Idag arbetar jag som Crisis Management-konsult på Combitech, ett oberoende bolag inom försvars- och säkerhetskoncernen Saab.

Vet du andra som skulle vilja ha brevet - berätta gärna!


Hej och glad sommar!
Hoppas dagen och tillvaron är okej och att du mår bra!?
Här kommer en omvärldsbevakning från mig med fokus på desinformation, deepfakes och fejkade gräsrotsrörelser.
Innehåll:
  • DaaS - Disinformation as a Service. 
  • Influensers, gräsrotsrörelser och metamanipulation  
  • Deepfakes har blivit mainstream 
  • … och deepfake text är riktigt otäckt!
  • Goda algoritmer, märkning och reglering 
  • Nya verktyg: för att bygga medvetenhet, för att bygga förmåga till aktivt försvar 
Några publika aktiviteter från mig den senaste tiden är:
Given sommarläsning:
Ett par böcker att uppmärksamma, som flera av er sannolikt redan hunnit läsa!?
  • Honungsapan av André Catry
  • Brus av Nobelprisbelönade Daniel Kahneman med vänner
Vänligen
Anton

Så påverkas du av desinformation online | Anton Lif
DaaS - Disinformation as a Service.
”I actually think the majority of what we’re seeing here, these aren’t actors that are motivated by politics. In terms of volume, a lot of this is actors that are motivated by money,“ he said. "They’re scammers, they’re fraudsters, they’re PR or marketing firms that are looking to make a business around deception.” Reuters
Jag lyfter ofta upp att det idag finns en global marknad när det kommer till varor och tjänster för ogrundad information. För relativt små belopp kan du få rätt sofistikerade tjänster, vilket får allt mer uppmärksamhet. Idag är inte längre informationspåverkan “samma lika” som enbart valpåverkan och illegitim opinionsbildning. Utan det är ett reellt säkerhetshot för alla verksamheter. Kriminella, bedragare och opportunister i allmänhet är rappa på att ta till sig ny teknik och användningsområdena är många och det finns snabba liksom stora pengar att tjäna. För att få en känsla för omfattningen så är exempelvis Coordinated Inauthentic Behavior, CIB rapporterna som Facebook släpper varje månad en bra start.
De handlar givetvis inte bara om köpta tjänster och produkter där aktörer medvetet genomför illegitim påverkan. Problematiken är större och som jag tidigare uppmärksammat så är sannolikt er verksamhet med och bidrar till spridningen av desinformation. För om ni köper annonser på webben - då är risken stor att ni omedvetet bidrar till finansieringen av aktörer som aktivt sprider felaktig och vilseledande information, såsom vaccinmotstånd, klimatförnekelse, konspirationsteorier etc. I närtid bidrog exempelvis många verksamheter genom sina “pridekampanjer” omedvetet till att finansiera HBTQI desinformation. Vilket är otroligt synd. För när vi satsar och vill bidra till hållbarhet, jämställdhet och andra bra saker så ska vi inte passa på att skicka pengar till de som vill motsatsen. Nyfiken på hur det går till? Läs mer på exempelvis The Global Disinformation Index.
Läs:
Följ:
Influensers, gräsrotsrörelser och metamanipulation
John Thomas, unsplash.com
John Thomas, unsplash.com
“ Metamanipulation innebär att man köper följare, kommentarer och engagemang till vissa inlägg som man sympatiserar med, så att de framstår som mycket populära. Det gör att inlägget plockas upp av plattformernas algoritmer, som premierar engagemang, och rekommenderas därför för fler användare. Det ger större spridning, och kan få influencern att återkomma till ämnet oftare eftersom det har visat sig så uppskattat.” Sebastian Bay
“Sociala bevis” och ”fejkade sociala bevis” används för att påverka dig och mig. På det temat vill jag rekommendera några intressanta artiklar och rapporter. Så ta nu ett djupt andetag och försök sedan ta in allt som exempelvis Washington Post uppmärksammar i sin artikel ‘Grassroots’ bot campaigns are coming. Governments don’t have a plan to stop them.
För djupare läsning så är rapporten från New York State Office of the Attorney General, OAG väldigt intressant. I rapporten beskrivs hur internetleverantörer betalat motsvarande 42 miljoner kronor för 8,5 miljoner fejkade kommentarer som påstod sig vara emot lagen om nätneutralitet (som begränsar internetleverantörens handlingsutrymme).
"Man fick det därmed att framstå som att en stark gräsrotsrörelse låg bakom, och de kommentarerna användes sedan som underlag för tillsynsmyndigheten som ska besluta om lagen” Sebastian Bay
Ekofascism
På temat gräsrotsrörelser så vill jag även uppmärksamma FOI senaste rapport Fascismens gröna rötter: konspirationsteorier, kris och kollaps. Godhjärtad aktivism kan gisslandtas av extremister och bland alla de som kämpar för bra saker så måste vi hålla koll på att det kan finnas en grogrund för väldigt dåliga saker.
“Allianser mellan olika radikala grupperingar har stärkts under pandemin. Det märks både bland deltagare i fysiska demonstrationer och på aktiviteter i sociala medier.” Hannah Pollack Sarnecki
Läs:
Deepfakes har blivit är mainstream
Anton Lif, Combitech
Anton Lif, Combitech
Från simpla cheap fakes till mycket avancerade deepfakes. Nu upplever jag att denna kategori av informationspåverkan - teknisk manipulation har blivit mainstream. I mitt förra nyhetsbrev uppmärksammande jag en artikel i Dagens Nyheter och den senaste tiden har det gått att läsa, lyssna och se den ena efter andra experten uttala sig om deepfakes. Det är bra. För André Catry deepfakeexempel i hans bok Honungsapan är inte längre fiktion. Det är här och nu. Och deepfakes påverkar redan idag politiken, det offentliga och näringslivet.
För att få en grundläggande koll på området så vill jag rekommendera Data & Society — Deepfakes and Cheap Fakes som bland annat presenterar ett spektrum på temat cheap fakes - deepfakes. Vad är vad.
Apropå DaaS så ger rapporten The Business of Fraud: Deepfakes, Fraud’s Next Frontier en bra överblick på området. Vilka tjänster och program finns, hur fungerar dessa och vad kostar det?
Att ta med sig är att “Old School” fortsatt fungerar och att deepfakes är långt mycket mer än manipulerad video där kändisar gör festliga saker. Läs exempelvis mer om manipulerad satellitdata nedan.
Läs:
Följ:
DeepTomCruise Tiktok Breakdown
TOM CRUISE 2020 - Presidential Campaign Announcement
... och deepfake text är riktigt otäckt!
“When humans were asked to classify a subset of the deepfake comments as human or bot submissions, the results were no better than would have been gotten by random guessing” Max Weiss
Deeptomcruise, en Obama som säger ”deep shit” etc må vara utmanande - men de drar till sig uppmärksamhet och verifieras relativt snart som manipulerad data. Det är svårare med deep text och deep voice som passerar i skuggorna. Läs mer om exempelvis GT3 och Open AI. Nutida verktyg som är extremt kraftfulla. Tänk vilka möjligheter det finns för den som vill skapa fejkade gräsrotsrörelser.
Two AIs talk about becoming human. (GPT-3)
Goda algoritmer, märkning och reglering
Max Tegmark - kommentarer behövs såklart inte. Se hans föredrag: Cutting Edge: Why democracy needs an algorithm. 
Cutting Edge: Why democracy needs an algorithm with Max Tegmark
Eureka(!)
Den 16 juni presenterade Facebook i samarbete med Michigan State University, MSU - en forskningsmetod för att upptäcka och attribuera deepfakes. Deras metodik bygger på “omvänd teknik” - från en enda AI-genererad bild kan de generera den modell som användes för att producera den manipulerade produkten. Metoden är ett viktigt framsteg och kommer sannolikt bidra i arbetet med att effektivisera och underlätta detektering och spårning av deepfakes.
Hur stoppar vi finansieringen av desinformation
Vi tar vid där vi slutade gällande DaaS - hur löser vi detta? Det är onekligen ett svårt område. För DaaS är ju många gånger inte är direkt olagligt. Vilket Crime as a Service, CaaS liksom mer specifika tjänster såsom Ransomware as a Service, RaaS är. Men mycket är på gång i USA liksom inom EU. Exempelvis presenterade Kommissionen nyligen en uppdatering av ”Code of Practise on Disinformation” vilket bland annat syftar till att öka transparensen och begränsa finansieringen av desinformationssidor. Plattformarna driver på och små steg tas i rätt riktning.
Alla behöver bidra och er verksamhet kan sannolikt bidra i det lilla. Vilka krav har ni när ni annonserar? Vilka krav har ni på era ambassadörer och samarbeten? Hur skyddar ni era influensers mot metamanipulation osv?
Läs:
Se:
Nya verktyg: för att bygga medvetenhet, för att bygga förmåga till aktivt försvar
“En är att människan är en kognitiv latmask. Ofta bryr vi oss mer om huruvida vi känner att vi har förstått någonting än om vi verkligen har förstått det. Det skulle kanske inte vara något problem om det fanns ett tydligt samband mellan att känna att man förstår något och att förstå det, men dessvärre är det sambandet ofta svagt.” Jesper Strömbäck
Jag refererar ofta till ett uttalande av Erik Lewin, där han sa något i stil med att en verksamhet bör satsa 80% av resurserna på det digitala och 20% på det fysiska när det kommer till säkerhet? Detta är något jag verkligen tror på - för cybersäkerhet och psykologiskt försvar är två områden som behöver exponentiellt mycket mer fokus och resurser.
Kommunen och den vaga policyn
”Ett uppifrån- och ned perspektiv kan vidare definiera psykologiskt försvar och kartlägga huruvida kommunernas förståelse av policyn resulterat i önskade policyspecifika medel och metoder, samt vad som främst behöver utvecklas.” Lina Hedlund
Lina Hedlunds masteruppsats på temat psykologiskt försvar hittade jag själv av en slump då jag sökte efter någonting helt annat. Den är läsvärd och den lyfter upp behovet av både bottom-up och top-down strategier för att bygga ett modernt psykologiskt försvar. Men tydligast är kanske behovet av att att tydligare definiera och reglera området psykologiskt försvar. För psykförsvar liksom det allra mesta landar ju till syvende och sist på kommunerna. De behöver sannolikt den hjälp de kan få med att definiera reglera och prioritera. Vilken förmåga är adekvat och vem ska betala för denna!?
Ord betyder någonting!
Gemensamt språk, gemensam förståelse, gemensamt motstånd. FOI har tagit fram ett par rapporter för Sveriges Kommuner och Regioner, SKR. De bidrar till att sätta ord på det svåra och de bidrar i arbetet med att värna vår demokrati. Förtroendevalda är ett av samhällets viktigaste “kognitiva skyddsobjekt” - vi alla måste bidra till att värna det demokratiska samtalet och bidra till att individer vågar tycka, tänka och ställa upp för politiska positioner. Kommunalt, regionalt och nationellt.
En guldgruva
MIK Sveriges kunskapsbank är en guldgruva för den som vill stärka sin medie- och informationskunnighet.
Vill du fylla på verktygslådan ytterligare så är First Draft Toolkit en annan guldgruva. En gedigen samling verktyg, lästips och resurser för dig och din verksamhet. För att komma igång och liksom för att utveckla befintliga förmåga. Bevakning, verifiering och rapportering. (Längst ner till vänster på Toolkitsidan hittar du dessutom en länk till deras “avancerade verktygssats”(!)) Du har väl inte heller missat Digital Investigation Recipes - First Draft (firstdraftnews.org)!?
Avslutningsvis: Håll koll på Norge. Exempelvis är rapporten Hvordan gjør vi samfunnet mer robust mot påvirkningsoperasjoner?, FFI väldigt bra.
Läs:
Se:
Testa:
Använd:
Did you enjoy this issue?
In order to unsubscribe, click here.
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue