Omfanget af misinformation og radikalisering er stigende, og det er fristende at lede efter noget eller nogen at skyde skylden på: internettet, personer på de sociale medier, sensationelle politiske kampagner, religion eller konspirationsteorier.
Når vi først har fundet årsagen til problemet, følger en række løsninger som regel i kølvandet: Mere faktatjek, regulering af annoncering, forbud mod YouTube-brugere, der er 'gået for vidt'.
Men hvis disse strategier var hele løsningen, burde vi allerede se et fald i antallet af personer, der bliver trukket ind i yderliggående samfund og overbevisninger, og mindre misinformation i onlinemiljøet.
Men det er ikke dét, vi ser.
Drevet af menneskelige følelser
Gennem ny forskning publiceret i Journal of Sociology fandt vi og vores kolleger, at radikalisering er en proces med stadig mere intense stadier, og kun et lille antal mennesker udvikler sig til det punkt, hvor de begår voldelige handlinger.
Vores arbejde viser, at radikaliseringsprocessen for misinformation i større grad er drevet af menneskelige følelser frem for selve informationen. Denne forståelse kan være et første skridt mod at finde løsninger.
En følelse af kontrol
Vi analyserede offentlige beretninger fra aviser og online, hvor tidligere radikaliserede personer beskrev deres oplevelser.
Vi identificerede forskellige niveauer af intensitet i misinformations- og online-fællesskaber, associeret med fælles tilbagevendende adfærd.
I de tidlige stadier fandt vi, at folk enten støder på misinformation om et angstfremkaldende emne gennem algoritmer eller venner. Eller de leder efter en forklaring på noget, som fik dem til at føle sig ilde til mode og gav dem en 'dårlig fornemmelse'.
Uanset hvad, rapporterede de ofte, at de fandt det samme: En ny følelse af sikkerhed, et nyt fællesskab, de kunne tale med, og følelsen af, at de havde genvundet en vis grad af kontrol over deres liv.
Så snart folk nåede midterfasen af vores 'radikaliseringsrute', anså vi dem for at have taget del i det nye samfund, dets mål og dets værdier.
Voksende intensitet
Det var i løbet af disse mere intense stadier, at folk begyndte at rapportere mere negative effekter på deres eget liv, som at miste kontakt med venner og familie, helbredsproblemer forårsaget af for meget tid brugt foran skærmen, for lidt søvn og følelser af stress og paranoia.
For at lindre disse smertefulde følelser søgte de igen støtte hos deres yderliggående samfund.
De fleste personer i vores datasæt nåede ikke længere end disse mellemstadier. Men deres fortsatte aktivitet i disse fora holdt misinformationsøkosystemet i live.
Grib tidligt ind
Når folk bevægede sig længere og nåede de ekstreme slutstadier i vores model, gjorde de aktiv skade.
I deres beretning om deres oplevelser på disse høje intensitetsniveauer fortalte enkelte personer, at de valgte at bryde med deres kære, deltage i forstyrrelser af den offentlige orden og i visse tilfælde engagere sig i vold mod andre mennesker i deres sags navn.
Når først folk nåede dette stadie, krævede det et ret stort indgreb for at få dem ud igen.
Udfordringen er altså, hvordan man griber ind sikkert og effektivt, når folk er i de tidligere stadier af at blive trukket ind i en yderliggående gruppe.
Reagér med empati, ikke skam
Vi har et par forslag. For personer, der stadig er i de tidligere stadier, kan venner og betroede rådgivere, som en læge eller en sygeplejerske, have stor indflydelse ved blot at reagere med empati.
Hvis en person, som står dig nær, begynder at give udtryk for potentielt yderliggående synspunkter, som for eksempel frygt for vacciner eller stærk uvilje mod kvinder eller marginaliserede grupper, kan du nå langt med en rolig reaktion, der søger at forstå personens underliggende bekymring.
Den værste reaktion kan få dem til at skamme sig eller gøre dem kede af det.
Det kan tvinge dem tilbage til det yderliggående samfund og fremskynde deres radikalisering.
Sociale medier bør holdes ansvarlige
Selvom personens synspunkter optrappes, kan opretholdelse af forbindelsen med vedkommende gøre dig til en livline, der vil hjælpe dem hurtigere ud af det yderliggående samfund snarere end senere.
Når først folk når mellemstadierne, fandt vi, at tredjeparts-onlineindhold, produceret af almindelige brugere, kan nå dem uden at give bagslag.
I betragtning af, at mange personer i vores forskningsudvalg oplevede radikalisering anstiftet af forskellige sociale medier, foreslår vi også, at de private virksomheder bag disse platforme bør holdes ansvarlige for deres automatiserede redskabers konsekvenser for samfundet.
På mellemstadierne er argumenter baseret på logik eller fakta ineffektive. Det er ligegyldigt, om de bliver fremsat af en ven, en programvært eller et redskab til faktatjek på en platform.
På de mest ekstreme slutstadier fandt vi, at kun hårdhændede indgreb virkede, som familiemedlemmer, der tvangsindlagde deres radikaliserede slægtninge, eller personer, der gennemgik regeringsstøttede interventioner til afradikalisering.
Sådan undgår du at blive radikaliseret
Nu tænker du måske: Hvordan beskytter jeg mig selv mod at blive radikaliseret?
I takt med at en stor del af samfundet bliver mere afhængig af digitale teknologier, vil vi blive udsat for endnu mere misinformation, og vores verden vil sandsynligvis skrumpe som følge af online-ekkokamre.
En strategi er at fremme kritisk tænkning ved at læse fysiske bøger.
En anden måde er ved at beskytte os selv mod følelsesmæssig manipulation af platformsalgoritmer ved kun sjældent at logge på sociale medier og i begrænsede tidsperioder.
En tredje måde er ved at opretholde forbindelsen med andre mennesker og leve et mere analogt liv, hvilket også har andre fordele.
Så kort sagt: Log af, læs en bog, og brug tid sammen med de mennesker, du holder af.
Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.
