Stap 4: Uitvoeren

Deze stap bevat informatie over het uitvoeren van het onderzoek naar risicoperceptie. Per onderzoeksmethode worden een aantal do’s & dont’s benoemd die belangrijk zijn wanneer de methode wordt toegepast.

Inleiding

Dit deel gaat over het uitvoeren van het onderzoek naar de risicoperceptie. De onderzoeksmethoden zijn met behulp van stap 3 door de onderzoeker geselecteerd. In de huidige stap wordt per onderzoeksmethode een aantal do’s & don’ts benoemd die belangrijk zijn voor de toepassing van deze methoden.

Bij de beschrijving van de methoden en de do’s & don’ts is zo veel mogelijk gebruik gemaakt van de methodebeschrijvingen uit de Toolbox beleidsevaluaties van het Ministerie van Financiën, met als doel om consistentie te bevorderen in de verschillende handreikingen van het Rijk voor het doen van onderzoek.

Combineren van methoden

Zoals aangegeven in het hoofdstuk hiervoor kan de onderzoeker ervoor kiezen om meer dan één methode te gebruiken en die gelijktijdig of na elkaar uit te voeren. Een paar voorbeelden:

  • Het is goed denkbaar dat bijvoorbeeld methode 1 (documentonderzoek, literatuuronderzoek, media- onderzoek) wordt uitgevoerd voorafgaand aan andere methoden, zoals het uitzetten van een enquête (methode 4), het houden van interviews (methode 5) of het organiseren van focusgroepen (methode 6). Immers, door bijvoorbeeld alvast via een media-analyse in beeld te brengen wat er al bekend is over de risicoperceptie, kan de onderzoeker in de enquête, in het interview of in de focusgroep meer gerichte vragen stellen.
  • Ook is goed denkbaar dat een enquête wordt voorafgegaan door enkele interviews (om de vragenlijst te kunnen verbeteren) en dat na de enquête in focusgroepen vervolggesprek plaatsvindt om verdieping aan te brengen ten aanzien van de resultaten uit de enquête.

Het is aan een onderzoeker om de juiste samenstelling te maken van onderzoeksmethoden die passen bij het doel en de specifieke lokale context van het onderzoek. Stap 3 biedt daarbij ondersteuning. De huidige stap, stap 4, is gericht op de invulling en uitvoering van deze methoden. Per methode wordt een aantal do’s en don’ts gegeven.

  • Methode 1: Document- en media-onderzoek

    Document- en media-onderzoek: Het raadplegen van schriftelijke bronnen (of social media) kan al een beeld of eerste indicatie geven van de aanwezige risicopercepties onder inwoners en burgers. Te denken valt bijvoorbeeld aan het systematisch analyseren van berichtgeving in de media (bijvoorbeeld in lokale kranten), van berichtgeving van actiecomités, van vragen die zijn gesteld aan de gemeente of in de gemeenteraad of Provinciale Staten, van eerdere communicatie over een eventueel project, et cetera. Bij grote hoeveelheden berichten kan bijvoorbeeld een zogenaamde sentimentanalyse worden uitgevoerd (op grond van steekwoorden die in deze berichten staan en die een positief of negatief beeld kunnen laten zien). 

    DO’s:

    1. Bezint eer ge begint: bedenk eerst op welke vragen een antwoord moet worden gezocht en vervolgens welke documenten, bronnen, websites en media relevante informatie kunnen bevatten. Dat kan overigens variëren van wetenschappelijke, landelijke bronnen (bijvoorbeeld publicaties van kennisinstituten) tot niet-wetenschappelijke lokale bronnen (een interview met een inwoner in een lokale krant). Dat kan daarnaast variëren van bronnen met algemene informatie over gepercipieerde risico’s over een energietechniek tot bronnen die een specifiek beeld geven van de gepercipieerde risico’s rondom een specifiek energieproject. 
    2. Maak een stakeholderanalyse en verzamel informatie van die stakeholders. Het kan helpen om een stakeholderanalyse (lijst van betrokken stakeholders) te maken en vervolgens systematisch te onderzoeken welke informatie deze stakeholders hebben gepubliceerd of verspreid waarin informatie kan staan over (gepercipieerde) risico’s. Te denken valt aan verslagen van bewonerscomité-bijeenkomsten, aan websites of folders van actiecomités, aan documenten of communicatie vanuit de gemeente, et cetera. Let wel op dat deze informatie gekleurd kan zijn, doordat de informatieverstrekker een bepaald doel kan hebben met het verstrekken van informatie.
    3. Stel vast welke zoekcriteria (en welke zoekmachines) kunnen worden gehanteerd. Welke zoektermen worden gebruikt? Welke tijdsperiode wordt (mee)genomen? Welke zoekmachines worden gebruikt? Zijn dit bijvoorbeeld online zoekmachines (Google Scholar), wetenschappelijke zoekmachines, bibliotheken en databases van instellingen (bijvoorbeeld de Tweede Kamer en de Rijksoverheid) of andere websites?
    4. Wees transparant over zoekstrategie én bronnen. Niet iedere bron bevat goed onderbouwde informatie. Het is daarom van belang om bij het verzamelen van informatie uit bronnen goed te documenteren waar de informatie vandaan komt (traceerbaarheid en betrouwbaarheid) en waarop de informatie gebaseerd is (representativiteit en validiteit). 
    5. Schep overzicht door data te coderen. Wanneer grote hoeveelheden documenten worden onderzocht kan het voor de consistentie en transparantie van de analyse helpen om de data te coderen. Hierbij ‘labelt’ de onderzoeker tekst, zodat systematisch wordt gedocumenteerd hoe en hoe vaak bepaalde risico’s of zorgen voorkomen in de documenten. Er bestaan hiervoor ook speciaal ontworpen computerprogramma’s (zoals NVivo, MaxQDA of Atlas.ti), maar het kan bijvoorbeeld ook in Excel worden toegepast. 

     

    DON’TS

    1. Ga bij omvangrijk bronmateriaal niet ‘handmatig’ te werk, maar gebruik automatische data-analyse waar dat kan. Er zijn steeds meer mogelijkheden om verzamelde documenten geautomatiseerd te analyseren, bijvoorbeeld in de vorm van text mining. Dit is een vorm van tekstanalyse waar met digitale hulpmiddelen grote hoeveelheden tekstmateriaal worden geanalyseerd, bijvoorbeeld op patronen en woorden. Denk aan het gebruik van bepaalde termen (over risico’s of zorgen) in beleidsdocumenten of krantenartikelen. 
    2. Neem gevonden informatie niet zomaar voor ‘waar’ en ‘accuraat’ aan, maar neem een constructief-kritische houding aan (en pas bovendien op voor eigen bias). Niet alle bronnen en documenten zijn even betrouwbaar. Een kritische houding ten aanzien van de onderbouwing van de aangetroffen informatie is daarom nodig. Deze kritische houding is daarnaast ook nodig ten aanzien van informatie die wordt gevonden in bronnen van stakeholders die een sterk (financieel of ander) belang hebben. 
    3. Plak inzichten uit het verleden of uit andere contexten niet zomaar op situaties anno nu. Zowel de technologische ontwikkelingen evenals de beschikbare informatie over deze energietechnologieën nemen in grote snelheid toe. Dit is van invloed op risicopercepties, welke veranderlijk en contextafhankelijk zijn. Kijk daarom kritisch of inzichten uit bijvoorbeeld gedateerd wetenschappelijk onderzoek nog steeds van toepassing kunnen zijn voor de specifieke casus. 
    4. Vergeet niet dat deze methode ook kan worden gezien als noodzakelijke voorbereiding op andere methoden. Documenten en bronnen vormen belangrijke input voor sommige andere methoden die hierna worden beschreven. Ze kunnen bijvoorbeeld helpen bij het selecteren van onderwerpen die in een enquête, interview of focusgroep aan de orde kunnen komen.
  • Methode 2: Data-onderzoek (administratieve data, statistische data, big data)

    Data-onderzoek (administratieve data, statistische data, big data): Bij data-onderzoek maakt de onderzoeker gebruik van al bestaande data, die mogelijk nog niet goed is ontsloten, nog niet eerder is geanalyseerd voor dit doel, nog niet is bewerkt, et cetera. Bij statistische gegevens kan het bijvoorbeeld gaan om openbare statistische bestanden en monitors van bijvoorbeeld planbureaus (zoals PBL), statistische bureaus (zoals CBS), gemeenten (periodieke burgerenquêtes), universiteiten, kennisinstellingen en/of marktpartijen. Bij big data kan het bijvoorbeeld gaan om een analyse van zoektermen die een bepaalde regio worden gebruikt. Bij administratieve data valt bijvoorbeeld te denken aan data van energieloketten of (andere) overheidsloketten waar burgers zich wenden met vragen (die gebaseerd kunnen zijn op hun zorgen). Door te analyseren welke vragen met welke frequentie worden gesteld, kan een beeld worden gevormd van de risicopercepties. 

    DO’s: 

    1. Houd bij het gebruik van data rekening met een aantal voorwaarden met betrekking tot privacy. De opslag, bewerking en verspreiding van eventuele persoonsgegevens moeten voldoen aan wettelijke kaders, zoals de AVG (Algemene Verordening Gegevensbescherming). Ook voor andere typen van verzamelde gegevens kan bescherming gewenst of zelfs verplicht zijn. In de context van big data is anonimiseren van data van belang, omdat het daarbij vrijwel onmogelijk is om toestemming te vragen aan elk datasubject vanwege de omvang van de datasets.  Het KNAW-advies ‘Hergebruik van publieke data. Meer wetenschap en beter overheidsbeleid’ uit 2018 biedt een goed overzicht van relevante maatregelen ten aanzien van privacy bij het gebruik van publieke data.
    2. Zoek bij voorkeur naar brondata. Immers, om data te kunnen bewerken – wat voor analyse vaak noodzakelijk is – is het zaak om over de brondata te kunnen beschikken (in plaats van alleen een cijfer, tabel of grafiek). 
    3. Vind een handig startpunt voor het verzamelen van data. Publieke data zijn een bron van potentiële kennis voor onderzoekers. Statistische gegevens die relevant kunnen zijn in te kader van de risicopercepties met betrekking tot de energietransitie zijn bijvoorbeeld data over het gebruik van nieuwe technologieën (CBS) en bestaande nationale (SCP) en gemeentelijke enquêtes over duurzaamheid en energie. Het portaal data.overheid.nl dat is ingericht in het kader van het open-databeleid van de overheid kan ook relevante informatie bevatten. Deze datasets zijn voorzien van beschrijvende informatie (metadata), waardoor ze in principe makkelijker vindbaar zijn. 

     

    DON’TS

    1. Ga er niet vanuit dat er hapklare data ‘klaarligt’. Databronnen bevatten veelal ongestructureerde en onbewerkte en dus ruwe gegevens die niet verzameld zijn met als doel het in kaart brengen van de risicopercepties. Het kan een (tijdrovende) bewerkingsslag vergen voordat de data geschikt is als indicatie voor de risicoperceptie.
    2. Onderschat niet dat er vaak nog bewerkingen van de (gevonden) data nodig zijn. Het grote voordeel van data-onderzoek is dat u als onderzoeker gebruik kunt maken van gegevens die er al zijn en deze niet zelf hoeft te verzamelen. Hiermee hangen echter ook de grootste nadelen van deze methode samen. Als onderzoeker bent u afhankelijk van de data die beschikbaar is. Dit betekent, in het geval van administratieve data en big data, dat het verzamelen van de gegevens veel tijd in beslag kan nemen en dat de data niet altijd volledig zal zijn.
    3. Denk niet dat big data-analyse lukt zonder specifieke vaardigheden. Big data-onderzoek betreft het verzamelen, bewerken, koppelen en analyseren van zeer grote databestanden en dat vraagt om vaardigheden waar ‘traditionele’ onderzoekers nog weinig over beschikken.
    4. Denk niet dat big data-onderzoek goedkoop is. De kosten van het gebruik van big data zijn moeilijk in te schatten, omdat vooraf vaak niet bekend is welke datasets tegen welke voorwaarden beschikbaar zijn. Kosten kunnen oplopen naarmate sets gekocht en bewerkt moeten worden (dit kan specialistische kennis vereisen), zeker als aanbieders datamonopolist zijn. 
  • Methode 3: Participerende en niet-participerende observaties

    Observatie: Bij observatie observeert de onderzoeker om een beeld te krijgen van de percepties die er heersen onder groepen burgers. Voor de hand liggende manieren om dat te doen zijn het bezoeken van gemeentelijke voorlichtingsavonden of wijkbijeenkomsten, of het bezoeken van bijeenkomsten die door actiecomités worden georganiseerd. Daar kan de onderzoeker observeren welke percepties ‘langs komen’ en welke percepties dominant zijn onder welke groepen.

    DO’s: 

    1. Waak voor het risico dat de observant groepsprocessen onbedoeld beïnvloedt. Of andersom: dat de groepsleden de observatie, registratie en interpretatie beïnvloeden. Probeer als onderzoeker afstand te houden van (tot zover dat mogelijk is) de activiteit van de groep. 
    2. Maak concrete, neutrale aantekeningen. Maak tijdens en na het observeren aantekeningen die zo concreet en feitelijk en neutraal mogelijk zijn, om vervolgens de analyse op te baseren. Maak een duidelijk onderscheid tussen feitelijke observaties enerzijds en interpretaties anderzijds. Probeer bij observaties goed te letten op: (1) Wat mensen doen en zeggen (en ook wat ze niet doen of zeggen), (2) Wat mensen weten (welke kennis en meningen?) en (3) Welke interacties plaatsvinden: wie praat met wie, welke meningen worden gerespecteerd, hoe worden beslissingen gemaakt? 
    3. Kies een pragmatische invulling. Observatie als wetenschappelijke methode kan tijdrovend zijn, met name als wordt gekozen voor een langdurige, intensieve invulling. Er kan ook worden gekozen voor een pragmatische en beperkte invulling, bijvoorbeeld door één of enkele bijeenkomsten te bezoeken en te observeren. Met een beperkte inspanning kunnen er zo toch veel inzichten worden opgeleverd. 

     

    DON’TS

    1. Vergeet niet te investeren in de relatie. Investeer in het opbouwen van een relatie met de groep die wordt geobserveerd. 
    2. Sla het tellen en kwantificeren waar dat kan niet over. Aandacht voor kwalitatieve observaties is van belang, maar het tellen van mensen en meningen en het expliciteren van de ‘omvang’ van bepaalde reacties van goedkeuring of afkeuring geeft belangrijke aanvullende informatie. 
    3. Ga niet zomaar als mystery guest participeren en observeren. Deze vorm van participerende observatie is niet ongebruikelijk bij marketing- en beleidsonderzoek, maar is tegelijkertijd niet geschikt voor ieder type onderzoek. Bij de energietransitie speelt vertrouwen tussen de overheid (die onderzoekt en onderzoek uitzet) en burgers een belangrijke rol. Als burgers achteraf horen dat hun opvattingen zijn gemeten door een mystery guest dan draagt dit niet bij aan een vertrouwensrelatie. 
  • Methode 4: Enquête (survey, vragenlijst)

    Enquête: Een enquête (of vragenlijst of survey) is een systematische uitvraag van vragen met als doel om specifieke informatie op te halen bij een groep van personen. Vaak wordt deze vragenlijst voorgelegd aan een steekproef van respondenten die representatief dienen te zijn aan een grotere populatie in kwestie. Enquêtes hebben als kenmerk dat zij (dezelfde) vragen systematisch en gestructureerd in hetzelfde format voorleggen aan iedere respondent. Een enquête bevat doorgaans gesloten vragen en open vragen. Soms bevatten enquêtes een routering: afhankelijk van de antwoorden die respondenten geven, worden ze naar bepaalde vragen of onderwerpen gerouteerd. Respondenten kunnen op verschillende manier worden benaderd en bevraagd: online (mail, app, site, et cetera), schriftelijk, telefonisch of face-to-face zijn de meest bekende manieren. 

    DO’s: 

    1. Denk goed na over hoe de vragenlijst wordt afgenomen: schriftelijk, mondeling, telefonisch of online? Een belangrijk voordeel van schriftelijke en online enquêtes is dat het vaak eenvoudiger is om een grote groep te bevragen met beperkte tijdsinvestering voor de onderzoeker. Daar staat tegenover dat deze methoden vergen dat de invuller kan lezen en schrijven. Echter, in Nederland hebben 2,5 miljoen mensen van 16 jaar en ouder moeite met lezen, schrijven en/of rekenen. Dat is 18% van alle mensen in Nederland. Daarnaast kunnen er taalbarrières aan de orde zijn. Daardoor kunnen uitkomsten van schriftelijke of online enquêtes beïnvloed zijn door een selectieve non-respons. Mondelinge of telefonische enquêtes kosten per respondent meer tijd, maar zorgen er ook voor dat mensen die moeite hebben met lezen en schrijven kunnen participeren. Ze kunnen daarom ook een aanvulling zijn op bijvoorbeeld een online-enquête.
    2. Borg de representativiteit door zorgvuldig de steekproefomvang te bepalen, met name wanneer representatieve uitkomsten zijn gewenst met betrekking tot subgroepen binnen de populatie. Een willekeurige steekproef die groot genoeg is (‘simple random sampling’) om statistisch generaliseerbare conclusies te trekken wordt gezien als de heilige graal van enquête-onderzoek. Op internet zijn diverse steekproefcalculators beschikbaar die helpen om eenvoudig de gewenste steekproefomvang vast te stellen (op grond van factoren als: populatieomvang, foutenmarge, betrouwbaarheidsniveau). Als de onderzoeker geïnteresseerd is in specifieke groepen binnen de onderzoekspopulatie – bijvoorbeeld een verschil tussen direct omwonenden en inwoners die verder van een windmolen, zonnepark of geothermie-installatie wonen – dan is het van belang om per populatie een goede steekproef te trekken, zodat beide groepen voldoende vertegenwoordigd zijn in de steekproef (‘multi-stage sampling’ of ‘area sampling’).
    3. Neem maatregelen om selectieve non-respons te voorkomen. Als de steekproef representatief is, maar de vragenlijst slechts door een deel van deze steekproef daadwerkelijk wordt ingevuld, dan heeft dat gevolgen voor de generaliseerbaarheid van de onderzoeksbevindingen. Neem daarom maatregelen om ‘selectieve non-respons’ te voorkomen. Denk na over de vraag: wie willen de vragenlijst invullen (en wie niet)? Wie kunnen het invullen (en wie niet)? Tref maatregelen om ook groepen te betrekken voor wie willen of kunnen invullen problematisch is. Denk bijvoorbeeld aan het zowel online als fysiek (huis aan huis) afnemen van de vragenlijst. Andere maatrelen die non-respons kunnen voorkomen zijn het aankondigen van het onderzoek en het versturen van een verzoek tot medewerking, een financiële compensatie voor deelname aanbieden, en transparant en proactief te vertellen over wat er met de input van de respondent en de uitkomsten van het onderzoek wordt gedaan.
    4. Zorg dat de onderzoeksvraag zo concreet mogelijk is geoperationaliseerd en probeer de risicoperceptie van een duurzame energietechnologie te vergelijken met die van iets bekends (bestaande industrie, opslagtanks met chemicaliën, natuurverschijnselen, et cetera). Vertaal abstracte concepten naar concrete vragen. Daarbij kan ook gebruik worden gemaakt van bestaande vragen en schalen om risicopercepties te meten. Een voorbeeld:

    U kunt een risicoperceptie meten aan de hand van één enquêtevraag (bijvoorbeeld: ‘hoe risicovol vindt u …’ of ‘techniek X is … [zeer riskant – helemaal niet riskant]’), maar recent onderzoek laat zien dat risicopercepties zich doorgaans beter laten meten aan de hand van meerdere vragen, over:

    1. De zorgen en emoties (bijvoorbeeld: ‘hoeveel zorgen maakt u zich over …’/ ‘als u denkt aan X, in hoeverre voelt u zich dan bezorgd’), 
    2. De consequenties van het risico (bijvoorbeeld: ‘als X zou gebeuren, dan heeft dit negatieve gevolgen voor mij’) en 
    3. De kans dat het risico zich voordoet (bijvoorbeeld: ‘hoe groot is de kans dat X zich dit jaar voordoet in uw buurt?’).
    1. Maak bij het formuleren van antwoordopties bij gesloten vragen of stellingen zo veel mogelijk gebruik van Likert-schalen. Dit zijn veelgebruikte 4, 5, 6, of 7 puntsschalen die geschikt zijn om meningen en percepties te meten. Antwoordcategorieën moeten in ieder geval uitputtend zijn (voeg indien nodig de optie ‘’anders, namelijk…’’ toe) en moeten elkaar uitsluiten. Een voorbeeld:

    In hoeverre bent u het eens met de volgende stelling?

    Windturbines hebben naar mijn idee een negatieve invloed op gezondheid.

    1. Sterk mee oneens
    2. Oneens
    3. Oneens noch eens
    4. Eens
    5. Sterk eens
    6. Weet ik niet
    1. Test de vragenlijst. Test de vragenlijst altijd om te toetsen of respondenten de vragen en antwoordopties zo begrijpen zoals ze zijn bedoeld. NB: Dit is dus niet alleen een technische toets (werkt de routering, komt alles goed in beeld?), maar vooral ook een toets op begrijpelijkheid voor de respondent. Dit kan worden gedaan door middel van ‘cognitieve interviews’ of door het laten invullen door enkele respondenten. 

     

    DON’TS

    1. Ga er niet vanuit dat meer respondenten betekent meer representatieve uitkomsten. Dit laat zich het beste uitleggen aan de hand van een voorbeeld. Neem de situatie dat de initiële respons op een enquête 30% is en dat 300 mensen de enquête hebben ingevuld. Vervolgens wordt nog heel gericht aan deelgroepen gevraagd om alsnog de vragenlijst in te vullen, waardoor de respons stijgt naar 40% (400 invullers). Het kan in dat geval zo zijn dat de 100 extra invullers een specifieke deelverzameling zijn waardoor de totale uitkomst juist minder representatief is in plaats van meer representatief. Met dit verschijnsel moet goed rekening worden gehouden.
    2. Ga er niet zomaar vanuit dat iedereen altijd eerlijk antwoord geeft. Respondenten kunnen sociaal-wenselijke antwoorden geven of de vragenlijst strategisch invullen, omdat ze belang hebben bij een bepaalde uitkomst. Houd daar altijd rekening mee bij het formuleren van de vragen (moet ik deze vraag wel stellen?) en bij het interpreteren van de uitkomsten (welke conclusie kan ik wel en niet verbinden aan de gegeven antwoorden?).
    3. Vergeet niet na te denken over het borgen van anonimiteit en dataveiligheid voor de invuller. Indien dit niet goed is geregeld kan dit zorgen voor een groot afbreukrisico en bovendien kan het respondenten ervan weerhouden om de vragenlijst in te vullen. Maak dus niet zomaar gebruik van ‘gratis’ online enquêtetools. 
    4. Vergeet niet dat de formulering van de vraag erg nauw luistert. Houd er rekening mee dat het ontwerpen van een vragenlijst een iteratief en intensief proces kan zijn, waarbij de vragen worden getoetst en bijgeschaafd. Met betrekking tot de formulering van de enquêtevragen zijn vijf aandachtspunten. Vermijd:
      1. Suggestieve vragen
      2. Dubbelzinnige vragen 
      3. Valse premissen
      4. Dubbele ontkenningen
      5. Jargon

    Een paar voorbeelden ter illustratie:

    Don’t

    Do 

    Suggestieve vraagstelling

    Ziet u bij de toepassing van geothermie het risico op ontploffingsgevaar? 

    Welke risico’s ziet u bij de toepassing van geothermie? 

    Dubbelzinnige vragen

    Wat is uw beeld over zonnepanelen en windmolens?

    Wat is uw beeld over zonnepanelen?

    Valse premissen

    Wanneer bent u zich bewust geworden van brandgevaar bij zonnepanelen?

    Ziet u bij zonnepanelen op uw dak risico’s op het gebied van uw veiligheid? Zo ja, welke?

    Dubbele ontkenning 

    Stelling: Ik denk niet dat er geen risico’s verbonden zijn aan de opslag van CO2. 

    Stelling: Ik denk dat er geen risico’s verbonden zijn aan de opslag van CO2. 

    Tabel 3: Voorbeeldvragen. 

    1. Zorg dat de vragenlijst niet te lang is. Als een enquête te lang duurt kan dat ten koste gaan van zowel de kwantiteit van de respons (omdat minder mensen het gaan invullen) als de kwaliteit (omdat de respondent de vragen te snel gaat invullen). Hierdoor gaat de betrouwbaarheid omlaag. Weeg dus goed af wat need to know is en wat nice to know is, probeer de invultijd voor een vragenlijst onder de vijftien minuten te houden en zorg dat de invuller de vragenlijst kan ‘pauzeren’ en later verder kan gaan (zonder dat antwoorden verloren gaan). 
    2. Voorkom een disbalans tussen open en gesloten vragen. Een enquête met vooral open vragen vergt veel invultijd. Een enquête zonder open vragen kan de invuller het gevoel geven dat de eigen opvattingen niet goed kunnen worden weergegeven of toegelicht. Probeer daarom een goede balans te vinden.
  • Methode 5: Interviews

    Interviews: In een interview worden de vragen mondeling gesteld aan een respondent. Het mondelinge vraaggesprek kent verschillende varianten: locatie-gebonden of telefonische gesprekken, individuele of groepsinterviews en gestructureerde of open gesprekken. Doorgaans worden vragen gesteld aan de hand van een gespreksleidraad of topiclijst. Een belangrijke reden voor het gebruik van deze methode is dat het verdiepende inzichten kan opleveren over percepties van de geïnterviewde. 

    DO’s: 

    1. Begin het interview met open en brede vragen, maak het daarna specifieker. Het kan relevant zijn om een participant te bevragen naar zijn of haar inschatting van bepaald veiligheid- of gezondheidsrisico. Voordat dit wordt gedaan, is het belangrijk om de participant open naar zijn of haar algemene beeld ten aanzien van een technologie te vragen. Daarna kan de onderzoeker vragen hoe de participant veiligheid- en/of gezondheidsrisico’s percipieert, om vervolgens door te vragen naar eventuele specifieke veiligheid- en/of gezondheidsrisico’s. Door het interview op deze manier in te steken wordt voorkomen dat de geïnterviewde wordt beïnvloed door de vraagstelling.
    2. Maak gebruik van een topiclijst of leidraad. Een topiclijst zorgt voor structuur in het gesprek en, nog belangrijker, het zorgt ervoor dat de interviewdata naderhand goed met elkaar te vergelijken zijn. Een topiclijst kan van tevoren worden opgestuurd naar de geïnterviewde, maar er kan ook (bewust) voor worden gekozen om dat niet te doen. Dit is afhankelijk van het doel van de interviewer.
    3. Contrast-vragen kunnen helpen. Om (risico)percepties te bevragen en te kunnen duiden kan het helpen om respondenten contrast-vragen te stellen, waarbij wordt gevraagd om verschillende risico’s of verschillende technologieën met elkaar te vergelijken. Participanten kunnen bijvoorbeeld worden gevraagd naar hun zorgen over veiligheidsrisico’s bij buurtbatterijen enerzijds en geothermiecentrales anderzijds. Op deze manier worden respondenten in staat gesteld deze met elkaar te vergelijken.
    4. Check regelmatig of je het antwoord goed hebt begrepen. Een handzame aanpak voor de interviewer is: luisteren, samenvatten en doorvragen. 
    5. Coderen kan helpen bij de analyse. Wanneer grote hoeveelheden interviewdata geanalyseerd moeten worden, kan het voor de consistentie en transparantie van de analyse helpen om de data te coderen. Hierbij wordt tekst gecodeerd zodat systematische analyse mogelijk wordt. Er bestaan hiervoor speciaal ontworpen computerprogramma’s (zoals NVivo, MaxQDA of Atlas.ti), maar ook bijvoorbeeld Excel kan worden toegepast. 

     

    DON’TS

    1. Gebruik geen jargon. Sluit juist aan bij het taalgebruik van de geïnterviewde. 
    2. Vergeet niet door te vragen. Vraag de respondent bijvoorbeeld zijn of haar antwoorden te illustreren, te verduidelijken of nader toe te lichten om meer diepgaande inzichten op te doen of een preciezer beeld te krijgen van de percepties. Vraag naar concrete voorbeelden van ervaringen en verwachtingen. 
    3. Vermijd gesloten en sturende vragen. Deze vragen leiden ertoe dat een respondent naar een bepaald antwoord wordt gestuurd, waardoor de uitkomsten minder betrouwbaar zijn.
  • Methode 6: Focusgroepen

    Focusgroepen: De focusgroep is een vorm van groepsgesprek waarbij een ‘facilitator’ of ‘moderator’ een groep deelnemers (bijvoorbeeld vijf à vijftien personen) stimuleert om met elkaar van gedachten, in dit geval over de risico’s die worden gepercipieerd. In een focusgroep staat de (inhoudelijke) interactie tussen deelnemers centraal.  Dat is een belangrijk verschil met een groepsinterview, waar het beantwoorden van vragen door meerdere mensen tegelijk aan de orde is. Soortgelijke methoden zijn rondetafelgesprekken en paneldiscussies.

    DO’s: 

    1. Denk goed na over de samenstelling van de groepen. Bij het samenstellen van een groep zijn er verschillende overwegingen te maken. Denk bijvoorbeeld aan:
    • Homogene of heterogene groepen? Homogene groepen – bijvoorbeeld een focusgroep voor omwonenden en een focusgroep voor niet-omwonenden – hebben als voordeel dat de deelnemers vanuit eenzelfde achtergrond aan het gesprek deelnemen en dat verzamelde opvattingen ook gemakkelijker kunnen worden toebedeeld aan deze groepen. Heterogene groepen hebben daarentegen als voordeel dat verschillende ervaringen en perspectieven worden uitgewisseld, waardoor mogelijk meer diverse gesprekken en discussies kunnen ontstaan die leiden tot nieuwe inzichten. 
    • Bestaande groepen (bijvoorbeeld bewoners van een straat of leden van een buurtcomité) of groepen die elkaar niet kennen? Sommige onderzoekers raden het gebruik van bestaande groepen af omdat daar persoonlijke en sociale dynamieken en verhoudingen kunnen spelen waar de onderzoeker geen zicht op heeft, maar die wel bepalend zijn voor het verloop van het gesprek. Aan de andere kant kunnen die dynamieken juist ook interessante inzichten opleveren, bijvoorbeeld over hoe percepties zich in een specifieke groep ontwikkelen en hoe er in groepen wordt gesproken over een bepaalde techniek. Daarnaast kan het organiseren van een focusgroep met bestaande groepen in de praktijk soms eenvoudiger te organiseren zijn. 
    • Grote of kleine groepen? Kleine groepen hebben als voordeel dat deelnemers meer ruimte hebben om zich te uiten, wat kan resulteren in meer diepgang. Grotere groepen hebben als voordeel dat zij een breder beeld kunnen opleveren. 

     

    2.  Denk ook aan andere vormen dan een klassiek gesprek. Laat deelnemers bijvoorbeeld samen een lijst samenstellen (bijvoorbeeld over zorgen of voorwaarden rondom een bepaalde technologie of project), een keuze maken tussen alternatieven (bijvoorbeeld verschillende technologieën, of locaties of scenario’s laten vergelijken), items categoriseren of sorteren, of een mindmap maken (bijvoorbeeld van associaties met een bepaalde technologie).

    3.  Bereid het gesprek goed voor. Zorg dat er een lijst met thema’s, vragen, stellingen of ander materiaal is om de deelnemers met elkaar in gesprek te laten gaan. Denk hierbij ook na over een volgorde in de vragen die een logische flow van het gesprek niet in de weg staat.

    4.  Zorg ervoor dat alle deelnemers aan het woord komen. Verdeel de spreektijd goed over de verschillende deelnemers. Nodig stille deelnemers uit om te reageren, vraag door op hun antwoorden.

     

    DON’TS

    1. Voer een focusgroep als onderzoeker niet alleen uit. Een focusgroep vraagt idealiter om een moderator, die het gesprek kan leiden en aandacht heeft voor het groepsproces, en een observator die zich concentreert op de data-verzameling (notuleren, verslaglegging). 
    2. Vergeet niet een alternatief te bedenken voor de klassieke voorstelronde. Een traditionele voorstelronde, waarin deelnemers hun studieachtergrond of werkkring/functie benoemen, kan belemmerend werken omdat deelnemers bijvoorbeeld geneigd kunnen zijn aan te sluiten bij opvattingen van de meest hoogopgeleide deelnemers. Het is van belang dat deelnemers het gevoel hebben vrijuit te kunnen spreken en een gelijkwaardige bijdrage kunnen leveren. 
    3. Val niet meteen met de deur in huis. Met name waar het gaat om moeilijke of gevoelige onderwerpen, kan het goed werken om in het eerste deel van het gesprek met wat luchtiger topics te starten zodat bijvoorbeeld deelnemers al kunnen wennen aan de setting en aan het geven van hun opvattingen. 
  • Methode 7: Citizen science

    Citizen science: Citizen science wordt gedefinieerd als wetenschapsbeoefening door vrijwilligers die niet als professioneel onderzoeker verbonden zijn aan een onderzoeksorganisatie, maar wel samenwerken met, of onder de supervisie staan van, professionele onderzoekers. Bekendere voorbeelden hiervan zijn burgers, die met hulp van wetenschappers, hinderaspecten meten, zoals trillingen, geluidsbelasting en geur. Een voorbeeld van citizen science in de context van risicopercepties kan zijn dat burgers zelf voor een bepaalde periode monitoren welke veiligheids- en/of gezondheidsrisico’s ze percipiëren. Overigens dient te worden opgemerkt dat citizen science soms ook als ‘oplossing’ wordt ingezet. Als er bijvoorbeeld zorgen zijn over trillingen, dan kan het opzetten van een citizen science-project waarin burgers zelf trillingen kunnen meten en vaststellen ertoe leiden dat die zorgen afnemen (omdat het risico in beeld wordt gebracht en er dan ook naar kan worden gehandeld). 

    DO’s: 

    1. Investeer in de werving van deelnemers. Investeer bij de start van het onderzoek in de werving van deelnemers om te zorgen dat er voldoende deelnemers zijn en er een diverse groep is. Sluit, indien mogelijk, aan bij een bestaand platform, community, netwerk of initiatief. Ook aansluiting zoeken bij een groter project kan helpen om het onderzoek onder de aandacht te brengen bij mogelijke deelnemers. 
    2. Bewaak de kwaliteit van het onderzoek. Het instrueren en begeleiden van de burger-onderzoekers is van groot belang, ten einde de kwaliteit van het onderzoek te bewaken. In dat licht is van belang om er bijvoorbeeld voor te zorgen dat deelnemende burgers gebruik maken van wetenschappelijk goed onderbouwde technologieën en methoden, dat vragen en instructies aan de deelnemende burger-onderzoekers uniform zijn en dat de opdrachten die zij moeten uitvoeren volgens een herhaalbare procedure heel duidelijk worden toegelicht. Er zijn diverse standaarden, checklists, handboeken en richtlijnen voor citizen science beschikbaar. Zo ontwikkelde bijvoorbeeld een groep wetenschappers een kader om citizen science-projecten te evalueren. 

     

    DON’TS

    1. Vergeet niet dat duidelijkheid en communicatie van onschatbare waarde zijn. Zorg dat bij aanvang van het onderzoek ook voor de deelnemers duidelijk is wat het doel van het onderzoek is en welke output het moet opleveren. Zorg ook dat er duidelijke voorwaarden en afspraken worden gemaakt over deelname aan het onderzoek, over privacy en over de omgang met en het eigenaarschap van de data. Communiceer regelmatig over de voortgang en eventuele wijzingen in het project. Citizen Science Vlaanderen maakte in 2019 een beknopt handboek met praktische tips voor het betrekken van en communiceren met burgers in citizen science-projecten.
    2. Vergeet niet de terugkoppeling over de resultaten. In veel citizen science-projecten zijn burgers vooral betrokken bij het verzamelen van data, soms ook bij het bespreken van de resultaten. Zorg in ieder geval dat burger-onderzoekers een goede terugkoppeling krijgen van wat er met hun data is gebeurd, wat de uitkomsten van het onderzoek zijn en wat er met die uitkomsten wordt gedaan en erken daarnaast de inzet van de burger-wetenschappers in de onderzoeksrapportage. 
  • Methode 8: Burgerpanels (deliberatief onderzoek)

    Burgerpanels (deliberatief onderzoek): Een burgerpanel is doorgaans een representatieve selectie van burgers op grond van een aantal kenmerken. Leden van een burgerpanel zijn zorgvuldig geselecteerd in de zin dat gestuurd is op representativiteit. De achterliggende aanname is dat de percepties van de leden van het burgerpanel een goed beeld geven van de percepties in de populatie die zij representeren. Vanuit die aanname is een burgerpanels een relevante gesprekspartner voor overheden. Met burgerpanels kunnen gesprekken of bijeenkomsten worden gehouden, ten einde in beeld te brengen welke risicopercepties in welke mate aanwezig zijn.

    DO’s: 

    1. Faciliteer en modereer. Net als bij focusgroepen is het faciliteren en modereren van het gesprek met een burgerpanel van groot belang. Zorg er als moderator voor dat alle deelnemers aan het woord komen door hen actief uit te nodigen hun perspectief te delen, op elkaar te laten reageren en te laten samenvatten wat voor hen de kern van het gesprek was.
    2. Overweeg deelnemers te informeren of op te leiden. Overweeg deelnemers goed te informeren of zelfs op te leiden aan de hand van feitelijke informatie over een techniek of project, waarbij verschillende perspectieven aan de orde komen en tegenstrijdigheden en onduidelijkheden worden benoemd.

     

    DON’TS

    1. Maak geen valse beloften. Doordat burgerpanels een actieve rol geven aan burgers vormen zij een interessante methode in gevoelige contexten waar besluitvorming aan de orde is. In theorie kan deze vorm van onderzoek bijdragen aan vertrouwen, maar daarvoor is wel een randvoorwaarde dat vanaf het begin duidelijk wordt gecommuniceerd wat wel en wat niet de rol van het panel is in het onderzoek. 
    2. Neem als onderzoeker geen standpunt in. De onderzoeker verschaft informatie, begeleidt het gesprek of is toehoorder of notulist, maar is geen deelnemer aan het gesprek. 

Uitvoering van het onderzoek

De vraag die zich ten aanzien van de voorgaande methoden ook zal voordoen, is of een overheid dit onderzoek zelf wil uitvoeren of dat daarvoor een onderzoeksbureau wordt ingeschakeld (na aanbesteding). Bij de afweging spelen met name drie factoren een rol. Ten eerste is kennis en ervaring nodig om onderzoek te kunnen uitvoeren op grond van de voorgaande methoden. Zonder kennis en ervaring is het niet mogelijk om het als overheid zelf te doen. Ten tweede kan een capaciteitsvraag aan de orde zijn: is er mankracht binnen de eigen (overheids)organisatie om een dergelijk onderzoek uit te voeren of is dat er niet? Ten derde kan er een strategische afweging aan ten grondslag liggen: in welke variant zijn de uitkomsten van het onderzoek het meest gezaghebbend? Dat hangt ook af van de percepties van burgers over bijvoorbeeld de belangen of intenties van overheid. Wanneer deze worden gewantrouwd kan dit aanleiding zijn om het onderzoek door een derde, onafhankelijke partij te laten uitvoeren. Zo kan de schijn van belangenverstrengeling worden voorkomen. 

Tot slot

Hiervoor zijn acht archetypen van onderzoeksmethoden beschreven die kunnen worden gebruikt om risicopercepties in kaart te brengen. Er zijn (uiteraard) ook methoden of tools beschikbaar die verschillende elementen van de voorgaande acht archetypen combineren, al dan niet via online tools. Een voorbeeld dat in beeld kwam bij de totstandkoming van deze Handreiking is de Sprockler-methode28, een softwaretool waarmee een peiling kan worden georganiseerd, waarmee verhalen van burgers kunnen worden verzameld en waarmee via analyse een beeld kan ontstaan over wat burgers ervaren of belangrijk vinden. Als methode heeft dit elementen van een burgerpanel (methode 8), een enquête (methode 4) en ook van interview (methode 5) of focusgroep (methode 6). 

Daarnaast zijn er tal van methoden en tools beschikbaar die kunnen worden gebruikt om participatieve processen met burgers in te richten en te organiseren. De Participatieve Waarde Evaluatie (PWE) van de TU Delft is daar een voorbeeld van. Dit is een relatief nieuwe methode om beleidsopties te evalueren en de participatie van grote groepen burgers mogelijk te maken. Zij worden als het ware op de stoel van de bestuurder gezet.29 Voor deze methoden geldt dat ze vooral geschikt zijn om participatie vorm te geven, maar niet zozeer gericht zijn op het doen van onderzoek naar risicopercepties. Het neemt (uiteraard) niet weg dat risicopercepties wel een onderwerp kan zijn waarover burgers met elkaar in gesprek gaan in dit soort tools.