De cijfers liegen door en door: onthutsende inzichten van een enquêterespondent

images.duckduckgoaaa.com

33% van de Nederlanders zou voor een ‘Nexit’ stemmen, mocht het erop aankomen. Eenderde van de Nederlanders voelt zich onveilig thuis. Het zijn voorbeelden van feitjes die talloze onderzoeksbureaus voortbrengen: percentages en cijfers die uitdrukken hoe een bepaald fenomeen in de samenleving wordt gevoeld, of wat voor opvattingen ‘de Nederlander’ heeft over het een of het ander. Vaak zijn het ook cijfers die leidend zijn in verkiezingsdebatten en beleidsvorming, en ook vinden de opinieonderzoeken gretig aftrek bij grote bedrijven, om uit te vogelen ‘wat er speelt’ onder de mensen.

In de loop der jaren is er door velen al gepreekt tegen de eindeloze stroom onderzoekjes: ze stellen de verkeerde of te nauwe vragen, ze hanteren een krankzinnig achterhaalde psychometrische schaal, ze gebruiken een te kleine of eenzijdige controlegroep, of ze onderzoeken überhaupt zaken waar je je van kunt afvragen in hoeverre ze überhaupt íets aan ook maar één facet van de samenleving bijdragen.

In deze context moet ik een bekentenis doen. Sinds een jaar of vijf ben ik respondent bij een onderzoeksbureau dat dit soort onderzoekjes uitvoert. En ik kan je vertellen: het is verdomd interessant om van binnenuit te zien hoe zo‘n onderzoeksbureau opereert. Het leidt vaak tot bevestiging van de bovengenoemde verwijten, maar ook tot verrassende, welhaast onthutsende nieuwe inzichten.

Twee keer per maand vul ik enquêtes over een eindeloze stroom onderwerpen in. Van lichaamsbeweging en roken tot de pilot voor een nieuw te draaien spotje van een schoolmelkgigant: ik mag er mijn zegje over doen.

Ik lieg dat ik zwart zie in die rol als respondent voor het onderzoeksbureau. Ik heb een valse naam, een vals mail- en huisadres, een totaal andere opleiding en sociale achtergrond. Bij het bureau sta ik geframed onder een totaal andere leeftijdsklasse, een andere regio en een andere inkomensgroep.

In de enquêtes zelf maak ik het nog bonter: ik vul de meest krankzinnige dingen in in de vragenlijsten, die vaak toch al dusdanig doordrenkt zijn in de ‘confirmation bias’ en tunnelvisie dat ik niet de indruk heb dat ik het verschil ga maken.

Maar het ergste moet nog komen. Voor de vragen die ik bij iedere ondervraging invul krijg ik punten. Als ik 100 punten heb, dan mag ik deze verzilveren in de vorm van een cadeaubon of Airmiles, of doneren aan een goed doel.

Die punten zijn eigenlijk de enige prikkel die ik nog zie in die onderzoekjes. Ik probeer mijn persona bij de maandelijkse screening, waarin bepaald wordt of ik in aanmerking kom voor een enquête, dan ook zo om te vormen dat ik in aanmerking kom voor àlle onderzoeken die op stapel liggen. Ik rook en drink buitensporig, ik koop product X af en toe, ik luister elke dag radio, kijk elke dag TV, heb een abonnement op zes verschillende televisiegidsen en oriënteer me tweemaaldaags op het gebied van koffiezetapparaten, en ik heb geen familie of kennissen die in de reclamebusiness actief zijn.[1]

Ik race door de vragenlijsten met het oog op optimale winstmaximalisatie: hoe sneller ik de vragen afhandel, hoe sneller ik doorklik, des te meer punten ik per minuut kan scoren, des te efficiënter ik mijn verrichte diensten voor het onderzoeksbureau vergeld.

Het prettige is dat ik hiervoor geen enkele verantwoording hoef af te leggen, afgezien van een pseudo-controle aan het begin (van het kaliber “ben jij wel wie je zegt dat je bent?” – “Ja.” – “Oké, welkom!”).

Ik vaar er wel bij: af en toe een paar minuutjes klikken en ik ben weer een cadeaubon rijker. Maar je kunt je natuurlijk afvragen in hoeverre je het soort onderzoeken dat de bureaus voert dan nog serieus kunnen nemen; het lijkt me uitzonderlijk sterk dat ik de enige respondent ben die zich zo opstelt. Gratis cadeaubonnen voor een paar minuutjes random klikken – je zou wel gek zijn om het niet te zo aan te pakken. Raoul Heertje kaartte dit probleem ruim vijf jaar geleden al uitgebreid aan. Maar blijkbaar vormde dit toen geen aanleiding voor de onderzoeksbureaus om actie te ondernemen en hun manier van enquêteren te herzien.

Hopelijk vormt dit stukje daarom de aanleiding om de waarde die je hecht aan het gemiddelde bevolkingsonderzoek eens grondig te herzien.

[1] Als ik invul dat ik die reclamekennissen wel heb, zo heb ik gemerkt, dan val ik buiten de doelgroep – waarschijnlijk om concurrerende reclamebedrijven geen voorsprong te gunnen.

Advertenties

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit / Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit / Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit / Bijwerken )

Google+ photo

Je reageert onder je Google+ account. Log uit / Bijwerken )

Verbinden met %s