Journalism

'┬źSynsing som forskning┬╗'

AFTENPOSTEN, 22. des 2008

Asle Toje og Anne Welle-Strand, Senter for utviklingsstudier og mikrofinans, MICRO, Handelshøyskolen BI

Norads resultatrapport understreker viktigheten av ekstern evaluering.

Vi vet i dag relativt lite om resultatene av norsk bistand. Kombinasjonen av rask budsjettvekst og sviktende ettersyn har vist seg å være uheldig i den delen av norsk forvaltning som trolig er mest eksponert for økonomiske misligheter. Norge gir i 2008 22,3 milliarder kroner i forskjellige former for bistand. Det er et åpent spørsmål hva disse avstedkommer. For mens bistandsbudsjettet har vokst, har rapporteringen om bistandens resultater minket drastisk.

Fra 1962 ble det årlig lagt fram fyldige meldinger om bistand til stortinget, men disse ble avviklet i 1993. I årene som fulgte gav UD og Norad ut mindre detaljerte årsrapporter. Denne ordningen opphørte i 2002. Siden den gang har rapportering om bistandsvirksomheten blitt gjort i statsbudsjettet i forbindelse med forslagene om nye bevilgninger. Dette dreier seg først og fremst om hvem som får støtte. Derfor denne nye resultatrapporten. Nå skulle bistandens resultater dokumenteres!

Norad la i første uke i desember fram nr. 2 i rekken av disse rapportene. La det med en gang være sagt at rapporten har sine gode sider. Det er for eksempel et framskritt at man denne gangen har valgt å strukturere rapporten etter hvordan bistanden faktisk fordeles, i stedet for Norads interne avdelingsstruktur. Allikevel må rapporten som helhet sies å være nedstemmende. Leseren blir sittende tilbake med et inntrykk av at Norad ikke tar evaluering på alvor, at dette er hva den svenske riksrevisjonen i sin rapport om bistandsevaluering kaller «rituell flaggvifting».

Årets rapport tar mål av seg å spore bistanden gjennom det internasjonale bistandssystemet, for å finne ut hvilke kanaler som er mest effektive – nasjonale, overnasjonale eller frivillige. Dette er en prisverdig oppgave. Det er et av de store spørsmålene innen bistandsevaluering. Mest fordi det er så krevende å skaffe til veie relevante data. Spørsmålet innbyr til gjennomgripende kvantitativ komparativ analyse: tall og fakta. Det blir tidlig klart at Norad ingenlunde har tenkt å basere seg på forskning, men snarere på «erfaringsbasert kunnskap» som er et annet ord for løst fundert synsing.

Det blir tidlig klart at rapporten har lovet mer enn den har tenkt å holde. Det er ingen nødvendig forbindelse mellom spørsmålene som stilles og svarene som gis – det er ingen kausal forbindelse mellom avhengig og uavhengig variabel, som det heter på fagspråket. I stedet for en analyse av hvor pengene gikk, blir leseren servert en rekke «antakelser» som deretter «testes». Hvor disse antagelsene kommer fra bryr ikke forfatterne seg med å forklare. De nøyer seg med å hevde at «blant folk som jobber med bistand er det en del antagelser om hva som virker og hva som ikke virker».

Tesene er formulert på en måte som gjør det umulig å avkrefte eller bekrefte dem. Fordommene testes mot erfaringsbasert kunnskap fra tre land og kommer fram til at det er «ingen snarveier til resultater», som også er rapportens tittel. Datagrunnlaget er så åpenbart sviktende at funnene ikke har noen verdi. Resultatet er at rapporten påstår å ha testet noe man ganske enkelt ikke har testet. Derfor ville evalueringsrapporten trolig strøket dersom den hadde blitt levert inn som masteroppgave ved et universitet.

Konklusjonen «at ikke en bistandskanal eller en partner systematisk gir bedre resultater enn andre» er like gyldig eller ugyldig som enhver annen konklusjon. Konklusjonen er så bekvem at man kan mistenke at man kom på plass før studien. Det minner – for å igjen sitere den svenske riksrevisjonen — mistenkelig om «bruk av evaluering for å rettferdiggjøre beslutninger som alt er tatt».

For dem som ikke kjenner norsk bistand innenifra: Et av de største problemene med dagens norske bistandspolitikk er at norsk bistand har fått vokse i alle retninger til dagens situasjon hvor over 130 organisasjoner virker i over 100 land. Resultatrapportenes manglende evne til å beskrive helheten viser at norske myndigheter har mistet oversikten. Behovet for fokusering og restrukturering er skrikende, noe Norad kun erkjenner i dulgte hentydninger.

Heller ikke i år får vi presentert den bebudede oversikten over Norsk bistand. I stedet er et par enkeltland evaluert (Nepal, Mosambik og Sør-Sudan). Utvalget synes tilfeldig, det gjøres ikke noe forsøk på å forklare hvorfor nettopp disse områdene ble valgt. Praksisen vekker minner om da Verdensbankens Afrika-avdeling på 1990-tallet nektet å oppgi vekstrater fordi et vektet gjennomsnitt ville reflektere den svake utviklingen i de største landene (Nigeria, Kongo og Etiopia) – man valgte derfor å snakke om utvikling i en «typisk økonomi».

Slik den står, holder ikke evalueringsrapporten det den lover. Den gir ikke noen ide om effektiviteten av norsk bistand – til det er mangler datagrunnlag og kontekst. Brokkene som presenteres er alle kvalitative i et felt hvor kvantitative analyse er ønskelig og mulig. Det kan virke som at denne rapporten er skrevet helt uten hjelp av statsvitere, historikere eller økonomer. Teksten er preget av gjennomgående svak språkføring og irriterende omtrentlighet omgang med fakta av typen «rundt tjue milliarder».

Da den svenske riksrevisjonen nylig gjennomførte en inngående granskning av Norads søsterorganisasjon SIDA, bemerket man at det ikke synes å ha nådd fram at «själva syftet med intern kontroll er jo att skydda mot fell». Dette poenget har tydeligvis heller ikke nådd fram til Norad hvor resultatrapporten enøyd fokuserer på positive effekter av norsk bistand, mens negative erfaringer underrapporteres.

Dette peker på det hovedpoenget, nemlig at evalueringsrapporten burde ha vært skrevet på engelsk – av noen andre enn Norad. Den burde ha blitt skrevet av en ekstern evalueringsinstans som ikke er avhengig av Norads velvilje i framtiden. I så måte vil Norad gjøre klokt i å ta et blad ut av svensk, britisk, dansk, eller verdensbankens evalueringspraksis. Som utviklingsminister Erik Solheim nylig konstaterte i en TV-debatt om rettferdig handel - alle må venne seg til ekstern evaluering