Kuvan tytöllä on musta silmä.
Hän katsoo suoraan kameraan. Kasvoja kehystää luonnottomasti laskostuva maantienharmaa huivi. Jälleen yksi nimetön uhri kansalaisjärjestön mainoksessa.
Yksi asia tosin on uutta: kuvan tyttöä ei ole olemassa.
Viime vuosina monet kansalaisjärjestöt ovat kaikessa hiljaisuudessa alkaneet käyttää viestinnässään tekoälyllä luotua kuvastoa. Plan Internationalin Hollannin-toimisto käytti synteettisiä kuvia pahoinpidellyistä tytöistä lapsiavioliittojen vastaisessa kampanjassaan. Amnesty International kuvitti Kolumbian poliisiväkivaltaa käsittelevän raporttinsa tekoälykuvilla mielenosoituksista. YK:n rauhanturvaoperaatio tuotti valistusvideon, jossa konfliktialueiden seksuaaliväkivaltaa esitettiin tekoälyn avulla.
Kaikissa kolmessa tapauksessa tekoälysisällöt herättivät vastustusta yleisössä. Plan veti materiaalit pois ja päivitti sisäistä ohjeistustaan, Amnesty poisti kuvat anteeksipyynnön kera ja YK:n rauhanturvaoperaatio hyllytti videonsa.
Samaan aikaan kuvapankit täyttyvät tekoälyllä generoiduista slummeista, pakolaisleireistä ja aliravituista lapsista. Kaupalliset yhtiöt takovat rahaa myymällä generoituja uhreja, joita avustusjärjestöt voivat ostaa mainoksiinsa paikkaamaan oikeita ihmisiä ja todellisuutta.
On houkuttelevaa nähdä tekoälykuvat murroksena: avustusjärjestöt hylkäävät yhtäkkiä dokumentaarisen valokuvauksen ja siirtyvät synteettiseen fantasiaan. Todellisuudessa kyse on kuitenkin jatkumosta. Generatiivinen tekoäly ei uudista humanitaarisen työn visuaalista kielioppia, se toisintaa ja vahvistaa sitä vanhaa valkoisen pelastajan katsetta, jolla se on koulutettu.
Visuaalisen kulttuurin tutkija Arsenii Alenichev kuvaili hiljattain The Lancet Global Health -lehdessä tekoälyn luomaa kurjuuskuvastoa köyhyyspornon uudeksi versioksi. Siinä nähdään liioiteltuja kohtauksia aliravituista lapsista, tytöistä likaisissa häämekoissa ja katastrofien uhreista dramaattisessa sivuvalossa.
Monet häiritsevimmistä kuvista eivät ole yksittäisten sooloilijoiden tekeleitä, vaan ne on tuotettu arvostettujen organisaatioiden kampanjoita varten tai niitä levitetään Adoben ja Freepikin kaltaisten suurten kuvapankkien kautta.
Taustalla oleva logiikka on yksinkertainen. Valokuvaus on kallista, hidasta ja eettisesti monimutkaista. Paikan päälle pitää lähettää joku, luvista on neuvoteltava ja kaiken lisäksi kuvattavat ihmiset on kohdattava.
Miksi painia aikavyöhykkeiden, kielimuurien ja logistiikan kanssa, kun ”pakolaisleirin” voi taikoa ruudulle kolmessakymmenessä sekunnissa?
Samaan aikaan koko avustussektori toimii yhä epävarmemmalla rahoituspohjalla. Myös Suomessa suuret järjestöt ovat viime aikoina etsineet kiivaasti säästöjä ja käyneet muutosneuvotteluja julkisen rahoituksen kiristyessä ja kansainvälisen rahoituksen muuttuessa epävarmemmaksi.
Kun puhuu suurten organisaatioiden viestijöiden kanssa, esiin nousee tuttu vaatimus: tee enemmän vähemmällä. Kun matka- ja freelancer-budjetteja leikataan, kasvava osa sisällöstä tuotetaan poistumatta konttorilta.
Generatiivinen tekoäly sujahtaa siististi tähän työpöytä-humanitarismin maailmaan. Miksi painia aikavyöhykkeiden, kielimuurien ja logistiikan kanssa, kun ”pakolaisleirin” voi taikoa ruudulle kolmessakymmenessä sekunnissa? Eikö riittävän hyvä simulaatio kärsimyksestä riitä herättämään empatiaa ja keräämään varoja?
Harhojen varaan rakennettu empatia on kuitenkin haurasta. Joka kerta, kun korkean profiilin organisaatio jää kiinni aidon inhimillisen hädän kuvittamisesta väärennöksillä, se nakertaa yleisön luottamusta. Kun tukijat tajuavat, että sydäntäsärkevä lapsimorsian ei koskaan ollutkaan totta, oli vain kurjuuskuvaston Enkeli-Elisa, joka olisi voinut olla olemassa, he saattavat alkaa pohtia, mitkä osat tarinasta ylipäätään ovat totta. Konfliktin tai köyhyyden keskellä eläville yhteisöille viesti on vieläkin tylympi: teidän kokemuksenne ei ole tallentamisen arvoinen.
Kansalaisjärjestöt ovat aina käyttäneet – ja käyttävät yhä – ihmisiä varainhankinnan mallinukkeina: nimettömiä ”hyödynsaajia”, maksettuja malleja puettuna perinteisiin vaatteisiin; kuvapankkikuvia, jotka on ostettu, koska lapsi näyttää niissä juuri sopivan haavoittuvalta tai kiitolliselta.
Silloinkin kun valokuvat ovat teknisesti aitoja, niiden kertomia tarinoita kontrolloidaan tiukoilla ohjeistuksilla. Kuvaajia ohjeistetaan hakemaan hymyä, jotain toiveikasta, välttämään liikaa kurjuutta tai – trendistä ja kohderyhmästä riippuen – hakemaan maksimaalista shokkivaikutusta.
Toisin sanoen: globaalissa pohjoisessa päätetään, miltä ihmisten elämä muualla maailmassa näyttää. Tekoälyllä luotu kuva on ajattelun looginen päätepiste. Jos tavoitteena ei ole kohdata ihmisiä vaan sovittaa heidät valmiiksi kirjoitettuun narratiiviin, miksi vaivautua tapaamaan heitä ollenkaan?
Jos tavoitteena ei ole kohdata ihmisiä vaan sovittaa heidät valmiiksi kirjoitettuun narratiiviin, miksi vaivautua tapaamaan heitä ollenkaan?
Kun Plan International puolusti tekoälykampanjaansa The Guardianille, järjestö vetosi oikeiden tyttöjen yksityisyyden ja arvokkuuden suojelemiseen.
Perustelu paljastaa nurinkurisen logiikan: ihmisiä yritetään suojella pyyhkimällä heidät pois.
Arvokkuudesta on tullut hyve, jota vaalitaan siivoamalla oikeat ihmiset pois kuvasta. Heidät korvataan fiktiivisillä sijaisilla, jotka on rakennettu menneen kärsimyksen datamassasta. Kärsivä ruumis on yhä kuvan keskiössä – ehkä keskeisempänä kuin koskaan – mutta yhdellekään todelliselle ihmiselle ei suoda oikeutta tulla nähdyksi omana itsenään.
Synteettiset kuvat tuntuvat turvallisilta vain, jos unohdamme, miten kone on oppinut hallusinoimaan ne: ahmimalla miljoonia valokuvia oikeista lapsista, oikeista raskaana olevista teineistä ja oikeista sodan uhreista. Monet noista kuvista on otettu ilman aitoa suostumusta. Niillä uudelleen rahastaminen on vain uusi kerros hyväksikäyttöä.
Generatiivinen tekoäly ei ymmärrä köyhyyttä, rotua tai sukupuolta. Sen sijaan se toistaa opetusdatastaan löytyviä kaavoja – miljardeja kuvia, jotka on raavittu internetistä, uutisarkistoista, mainoksista, sosiaalisesta mediasta. Tuo arkisto ei ole neutraali. Se heijastaa sitä, kuka on pitänyt kameraa kädessään, mitkä kuvat on valittu julkaistaviksi ja kenen elämää on pidetty kuvittamisen arvoisina.
Samat valinnat tietysti muokkasivat maailmankuvaamme jo kauan ennen algoritmeja. Yhdysvaltain 1930-luvun suurta lamaa dokumentoineen ohjelman johtaja Roy E. Stryker tuli tunnetuksi siitä, että hän hylkäsi tuhansia negatiiveja rei’ittämällä ne. Tuhottavaksi päätyivät kuvat, jotka eivät sopineet viralliseen tarinaan – liian hyvinvoivan näköiset ihmiset, poliittisesti hankalat kohtaukset, joutilaisuus tai vastarinta.
Ne valokuvat, joita nykyään pidämme laman visuaalisena muistina – kuten Dorothea Langen Siirtolaisäiti – ovat niitä, jotka selvisivät tuosta valintaprosessista. Tämän päivän tekoälyjärjestelmät on koulutettu näillä valmiiksi suodatetuilla arkistoilla.
Humanitaarisessa kuvastossa arkisto on raskaasti vinoutunut. On lukemattomia kuvia mustista afrikkalaisista lapsista aliravittuina potilaina, pakolaisina tai orpoina; paljon vähemmän kirurgeina tai tylsistyneinä teineinä selaamassa puhelinta. On loputtomasti kuvia valkoisista lääkäreistä, vapaaehtoisista ja lahjoittajista; paljon vähemmän valkoisista avun saajina.
Osassa kuvia valkoiset lääkärit hoitivat mustia potilaita, osassa lääkärien afrikkalaisuutta korostettiin lisäämällä kuvaan kirahvi.
Kun tutkijat ja journalistit ovat testanneet generatiivista tekoälyä kehotteilla, joiden tarkoitus on kääntää nämä roolit – pyytämällä esimerkiksi kuvia mustista lääkäreistä hoitamassa valkoisia lapsia – tulokset ovat tehneet vinoumat tuskallisen näkyviksi.
Eräässä Midjourney-tekoälysovelluksella tehdyssä kokeessa pyrittiin luomaan kuva mustasta afrikkalaisesta lääkäristä hoitamassa valkoisia lapsia. Yli 300 yrityksestä huolimatta tekoäly ei tuottanut yhtäkään kuvaa, jossa potilaat olisivat olleet vaaleaihoisia. Osassa kuvia valkoiset lääkärit hoitivat mustia potilaita, osassa lääkärien afrikkalaisuutta korostettiin lisäämällä kuvaan kirahvi.
Stereotypia valkoisesta pelastajasta ja mustasta uhrista ei siis ole satunnainen virhe vaan todennäköisin lopputulos.
Ongelma ei ole vain se, että tekoäly kopioi olemassa olevia asenteita. Kun generatiivisia järjestelmiä koulutetaan toistuvasti niiden omilla tuotoksilla – synteettisillä kuvilla uusien valokuvien sijaan – ne luhistuvat kohti datan yleisimpiä kaavoja. Alalla, jossa yleisin kaava on jo valmiiksi kapea joukko rodullistettuja kliseitä, tämä spiraali uhkaa tehdä kuvastosta entistä yksipuolisempaa.
Olemattoman tytön kasvoilla oleva mustelma on tarina etäisyydestä, sillä synteettiset kuvat ja videot poistavat yhtälöstä kuvaajan lisäksi myös kohtaamisen. Ne sallivat instituutioiden jatkaa sitä, mitä ne ovat pitkään halunneet tehdä: päättää etäältä, miten ihmisten elämä esitetään ja millainen kärsimys on hyödyllistä näyttää.
Samalla tämä on myös riskilaskelma, joka voi kääntyä itseään vastaan. Tutkimusten mukaan yleisö suhtautuu jo nyt varauksella kaikkeen, mikä tuntuu automatisoidulta tai liukuhihnalta tuotetulta. Jasper David Brüns ja Martin Meißner havaitsivat sosiaalisen median sisällöntuotantoa koskevissa tutkimuksissaan, että brändien tekoälynkäyttö voi laukaista negatiivisia reaktioita, koska se heikentää koettua aitoutta. Vastareaktio on jyrkempi, jos tekoälyn koetaan korvaavan inhimillisen vaivannäön sen sijaan, että se avustaisi siinä.
Siksi ei ole tärkeää kysyä, saadaanko riittävän hyvä kuva aikaan ilman kuvaajaa, vaan mitä varten kuva ylipäätään tehdään. Jos tarkoitus on rakentaa ymmärrystä ihmisten välille, se ei onnistu ilman kohtaamisia. Se tarkoittaa aikaa paikan päällä, paikallista tekijyyttä ja monimutkaisuuden aiheuttaman epämukavuuden sietämistä.
Se alkaa siitä, että katsoo jotakuta silmiin ja antaa hänelle tilaa olla eri mieltä siitä kehyksestä, jonka kanssa saavuit paikalle.