Bør vi forby KI-bilder i markedsføring?

Anika Turcotte
Anika Turcotte
Falske influensere og KI-genererte reklamekampanjer forvrenger virkeligheten og skaper en fattig visuell fremtid, skriver Ole Magnus Kinapel.
Sjanger Dette er et debattinnlegg. Meninger og analyser er av skribentens egne.
Saken er KI-bilder inntar markedsføringen.

WordPress database error: [Unknown column 'wp_qee9g7q8l8_adrotate.os_other' in 'where clause']
SELECT `wp_qee9g7q8l8_adrotate`.`id`, `title`, `bannercode`, `image`, `tracker`, `show_everyone`, `weight`, `crate`, `irate`, `budget`, `cities`, `countries`, `wp_qee9g7q8l8_adrotate_linkmeta`.`group` FROM `wp_qee9g7q8l8_adrotate`, `wp_qee9g7q8l8_adrotate_linkmeta` WHERE ( `wp_qee9g7q8l8_adrotate_linkmeta`.`group` = 2) AND `wp_qee9g7q8l8_adrotate_linkmeta`.`user` = 0 AND `wp_qee9g7q8l8_adrotate`.`id` = `wp_qee9g7q8l8_adrotate_linkmeta`.`ad` AND `wp_qee9g7q8l8_adrotate`.`desktop` = 'Y' AND `wp_qee9g7q8l8_adrotate`.`os_other` = 'Y' AND (`wp_qee9g7q8l8_adrotate`.`type` = 'active' OR `wp_qee9g7q8l8_adrotate`.`type` = '2days' OR `wp_qee9g7q8l8_adrotate`.`type` = '7days') GROUP BY `wp_qee9g7q8l8_adrotate`.`id` ORDER BY `wp_qee9g7q8l8_adrotate`.`id`;

Influenseren Aitana Lopez har 133.000 følgere på Instagram og tjener mellom 3.000 og 10.000 dollar i måneden. Men Aitana eksisterer kun på skjermen.

Det er det spanske byrået The Clueless Agency som står bak Aitana. Grunnleggeren av firmaet Rubén Cruz, forteller til Euro News at ideen kom i fjor sommer, da det skortet på kunder.

Ofte ble prosjekter satt på vent eller avblåst på grunn av utfordringer med influensere eller modeller. Nå møtes byrået en gang i uken og blir enige om hva Aitana skal gjøre, hvilke konserter hun skal gå på og hva hun skal dele fra sitt liv som kunstig influenser. Suksessen har inspirert byrået til å lage enda en influenser kalt Maia.

Men det ser ikke ut til å ringe i noen etiske bjeller hos The Clueless Agency når de skaper falske personer som utgir seg for å være ekte. Aitana er lettkledd, seksualisert og ofte urealistisk perfeksjonert. Kjøper man tilgang til Aitanas private kanaler, får man dessuten se henne uten en eneste KI-generert tråd.

Annonse

Slike kunstige modeller kan bidra til urealistiske forventninger om eget og andres utseende blant unge. Særlig når det ikke oppgis at bildene er falske. Aitana har på få måneder vervet over 133.000 følgere, og det er neppe på grunn av interessante bildetekster.

Les også: KI kommer for å ta oss. Det er bare å åpne armene!

Bekymringsløs bruk av KI

På nettet florerer det med KI-generert innhold, og det blir stadig vanskeligere å skille det virkelige fra det genererte.

Falskt innhold brukes i propaganda i krig og i markedsføring for norske bedrifter. Som da Sparebank 1 Østlandet brukte et KI-generert ansikt i en sparekampanje og med overlegg unnlot å oppgi at mannen på bildet ikke eksisterte.

KI-juks er med andre ord ikke bare et spansk problem. Sparebank 1 Østlandet er bare én av flere norske bedrifter som bekymringsløst velger å gi jobber som skulle gått til fotografer og illustratører, til dataprogrammer som er trent opp på arbeidene til nettopp fotografer og illustratører.

Nylig rapporterte TV2 at den ideelle organisasjonen Dråpen i havet har brukt et KI-generert bilde av barn i en flyktningleir som feirer Halloween. For å skåne de virkelige barna. Både digitaliseringsminister Karianne Tung og KI-forsker Inga Strümke applauderer kampanjen, og mener det er god bruk av kunstig intelligens. Her har man både spart de ekte barna for eksponering og merket bildet som KI-generert. Man har ikke prøvd å lure noen. Som Inga Strümke sier: «Velkommen til fremtiden. Dette er bare å venne seg til.»

Men selv om bildet er merket som skapt med kunstig intelligens, fordreier denne typen innhold virkeligheten og gir oss falske inntrykk av hvordan verden ser ut. Teksten i hjørnet er det heller ikke nødvendigvis gitt at man får med seg når man skroller gjennom nyhetsstrømmen. Vi bruker som kjent bare sekunder på hvert innlegg, og er det noe vi husker fra strømmen av innhold, er det kanskje heller bildet og budskapet enn notisen om hvordan bildet ble til.

Les også: Kunstig intelligens kan knuse karakterskalaen

Bilder mister sin verdi

På spørsmål om hvorfor influenseren Aitana er så lettkledd, svarer byrået at de responderer på en estetikk som allerede er etablert av merker og influensere.

De anser seg som et symptom på en allerede eksisterende kultur. Til sammenligning virker det som at enkelte norske bedrifter anser det som deres ansvar å bruke KI på en etisk forsvarlig måte. Men etter en tid med oversvømmelse av falskt innhold kan visuell kommunikasjon miste slagkraft. Vi mister tillit til det vi ser når vi ikke lenger kan skille mellom det falske og det ekte.

Dessuten blir innholdet ofte generisk, stereotypisk og kjedelig siden modellene reproduserer materiale som allerede eksisterer. Det kommer til å bli en kjedelig visuell fremtid om vi velger å ofre de flinke folkene til fordel for kunstig intelligens og prompt-skrivere. De er bekymringsfullt å se at store bedrifter glemmer de etiske aspektene.

Oppsidene er store, skal vi tro KI-optimistene. Men det er ofte én ting som glemmes når man sammenligner kvantespranget vi står oppe i, med den industrielle revolusjon, og hevder at selv om kostnaden er stor, vil gevinsten være større: Tidligere teknologiske nyvinninger ble ikke allemannseie over natta.

Nå kommer enormt kraftige verktøy på løpende bånd og havner rett i lommene våre. Vi bør med andre ord være svært forsiktig med hva vi tillater av bruk av kunstig intelligens redaksjonelt og i markedsføring, uansett hvor god intensjonen er.

Dette er tross alt segmenter vi kan regulere.

Liker du det du leser?

Da kommer du til å elske Subjekt Pluss!
Det er ingen bindingstid.

Bli abonnent!
– Jeg abonnerer på Subjekt fordi de er uredde og dedikerte i dekningen av kunst og kultur. Leser jeg Subjekt, vet jeg hva som skjer.


Trine Skei Grande
Tidl. kulturminister (V)
– Jeg abonnerer på Subjekt fordi de tar opp ting jeg ikke visste at jeg var interessert i. Dessuten er det et nydelig sted å holde seg oppdatert på hva som foregår i kulturnorge.


Jonis Josef
Komiker
– Jeg abonnerer på Subjekt fordi de tar samtiden på pulsen, våger å utfordre kulturlivets indre maktkonstellasjoner og dermed til gagns viser at heller ikke kultur er noen søndagsskole.


Agnes Moxnes
Presseveteran
– Jeg abonnerer på Subjekt fordi jeg ble rasende hver gang de sakene jeg ville lese var bak betalingsmur. Som abonnent ble jeg kvitt det raseriet, men ble til gjengjeld rammet av et nytt raseri. Over norsk kulturliv.


Harald Eia
Sosiolog
– Jeg abonnerer på Subjekt fordi de har vist en sjokkerende evne til å være først på ballen med nyheter i mange av de viktigste og mest brennbare kulturpolitiske debattene i vår tid.


Mímir Kristjánsson
Stortingsrepresentant (R)
– Jeg abonnerer på Subjekt fordi avisen tar opp mange interessante temaer, og som leser får jeg bedre innblikk i hva som skjer på kunst- og kulturfeltet.


Sarah Gaulin
Generalsekretær i LIM
– Jeg abonnerer på Subjekt fordi de har utviklet seg til å bli en kulturaktør å regne med. Avisen holder deg oppdatert på kulturfeltet, og er en verdifull kanal for publisering.


Janne Wilberg
Oslos byantikvar