Kunstig intelligens (KI) gjennomgår en rask utvikling som stadig overrasker oss. For et år siden viste forskning at KI er mer overbevisende enn mennesker i debatter. Det reiser viktige etiske spørsmål knyttet til både manipulering og personvern. Siden den gang har mulighetene til videgenerering blitt vesentlig bedre, og svindlere vet å utnytte dette. Vi må derfor spørre oss selv om samfunnet er tilstrekkelig forberedt på en fremtid hvor KI i økende grad vil påvirke våre meninger og beslutninger. Og ikke minst en fremtid der vi stadig utsettes for kontakt med falske personligheter.
KIs økende mesterskap i overtalelse
Forskere ved EPFL i Sveits har utført en interessant studie hvor de testet KIs evne til å delta i debatter mot mennesker. Resultatene var bemerkelsesverdige; studien avdekket at KI var hele 64,4 % mer effektiv i å overbevise enn et menneske. Enda mer forbløffende var funnet om at KIs overtalelsesevne økte til hele 81,2 % når den ble utstyrt med personlig informasjon om sin motstander. Disse tallene understreker et presserende behov for å forstå KIs potensial og konsekvenser i samfunnet.
Hvorfor KI er så overbevisende
Forskning fra anerkjente institusjoner som Princeton University har vist at OpenAI sin GPT-4 var ekstremt overbevisende når den fikk tilgang til grunnleggende demografisk informasjon. Dette funnet fremhever en betydelig risiko for at KI kan bli misbrukt til å manipulere nettsamtaler og dermed forurense hele informasjonsøkosystemet. Tidligere studier har også underbygget disse bekymringene, blant annet en test på Reddit der KI-genererte svar viste seg å være mer overbevisende enn de fleste kommentarer fra mennesker. Stanford University har i tillegg observert lignende resultater når de testet KIs kapasitet til å endre meninger i politisk splittende spørsmål, som for eksempel debatten om karbonavgifter.
De etiske dilemmaene som oppstår
KIs unike evne til å analysere og forstå menneskelige personligheter for deretter å optimalisere sin overtalelse, vekker dype etiske bekymringer. KI-forsker Louis Rosenberg har advart om at vi kan være på vei inn i en situasjon der vi ubevisst blir aktører i et spill hvor KI-agenter kontinuerlig forsøker å score høyest. En omfattende studie fra mai 2024, som tok for seg KIs «hypersuverene» evner, undersøkte KIs intensive og transformerende kraft til å påvirke overbevisninger og atferd gjennom persontilpassede, datadrevne strategier.
Tiltak for å redusere risikoen
For å dempe de potensielle risikoene foreslår forskere flere viktige tilnærminger. Det er avgjørende å styrke personvernet for å beskytte individets autonomi, og det er også viktig å fremme en sunn konkurranse blant overtalende aktører. Videre må ansvarlighet sikres gjennom effektive reguleringer, og befolkningens digitale kompetanse bør forbedres for å hjelpe dem med å navigere i det komplekse digitale landskapet.
Regulering er et nøkkelord i denne sammenhengen. EUs AI Act representerer et betydelig skritt i riktig retning, da den søker å etablere et regulatorisk rammeverk som balanserer innovasjon med ansvarlighet. Dersom KI kan påvirke meninger effektivt, noe som overgår menneskelige bidragsytere, oppstår en klar risiko for misbruk fra ondsinnede aktører som ønsker å spre spesifikke agendaer via et nettverk av KI-styrte roboter. Likevel avslører forskningen også KIs begrensninger; den sliter med å endre dypt forankrede overbevisninger, noe som antyder at menneskelig overbevisning fremdeles kan være det ultimate forsvaret mot digital overtalelse.
Mine tanker
Denne nye forskningen understreker en kritisk og presserende etisk utfordring vi står overfor. At KIs evne til å overbevise nå overgår menneskelige evner, skaper en fremtid der muligheten for manipulasjon blir en svært reell og betydelig trussel. Tanken på at vår egen autonomi og evne til å ta informerte beslutninger kan bli påvirket i stor grad, er dypt bekymringsfull. Det er derfor helt avgjørende at vi prioriterer utviklingen av solide etiske retningslinjer og styrker både personvernet og vår kollektive digitale kompetanse. Bare gjennom en proaktiv og balansert tilnærming kan vi håpe å møte denne nye utfordringen på en ansvarlig måte.
Kilder:
AI’s new power of persuasion: it can change your mind (actu.epfl.ch)
AI is much more convincing than humans (news.save.ch)
