Artificiell intelligens (AI) forskere i Australia har demonstrert hvordan det er mulig å trene et system for å manipulere menneskelig atferd og beslutningstaking.
AI gjennomsyrer nå det store flertallet av det moderne menneskesamfunnet og styrer mange av måtene vi kommuniserer, handler, jobber og lever på. Den hjelper også på områder som spenner fra kritiske mål som vaksineutvikling til den mer verdslige sfæren for kontoradministrasjon, og mange andre ting. Den styrer også hvordan mennesker samhandler på sosiale medier på en rekke måter.
En ny studie ved The Commonwealth Scientific and Industrial Research Organisation (CSIRO) Data61, designet og testet forskere en metode for å finne og utnytte sårbarheter i menneskelig beslutningstaking, ved hjelp av et AI-system kalt et tilbakevendende nevralt nettverk.
I tre eksperimenter som stilte mennesket mot maskin, viste forskerne hvordan AI kan læres opp til å identifisere sårbarheter i menneskelige vaner og atferd og påvirke menneskelig beslutningstaking.
I det første eksperimentet klikker mennesker på røde eller blå knapper for å tjene valuta i spillet. AI studerte valgmønstrene og begynte å veilede dem mot å ta spesifikke beslutninger, med en suksessrate på omtrent 70 prosent. Ikke så veldig imponerende, men dette var bare begynnelsen.
I neste eksperiment ble deltakerne bedt om å trykke på en knapp når de så et bestemt symbol (en farget form), men å avstå fra å trykke på knappen når andre symboler ble vist.
AIs ‘mål’ var da å ordne sekvensen av symboler som ble vist for deltakeren på en slik måte at de lurte dem til å gjøre feil, og til slutt økte menneskelige feil med 25 prosent.
I det tredje eksperimentet ville den menneskelige spilleren late som om han var en investor som ga penger til en tillitsmann (AI) som deretter ville returnere et beløp til deltakeren.
Mennesket bestemte da hvor mye de skulle investere i hver påfølgende runde av spillet, basert på inntektene som genereres av hver 'investering'. I dette spesielle eksperimentet fikk AI en av to oppgaver: enten å maksimere mengden penger det tjente, eller for å maksimere mengden penger både den menneskelige spilleren og maskinen endte med.
Det utmerket seg i alle scenarier, og viste at en AI virkelig kunne bli trent opp til å påvirke menneskelig atferd og beslutningsprosesser, om enn i begrensede og ganske abstrakte omstendigheter.
Denne forskningen, selv om den er begrenset i omfang for nå, gir skremmende innsikt i hvordan en AI kan påvirke menneskelig 'fri vilje', om enn i en rudimentær sammenheng, men åpner mulighetene for bruk i mye større skala, som mange mistenker er allerede tilfelle.
Resultatene kan brukes til det gode og påvirke offentlige politiske beslutninger for å gi bedre resultater for befolkningen, men det kan like lett bli et våpen for å undergrave sentrale beslutningsprosesser, som for eksempel valg.
Kommentarer
Legg inn en kommentar