Tutkimus paljastaa ihmisten sokean luottamuksen tekoälyyn
Pelkkä usko tekoälyn apuun saa ihmiset suoriutumaan tehtävistä paremmin. Vaikutus ei katoa edes silloin, kun kuvitteellisen tekoälyn kerrotaan heikentävän suoritusta.
Uusi tutkimus osoittaa, että ihmiset suoriutuvat tehtävistä paremmin, jos he uskovat tekoälyn auttavan heitä. Tämä niin kutsuttu plasebo-vaikutus ei yllättäen katoa edes silloin, kun tekoälyjärjestelmän kerrotaan olevan epäluotettava ja jopa suoritukselle haitallinen.
Tutkijat laittoivat kaksi osallistujaryhmää tekemään yksinkertaisen tehtävän, jossa näyttöruudulle ilmestyi vaihtelevalla nopeudella kirjaimia ja nämä tuli yhdistellä pareiksi. Toiselle ryhmälle kerrottiin, että heitä avustaa tehtävässä hyväksi todettu tekoäly. Toiselle puolestaan kerrottiin taustalla pyörivästä epäluotettavasta tekoälyohjelmasta, joka heikentäisi heidän suoritustaan. Molemmat ryhmät tekivät tehtävän myös ilman tekoälyn apua.
"Kumpaakaan tekoälyjärjestelmää ei todellisuudessa ollut olemassa, vaan osallistujille vain uskoteltiin, että tekoäly auttoi heitä", kertoo väitöskirjatutkija Agnes Kloft Aalto-yliopistosta.
Tutkijoiden hämmästykseksi molemmat ryhmät suorittivat harjoituksen paremmin– eli nopeammin ja tarkkaavaisemmin – kun he uskoivat tekoälyn myötävaikuttavan suoritukseen.
"Huomasimme, että ihmisillä on erittäin korkeat odotukset näitä järjestelmiä kohtaan. Emme pysty muuttamaan heidän odotuksiaan vain kertomalla heille, että ohjelma ei toimi", sanoo apulaisprofessori Robin Welsch.
Alkuperäisten kokeiden jälkeen tutkijat vielä toistivat kokeen verkossa ja pyysivät samalla osallistujia kuvaamaan odotuksiaan ja asenteitaan tekoälyä kohtaan. Useimmat suhtautuivat tekoälyyn myönteisesti, ja yllättäen jopa muulla tavoin skeptisillä ihmisillä oli myönteisiä odotuksia tekoälyn suorituskyvystä.
Valtava haaste uusien ohjelmien todellisten hyötyjen arvioimiselle
Tulokset osoittavat, miten vaikeaa on oikeasti arvioida uusia tekoälyjärjestelmiä.
“Tämä on tutkimuksestamme kumpuava suuri oivallus: plasebo-vaikutuksen vuoksi on valtavan haastavaa arvioida, auttavatko tekoälyohjelmat meitä oikeasti", Welsch sanoo.
Vaikka suurten kielimallien kaltaiset tehokkaat teknologiat epäilemättä kykenevät parantamaan tiettyjä suorituksia, ainakin ohjelmien eri versioiden väliset vähäiset erot saattavat näyttää kokoaan suuremmilta lumevaikutuksen vuoksi. Tätä myös hyödynnetään tehokkaasti markkinoinnissa.
Tulokset valaisevat myös merkittävää haastetta ihmisen ja tietokoneen välisen vuorovaikutuksen tutkimukselle. Johtopäätösten tekeminen ilman lumevaikutuksen kontrollointia voi johtaa pahasti harhaan.
"Tutkimuksemme viittaa siihen, että monet alan tutkimukset ovat saattaneet olla vinoutuneita tekoälyjärjestelmien hyväksi", Welsch toteaa.
Tutkijat esittelevät tuloksensa maineikkaassa CHI-konferenssissa huomenna. Tutkimus on luettavissa täällä.
Avainsanat
Yhteyshenkilöt
Agnes Kloft
Väitöstutkija
agnes.kloft@aalto.fi
050 431 1648
Robin Welsch
Apulaisprofessori
robin.welsch@aalto.fi
050 433 4550
Tietoa julkaisijasta
Aalto-yliopistossa tiede ja taide kohtaavat tekniikan ja talouden. Rakennamme kestävää tulevaisuutta saavuttamalla läpimurtoja avainalueillamme ja niiden yhtymäkohdissa. Samalla innostamme tulevaisuuden muutoksentekijöitä ja luomme ratkaisuja maailman suuriin haasteisiin. Yliopistoyhteisöömme kuuluu noin 13 000 opiskelijaa ja yli 4 500 työntekijää, joista 400 on professoreita. Kampuksemme sijaitsee Espoon Otaniemessä.
Tilaa tiedotteet sähköpostiisi
Haluatko tietää asioista ensimmäisten joukossa? Kun tilaat tiedotteemme, saat ne sähköpostiisi välittömästi julkaisuhetkellä. Tilauksen voit halutessasi perua milloin tahansa.
Lue lisää julkaisijalta Aalto-yliopisto
Tutkimus: Matalan hierarkian organisaatioissa isoja periaatekysymyksiäkin ratkotaan porukalla Slackissa5.7.2024 11:37:53 EEST | Tiedote
Tutkijat selvittivät yhteisöllisen auktoriteetin toimintaa kolmessa ohjelmistoyrityksessä. Johtajat osallistuivat keskusteluihin aktiivisesti, eivätkä työntekijät arastelleet heidän haastamistaan.
Fyysikot saivat bakteerit uimaan lähes täydellisissä riveissä4.7.2024 12:16:59 EEST | Tiedote
Bakteerien ohjaaminen onnistui magneettikentän avulla. Löytö auttaa ymmärtämään bakteeripopulaatioiden käyttäytymistä ja voi jatkossa auttaa esimerkiksi kehittämään uuden sukupolven materiaaleja, joista kaavaillaan apua muun muassa lääkkeiden kohdennettuun kuljettamiseen kehon sisällä.
Tutkijat loivat ainutlaatuisen ennustemallin kuvaamaan pandemian leviämistä maiden rajojen yli3.7.2024 14:14:47 EEST | Tiedote
Pohjoismainen yhteishanke pureutui koronaviruksen leviämiseen vuonna 2020. Tutkimuksen avulla voidaan jatkossa ennakoida paremmin, milloin ja mitkä matkustusrajoitukset ovat pandemiaolosuhteissa tarkoituksenmukaisia.
Opiskelijaprojekti synnytti innovaation: Kengän sisäpohjat syntyvät muovin sijaan kompostoituvasta puuvaahdosta18.6.2024 14:00:00 EEST | Tiedote
Aalto-yliopiston opiskelijat kehittivät kestävän sisäpohjan prototyypin, joka taipuu, kestää kosteutta ja tuntuu pehmeältä ihoa vasten. Suomalainen kenkäyritys VIBAe lähtee syksyllä testaamaan materiaalia käyttäjillä.
Helsingin uusilla asuinalueilla on vähemmän kasvillisuutta kuin vanhoilla, ja se vaikuttaa hiilensidontaan sekä tulevien kesien lämpötiloihin18.6.2024 07:45:00 EEST | Tiedote
EU:n ennallistamisasetus kiinnittää huomiota kaupunkiekosysteemien viherpeitteen hyötyihin. Viherpeitteen pienenemisellä taas on merkittäviä ympäristövaikutuksia, sillä se johtaa uusilla asuinalueilla vähäisempään hiilensidontaan ja korkeampiin kesälämpötiloihin.
Uutishuoneessa voit lukea tiedotteitamme ja muuta julkaisemaamme materiaalia. Löydät sieltä niin yhteyshenkilöidemme tiedot kuin vapaasti julkaistavissa olevia kuvia ja videoita. Uutishuoneessa voit nähdä myös sosiaalisen median sisältöjä. Kaikki tiedotepalvelussa julkaistu materiaali on vapaasti median käytettävissä.
Tutustu uutishuoneeseemme