Tutkimus: Ihmisiä vaivaa "algoritmiuupumus", kun suosittelupalvelut eivät mukaudu heidän tarpeisiinsa

Arkea helpottamaan suunnitellut apurit, kuten älykaiuttimet ja suoratoistopalvelujen suosittelualgoritmit, epäonnistuvat usein tehtävässään, selviää tuoreesta suomalaistutkimuksesta. Seurauksena voi olla “algoritmiuupumus”, joka näkyy esimerkiksi loputtomana suoratoistopalvelujen selailuna tai turhautumisena, kun kodin älyassistentti ei osaakaan auttaa.

Strategiseen kuluttajaymmärrykseen keskittyneen konsulttiyhtiö Alice Labsin tekemä tutkimus selvitti, millaisia kohtaamisia ihmisillä on arjen tekoälyn kanssa. Tutkimus on osa Alice Labsin ja Helsingin yliopiston Kuluttajatutkimuskeskuksen kaksivuotista tutkimushanketta, joka toteutetaan yhteistyössä teknologiayhtiö Reaktorin kanssa. 

”Tekoälyllä varustetut arjen teknologiat pakottavat usein käyttäjänsä passiiviseen rooliin suomatta ihmisille riittäviä mahdollisuuksia ‘opettaa’ niitä. Haastattelemamme käyttäjät törmäsivät toistuvasti tilanteisiin, joissa he olisivat halunneet tuupata tekoälyä oikeaan suuntaan tai kertoa sille, että se on tehnyt virheen”, kertoo tutkija Kirsi Hantula Alice Labsistä.

”Monet kuluttajat ovat käyttäneet erilaisia tekoälyä hyödyntäviä palveluita jo yli vuosikymmenen ajan, eikä heitä ole enää yhtä helppo miellyttää. Kun palvelun algoritmi tuntuu yhä liian epätarkalta eikä sitä pysty opettamaan, ihmiset väsyvät pieleen meneviin suosituksiin tai älyassistentin toistuvasti tekemiin virheisiin. Kutsumme tilannetta algoritmiuupumukseksi: käyttäjä kokee, että todellisuus on edelleen kaukana siitä, millaista apua hän toivoisi teknologialta.”

Haasteen oivaltavat yritykset saavat etulyöntiaseman

Tutkimuksessa tunnistettiin kolme erilaista tekoälyn käyttötilannetta: passiivinen, ohjaava ja yhteistyötä tekevä. Tilanteet erosivat toisistaan sen perusteella, miten käyttäjä halusi toimia tekoälyn kanssa. Käyttötilanteen vaihtuessa sama käyttäjä halusi usein siirtyä roolista toiseen.  

Passiivisissa käyttötilanteissa ihmiset eivät halunneet olla aktiivisessa vuorovaikutuksessa tekoälyn kanssa, vaan toivoivat sen hoitavan tehtävänsä itsenäisesti. Tilanteissa, joissa kuluttajat toivoivat voivansa ohjata tekoälyä, he halusivat auttaa algoritmia esimerkiksi tekemään suosituksia, jotka sopisivat paremmin heidän senhetkisiin tarpeisiinsa. Kun kuluttajat toivoivat voivansa tehdä tekoälyn kanssa läheistä yhteistyötä, he halusivat oppia uutta sekä kehittää itseään ja tekoälyllä oli tilanteessa keskeinen rooli.

”Tutkimuksessa havaitut kohtaamiset algoritmien kanssa osoittavat, että tekoälystä on hyötyä arjessamme vain, jos se antaa meidän olla inhimillisiä olentoja. Tekoälyä kehittävien yritysten tulisi pyrkiä parantamaan entisestään käyttäjän ja järjestelmän välistä vuorovaikutusta ja tarjota työkaluja tekoälyn ohjaamiseen”, Reaktorin johtava konsultti Olof Hoverfält kuvailee. 

”Digitaalisia palveluita saatetaan usein kehittää ‘yhden koon menetelmällä’. Kokemuksemme kuitenkin osoittaa, että yksi ja sama kuluttajakin voi käyttäytyä täysin eri tavoin eri tilanteissa. Tekoälypalvelujen kehittäjät ja yritykset, jotka ymmärtävät tämän, ovat tulevaisuudessa etulyöntiasemassa.”

Hoverfältin mukaan inhimillisten vahvuuksien ja tekoälyn yhdistäminen voi tulevaisuudessa saada aikaan aidosti älykkäitä laitteita.

”Siinä onnistuakseen tarvitaan lisää vuorovaikutusta akatemian ja teknologia-alan sekä monipuolisten asiantuntijoiden välillä”, Hoverfält summaa.

Laadullisin menetelmin toteutettuun tutkimukseen haastateltiin suoratoistopalveluiden ja älyavustajien käyttäjiä Suomessa, Yhdysvalloissa ja Kiinassa. Tutkimusprojekti on saanut rahoitusta Liikesivistysrahastolta.