Onderzoek naar AI in de schijnwerpers

Kunstmatige intelligentie (AI) is meer dan een reeks technologieën. AI zal een diepgaande invloed hebben op burgers en samenlevingen, en deze op zowel wenselijke als op onwenselijke manieren veranderen. Het FMG-platform Citizens, Society and Artificial Intelligence (CiSAI) brengt onderzoekers uit de sociale en gedragswetenschappen bij elkaar die de invloed van AI op de maatschappelijke dynamiek en op het leven van individuele burgers analyseren. In de reeks ‘Onderzoek naar AI in de schijnwerpers’ stellen wij onze deskundigen voor die deze thema’s bestuderen.

Carolin Ischen is promovendus bij de groep Persuasieve communicatie en het Digital Communication Methods Lab van de afdeling Communicatiewetenschap aan de Universiteit van Amsterdam. Ze bestudeert het overtuigingspotentieel van AI-gestuurde media, in het bijzonder chatbots. 'Door chatbots verandert onze mediaomgeving en verplaatst ook het terrein van de communicatiewetenschap zich van computergemedieerde communicatie naar mens-machinecommunicatie. Ook in mijn onderzoek bestudeer ik technologie als communicator en de interactie tussen mens en computer', legt Ischen uit.

In haar onderzoek richt Ischen zich op chatbots die producten of diensten aanbevelen, zoals een recept of een verzekering, en hoe onze beleving van AI en ervaring met deze niet-menselijke assistenten ons gedrag beïnvloeden. 'Mensen hebben de neiging om op computers ongeveer net zo te reageren als op mensen. Ik kijk naar hoe de ervaring van mensen met chatbots samenhangen met hun beoordeling van de content en merkinformatie die de chatbots hun aanbevelen. Welke elementen overtuigen gebruikers om een aanbeveling op te volgen?', voegt Ischen toe.

‘Prettig gevoel’ als belangrijkste mechanisme

In een eerste experiment vergeleken Ischen en haar collega’s de effecten van interactie met een stand-alone chatbot versus die met traditionele interactieve websites. Met behulp van op maat gemaakte websites en virtuele assistenten vroegen zij een representatieve steekproef van de Nederlandse bevolking om interactie met de chatbot of met de interactieve website aan te gaan om een aanbeveling voor een zorgverzekering te ontvangen. Na afloop moesten de deelnemers een enquête invullen om de ervaring te evalueren: Hoe mens- of machineachtig vonden ze de assistent? Hoe prettig vonden ze de interactie? Zouden ze het aanbevolen merk kopen?

‘Een prettig gevoel’ over de interactie met chatbots bleek een positief effect te hebben ten opzichte van websites: de interactie met een stand-alone chatbot leidde tot prettigere gebruikerservaringen, die zich vervolgens vertaalden in een hogere neiging het aanbevolen merk te kopen. Maar in tegenstelling tot wat de onderzoekers verwachtten, bleek het toeschrijven van mensachtige kenmerken aan chatbots hierin geen relevante rol te spelen. ‘Waarschijnlijk was het slechts presenteren van een chatbot als de bron van communicatie, zoals in deze studie gebeurde, niet voldoende om de chatbot mensachtiger te maken’, vermoedt Ischen.

Mensen delen meer informatie met ‘mensachtige chatbot’

Ischen onderzoekt ook het verband tussen ‘bezorgdheid over privacy’ en interacties met chatbots. ‘Privacy zorgen in een online (website-)context worden op grote schaal bestudeerd, maar onderzoek in de context van chatbot-interactie blijft nog achter.’ Ischen bestudeerde of mensen meer of minder zorgen over privacy hebben als ze een chatbot mensachtige eigenschappen toeschrijven, en of dit invloed heeft op de informatie die zij prijsgeven en de mate waarin zij aanbevelingen opvolgen. Haar bevinding is dat mensen zich minder zorgen maken over privacy en meer informatie aan chatbots prijsgeven als ze chatbots als meer mensachtig ervaren, wat er vaak toe leidt dat ze ook de aanbeveling opvolgen.

Ischen noemt de studie van chatbots in consumenteninteractie belangrijk in het licht van de bewustwording en mondigheid van de consument. ‘Als consumenten moeten we bewust zijn dat wat chatbots ons meedelen niet neutraal of onbevooroordeeld is. Zijn wij als consumenten voldoende geïnformeerd over hoe deze technologie werkt en hoe wij deze veilig kunnen gebruiken? Wat voor regelgeving is er nodig voor AI-gestuurde advertentiepraktijken?’

Wil je meer weten over onderzoek naar chatbots?

• Ischen, C., Araujo, T. B., van Noort, G., Voorveld, H. A. M., & Smit, E. G. (2020). “I am here to assist you today”: De rol van entiteit, interactiviteit en ervaringspercepties in chatbot-overtuiging. Journal of Broadcasting and Electronic Media, 64(4), 615-639.
• Ischen, C., Araujo, T., Voorveld, H., van Noort, G., & Smit, E. (2020). Privacy concerns in chatbot interactions. In A. Følstad, T. Araujo, S. Papadopoulos, EL-C. Law, O-C. Granmo, E. Luger, & P. B. Brandtzaeg (Eds.), Chatbot Research and Design: Derde internationale workshop, CONVERSATIONS 2019, Amsterdam, Nederland, 19-20 november 2019: revised selected papers (pp. 34-48). (Lecture Notes in Computer Science; Vol. 11970).

Of bekijk het werk dat wordt verricht in het Digital Communication Methods Lab