Nederlandse consument heeft weinig vertrouwen in organisaties die generatieve AI gebruiken

Het onderzoek ‘GenAI: What consumers want’ gaat over de sociale acceptatie van het gebruik van GenAI door bedrijven en werd gehouden onder 10.000 respondenten in tien landen, waaronder Nederland. Opvallend is de terughoudendheid van de Nederlandse respondenten. Slechts 22% van hen zou eerder iets kopen van bedrijven die GenAI gebruiken om hun producten en diensten te verbeteren, tegenover een wereldwijd gemiddelde van 43%. Ook ons enthousiasme over GenAI is relatief laag. Dit geldt voor slechts 16% van de Nederlanders, terwijl het cijfer wereldwijd maar liefst 30% is.  

Martin ter Horst, managing director van Thoughtworks Nederland en Scandinavië, legt uit: "Nederlanders zijn bovengemiddeld sceptisch over GenAI door het grotere besef van de mogelijke dataprivacy-problemen en andere ongewenste effecten en toepassingen van deze technologie. Ze vertrouwen het niet. Om die reden pleiten wij er ook voor dat consumenten, overheid en bedrijven samenwerken aan het creëren van vertrouwen door middel van wetgeving en verantwoordelijk gedrag rond AI.”

Hier volgen de belangrijkste bevindingen uit het onderzoek:

Angst voor en enthousiasme over GenAI gaan gelijk op

• 16% van de Nederlanders is enthousiast over GenAI, 49% is deels enthousiast, deels angstig. De internationale gemiddelden zijn respectievelijk 30% en 42%.
• 83% van de consumenten uit het onderzoek hoopt dat bedrijven GenAI gebruiken om innovatiever te zijn en hen beter van dienst zijn. Nederlandse consumenten die eerder iets zouden kopen bij bedrijven die GenAI gebruiken, doen dit voor meer innovatie (55%), voor een meer consistente aanpak door middel van automatisering (40%) en betere klantervaring door snellere ondersteuning (38%).
• 64% van de Nederlandse consumenten verwacht dat bedrijven technologie ethisch gebruiken bij innovatie. Wereldwijd is dat 87%.

Er moet regelgeving komen voor verantwoord gebruik van GenAI

• De meeste consumenten zien de noodzaak van wet- en regelgeving voor GenAI. Overheden moeten een cruciale rol spelen bij het ontwerp, de ontwikkeling en de inzet ervan. De overgrote meerderheid van de Nederlandse respondenten (88%) vindt dat overheidsregulering nodig is om ervoor te zorgen dat bedrijven GenAI op een verantwoorde manier gebruiken.
• Bedrijven die niet verantwoord en ethisch omgaan met GenAI, kunnen volgens 91% van de Nederlanders mogelijk problemen verwachten, bijvoorbeeld met wet- en regelgeving (67%) of reputatieschade (68%).
• Bedrijven moeten transparant zijn over het gebruik van GenAI, anders lopen ze het risico om klanten te verliezen. De meeste Nederlandse consumenten (80%) geven de voorkeur aan bedrijven waarbij transparantie en rechtvaardigheid centraal staan bij hun gebruik van GenAI.

Bedrijven hebben een sociaal recht om GenAI te gebruiken

• Van de Nederlandse respondenten vindt 51% dat bedrijven hun hoge tempo van GenAI-innovatie moeten voortzetten terwijl effectieve overheidswetgeving verder wordt ontwikkeld (internationaal gemiddelde: 68%).
• Voor een verantwoord gebruik van GenAI door bedrijven, vindt de Nederlandse consument dat ze wettelijk verplicht moeten worden te beschrijven hoe ze data gebruiken (68%). Daarnaast mogen ze geen illegale content genereren (58%) en moeten ze het melden als content gegenereerd wordt met GenAI (63%).

Mike Mason, chief AI officer bij Thoughtworks: "In een wereld waarin vertrouwen van het grootste belang is, moeten bedrijven begrijpen dat vertrouwen winnen van het publiek door middel van ethisch AI-gebruik niet alleen een wettelijke verplichting is, maar ook een strategisch voordeel biedt. Thoughtworks adviseert zijn klanten al tientallen jaren over hoe zij alle voordelen van de nieuwste opkomende technologieën kunnen benutten en daarnaast verantwoord bestuur in hun bedrijfsprocessen kunnen bouwen om het vertrouwen van klanten te garanderen."

Lauren Woodley, principal research manager bij Vanson Bourne: "Thoughtworks heeft een unieke kijk op het snel ontwikkelende onderwerp GenAI, mede door te onderzoeken hoe consumenten zich voelen bij hun interactie met bedrijven die dit soort technologie gebruiken. De bevindingen zijn alarmerend: consumenten geven aan zich veel zorgen te maken over de manier waarop bedrijven hun GenAI-gerelateerde gegevens gebruiken. Dit benadrukt de sociale verantwoordelijkheid van bedrijven bij het winnen van vertrouwen en het geruststellen van consumenten. Als bedrijven erin slagen om de zorgen weg te nemen door proactief en transparant te zijn, ziet de toekomst van GenAI er positief uit."

Het onderzoek "GenAI: What consumers want" is hier te downloaden.