Multiple stakeholder perception of algorithmic marketing in conditions of scarcity

Abstract

Αυτή η διατριβή εξετάζει τις αντιλήψεις και πεποιθήσεις γύρω από την ηθική του αλγοριθμικά διαμεσολαβούμενου ψηφιακού μάρκετινγκ, σε περιπτώσεις όπου η μικροστόχευση χρησιμοποιείται σε συνδυασμό με το φαινόμενο της μεροληψίας, τύπου σπανιότητας, μια από τις πιο κοινές γνωστικές μεροληψίες που χρησιμοποιούνται στο ψηφιακό μάρκετινγκ. Το αλγοριθμικό ψηφιακό μάρκετινγκ έχει επεκταθεί σημαντικά τα τελευταία χρόνια και γίνεται όλο και πιο ακριβές και ευκολότερο στην εφαρμογή του. Κι αυτό, λόγω της ανόδου συλλογής, εξέτασης και ανάλυσης μεγάλου όγκου δεδομένων (Big Data) και της μηχανικής μάθησης. Ωστόσο, όσο περισσότερες αποφάσεις λαμβάνονται από αυτούς τους αλγόριθμους, που βασίζονται σε δεδομένα, αυξάνεται και η πιθανότητα άδικης μεταχείρισης των καταναλωτών από τους επαγγελματίες στον τομέα του μάρκετινγκ. Σήμερα, η τεχνητή νοημοσύνη αποκτά όλο και πιο αυξανόμενο ενδιαφέρον, οπότε είναι καιρός να μελετηθεί αυτό το φλέγον θέμα× της αλγοριθμικής μικροστόχευσης. Έχοντας ως όραμα για έναν πιο ανοιχτό, κατανοητό και δίκαιο ψηφιακό κόσμο, αυτή η έρευνα στοχεύει να κατανοήσει καλύτερα τις αντιλήψεις των διαφόρων εμπλεκόμενων σχετικά με τη χρήση της αλγοριθμικής μικροστόχευσης: των καταναλωτών, των επαγγελματιών του ψηφιακού μάρκετιγκ και των ρυθμιστικών αρχών. Η έρευνα ξεκινά με τη βιβλιογραφική ανασκόπηση, η οποία εξετάζει την τρέχουσα κατάσταση στο ψηφιακό μάρκετινγκ και την αλγοριθμικά διαμεσολαβούμενη διαδικτυακή διαφήμιση. Παρουσιάζονται κάποιες από τις τεχνικές πειθούς, με επίκεντρο τη χρήση της μικροστόχευσης και μεροληψίας σπανιότητας, οι οποίες δημιουργούν στους καταναλωτές την αίσθηση της επείγουσας ανάγκης για αγορά. Ο αναγνώστης εισάγεται επίσης στις έννοιες της δικαιοσύνης και της διαφάνειας, στις αλγοριθμικές διαδικασίες, καθώς και στις έννοιες της αλγοριθμικής μεροληψίας. Η βιβλιογραφική ανασκόπηση χρησιμοποιείται για να θεμελιώσει την πρόταση για ένα Τριγωνικό Πλαίσιο Αντίληψης, ένα φακό, μέσω του οποίου αξιολογούνται και συγκρίνονται οι αντιλήψεις των καταναλωτών και των επαγγελματιών του μάρκετινγκ, καθώς και για τον εντοπισμό πιθανών κενών σημείων στις υπάρχουσες κατευθυντήριες γραμμές, ως προς την ηθική της τεχνητής νοημοσύνης, που προτείνονται από διάφορες κυβερνήσεις και οργανώσεις. Πραγματοποιήθηκαν τρεις μελέτες για τη διερεύνηση των αντιλήψεων γύρω από ζητήματα δικαιοσύνης στο αλγοριθμικό ψηφιακό μάρκετινγκ: i) μια διαδικτυακή μελέτη των αντιλήψεων των καταναλωτών· ii) μια μελέτη των αντιλήψεων των επαγγελματιών του xiii μάρκετινγκ· iii) ανάλυση υφιστάμενων κωδίκων πρακτικών/πλαισίων δεοντολογίας από διάφορες χώρες, τα οποία αφορούν την τεχνητή νοημοσύνη / ηθική μάθησης μηχανών ή/και τις επιχειρήσεις, τη διαφήμιση και το μάρκετινγκ. Οι δύο πρώτες μελέτες πραγματοποιήθηκαν με συμμετέχοντες από την Κύπρο· περιοχή της Ευρωπαϊκής Ένωσης που θεωρείται αναπτυσσόμενος τεχνολογικός κόμβος. Συγκεκριμένα, η διαδικτυακή μελέτη των αντιλήψεων των καταναλωτών είχε ως στόχο να εντοπίσει τις ανησυχίες των συμμετεχόντων για το στοχευμένο αλγοριθμικά διαμεσολαβούμενο μάρκετινγκ σε συνθήκες σπανιότητας, καθώς και να εξετάσει γενικότερα το επίπεδο αντίληψης τους σε θέματα που σχετίζονται με τη μεροληψία και την αδικία στο αλγοριθμικό στοχευμένο μάρκετινγκ. Επιπλέον, η μελέτη εξέτασε το αποδεκτό από τους καταναλωτές επίπεδο των εξατομικευμένων διαφημίσεων με τη χρήση της τεχνικής της σπανιότητας. Στη μελέτη των αντιλήψεων των επαγγελματιών μάρκετιγκ, συμμετείχαν επαγγελματίες από διαφορετικούς επιχειρηματικούς τομείς στην Κύπρο. Αυτή η διερευνητική μελέτη, η οποία περιελάμβανε συνεντεύξεις, είχε ως στόχο να αποκαλύψει τις γενικές απόψεις τους σχετικά με τη χρήση του αλγοριθμικού μάρκετινγκ, καθώς και τις δικές τους πρακτικές και εάν/πώς αντιμετωπίζουν τις ηθικές ανησυχίες γύρω από το αλγοριθμικό μάρκετινγκ. Τέλος, πραγματοποιήθηκε η ανάλυση των υφιστάμενων κωδίκων πρακτικών/πλαισίων δεοντολογίας προκειμένου να διερευνηθεί ο βαθμός στον οποίο αντιμετωπίζονται οι ανησυχίες των επαγγελματιών μάρκετιγκ και των καταναλωτών σε αυτά τα δημοσιευμένα έγγραφα. Τα εμπειρικά ευρήματα έδειξαν ότι οι επαγγελματίες του μάρκετιγκ και οι καταναλωτές έχουν γενικά παρόμοιες αντιλήψεις σχετικά με τα ηθικά ζητήματα που αφορούν το ψηφιακό μάρκετινγκ με αλγοριθμική διαμεσολάβηση. Ωστόσο, έχουν διαφορετική άποψη για το πώς αισθάνονται οι άνθρωποι σε θέματα χειραγώγησης, ιδιωτικότητας, δικαιοσύνης και συναφών ηθικών ζητημάτων. Και οι δύο ομάδες συμμετεχόντων (δηλαδή, καταναλωτές και επαγγελματίες του μάρκετιγκ με έδρα την Κύπρο) συμφωνούν ότι έχουν ελάχιστο έλεγχο στις αλγοριθμικές διαδικασίες και ότι το ψηφιακό μάρκετινγκ μπορεί να έχει καθαρά αρνητικό αντίκτυπο στην αξιοπιστία και στις σχέσεις εμπιστοσύνης των εμπλεκόμενων μερών. Όσον αφορά τα υπάρχοντα έγγραφα, σχετικά με τις δεοντολογικές κατευθυντήριες γραμμές/πρακτικές τεχνητής νοημοσύνης που αναλύθηκαν στη μελέτη, τα ευρήματα υποδεικνύουν ότι οι περισσότερες ανησυχίες των επαγγελματιών του μάρκετιγκ και των καταναλωτών της Κύπρου καλύπτονται, εκτός από την ανησυχία των καταναλωτών σχετικά με το αλγοριθμικό φιλτράρισμα και την εμπιστοσύνη. Στην πρώτη xiv μελέτη εντοπίστηκε ένα αίσθημα χειραγώγησης, το οποίο μέχρι σήμερα δεν έχει αντιμετωπιστεί από τους υπάρχοντες κώδικες δεοντολογίας. Η διατριβή ολοκληρώνεται με μια συζήτηση των αποτελεσμάτων των τριών μελετών, συνθέτοντας τα ευρήματα από τις απόψεις των τριών εμπλεκόμενων μερών του ψηφιακού μάρκετινγκ: καταναλωτές, επαγγελματίες μάρκετινγκ και κυβερνητικές ρυθμιστικές αρχές. Γίνεται ανάλυση και εξάγονται αποτελέσματα από την έρευνα, συνοδευόμενα με προτάσεις για τις ελλείπουσες πολιτικές στο πλαίσιο των υφιστάμενων ηθικών, νομικών και πολιτιστικών αξιών που απαιτούνται για τη μελλοντική πρόοδο στον τομέα. Η διατριβή αυξάνει την επίγνωση της κρίσιμης σχέσης μεταξύ των γνωστικών μεροληψιών μάρκετινγκ (π.χ. το φαινόμενο της σπανιότητας) και της κατανόησης των ανθρώπων όσον αφορά τη δικαιοσύνη των αλγοριθμικών διαδικασιών, καθώς αυτό μπορεί να επηρεάσει τη συμπεριφορά τόσο των καταναλωτών όσο και των επαγγελματιών του μάρκετινγκ. Με μια εντελεχή ενημέρωση της λειτουργίας των αλγόριθμων, που βασίζονται σε δεδομένα, οι εμπλεκόμενοι στο αλγοριθμικά διαμεσολαβούμενο μάρκετιγκ, θα έχουν περισσότερες πιθανότητες να εμπιστευτούν αυτά τα συστήματα, καθώς οι ενημερωμένοι χρήστες θα είναι σε θέση να αξιολογούν εάν αντιμετωπίζονται δίκαια ή όχι. Ως εκ τούτου, υπάρχει ανάγκη να συνεχιστεί η διερεύνηση και η παρακολούθηση των αντιλήψεων και των πεποιθήσεων περί δικαιοσύνης· όχι μόνο των καταναλωτών και των επαγγελματιών του μάρκετιγκ, αλλά και άλλων εμπλεκόμενων μερών, όπως οι προγραμματιστές και οι ερευνητές. Τέλος, οι μελλοντικές μελέτες θα πρέπει να στοχεύουν σε ένα μεγαλύτερο και πιο διαφοροποιημένο δείγμα συμμετεχόντων, ούτως ώστε να εξεταστεί ο βαθμός στον οποίο τα ευρήματα από τη μελέτη περίπτωσης της Κύπρου επεκτείνονται σε άλλους πληθυσμούς και πολιτιστικά πλαίσια.This dissertation examines perceptions and beliefs surrounding the ethics of algorithmically mediated digital marketing in cases where microtargeting is used in combination with the scarcity bias effect, one of the most common cognitive biases used in digital marketing. Algorithmic digital marketing has significantly expanded in recent years and is becoming ever more precise and easier to implement, given the rise of Big Data analytics and machine learning. However, as more decisions are made by these data-driven algorithms, the potential for consumers to be treated unfairly by marketers grows. Given the recent interest in and attention to AI ethics, it is now time to study the specific issue of algorithmic microtargeting. With the inspiration of working towards a more open, understandable, and fair digital world, this research aims to better understand various stakeholders’ perceptions on the use of algorithmic microtargeting - those of consumers, marketers, and regulators. The research begins with the literature review, which surveys the current state of affairs on digital marketing and algorithmic online advertising. A number of digital marketing techniques are presented, focusing on the use of microtargeting in conditions of scarcity, which capitalise on consumers’ fear of missing out on an opportunity. The reader is also introduced to the concepts of fairness and transparency in algorithmic processes, as well as that of algorithmic bias. The literature review is used to ground the proposal for a Triangle Framework of Perception, a lens through which to assess and compare consumers’ and marketers’ perceptions, as well as to detect potential gaps in the existing guidelines for AI ethics put forward by governments and organisations. Three studies were carried out to explore the perceptions surrounding fairness issues in algorithmic digital marketing: i) an online study of consumers’ perceptions; ii) a study of marketers’ perceptions; iii) an analysis of existing codes of practices/ethical frameworks from around the world, which concern AI /machine learning ethics and/or business, advertising and marketing. The first two studies were carried out with participants in Cyprus, a region of the European Union considered to be a growing technology hub. Specifically, the online study of consumers’ perceptions aimed to identify participants’ concerns about targeted marketing online in conditions of scarcity, as well as to consider more generally their level of awareness of issues related to bias and unfairness in algorithmic targeted marketing. Moreover, the study examined the level of tailored-made ads with scarcity with which consumers are comfortable. In the study of marketers’ xi perceptions, professionals were recruited from different business sectors in Cyprus. This exploratory study, which involved interviews with marketers, aimed to uncover their general views on the use of algorithmic marketing, as well as their own practices and if/how they address the ethical concerns surrounding algorithmic marketing. Finally, the analysis of existing codes of practices/ethical frameworks was conducted in order to explore the extent to which the marketers’ and consumers’ concerns are addressed in these published documents. The empirical findings showed that marketers and consumers generally have similar perceptions regarding the ethical issues surrounding algorithmically mediated digital marketing. However, they have a different view of how people feel on issues of manipulation, privacy, fairness, and related ethical issues. Both groups of participants (i.e., Cyprus-based consumers and marketers) agree that they have little control over the algorithmic processes and that digital marketing can result in a net negative impact on brand trust, and on consumer loyalty. Concerning the existing documents on AI ethical guidelines/practices analysed in the study, the findings indicate that most of the concerns of the Cyprus marketers and the consumers are addressed. One exception is the concern of consumers regarding algorithmic filtering and trust; in the first study they reported a feeling of manipulation, which to date, has been left unaddressed by the existing ethical codes. The dissertation concludes with a discussion of the outcomes of the three studies, synthesising the findings from the viewpoints of the three types of stakeholders of digital marketing: consumers, marketers, and government regulators. It discusses the implications of this research, accompanied by suggestions on the missing policies within the context of existing moral, legal and cultural values that are required for future progress in the field. The dissertation raises awareness of the crucial link between cognitive marketing biases (e.g., the scarcity effect) and people’s understanding of fairness in algorithmic processes, since that may affect both consumers' and marketers' behaviour. The more stakeholders are made aware of how the data-driven algorithms operate, the better chance there is to foster trust in these systems, as informed users will be in position to make an assessment as to whether they are being treated fairly or not. Therefore, there is a need to continue exploring and monitoring the fairness perceptions and beliefs of not only the consumers and marketers, but also other stakeholders involved, such as developers and researchers. Finally, future studies will need to target a larger and more diverse sample of participants, to examine the extent to which the findings from the Cyprus case study extend to other populations and cultural contexts.