DOI: https://doi.org/10.3390/bdcc9020040
تاريخ النشر: 2025-02-12
المؤلف: Zhenyun Du وآخرون
الموضوع الرئيسي: دراسات سلوك المستهلك في التجزئة
نظرة عامة
تتناول ورقة البحث آثار الذكاء الاصطناعي (AI) في التسويق الرقمي، مع التركيز على التحيزات الموجودة في الترميز، والتحفيز، ونشر تقنيات الذكاء الاصطناعي. تميز بين الذكاء الاصطناعي التقليدي، الذي يعتمد على خوارزميات التعلم تحت الإشراف، والذكاء الاصطناعي التوليدي، الذي يستخدم نماذج اللغة الكبيرة (LLMs) لإنشاء محتوى جديد. بينما يمكن أن يعزز الذكاء الاصطناعي الكفاءة في التسويق، فإنه يثير مخاوف كبيرة بشأن الشفافية، والأصالة، والتحيز. تستخدم الدراسة نهجًا نوعيًا استقرائيًا، يتضمن مراجعة أدبية منهجية ومقابلات متعمقة مع محترفي التسويق من مورد برمجيات عالمي، لتحديد هذه القضايا المتعلقة بالتحيز.
يقترح المؤلفون إطارًا مفاهيميًا مؤقتًا وإطارًا تحليليًا مصممًا لكشف وتخفيف التحيز في تطبيقات الذكاء الاصطناعي عبر مراحل مختلفة من رحلة العميل. يعمل هذا الإطار كقائمة مراجعة للأنشطة التسويقية المعرضة للتحيز، قابلة للتطبيق على كل من الذكاء الاصطناعي التقليدي والتوليدي. على الرغم من أن البحث محدود بتركيزه على شركة واحدة وحجم عينة صغير، إلا أنه يهدف إلى تقديم رؤى قيمة للباحثين والممارسين في مجال الذكاء الاصطناعي في التسويق. يتم تشجيع الأبحاث المستقبلية للتحقق من صحة وتوسيع الإطار عبر سياقات الأعمال المختلفة، لضمان تطوره جنبًا إلى جنب مع التقدم في تقنيات الذكاء الاصطناعي والتسويق الرقمي.
مقدمة
تناقش مقدمة الورقة الإمكانات التحويلية للذكاء الاصطناعي (AI)، المعروف بثورة الذكاء، والتي من المتوقع أن تغير بشكل كبير الهياكل الاجتماعية، لا سيما في التسويق. على الرغم من وعد الذكاء الاصطناعي في تعزيز استراتيجيات التسويق—مثل إنشاء محتوى ديناميكي وتوصيف البيانات—هناك غياب ملحوظ للأطر التنظيمية التي تحكم استخدامه، مما يثير مخاوف بشأن استمرار التحيزات الموجودة في ممارسات التسويق. تشير دراسة استقصائية أجرتها غارتنر في عام 2023 إلى أن الغالبية العظمى (63%) من قادة التسويق يخططون لتبني الذكاء الاصطناعي خلال العامين المقبلين، مع توقع زيادة الإنتاجية بأكثر من 40% خلال خمس سنوات. ومع ذلك، تكشف الأدبيات عن فجوة في الأبحاث التي تركز على تحديد وتخفيف التحيز في التسويق المدفوع بالذكاء الاصطناعي.
لمعالجة هذه الفجوة، تقترح الورقة إطارًا يهدف إلى توجيه الممارسين في التعرف على وإدارة التحيز في تطبيقاتهم للذكاء الاصطناعي. تم هيكلة البحث حول سؤالين رئيسيين: (RQ1) القضايا الحالية والمتصورة للتحيز في الترميز، والتحفيز، ونشر الذكاء الاصطناعي في التسويق الرقمي، و(RQ2) تطوير إطار للمساعدة في كشف وتخفيف هذه التحيزات. ستراجع الأقسام التالية من الورقة الأدبيات ذات الصلة، وتناقش منهجية البحث، وتقدم النتائج، وتستكشف الموضوعات الناشئة، مما يساهم في إقامة ممارسات تسويقية أخلاقية في سياق الذكاء الاصطناعي.
طرق
في هذا القسم، يستعرض المؤلفون مجموعة من الأطر والنماذج ذات الصلة بالاستخدام الأخلاقي للتسويق للذكاء الاصطناعي (AI)، مع تحديد الفجوات البحثية الهامة. يتم تسليط الضوء على إطار عمل هوانغ وراست كدراسة رائدة تصنف تطبيقات الذكاء الاصطناعي في التسويق إلى ثلاثة أنواع: “الذكاء الاصطناعي الميكانيكي” لأتمتة المهام، و”الذكاء الاصطناعي المفكر” لمعالجة البيانات ودعم القرار، و”الذكاء الاصطناعي العاطفي” للتحليل العاطفي. ومع ذلك، تشير الانتقادات لهذا الإطار إلى نقص حالات الاستخدام المحددة ونهج أحادي البعد. بناءً على ذلك، يقدم حليم وآخرون نظرة شاملة على 23 تطبيقًا للذكاء الاصطناعي التوليدي، مثل استهداف الجمهور وتعزيز خدمة العملاء، لكنهم يفشلون في معالجة انتشار التحيز في استخدام الذكاء الاصطناعي.
تشدد الأدبيات أيضًا على ضرورة التغييرات التنظيمية من أجل دمج الذكاء الاصطناعي بنجاح، كما ناقش جاراهي وآخرون، الذين يقترحون ثلاثة مكونات أساسية: الأشخاص، والبنية التحتية، والعمليات. علاوة على ذلك، يحدد بوزيك وآخرون “3E” للذكاء الاصطناعي في التسويق—الفعالية، والكفاءة، والجهد—بينما يركز دويفيدي وآخرون على تخفيف التحيز في الذكاء الاصطناعي التوليدي من خلال المعرفة، والشفافية، والممارسات الأخلاقية. على الرغم من الاعتراف بقضايا التحيز عبر مختلف الصناعات، بما في ذلك الرعاية الصحية، يفتقر قطاع التسويق إلى إطار مخصص لمعالجة انتشار التحيز في تطبيقات الذكاء الاصطناعي. يختتم القسم بمناقشة تطور رحلة العميل في التسويق، والتي تمثل الآن كدورة حياة من ثماني مراحل، مما يعكس التعقيد المتزايد لتفاعلات العملاء ودمج تقنيات الذكاء الاصطناعي في تعزيز هذه التفاعلات.
النتائج
يتناول قسم النتائج بشكل منهجي السؤالين البحثيين من خلال دمج الرؤى المستخلصة من مراجعة الأدبيات في القسم 3، وبيانات المقابلات الأولية، وملاحظات الباحث. تدعم النتائج اقتباسات مباشرة من المشاركين في المقابلات، كل منها محدد برموز فريدة للحفاظ على السرية وتسهيل الإشارة. يسمح هذا النهج المنظم بفهم دقيق للبيانات، مما يبرز الموضوعات الرئيسية والأنماط التي تظهر من التحليل النوعي. توفر تركيبة هذه العناصر نظرة شاملة على نتائج البحث، مما يساهم في الخطاب العام في هذا المجال.
مناقشة
ت outlines قسم المناقشة في ورقة البحث مراجعة أدبية منهجية تم إجراؤها باستخدام إطار عمل PRISMA لاستكشاف تقاطع الذكاء الاصطناعي (AI)، والتحيز، والتسويق الرقمي. شمل عملية المراجعة بحثًا شاملاً عبر قواعد بيانات مختلفة، مما أسفر عن 1845 نتيجة، تم تضييقها إلى 141 مصدرًا ذا صلة بعد تطبيق فلاتر للملاءمة وتواريخ النشر. أبلغت هذه التركيبة من الأدبيات عن تطوير إطار مفاهيمي مؤقت (PCF) يهدف إلى كشف وتخفيف التحيز في ممارسات التسويق المدفوعة بالذكاء الاصطناعي.
تسلط النتائج الضوء على جانبين رئيسيين من الذكاء الاصطناعي في التسويق: الذكاء الاصطناعي التقليدي، الذي يتميز بخوارزميات التعلم تحت الإشراف التي تتطلب إشرافًا بشريًا، والذكاء الاصطناعي التوليدي، الذي ينشئ محتوى بشكل مستقل بناءً على مدخلات المستخدم. بينما يعزز الذكاء الاصطناعي كفاءة التسويق والتخصيص، فإنه أيضًا يعرض مخاطر استمرار التحيزات بسبب مجموعات البيانات المنحازة وغياب آليات الإشراف القوية. تؤكد الدراسة على الحاجة إلى استمرار المشاركة البشرية لضمان ممارسات تسويقية أخلاقية وتخفيف المخاطر المرتبطة بالتحيزات الآلية. علاوة على ذلك، تحدد الدراسة قضايا تحيز هامة في ترميز الذكاء الاصطناعي، والتحفيز، والنشر، لا سيما فيما يتعلق بالتمثيل الثقافي والأوروبية في استراتيجيات التسويق. يدعو المؤلفون إلى تحسين التدريب والإرشادات الأخلاقية لمعالجة هذه التحديات وتعزيز الاستخدام المسؤول للذكاء الاصطناعي في سياقات التسويق.
DOI: https://doi.org/10.3390/bdcc9020040
Publication Date: 2025-02-12
Author(s): Zhenyun Du et al.
Primary Topic: Consumer Retail Behavior Studies
Overview
The research paper examines the implications of artificial intelligence (AI) in digital marketing, focusing on the biases inherent in coding, prompting, and deployment of AI technologies. It distinguishes between traditional AI, which relies on supervised learning algorithms, and generative AI, which utilizes large language models (LLMs) to create new content. While AI can enhance efficiency in marketing, it raises significant concerns regarding transparency, authenticity, and bias. The study employs a qualitative inductive approach, incorporating a systematic literature review and in-depth interviews with marketing professionals from a global software supplier, to identify these bias issues.
The authors propose a provisional conceptual framework and an analytical framework designed to reveal and mitigate bias in AI applications across various stages of the customer journey. This framework serves as a checklist for marketing activities susceptible to bias, applicable to both traditional and generative AI. Although the research is limited by its focus on a single company and a small sample size, it aims to provide valuable insights for researchers and practitioners in the field of AI in marketing. Future research is encouraged to validate and expand the framework across different business contexts, ensuring it evolves alongside advancements in AI and digital marketing technologies.
Introduction
The introduction of the paper discusses the transformative potential of Artificial Intelligence (AI), referred to as the Intelligence Revolution, which is poised to significantly alter societal structures, particularly in marketing. Despite the promise of AI in enhancing marketing strategies—such as dynamic content creation and data profiling—there is a notable absence of regulatory frameworks to govern its use, raising concerns about the perpetuation of biases inherent in marketing practices. A 2023 Gartner survey indicates that a substantial majority (63%) of marketing leaders plan to adopt AI within the next two years, anticipating a productivity increase of over 40% in five years. However, the literature reveals a gap in research focused on identifying and mitigating bias in AI-driven marketing.
To address this gap, the paper proposes a framework aimed at guiding practitioners in recognizing and managing bias in their AI applications. The research is structured around two primary questions: (RQ1) the current and perceived bias issues in the coding, prompting, and deployment of AI in digital marketing, and (RQ2) the development of a framework to assist in revealing and mitigating these biases. The subsequent sections of the paper will review relevant literature, discuss research methodology, present findings, and explore emergent themes, ultimately contributing to the establishment of ethical marketing practices in the context of AI.
Methods
In this section, the authors review various frameworks and models relevant to the ethical marketing use of artificial intelligence (AI), identifying significant research gaps. Huang and Rust’s framework is highlighted as a pioneering study that categorizes AI applications in marketing into three types: “mechanical AI” for automating tasks, “thinking AI” for data processing and decision support, and “feeling AI” for emotional analysis. However, critiques of this framework point out its lack of specific use cases and a one-dimensional approach. Building on this, Haleem et al. provide a comprehensive overview of 23 applications of generative AI, such as audience targeting and customer service enhancement, but fail to address bias propagation in AI usage.
The literature also emphasizes the necessity of organizational changes for successful AI integration, as discussed by Jarrahi et al., who propose three essential complements: people, infrastructure, and process. Furthermore, Buczek et al. outline the “3Es” of AI in marketing—effectiveness, efficiency, and effort—while Dwivedi et al. focus on mitigating bias in generative AI through knowledge, transparency, and ethical practices. Despite the recognition of bias issues across various industries, including healthcare, the marketing sector lacks a dedicated framework for addressing bias propagation in AI applications. The section concludes by discussing the evolution of the customer journey in marketing, now represented as an eight-stage lifecycle, which reflects the increasing complexity of customer interactions and the integration of AI technologies in enhancing these engagements.
Results
The Results section systematically addresses the two research questions by integrating insights from the literature review in Section 3, primary interview data, and the researcher’s observations. The findings are supported by direct quotes from interviewees, each identified by unique codes to maintain confidentiality and facilitate reference. This structured approach allows for a nuanced understanding of the data, highlighting key themes and patterns that emerge from the qualitative analysis. The synthesis of these elements provides a comprehensive overview of the research outcomes, contributing to the overall discourse in the field.
Discussion
The discussion section of the research paper outlines a systematic literature review conducted using the PRISMA framework to explore the intersection of artificial intelligence (AI), bias, and digital marketing. The review process involved a comprehensive search across various databases, yielding 1845 results, which were narrowed down to 141 relevant sources after applying filters for relevance and publication dates. This synthesis of literature informed the development of a provisional conceptual framework (PCF) aimed at revealing and mitigating bias in AI-driven marketing practices.
The findings highlight two primary aspects of AI in marketing: traditional AI, characterized by supervised learning algorithms requiring human oversight, and generative AI, which autonomously creates content based on user inputs. While AI enhances marketing efficiency and personalization, it also risks perpetuating biases due to skewed datasets and the lack of robust oversight mechanisms. The research emphasizes the need for continuous human involvement to ensure ethical marketing practices and mitigate the risks associated with automated biases. Furthermore, the study identifies significant bias issues in AI coding, prompting, and deployment, particularly concerning cultural representation and the Eurocentricity of marketing strategies. The authors advocate for improved training and ethical guidelines to address these challenges and promote responsible AI usage in marketing contexts.