للاستشهاد بهذه المقالة: بريان د. إيرب، سيباستيان بورسادام مان، جيميما ألين، سابين سالوك، فين سورين، كارين يونغسما، ماتياس براون، دومينيك ويليكنسون، والتر سينيونت-أرمسترونغ، أنيت ريد، ديفيد ويندلر وجوليان سافولسكو (2024) متنبئ مخصص لتفضيلات المرضى من أجل الأحكام البديلة في الرعاية الصحية: قابل للتنفيذ تقنيًا ومرغوب فيه أخلاقيًا، المجلة الأمريكية للأخلاقيات الحيوية، 24:7، 13-26، DOI: 10.1080/15265161.2023.2296402

لربط هذه المقالة:https://doi.org/10.1080/15265161.2023.2296402

ج
© 2024 المؤلف(ون). نُشر مع
نُشر على الإنترنت: 16 يناير 2024. ترخيص من مجموعة تايلور وفرانسيس، LLC.

قدّم مقالك إلى هذه المجلة
عدد مشاهدات المقال: 3522

التوجيهات المسبقة؛ الخوارزمية؛ الذكاء الاصطناعي التوليدي؛ نماذج اللغة الكبيرة؛ متنبئ تفضيلات المرضى؛ الحكم البديل

امرأة متزوجة تبلغ من العمر 26 عامًا، تنهار في منزلها في وقت مبكر من صباح أحد الأيام. عندما تصل سيارة الإسعاف، يُكتشف أنها تعاني من توقف القلب. يتم إنعاشها ونقلها إلى المستشفى، ولكن يُكتشف أنها تعرضت لإصابة دماغية شديدة نتيجة نقص الأكسجين. لديها فترة طويلة من الاستشفاء وإعادة التأهيل، ولكن بعد ستة أشهر حققت تعافياً ضئيلاً وتم تشخيصها بأنها في حالة نباتية مستمرة. هي تعتمد على التغذية والترطيب الصناعي. يناقش المتخصصون في الصحة مع عائلة س ما إذا كان يجب
استمرار في هذا العلاج، أو سحبه والسماح لها بالموت. ومع ذلك، لم تقم بإعداد أي توجيه مسبق، وزوجها ووالداها يختلفان بشدة حول ما كانت ستريده في مثل هذا الموقف.

عندما يكون شخص كان كفؤًا سابقًا مثل يفقد القدرة على اتخاذ قراراته الطبية الخاصة، يجب على الآخرين اتخاذ مثل هذه القرارات نيابة عنه. من الناحية المثالية، كان ينبغي أن يكون الشخص الذي يفتقر الآن إلى القدرة (المشار إليه فيما بعد بـ “المريض”) قد أشار سابقًا إلى تفضيلاته العلاجية في توجيه مسبق أو رعاية مماثلة مسبقة.

أداة التخطيط (أي، عندما يكون لديهم “قدرة عقلية كاملة”؛ انظر توومي وآخرون 2023، لمناقشة حديثة). ومع ذلك، في الممارسة العملية، لا يستخدم معظم الناس هذا الخيار (سيلفيرا 2022). علاوة على ذلك، حتى عندما تكون التوجيهات المسبقة متاحة، فقد تفشل غالبًا في تغطية المواقف أو المعضلات العلاجية التي يواجهها الفرد. يمكن أن يضع هذا صانعي القرار بالنيابة، مثل الأسرة، في موقف صعب، حيث يتعين عليهم اتخاذ قرار بشأن ما يجب القيام به نيابة عن شخص آخر لا يمكنهم تأكيد تفضيلاته المتعلقة بنفسه حاليًا، وغالبًا في مواقف مرهقة وعالية المخاطر.

ومع ذلك، حيث لا تتوفر التوجيهات المسبقة، أو لا تغطي الحالة الطبية التي يعاني منها المريض مثل يتطلب العلاج، وتعتمد الممارسة السريرية الحالية بشكل كبير على صانعي القرار البديلين لاتخاذ مثل هذه القرارات العلاجية. قد يستند هؤلاء البدلاء، بالطبع، إلى عوامل مختلفة عند اتخاذ قرار بشأن ما يجب القيام به؛ ومع ذلك، في الثقافات التي تُقدّر فيها الخيارات الفردية بشكل كبير، يُجادل عادةً بأنه يجب على البدلاء استخدام معيار “الحكم البديل” احترامًا لاستقلالية المريض (السابق): يجب عليهم الاختيار كما كان سيختار المريض نفسه إذا كان قادرًا على ذلك حاليًا (للنقاش حول المعيار القانوني في الولايات المتحدة، انظر دريسر 2014).

هذه ليست مسألة توافق عالمي. قد يجادل البعض، على سبيل المثال، بأن اعتبارات رفاهية الأسرة يجب أن توجه (أيضًا) اتخاذ القرارات البديلة، حتى لو كان ذلك يتعارض مع ما كان سيود المريض. ومع ذلك، كما يشير بيرجر (2005)، فإن الصراعات العميقة من هذا النوع قد لا تكون شائعة جدًا، حتى في المجتمعات “الفردية” بشكل نموذجي مثل الولايات المتحدة. وذلك لأن القلق بشأن رفاهية الأسرة عادة ما يكون عاملًا رئيسيًا في تفضيلات الفرد ومصالحه، بما في ذلك تلك المتعلقة بالعلاج الطبي. على أي حال، في هذه المقالة، سنركز بشكل أساسي على الحالات التي يكون فيها الهدف المفترض أو المحاول من اتخاذ القرارات البديلة هو اختيار مسار العمل الذي سيؤيده المريض إذا كان يتمتع بالاستقلالية حاليًا (أي، دون اتخاذ موقف بشأن ما إذا كان يجب دائمًا تفضيل هذا الهدف على الآخرين).

حتى لو تم افتراض مثل هذا الهدف، فإن هناك عقبات أمام اتخاذ هذا النهج. واحدة منها هي أن الوكلاء البشريين غالبًا ما يخطئون في ما كان سيفضله المريض، على الرغم من بذل جهد حسن النية للالتزام بمعيار الحكم البديل السائد. حتى في ظل ظروف البحث المثالية، عندما يكون غير واضح أي علاج هو المناسب سريريًا، فإن احتمال الوكلاء في تحديد ما العلاج الذي قد يريده الفرد إذا كان قادرًا هو فقط أعلى قليلاً من الصدفة (Ciroldi et al. 2007؛

شالوويتز، غاريت-ماير، ووندلر 2006؛ ستوكينغ وآخرون 2006). عقبة أخرى، كما ذُكر، هي أن صانعي القرار البديل غالبًا ما يشعرون بقلق وضغط كبيرين استجابةً لطلب اتخاذ قرارات، والشعور بالمسؤولية عن، ما هي في كثير من الحالات قرارات تتعلق بالحياة أو الموت لأحبائهم (جونغسما وفان دي فاثورست 2015؛ ريد وووندلر 2014أ).

استجابةً لمثل هذه التحديات، دعا ديفيد ووندلر، أنيت ريد، وزملاؤهم إلى تطوير “مؤشر تفضيلات المرضى” (PPP): خوارزمية قائمة على الكمبيوتر يمكن استخدامها لتكملة (أو في بعض نسخ اقتراحهم، ربما استبدال) الجوانب الرئيسية لعملية اتخاذ القرار البديل النموذجية (شالوويتز، غاريت-ماير، ووندلر 2007؛ ريد وووندلر 2014أ؛ ريد وووندلر 2014ب؛ ووندلر وآخرون 2016؛ انظر أيضًا ديتو وكلارك 2014). سيكون مؤشر تفضيلات المرضى قائمًا على مسح طوعي كبير للسكان العامين حيث سيُطلب من المشاركين تقديم تفضيلاتهم في حالات طبية افتراضية مختلفة جنبًا إلى جنب مع بيانات ديموغرافية، مثل العمر، الجنس، وحالة التأمين. ثم سيتم ربط هذه البيانات الديموغرافية بالتفضيلات الطبية المعبر عنها من قبل المشاركين الذين تم مسحهم، والذين يجب أن يتم اختيارهم عشوائيًا، ويمثلون، السكان المستهدفين (ريد وووندلر 2014أ). ستُستخدم هذه الارتباطات بدورها لبناء خوارزمية لاستنتاج تفضيلات أشخاص معينين أصبحوا معاقين ويحتاجون إلى رعاية طبية (أي، بما في ذلك أولئك الذين لم تكن تفضيلاتهم جزءًا من مجموعة البيانات الأصلية لأنهم لم يكونوا من بين المشاركين الذين تم مسحهم).

هذا الاقتراح قائم على علاقة تجريبية قوية تم إثباتها في العديد من الدراسات: وهي أن المتغيرات الديموغرافية مثل تلك المذكورة للتو هي تنبؤية إحصائيًا، في المجمل، لاختيارات الناس في الرعاية الصحية كما تم استنباطها تحت ظروف مختلفة (تمت مراجعتها في ريد وووندلر 2014ب). لذا، على سبيل المثال، قد يجد مؤشر تفضيلات المرضى القائم على مثل هذه البيانات أن معظم النساء الشابات من نفس العمر والخلفية مثل S -المريضة في غيبوبة من مثالنا الافتتاحي- لا يرغبن في استمرار التغذية عبر الأنبوب تحت ظروف معينة. إلى الحد الذي (أ) تنطبق فيه تلك الظروف على حالة S، (ب) تشبه بشكل ذي صلة أعضاء آخرين من فئاتها الديموغرافية (المتقاطعة بشكل متعدد)، و(ج) يمكن قياس مثل هذه المعلومات بشكل ذي معنى

أو تقديرها بشكل معقول وإدخالها في مؤشر تفضيلات المرضى، يمكن بعد ذلك إجراء توقع حول ما ترغب فيه هي نفسها في الظروف الحالية (ضمن مستوى معين من الثقة). في الواقع، تشير النتائج المتاحة إلى أن توقعات مؤشر تفضيلات المرضى لتفضيلات علاج المرضى قد تكون أكثر دقة من تلك الخاصة بمعظم الوكلاء البشريين من الأقارب (سمكر وآخرون 2000؛ هاوتس وآخرون 2002؛ شالوويتز، غاريت-ماير، ووندلر 2007).

باختصار، يهدف مؤشر تفضيلات المرضى إلى مساعدة الوكلاء، في عملية اتخاذ قرار مشتركة مع الأطباء، على اتخاذ قرارات علاجية من المرجح أن تتماشى مع تفضيلات المريض الخاصة (بشرط، مرة أخرى، أن لا تكون هذه التفضيلات غريبة جدًا مقارنةً بتلك الخاصة بأشخاص آخرين في وضع مشابه ذي صلة).

ومع ذلك، تم مواجهة فكرة مؤشر تفضيلات المرضى بمختلف الاعتراضات. يجادل البعض بأن احترام استقلالية المريض يتطلب أكثر من مجرد التنبؤ بدقة بتفضيلات العلاج بناءً على بيانات السكان (جون 2018؛ شاردين 2018). في صياغة قوية لهذا الرأي، يجب أن تتضمن القرارات الطبية المتخذة نيابة عن الأشخاص الذين كانوا مستقلين سابقًا فقط الأسباب والقيم والأدلة التي أخذها الشخص نفسه، أو كان سيأخذها، في الاعتبار عند اتخاذ قرارات العلاج (جون 2014؛ جون 2018). تشمل المخاوف الأخرى أن المرضى قد يكون لديهم تفضيلات حول كيفية اتخاذ قرارات العلاج لهم، بما في ذلك كيفية تحديد تفضيلاتهم، وليس فقط أي العلاجات يتلقونها (ماينز 2023). بعبارة أخرى، قد يكون من الضروري أن تأخذ عملية اتخاذ القرار البديل في الاعتبار ليس فقط تفضيلات علاج المرضى، ولكن أيضًا تفضيلاتهم العملية (أي، العملية التي يتم من خلالها اتخاذ قرارات العلاج أو التي يتم من خلالها استنتاج تفضيلاتهم العلاجية). فقط عندها يمكن احترام استقلالية المريض بشكل قوي.

في هذه الورقة، سننظر في العديد من هذه المخاوف المتعلقة بمؤشر تفضيلات المرضى، رافضين بعضها، لكن مستوعبين الآخرين. ومع ذلك، سيكون هدفنا الرئيسي هو أن نجادل بأن بعض ما نعتبره أقوى الاعتراضات على مؤشر تفضيلات المرضى يمكن، من حيث المبدأ، ومن المحتمل أيضًا في الممارسة، أن يتم تخفيفه من خلال تعديل جديد للفكرة الأصلية. هنا، نقدم وندافع عن مفهوم “مؤشر تفضيلات المرضى المخصص” (P4).

نقترح استخدام التعلم الآلي لاستخراج قيم أو تفضيلات المرضى من مواد على مستوى الفرد تم إنتاجها بشكل أساسي من قبلهم حيث من المحتمل أن تكون تفضيلاتهم مشفرة (حتى لو بشكل ضمني). سيكون هذا النموذج الافتراضي لتوقع تفضيلات المرضى يستفيد من التقدم في الذكاء الاصطناعي التوليدي لإنشاء نماذج لغوية كبيرة (LLMs) تم تعديلها (أي، تم ضبطها) على مجموعة نصوص محددة للشخص (كما في بوردسدام مان وآخرون 2023). ستكون النتيجة نوعًا من “التوأم النفسي الرقمي” للشخص (تقريبًا على غرار ما تم مناقشته في دي كيركهوف 2021) الذي يمكن استفساره في الوقت الفعلي حول تفضيلات المريض الأكثر احتمالًا للعلاج في أي أزمة صحية. باختصار، سيكون P4 مؤشر تفضيلات المرضى مخصصًا، بدلاً من أن يكون قائمًا على السكان.

من حيث المبدأ، يمكن استخدام مجموعة واسعة من المواد الخاصة بالشخص لأغراض تدريب النموذج، بشرط أن تكون جميع الأذونات والتدابير لحماية البيانات ذات الصلة في مكانها (وهي مسألة حساسة سنعود إليها أدناه). يتم تلخيص بعض الاحتمالات الحالية لمثل هذه المواد في الجدول 1. عند تطبيقها على حالة S، قد نجد أن P4 المدرب على مثل هذه المواد يمكن أن يشير -استنادًا إلى كتاباتها السابقة وسلوكها المسجل رقميًا- إلى أن هناك فرصة عالية أنها، تحديدًا، ترغب في استمرار التغذية والترطيب الاصطناعي (حتى لو لم يكن هذا ما تختاره معظم النساء من نفس العمر، وما إلى ذلك، في مثل هذه الحالة).

في هذه الورقة، نناقش كيف سيعمل P4 وكيف يقارن بمؤشر تفضيلات المرضى. على وجه الخصوص، نناقش كيف يمكن أن يحسن P4 من مؤشر تفضيلات المرضى، سواء من حيث دقة التنبؤ واحترام الاستقلالية. نستنتج أن P4 سيكون على الأرجح متفوقًا على مؤشر تفضيلات المرضى في كلا الجانبين؛ ومع ذلك، لا نقترح أن الاقتراحين متعارضان (لـ

الجدول 1. إصدارات مختلفة من الاقتراح P4 بناءً على أنواع معلومات مختلفة كمدخلات.

نبدأ بتوضيح مفهوم P4 على مستوى عالٍ. ثم ننتقل إلى الأسئلة المعقدة المتعلقة بالتنفيذ، بما في ذلك دور P4 في اتخاذ القرار المشترك وقضايا الخصوصية والموافقة لاستخدام بيانات التدريب. أخيرًا، نستكشف إلى أي مدى يمكن أن يلبي اقتراح P4 لدينا عددًا من الاعتراضات الموجهة ضد PPP.

P4 هو نسخة شخصية افتراضية من PPP. إنه مخصص بمعنى أنه يعتمد على المعلومات التي تم إنتاجها بواسطة، أو تصف، أو تتعلق بفرد معين، بخلاف التصنيف الديموغرافي البسيط. اعتمادًا على نوع وتنوع المعلومات التي ستكون متاحة ومصرح بها لأغراض تدريب النموذج، يمكن أن يتخذ P4 أحد الأشكال العديدة، إما بمفرده أو من خلال دمج ميزات من إصدارات مختلفة، كما هو ملخص في الجدول 1.

إليك كيف نتخيل أن يعمل P4. من الناحية المثالية مع إذن المريض المسبق، ولكن إذا لم يكن،
مع إذن البديل، سيستند إلى أنواع مختلفة من البيانات الشخصية كما هو موضح في الجدول 1 من أجل التنبؤ (أ) بتفضيلات العلاج من الدرجة الأولى خلال فترات عدم القدرة على اتخاذ القرار، (ب) بتفضيلاتهم من الدرجة الثانية حول كيفية اتخاذ قرارات العلاج لهم خلال هذه الفترات (على سبيل المثال، فيما يتعلق بنوع أو درجة المشاركة العائلية المرغوبة، على افتراض أن هذه التفضيلات لم يتم تسجيلها صراحة في أداة اتخاذ القرار المسبق)، و (ج) مدى تأكد المريض من هذه التفضيلات ومدى قوة هذه التفضيلات: على سبيل المثال، هل تفضيلاتهم بشأن العلاجات التي يتلقونها أقوى أو أقل قوة من تفضيلاتهم بشأن المشاركة العائلية؟

على وجه التحديد، سيأخذ P4 شكل LLM معدّل بدقة تم تدريبه على نص تم إنتاجه بواسطة، أو يصف، فردًا. إن هذا الجانب من P4 هو ما يميزه عن الاقتراحات ذات الصلة، مثل الرسم التخطيطي القصير لفكرة مشابهة ذكرها بيلر أندورنو وبيلر في عام 2019. وبالمثل، اقترح لامانا وبيرن (2018) استخدام ‘خوارزمية الاستقلالية’ “لتقدير الثقة في التفضيلات المتوقعة للمرضى غير القادرين من خلال استخدام تقنيات التعلم الآلي لتحليل مجموعات بيانات على مستوى السكان، بما في ذلك السجلات الصحية الإلكترونية و

ملفات تعريف وسائل التواصل الاجتماعي” (907). يختلف اقتراحنا عن اقتراح المؤلفين الأخيرين في تحديد استخدام LLMs المعدلة بدقة لهذا الغرض، بالإضافة إلى التركيز بشكل أساسي على معلومات المرضى على مستوى الفرد بدلاً من “مجموعات البيانات على مستوى السكان” لتدريب النموذج.

التعديل الدقيق هو عملية يتم فيها تعريض آخر طبقات قليلة من شبكة LLM العصبية لمجموعة نصوص متخصصة، بحيث يحتفظ النموذج الناتج بتمثيله الأساسي للغة ولكنه ينتج مخرجات تتأثر بالميزات الأكثر تحديدًا لمجموعة التدريب المتخصصة التي تعرض لها (تشيرش، تشين، وما 2021). سيستخدم P4 كما هو متصور هنا، لمجموعة تدريبه المتخصصة، نص مكتوب بواسطة أو يصف فردًا. من الناحية المثالية، يجب أن يكون هذا النص ذا صلة طبية: على سبيل المثال، كما ذُكر، البيانات المخزنة في السجلات الصحية الإلكترونية والبنوك الحيوية؛ ردود على استبيانات طبية أو تجارب اختيار تستنبط القيم قام بها الفرد أثناء كفاءته؛ وهكذا.

بالإضافة إلى هذه المصادر الأساسية المتعلقة بالصحة، يمكن استخدام نصوص أخرى تم إنتاجها بواسطة الأفراد، مثل منشورات المدونات أو كتابات منشورة أخرى (بورسدام مان وآخرون 2023)، نشاط وسائل التواصل الاجتماعي (مثل ‘الإعجابات’ على فيسبوك؛ انظر لامانا وبيرن 2018)، والبريد الإلكتروني؛

كما يمكن استخدام سجلات الشراء والتصفح (انظر أدناه لمخاوف الموافقة والخصوصية المتعلقة باستخدام مثل هذه المواد). لتعظيم الفعالية، سيتم استخدام أكبر قدر ممكن من هذه المعلومات التي يمكن جمعها بأمان وأخلاقيًا كمدخلات لعملية تعديل P4. ومع ذلك، حيث أشار الفرد سابقًا إلى أن بعض المعلومات يجب ألا تستخدم، على سبيل المثال، منشورات وسائل التواصل الاجتماعي من أكثر من عقد مضى والتي لم تعد تعكس تفضيلاته الحالية أو قيمه أو شخصيته، يجب احترام هذه الطلبات.

بشكل عام، يعتمد وصفنا لـ P4 على فكرة أن التفضيلات الفردية، بما في ذلك ليس فقط تفضيلات العلاج من الدرجة الأولى ولكن أيضًا تفضيلات “العملية” من الدرجة الثانية حول كيفية استنباط تفضيلات العلاج، يمكن استنباطها بشكل مباشر أو غير مباشر من مثل هذه البيانات. بالطبع، سيكون هناك حاجة إلى الكثير من العمل التجريبي لتحديد مدى قدرة هذه المصادر أو غيرها من البيانات على السماح باستنتاجات دقيقة لتفضيلات المريض الطبية من الدرجة الأولى أو الثانية؛ في الأوراق المستقبلية، نأمل في رسم مثل هذا البرنامج البحثي التجريبي. ومع ذلك، مقارنةً بدقة اتخاذ القرار البشري البديل الحالية، التي يبدو أنها تدور حول الصدفة، سيكون على P4 أن يكون أكثر دقة قليلاً من ذلك ليكون مفيدًا للأغراض الحالية. بناءً على الاتجاهات الحالية، يبدو أن هذا أكثر من معقول.

يجب أيضًا ملاحظة أنه من الممكن حاليًا التلاعب بالوزن الذي يضعه نموذج اللغة الكبير – مثل النموذج المقترح P4 – على المعلومات الأكثر صلة، مثل بيانات الاستبيانات أو المعلومات المخزنة في السجلات الصحية الإلكترونية، خلال عملية التخصيص. إحدى الطرق التقنية البسيطة التي يمكن القيام بها هي تحديد عدد أكبر من دورات التدريب (أي عدد المرات التي يتعرض فيها النموذج الأساسي لبيانات التخصيص) لمجموعة بيانات مميزة ذات صلة طبية، وعدد أقل من دورات التدريب لمعلومات قد تكون ذات صلة بشكل غير مباشر مثل تاريخ الشراء. يجب استكشاف أي تعديلات من هذا القبيل خلال تطوير نموذج P4 المقترح لدينا وتقييمها بالنسبة لتأثيراتها على الدقة.

على الرغم من أنه لم يتم تطوير أو اختبار مثل هذا النظام المتخصص، حسب علمنا، إلا أنه مستوحى من، ومماثل تقنيًا، لنماذج اللغة الكبيرة المعدلة الموجودة التي لدينا فهم أفضل لوظيفتها. على سبيل المثال، في تمرين حديث لإثبات المبدأ، بدا أن نموذج لغة كبير تم تخصيصه على كتابات ثلاثة من المؤلفين الحاليين يتكيف مع الأسلوب، والحجة، و
الأسباب المستخدمة في كتابات هؤلاء الأفراد السابقة (Porsdam Mann et al. 2023). نموذج لغة آخر تم تخصيصه على كتابات الفيلسوف دانيال دينيت أنتج مخرجات مشابهة بشكل مقنع لاستجابات دينيت الخاصة لأسئلة جديدة لم يتم تناولها في مجموعة تدريب النموذج (Schwitzgebel, Schwitzgebel, and Strasser 2023).

تتعلق هذه الدراسات المبكرة بتكيف نماذج اللغة الكبيرة مع أنماط الكتابة والحجة للأفراد، بدلاً من تفضيلاتهم العلاجية الطبية بحد ذاتها. في الواقع، بخلاف عدد قليل من التجارب غير الرسمية التي شاركنا فيها بأنفسنا، نحن غير مدركين لأي عمل موجود حاول استنتاج مثل هذه التفضيلات العلاجية باستخدام نماذج اللغة الكبيرة. ومع ذلك، أظهرت الأعمال الأخيرة أن نماذج اللغة الكبيرة قادرة حاليًا على استنتاج التفضيلات غير الطبية بدقة عالية عبر مجموعة متنوعة من السياقات، غالبًا باستخدام أمثلة محدودة فقط من السلوك أو المعلومات ذات الصلة. على سبيل المثال، يمكنهم استنتاج تفضيلات الحركة لتخصيص الأنظمة الروبوتية (Wu et al. 2023)؛ يمكنهم توقع تقييمات الأفلام للأفراد، مما يعكس تفضيلاتهم لأنواع معينة من السينما (Kang et al. 2023)؛ ويمكنهم توقع استجابات الأفراد لأسئلة الاستطلاع بناءً على إجاباتهم لاستطلاعات أخرى (Kim and Lee 2023).

على الرغم من أنه ليس قفزة صغيرة من، على سبيل المثال، توقع تقييمات الأفلام إلى توقع قرارات الحياة أو الموت بشأن الصحة، هناك أسباب وجيهة للاعتقاد بأن نموذج لغة كبير تم تخصيصه بشكل مناسب سيكون قادرًا على استنتاج التفضيلات الطبية. بالإضافة إلى الدراسات المذكورة أعلاه التي تظهر أن نماذج اللغة الكبيرة يمكن أن تستنتج تفضيلات غير طبية، هناك أدبيات كبيرة حول الفكرة ذات الصلة بمحاذاة أنظمة الذكاء الاصطناعي مثل نماذج اللغة الكبيرة مع
القيم والتفضيلات الإنسانية: سواء بشكل عام (Askell et al. 2021; Gabriel 2020; Christian 2020; Kenton et al. 2021)، أو لأفراد محددين (Kirk et al. 2023). في كلتا الحالتين، الهدف من البحث هو تحديد عملية يمكن أن تتكيف بنجاح نماذج اللغة الكبيرة لتعكس القيم والتفضيلات الإنسانية.

أخيرًا، أظهرت الأعمال الأخيرة أن نماذج اللغة الكبيرة يمكن أن تتفوق على البشر في إنشاء بيانات توافق بناءً على تفضيلات متجانسة معبر عنها في الآراء المكتوبة (Bakker et al. 2022). وهذا يظهر أيضًا إلى أي مدى يمكن لنماذج اللغة الكبيرة استنتاج التفضيلات بناءً على المدخلات النصية. بشكل عام، الوظيفة الأساسية لنماذج اللغة الكبيرة هي التنبؤ: نظرًا لبيانات ذات جودة وملاءمة كافية، يجب أن تكون نماذج اللغة الكبيرة قادرة على توقع التفضيلات الطبية أيضًا. هذه فرضية رئيسية لأغراضنا، ومن المهم تكرار أن العمل المستقبلي ضروري لتأكيد صحتها، خاصة في سياق الصحة.

هناك طرق محتملة مختلفة لتنفيذ نموذج P4 في الممارسة العملية، كل منها له تداعيات مختلفة على القضايا الأخلاقية مثل الخصوصية والموافقة (انظر Senthilnathan وSinnott-Armstrong، قيد النشر، للحصول على التفاصيل).

على الأقل في البداية، يجب تنفيذ نموذج P4 بطريقة تتماشى مع المعايير القانونية والأخلاقية الحالية التي تحكم اتخاذ القرارات الصحية للأشخاص غير القادرين في ولاية قضائية معينة. حيث يكون للبدائل مثل أفراد الأسرة سلطة قانونية، يجب عليهم تحديد الدور المناسب واستخدام نموذج P4 في عملية اتخاذ القرار.

الصندوق 1. دور الأسرة.
كما هو الحال في حالة نموذج PPP، قد يجادل البعض بأن أفراد الأسرة وحدهم، بدلاً من خوارزمية مثل نموذج P4 المقترح، يجب الاعتماد عليهم للإشارة إلى ما يجب القيام به في الحالات التي يفتقر فيها أحباؤهم إلى القدرة. قد يكون ذلك إما بسبب الاعتقاد بأن أفراد الأسرة لديهم مطالبة مستقلة بشأن قرارات علاج المريض (وهو اعتقاد يتعارض مع الوضع القانوني في العديد من الولايات القضائية) أو احترامًا لرغبات المريض بأن يكون أسرته متورطة في أي عملية اتخاذ قرار بديلة (Brock 2014). من المحتمل أيضًا أن يختلف مستوى المشاركة المتوقعة لأفراد الأسرة بين الثقافات.

وفقًا لجارداس، وواسرمان، وويندلر (2022)، ستشكل المبرر الأول مراجعة جذرية للممارسة الحالية في العديد من الولايات القضائية لاحترام رغبات المريض المستقلة، بينما يمكن معالجة الثاني من خلال دمج نموذج PPP (أو بنفس المعنى، نموذج P4) بطريقة تكمل، بدلاً من أن تحل محل، اتخاذ القرار البشري القائم على الأسرة (انظر أيضًا Biller-Andorno et al. 2022؛ Ferrario، Gloeckler، وBiller-Andorno 2023b؛ ومع ذلك، لمناقشة حجة معاكسة بأن المتنبئين بالمرضى المعتمدين على الذكاء الاصطناعي يجب أن يحلوا محل الأسرة كصانعي قرار إذا كانوا أكثر دقة وأقل تحيزًا، انظر Hubbard وGreenblum 2020).

غالبًا ما يستند إشراك أفراد الأسرة كصانعي قرار بديلين للمرضى غير القادرين إلى الاعتقاد بأن الأقارب يعرفون تفضيلات علاج المريض وبالتالي يمكنهم التنبؤ بشكل أفضل بما كان سيود المريض (Lindemann وNelson 2014؛ Jardas، وواسرمان، وويندلر 2022). ومع ذلك، كما تم الإشارة سابقًا، فإن هذا ليس مؤسسًا جيدًا. في الواقع، فقط نسبة صغيرة من المرضى ( ) يستمرون في إعطاء الأولوية لمشاركة الأسرة عندما يتم إبلاغهم بأن البدائل غالبًا لا يعرفون تفضيلات المريض (Jardas، وواسرمان، وويندلر 2022). وبالتالي، قد يكون من الأفضل استخدام نظام مثل نموذج P4 – مرة أخرى، على الأقل كمكمل أو مصدر إضافي للمعلومات – لتقليل عبء “المسؤولية الكاملة” على أفراد الأسرة وتقليل القلق والتوتر الكبيرين (Jongsma وvan de Vathorst 2015؛ Rid وWendler 2014a).

بينما لا توجد أدلة حتى الآن حول تفضيلات المرضى لاستخدام نموذج P4 بدلاً من، أو بالإضافة إلى، البدائل البشرية مثل الأسرة (نحن في عملية جمعها)، نعلم أن بعض المرضى يعطون الأولوية لتقليل عبء اتخاذ القرار على أسرهم، وفي هذه الحالة قد يحترم استخدام نموذج P4 تفضيلات العملية الخاصة بالمريض أيضًا. لمزيد من المناقشة، انظر Bleher وBraun (2022) حول “المسؤولية الموزعة” في اتخاذ القرارات الصحية (أي، بين البشر والذكاء الاصطناعي)؛ انظر أيضًا Allen et al. (2023) حول “تفويض” بعض الممارسات الصحية إلى نموذج لغة كبير.

أخلاقيًا، قد يكون هذا أيضًا ذا قيمة بقدر ما يهتم بعض المرضى ليس فقط بدقة التنبؤ ولكن أيضًا بعملية اتخاذ القرار ويريدون أن يكون أفراد أسرهم متورطين (انظر الصندوق 1). في أماكن أخرى، يجب أن يُطلب من المرضى بشكل استباقي الإشارة إلى مدى، وطريقة، التي يرغبون في استخدام نموذج P4 في حالة عدم القدرة على اتخاذ القرار.

كلما كان ذلك ممكنًا، يجب أن يكون استخدام P4 طوعيًا: يجب أن يُسأل الأفراد عن كيفية، إن وُجد، رغبتهم في استخدام P4 في حال فقدان القدرة على اتخاذ القرار، وعن أنواع المعلومات، إن وجدت، التي يجب تضمينها، وعن الأولوية التي يجب منحها (مثل الوزن الذي يجب أن يُعطى لتوقعاته مقابل تلك الخاصة بالبدائل البشرية)، وهكذا. بينما نتوقع أن يكون P4 المقترح لدينا مساعدة، بدلاً من عائق، لصانعي القرار البديلين، فإن جعل استخدامه طوعيًا للبدائل (إذا لم تكن هناك تعليمات ملزمة مسبقة من المريض على العكس) سيتناول أيضًا أي مخاوف تتعلق بالصراعات المحتملة بين تفضيلات أو قرارات البدائل البشرية وتوقعات P4.

قد يثير البحث في اتصالات المريض الشخصية وسجلاته الطبية مخاوف من أن استخدام مثل هذه البيانات لبناء P4 سينتهك حقوق المريض في الخصوصية. ومع ذلك، تشمل حقوق المريض في الخصوصية الحق في مشاركة البيانات إذا أرادوا ذلك، بحيث يمكنهم الموافقة على هذا الاستخدام لبياناتهم. بالإضافة إلى ذلك، يمكن تخزين البيانات التي يعتمد عليها P4 بشكل آمن بحيث لا يمكن الوصول إلى هذه المعلومات لأغراض أخرى غير بناء P4 دون موافقة الشخص.

يمكن تجنب المخاوف المماثلة بشأن تحميل مثل هذه المعلومات الخاصة لأغراض تحسين LLMs من خلال استخدام LLMs المخزنة محليًا: بينما يتم تشغيل النماذج الحالية الرائدة من قبل شركات خاصة ربحية، هناك أيضًا العديد من البدائل (تشمل الأمثلة في وقت كتابة هذا التقرير GPT4All وOrca Mini-GPTQ وLLaMA 2 Chat-GPTQ، بالإضافة إلى العديد من الآخرين) التي يمكن تنزيلها واستضافتها على أجهزة الكمبيوتر المحلية، مما يزيل الحاجة إلى تحميل معلومات حساسة محتملة. بديل ثالث سيكون استخدام خدمة تعمل بشكل خاص أو عام مصممة خصيصًا لغرض تقديم P4 كخدمة؛ يمكن تصميم مثل هذه الشركة أو الخدمة العامة مع مراعاة حماية الخصوصية.

بالطبع، يعتمد استخدام PPP أو P4 على عدم وجود معلومات كافية مسبقة لتحديد تفضيلات العلاج من الدرجة الأولى مباشرة. في الواقع، تقدم الخوارزميات التنبؤية أكبر فائدة في
الحالات التي لا توجد فيها خيارات قابلة للتطبيق أخرى لتحديد تفضيلات المريض (مثل عدم توفر البدائل البشرية) كما جادل Jardas وWasserman وWendler (2022). قد تكون هذه نسبة كبيرة من حالات المرضى الذين يفتقرون إلى القدرة. على الرغم من الجهود المنسقة لتحسين الاستخدام، فإن عددًا قليلًا جدًا من المرضى قد أكملوا توجيهًا مسبقًا (Wendler et al. 2016). حتى بين أولئك الذين فعلوا، غالبًا ما تكون هناك صعوبات في توثيق تفضيلات العلاج دون استشارة كافية بسبب كل من المعرفة المفقودة أو الخاطئة حول الإمكانيات الطبية المستقبلية وآثارها الملموسة (Dresser 2014)، والعبء النفسي الكبير لاتخاذ قرارات معينة (مثل تلك المتعلقة برعاية نهاية الحياة الخاصة بالفرد). وبالتالي، قد يساعد P4 في تحسين التخطيط للرعاية المسبقة.

في الحالات التي لم يوافق فيها الأفراد مسبقًا على استخدام P4، تتوفر خيارات متنوعة. أحدها هو المضي قدمًا بناءً على موافقة الوكيل المقدمة من صانعي القرار البديلين أو الأقارب. خيار آخر هو استخدام جميع المعلومات المتاحة علنًا عن المريض الفرد الذي لا تقيده قوانين حماية البيانات. الخيار الثالث هو المضي قدمًا بغض النظر عن عدم وجود موافقة صريحة مسبقة. أخيرًا، الخيار الرابع هو عدم المضي قدمًا دون مثل هذه الموافقة. لا نرغب هنا في اتخاذ موقف بشأن هذا السؤال الصعب، باستثناء القول، مرة أخرى، إنه على الأقل في البداية يجب اتخاذ هذه القرارات التنفيذية بطريقة تحترم المعايير الأخلاقية والقانونية الموجودة بالفعل في الولاية القضائية ذات الصلة. لاحقًا، قد يتم تغيير هذه المعايير في ضوء التجربة العملية والنقاش الأكاديمي.

PPP وP4 ليسا متعارضين. ومع ذلك، هناك ثلاث مزايا رئيسية لاستخدام P4 مقارنة باستخدام (فقط) PPP. واحدة هي أن توقعاته لتفضيلات علاج المرضى من الدرجة الأولى من المحتمل أن تكون أكثر دقة من تلك الخاصة بـ PPP. تستند هذه الفرضية إلى النجاح النسبي

لـ LLMs المحسّنة على LLMs العامة في استنتاج التفضيلات غير الطبية على المستوى الفردي كما هو موضح أعلاه. علاوة على ذلك، يتم تدريب P4 على معلومات محددة للشخص، بينما يستخدم PPP فقط بيانات على مستوى المجموعة. وبالتالي، فإن PPP قادر فقط على تقديم توقعات دقيقة على المستوى الفردي إذا كانت تفضيلات الفرد قريبة بما فيه الكفاية من المتوسطات الجماعية (أي، ليست حالة شاذة إحصائيًا). بالمقابل، نظرًا لأن P4 مخصص بالفعل، فلا توجد مثل هذه المتطلبات لـ P4. بعبارة أخرى، بافتراض توفر معلومات كافية محددة للفرد لتدريب P4، فلا توجد متطلبات إضافية بأن يكون الفرد المعني مشابهًا على الإطلاق للآخرين من خلفية مشابهة لكي تكون توقعات P4 صالحة شخصيًا.

الميزة الثانية لـ P4 مقارنة بـ PPP هي أن P4 سيكون، من الناحية المحتملة، قادرًا على توقع مجموعة أوسع من التفضيلات مقارنة بـ PPP. بينما يقتصر PPP على، أو على الأقل من المحتمل أن يكون الأكثر دقة في، التوقعات المتعلقة بالحالات المحددة المدرجة في الاستطلاعات التي يستند إليها، فإن P4 ليس مقيدًا بالضرورة بهذه الطريقة. وذلك لأن LLMs مثل P4 تعمل على مستوى مختلف من العمومية أو التجريد مقارنة بالخوارزميات مثل PPP. بينما يرتبط الأخير بالمعلومات الديموغرافية للاختيارات الافتراضية المتعلقة بمواقف طبية محددة ومحددة مسبقًا (وبالتالي يكون مفيدًا بشكل أساسي لتلك المواقف)، من المرجح أن يستنتج P4 الهيكل الأساسي لتفضيلات الفرد كما ينطبق عبر مجموعة من المواقف، حيث يستند إلى التنوع الكامل للمشاعر والأسباب المعبر عنها في نص الفرد بشكل عام.

الميزة الثالثة لـ P4، التي تصل إلى جوهر أطروحتنا، هي أنه أقل عرضة لبعض أنواع الاعتراضات المستندة إلى الاستقلالية، مثل تلك التي تم توجيهها ضد PPP (Wasserman وWendler 2023). من خلال هذا البيان، لا نعني أن نقول إننا نقبل ببساطة جميع هذه الاعتراضات كما تنطبق على PPP. بل، نؤكد أنه، مهما كان رأي المرء في قوة هذه الاعتراضات فيما يتعلق بـ PPP، فإن لها قوة أقل، إن كانت لها أي قوة على الإطلاق، ضد P4 المقترح. نقدم حجة لهذا الرأي في الأقسام التالية.

إحدى طرق احترام استقلالية الشخص في اتخاذ حكم بديل هي ببساطة “الحصول على الإجابة الصحيحة” – أي، اختيار ما كانوا سيختارونه في الوضع الحالي. هذا المعيار يتجاهل مسألة الوسائل، ويركز فقط على الهدف المحقق.

وجهة نظر بديلة، قدمها منتقدو PPP، هي أن الوسائل مهمة. إحدى نسخ هذا الاعتراض هي أن توقع تفضيلات الفرد يجب أن يستند إلى معلومات يعتبرها الفرد المعني ذات صلة بشكل مناسب بتشكيل تفضيلاته الشخصية، أو أنه على الأقل لن يرفضها على أنها غير مناسبة (O’Neil 2022). وفقًا لهذا المعيار أيضًا، يبدو أن P4، بناءً على المعلومات المحددة للفرد، يتفوق على PPP، الذي يعتمد على متغيرات ديموغرافية واسعة لتوقع تفضيلات المرضى.

ومع ذلك، فقد أثار النقاد للـ PPP اعتراضًا آخر قد يكون ذا صلة بالـ P4. وفقًا لهؤلاء المؤلفين، فإن الـ PPP (ومن المفترض أيضًا الـ P4) يفشل في احترام استقلالية الفرد المعاق لأنه، كآلة، لا يمكنه تقدير الأسباب والقيم التي تدعم تفضيلات المرضى (جون 2018؛ شاردين 2018). بعيدًا عن أي جدل محتمل حول ما يعنيه “تقدير” سبب ما، وما إذا كان ينبغي استبعاد LLMs حقًا من مجموعة الكيانات التي تمتلك هذه القدرة (أو قدرة مشابهة ذات صلة)، نعتقد أن هذا الاعتراض في خطر إثبات الكثير. لأنه يعني أن الـ P4 يتم محاسبته على معيار أخلاقي أعلى مما هو مطبق حاليًا على الوكلاء البشريين.

لرؤية ذلك، دعنا نفترض أن وكيلًا بشريًا يصرح بشكل صحيح، بناءً على مناقشة حديثة، بما يريده المريض، ولكن دون أن يعرف بالضرورة، أو حتى أن “يقدر” تمامًا، الأسباب وراء تلك التفضيلات. إذا افترضنا الآن أن توقع الوكيل يُستخدم لاتخاذ، أو للمساعدة في اتخاذ، حكم بديل للمريض، يبدو من غير المحتمل أن يثير ذلك مخاوف بشأن الفشل في احترام استقلالية المريض (السابق). بدلاً من ذلك، نتوقع أن يُنظر إلى الأمر على أنه كافٍ أن يكون الوكيل محتملًا بما يكفي للحصول على الإجابة الصحيحة، وأن يفعل ذلك بناءً على بيانات محددة للشخص (مثل، قصة رواها لهم المريض) التي تلتقط بشكل معقول أو تخدم لنقل تفضيلات المريض الفعلية.

هذا لا يعني تجاهل المخاوف المتعلقة بخوارزميات “الصندوق الأسود” (مثل، بنزينجر وآخرون 2023)، التي دفعت بحق إلى البحث في أنظمة الذكاء الاصطناعي القابلة للتفسير. ومع ذلك، يجب أن نكون حذرين من معيار مزدوج محتمل حيث يُطلب من الـ P4 أن يفسر توقعاته بمستوى أكبر من التفاصيل مقارنةً بوكيل بشري في وضع مماثل. في الواقع، قد يكون مثل هذا المعيار غير واقعي في أي من الحالتين، نظرًا لأن تفضيلات المرضى ليست دائمًا مبنية على أسباب واضحة أو قابلة للتعبير في المقام الأول. في الواقع، كما يشير بيلر-أندورنو وبيلر (2019)، يجد العديد من المرضى صعوبة في شرح تفضيلاتهم الخاصة
عند سؤالهم مباشرة من قبل الأطباء. نظرًا لذلك، قد يكون من الإشكالي توقع أن يكون إما الـ P4 أو الوكيل البشري مضطرًا إلى “تقدير” الأسباب أو القيم وراء تفضيلات المريض لاحترام استقلاليتهم.

تم إثارة اعتراض إضافي قائم على الاستقلالية من قبل ماينز (2023). على الرغم من أنه تم صياغته في الأصل فيما يتعلق بالـ PPP، إلا أنه قد ينطبق أيضًا على الـ P4. إنه ‘اعتراض من تفضيلات أعلى’ (الذي تم الإشارة إليه سابقًا). في هذا الاعتراض، يجادل ماينز بأن العديد من الناس لديهم تفضيلات ‘ثانوية’ قوية حول كيفية توقع تفضيلاتهم (ماينز 2023؛ انظر أيضًا أونيل 2022). على سبيل المثال، تمامًا كما قد يكون لدى المريض تفضيل أعلى بأن لا يتم استنتاج تفضيل علاجه من خلال خوارزمية، والتي، بمعنى ما، ‘تقلل’ منهم إلى فئاتهم الديموغرافية (كما هو الحال مع الـ PPP)، قد يكون لدى المريض أيضًا تفضيل بأن لا يتم استنتاج تفضيل علاجه من، على سبيل المثال، منشوراتهم على وسائل التواصل الاجتماعي (مصدر محتمل للبيانات للـ P4 المقترح).

إذا كان لدى الأفراد هذه المخاوف، فإن إحدى الطرق لتخفيفها قد تكون إعطاء الأفراد خيار تقديم معلومات إضافية، تتوافق مع النسخ 2 أو 3 من الاقتراح في الجدول 1. يمكن للشخص تقديم هذه المعلومات، على سبيل المثال، من خلال ملء استبيان يسأل أسئلة عامة حول مدى أهمية بعض القيم بالنسبة لهم أو من خلال الإبلاغ عن قرارات في عينة من السيناريوهات الملموسة (انظر، على سبيل المثال، فيراريو، غلوكليكر، وبيلر-أندورنو 2023أ) أو تجارب الاختيار المنفصلة (مثل، فان كينشوت وآخرون 2021). حيث لم يعد من الممكن جمع مثل هذه البيانات المستقبلية بسبب مشاكل في الحركة أو القدرة، يمكن إجراء عملية مماثلة بدلاً من ذلك من قبل أشخاص مقربين من المريض، مثل أصدقائهم وعائلاتهم. سيتوافق هذا مع النسخة 4 من الـ P4 المقترح في الجدول 1.

بالإضافة إلى ذلك، يمكن أن تتضمن السياسات حول كيفية بناء وتنفيذ الـ P4 تفضيلات المريض لاستخدام مصادر معينة فقط من المعلومات. علاوة على ذلك، فإن مدى قدرة الـ P4 على استنتاج تفضيلات ثانوية بدقة من المعلومات السياقية في بيانات تدريبه هو سؤال مفتوح. ومع ذلك، حتى لو تبين أن الـ P4 غير قادر على إجراء مثل هذه الاستنتاجات، يمكن تلبية هذا الاعتراض من خلال تقديم استخدام الـ P4 بشكل مستقبلي كخيار طوعي بدلاً من كمتطلب، بحيث يتمكن أولئك الذين لديهم رغبات ثانوية قوية حول كيفية توقع تفضيلاتهم من رفض استخدام الـ P4. سيجعل هذا استخدام أو عدم استخدام الـ P4 مثالًا على
تقرير المصير، وهو جانب من جوانب الاستقلالية التي قد تكون ذات قيمة كبيرة لبعض المرضى.

سننظر الآن في بعض القيود العملية والمعرفية. أحدها يتعلق بكيفية تقييم دقة الـ P4 (أو في الواقع دقة الوكلاء أو الـ PPP). ببساطة، لن يكون من الممكن أبدًا معرفة على وجه اليقين ما كان سيفضله مريض معاق بشكل مستقل في موقف معين، لأنه بحكم التعريف لا يمكنه التعبير عن هذا التفضيل بشكل كافٍ. أقرب ما يمكننا الوصول إليه لمثل هذه المعرفة هو استخدام سيناريوهات افتراضية أجاب عليها المريض المعني قبل العجز؛ ومع ذلك، فإن المواقف الافتراضية لا تعكس بالضرورة ما يختاره الناس في المواقف الفعلية، من بين أسباب أخرى بسبب تحيز الرغبة الاجتماعية في هذه الأنواع من أساليب البحث. ومع ذلك، فإن هذه مشكلة عامة لأي نوع من التنبؤ، سواء كان قائمًا على خوارزمية مثل الـ PPP أو الـ P4، أو على اتخاذ قرار من قبل وكيل، أو حتى توجيه مسبق.

نظرًا لهذه المشكلة، قد يكون أن اتخاذ القرار من قبل الوكلاء قد وصل بالفعل إلى الحدود العليا للتنبؤ بدقة بتفضيلات العلاج للمرضى المعاقين (كيم 2014). بينما قد يكون هذا صحيحًا، فإن الطريقة الوحيدة لتقريب إثبات هذه الأطروحة ستكون من خلال إطلاق نموذج أولي كامل للـ PPP (أو الـ P4) ومقارنة دقته بمعايير الحالية (جارداس، واسرمان، ووندلر 2022). ومع ذلك، لكي يكون مفيدًا، لا يتعين على الـ P4 التنبؤ بدقة مطلقة بتفضيلات العلاج لمريض معاق. يعتقد بعض المؤلفين أنه يجب أن يكون ببساطة أفضل من القدرات التنبؤية (التي بالكاد أفضل من الصدفة) للوكلاء البشريين وفي هذا أو غيره من الطرق يساعد الوكلاء في مهمتهم الصعبة (شالويتز، غاريت-ماير، ووندلر 2006).

قد يجادل آخرون بأن القدرة على التنبؤ بتفضيلات المرء تتطلب معرفة كبيرة بهوية المريض (تومينغ ومييازونو 2023). لا يمكن إعادة إنتاج هذه المعرفة عن الذات بناءً على الوصف وحده، بل تتطلب فهمًا عميقًا لسياق حياة المريض وظروفه السريرية الفردية. كشكل من أشكال الذكاء الاصطناعي، سيكون الـ P4 قادرًا فقط على إجراء استنتاجات تجريبية بناءً على الأدلة النصية التي تم إنتاجها سابقًا. من ناحية أخرى، يقوم أفراد الأسرة بإجراء استنتاجات نوعية مختلفة بناءً على قدرتهم على المشاركة في نوايا المريض (توماسيلي وآخرون 2005). ومع ذلك، فإن هذين النهجين ليسا متعارضين. على سبيل المثال، كما ذُكر أعلاه، من الممكن تخيل تنويعة على الـ P4 حيث يُطلب من أفراد الأسرة أو الآخرين المقربين من الفرد تقديم معلومات ذات صلة حول تفضيلات المريض بناءً على معرفتهم بنوايا المريض.

قد تكون هناك أيضًا مشاكل في تنفيذ نموذج P4 في الممارسة السريرية، مشابهة للصعوبات التي توجد بالفعل مع التوجيهات المسبقة. على سبيل المثال، غالبًا ما لا تكون هذه الأخيرة متاحة عند الحاجة أو لا يتبعها المتخصصون في الرعاية الصحية. يبدو من المحتمل أن هذه المشاكل نفسها ستنطبق على محاولات جعل الأفراد يملأون استبيانات مختلفة مسبقًا مصممة لاستنباط تفضيلاتهم وقيمهم (أي، ليتمكنوا من إدخال هذه البيانات الغنية والشخصية في نموذج P4 لتحسين استنتاجاته بشكل أكبر). نحن لا ننكر أن هناك حواجز مختلفة أمام التبني. ومع ذلك، حيث يمكن فعلاً توفير مثل هذه المعلومات المسبقة لغرض تدريب نموذج P4، فمن المحتمل أن توفر فوائد عديدة من حيث دقة التنبؤ بسبب التوافق الأقرب بين بيانات التدريب والتفضيلات الفعلية، وبالتالي قوة ووضوح العلاقة الاستنتاجية بين الاثنين. وحتى في الحالات التي لا يمكن فيها جمع بيانات الاستبيان الشخصية مسبقًا، من الممكن أن تكون هناك مصادر أخرى محتملة للبيانات على مستوى الأفراد قد تكون أسهل في الجمع (مثل منشورات وسائل التواصل الاجتماعي أو الكتابات المتاحة للجمهور) يمكن استخدامها بشكل جيد.

أخيرًا، من الممكن أن يُعطى وزن زائد لـ P4 في بعض الظروف. النماذج اللغوية الكبيرة بشكل عام قادرة على إنتاج نصوص تشير إلى درجة عالية من الثقة. علاوة على ذلك، فإن درجة الثقة التي تقدم بها النماذج اللغوية الكبيرة النصوص مستقلة عن درجة اليقين بأن النص يتوافق بالفعل مع البناء المستهدف – في هذه الحالة، التفضيلات أو القيم الفردية. هناك فرصة أن تكون التصريحات التي تبدو واثقة للغاية حول التفضيلات
قد يؤدي الاعتماد على مخرجات P4 إلى الاعتماد غير المناسب على نتائجها بسبب عدم القدرة على تحديد الدرجة التي تستند إليها مثل هذه التصريحات على استنتاجات معقولة من بيانات التدريب. هذه نقطة مهمة تحتاج إلى معالجة قبل النظر في الاستخدام السريري لـ P4s. يمكن أن تشمل طرق معالجتها العمل الفني الذي يهدف إلى السماح لـ P4 بحساب والتعبير عن درجة ثقته. قد يقلل الإشارة إلى مدى عدم اليقين في التنبؤ من الاعتماد المفرط، كما أنه سيوفر تمثيلاً أكثر واقعية لتفضيلات المرضى الذين يشعرون هم أنفسهم بعدم اليقين بشأن ما يجب القيام به في الحالات الصعبة. يمكن تقديم هذه الفترات الزمنية للثقة جنبًا إلى جنب مع معلومات إضافية تتعلق بوظيفة ونقاط القوة والضعف لنماذج اللغة الكبيرة بشكل عام وP4s بشكل خاص، إلى الوكلاء وصانعي القرار السريري.

للعودة إلى الحالة في بداية هذه الورقة، كيف يمكننا تحسين اتخاذ القرار للمرضى مثل من فقدوا القدرة والذين يوجد بشأنهم عدم يقين أو خلاف حول ما كانوا سيختارونه؟ عند تقديمه لأول مرة، تم تصور برنامج التفضيلات الشخصية (PPP) كنهج واعد لتحسين اتخاذ القرارات العلاجية للمرضى غير القادرين. في هذه الورقة، نقترح وسيلة جديدة للتنبؤ بتفضيلات المرضى باستخدام خوارزميات التعلم الآلي، وتحديداً نماذج اللغة الكبيرة المعدلة بدقة. نشير إلى هذا النظام التنبؤي الافتراضي باسم متنبئ تفضيلات المرضى الشخصية (P4). من خلال تعديل نموذج لغة كبير على أدلة نصية محددة للشخص، قد يكون P4 أكثر دقة في التنبؤ بتفضيلات العلاج الفعلية للمريض مقارنة بالممارسة الحالية لاستخدام صانعي القرار البديلين. كما قد يكون أكثر دقة من برنامج التفضيلات الشخصية وأقل عرضة لبعض الاعتراضات المستندة إلى احترام الاستقلالية الفردية.

نظرًا لأن اقتراحنا نظري فقط، ولأننا (أو غيرنا حسب علمنا) لم نقم بعد بإجراء دراسات رسمية لاختبار P4 تجريبيًا، يجب أن تحدث عدة أشياء قبل أن يمكن القول بثقة إن P4 هو، أو سيكون، طريقة متفوقة في التنبؤ بتفضيلات المرضى. تتطلب هذه النقاط الأربع مزيدًا من الاعتبار ولكنها قد توفر إطارًا أوليًا للتفكير في P4 كأداة لمساعدة اتخاذ القرارات بالنيابة.

أولاً وقبل كل شيء، يجب بناء نماذج أولية من P4 ومقارنة دقتها مع PPPs والبدائل البشرية. يجب أن تتضمن هذه النماذج الأولية، في البداية، نماذج متطورة تم ضبطها بدقة فقط على البيانات الفردية المتاحة للجمهور أو التي تم الحصول على إذن لاستخدامها.
تم الحصول على الموافقة بشكل صريح. هذه خطوة أولى مهمة لمعالجة القضايا المتعلقة بالجدوى والخصوصية. ومع ذلك، يجب أيضًا استكشاف نماذج P4 الأولية باستخدام نماذج لغوية كبيرة بديلة يمكن تخزينها محليًا (مما يلغي مخاوف الخصوصية) إما بالتوازي أو بمجرد إثبات الجدوى. وبالمثل، يجب اختبار دقة نماذج P4 عبر لغات أخرى غير تلك التي تناسبها نماذج اللغة الكبيرة بشكل أفضل (الإنجليزية، الصينية، والإسبانية) وإذا لزم الأمر، يجب السعي لتحقيق تحسينات محددة للغة.

ثانيًا، يجب أن تحاول الأبحاث حول نماذج P4 تحديد الفائدة النسبية لمختلف أنواع المعلومات (مثل المعلومات الطبية ذات الصلة المباشرة المستمدة من السجلات الصحية الإلكترونية مقابل المعلومات ذات الصلة غير المباشرة مثل منشورات وسائل التواصل الاجتماعي) لأغراض التنبؤ بتفضيلات المرضى. سيوفر ذلك معلومات مفيدة بشأن مدى ضرورة أن تعطي نماذج P4 أولوية لأنواع معينة من المعلومات خلال عملية الضبط الدقيق (مثل، من خلال وزن هذه الأنواع من المعلومات بشكل أكبر).

ثالثًا، يجب إجراء استطلاعات يتم فيها سؤال الأفراد عن آرائهم واهتماماتهم المتعلقة بـ P4s، بالإضافة إلى ما إذا كانوا يرغبون في استخدامها في مستقبل افتراضي يصبح فيه هؤلاء الأفراد غير قادرين على اتخاذ القرارات ولا تتوفر التوجيهات المسبقة ذات الصلة. والأفضل من ذلك، يمكن استخدام طرق تجريبية مستمدة من العلوم المعرفية لاستكشاف المواقف والحدس العام بينما يتم تغيير واختبار العوامل المرشحة التي قد يُتوقع أن تلعب دورًا في تشكيل وجهات نظرهم حول هذه الأسئلة (Earp et al. 2020, 2021, 2022؛ Lewis, Demaree-Cotton, وEarp 2023).

رابعًا، يجب إعطاء مزيد من التفكير حول الطرق التي يمكن من خلالها دمج P4 في إجراءات التخطيط المتقدم للرعاية واتخاذ القرارات بالنيابة. تشمل الأسئلة المفتوحة إمكانية التنبؤ بتفضيلات متعددة الأنماط حيث يتم استخدام الوكلاء، وPPPs، وP4s معًا؛ بالإضافة إلى مدى استخدام P4s لتكملة أو استبدال اتخاذ القرارات بالنيابة في حالات النزاع.

خامسًا، هناك حاجة لوضع استراتيجيات تقييم. إحدى النتائج المركزية لتحليلنا هي أنه يجب تلبية شروط هيكلية معينة في اتخاذ القرارات السريرية لكي يُفهم P4 على أنه يعزز حق المرضى في تقرير مصيرهم. من المحتمل أن يكون تضمين تطبيق P4 في هياكل اتخاذ القرار المشترك مفيدًا هنا. وهذا ينطبق بشكل خاص إذا كانت هناك بروتوكولات واضحة تحدد عملية
استخدام P4 في اتخاذ القرارات الملموسة بالإضافة إلى كيفية التعامل مع عدم اليقين التفسيري في تقييم التفضيلات المحددة.

ربما يكون التقدم الأكثر أهمية هو الحالة التي يمكن فيها لـ P4 أن تذكر بالفعل الأسباب وراء توقعاتها – أي، على الأقل، تحديد البيانات أو السلوك الذي تستند إليه في توقعاتها. إذا تم جعل P4 قابلة للتفسير، إما من خلال التقدم في نموذج اللغة الأساسي نفسه أو من خلال ربطه بتفسيرات أعلى من خلال برامج مثل LIME، فإنه يمكن أيضًا من حيث المبدأ استنتاج الأوزان التي يضعها المريض على اعتبارات مختلفة وكيف تتفاعل تلك الاعتبارات. سيسمح ذلك بمراجعة مستقلة من قبل المهنيين الصحيين، والممثلين، والعائلة. بعبارة أخرى، بينما قد يكون من الصعب أو المستحيل في بعض الحالات أن تجعل نماذج اللغة توقعاتها قابلة للتفسير بالكامل، يبدو من حيث المبدأ أنه سيكون من الممكن استخراج، أو التركيز على، العوامل ذات الصلة التي تستند إليها التوقعات. يمكن بعد ذلك تقييم هذه البيانات من قبل البشر لمحاولة تحديد معناها (للنقاش، انظر Gloeckler وFerrario وBillerAndorno وآخرون 2022).

هناك تداعيات أوسع لمناقشتنا. لقد اقترح بعضنا استخدام الذكاء الاصطناعي لتعزيز اتخاذ القرارات الحكيمة ليس فقط فيما يتعلق بتفضيلات الشخص المعتمدة على السياق (موضوع هذه الورقة) ولكن أيضًا اتخاذ القرارات الأخلاقية بشكل أوسع (سافولسكو وماسلين 2015؛ جيوبيلييني وسافولسكو 2018؛ سينوت-أرمسترونغ وسكوربرغ 2021؛ ديماري-كوتون، إيرب، وسافولسكو 2022). يمكن أن يستخرج “الذكاء الاصطناعي الأخلاقي” قيم الشخص من مدخلاته الصريحة وسلوكه وبياناته، واسترجاع “البيانات الضخمة” حول الخيارات التي ستخدم تلك القيم بشكل أفضل. يمكن أن يجعل الذكاء الاصطناعي، في شكل نماذج اللغة الكبيرة، القيم الضمنية صريحة، وقد يتحدى القيم الأخلاقية أو الحكيمة للشخص، مما يؤدي إلى التطور الأخلاقي أو الشخصي. في هذه الورقة، لم نلمس سوى قمة جبل الجليد في استخدام الذكاء الاصطناعي للتفاعل مع قيم الشخص – الاحتمالات هائلة وتمتد إلى ما هو أبعد من القرار بتقييد أو توسيع العلاج الطبي الذي يدعم الحياة.

جوليان سافولسكو هو باحث شريك في منحة مجلس الأبحاث الأسترالي LP190100841 التي تتضمن شراكة صناعية مع شركة إيلومينا. هو لا يتلقى أي أموال شخصياً من إيلومينا. ج.س. هو مستشار لجنة الأخلاقيات الحيوية لشركة باير.

تلقى JS أجرًا مقابل التحدث كعضو في لجنة في بودكاست برعاية MyProtein (أغسطس 2020).

JS هو عضو في اللجنة الاستشارية لمؤسسة هيفولوشن (2022-).

الآراء المعبر عنها هنا هي آراء المؤلفين ولا تعكس بالضرورة سياسات المعاهد الوطنية للصحة أو وزارة الصحة والخدمات الإنسانية الأمريكية.

ماتياس براون: تم تمويل جزء من عمل MB من قبل مؤسسة الأبحاث الألمانية كجزء من CRC1483 EmpkinS (رقم 442419336) ومجلس الأبحاث الأوروبي كجزء من منحة بدء ERC SIMTWIN (رقم 101076822). ومع ذلك، فإن الآراء والأفكار المعبر عنها هي فقط آراء المؤلفين ولا تعكس بالضرورة آراء الاتحاد الأوروبي أو مجلس الأبحاث الأوروبي. لا يمكن تحميل الاتحاد الأوروبي أو الجهة المانحة المسؤولية عنها. لم يكن للمؤسسين أي تأثير على البحث.
والتر سينوت-أرمسترونغ: تم دعم عمل WSA في هذه الورقة جزئيًا من خلال منح من OpenAI وجامعة ديوك. هؤلاء الممولون غير مسؤولين عن المحتوى.
دومينيك ويليكنسون: تم تمويل هذا البحث بالكامل، أو جزئيًا، من قبل مؤسسة ويلكوم [203132/Z/16/Z]. لم يكن للممولين أي دور في إعداد هذه المخطوطة أو في اتخاذ قرار النشر. لغرض الوصول المفتوح، قام المؤلف بتطبيق ترخيص حقوق الطبع والنشر العامة CC BY على أي نسخة من المخطوطة المقبولة من المؤلف الناتجة عن هذا التقديم.
جوليان سافولسكو: تم تمويل هذا البحث بالكامل، أو جزئيًا، من قبل مؤسسة ويلكوم [رقم المنحة WT203132/Z/16/Z]. لغرض الوصول المفتوح، قام المؤلف بتطبيق ترخيص حقوق الطبع والنشر العام CC BY على أي نسخة من المخطوطة المقبولة من المؤلف الناتجة عن هذا التقديم. حصل جوليان سافولسكو، من خلال مشاركته مع معهد أبحاث الأطفال في مردوخ، على تمويل من حكومة ولاية فيكتوريا من خلال برنامج دعم البنية التحتية التشغيلية (OIS). هذا البحث مدعوم من قبل المجلس الوطني للبحوث الطبية بوزارة الصحة في سنغافورة بموجب مبادرة تمويل دعم الأنشطة المتعلقة بالتجارب السريرية (رقم مشروع NMRC MOH-000951-00)، ومن قبل تمويل أبحاث تشين سو لان ومن قبل الجامعة الوطنية في سنغافورة بموجب منحة بدء التشغيل NUS; NUHSRO/2022/078/Startup/13.
أنيت ريد: تم دعم هذا العمل جزئيًا من قبل قسم الأخلاقيات الحيوية في المركز السريري، الذي يتبع البرنامج الداخلي للمعاهد الوطنية للصحة. الآراء المعبر عنها هنا هي آراء المؤلف ولا تعكس بالضرورة سياسات المعاهد الوطنية للصحة أو وزارة الصحة والخدمات الإنسانية الأمريكية.
ديفيد ويندلر: تم تمويل هذا العمل، جزئيًا، من قبل برنامج البحث الداخلي في مركز NIH السريري. ومع ذلك، فإن الآراء المعبر عنها هي آراء المؤلف الخاصة. لا تمثل الموقف أو السياسة الوطنية.

معاهد الصحة، خدمة الصحة العامة الأمريكية، أو وزارة الصحة والخدمات الإنسانية الأمريكية.

براين د. إيرب (دhttp://orcid.org/0000-0001-9691-2888
كارين يونغسما (دhttp://orcid.org/0000-0001-8135-6786
ماتياس براون (د)http://orcid.org/0000-0002-6687-6027
دومينيك ويليكنسون (د)http://orcid.org/0000-0003-3958-
8633
والتر سينوت-أرمسترونغ (دhttp://orcid.org/0000-0003-2579-9966
ديفيد ويندلر (دhttp://orcid.org/0000-0002-9359-4439
جوليان سافولسكو (دhttp://orcid.org/0000-0003-1691-6403

Allen, J., B. D. Earp, J. J. Koplin, and D. Wilkinson. 2023. Consent GPT: Is it ethical to delegate procedural consent to conversational AI? Journal of Medical Ethics. Online ahead of print. doi: 10.1136/jme-2023-109347.
Askell, A., Y. Bai, A. Chen, D. Drain, D. Ganguli, T. Henighan, A. Jones, N. Joseph, B. Mann, N. DasSarma, et al. 2021. A general language assistant as a laboratory for alignment. arXiv Preprint (1):1-48. doi: 10.48550/arXiv. 2112.00861.

Bakker, M., M. Chadwick, H. Sheahan, M. Tessler, L. Campbell-Gillingham, J. Balaguer, N. McAleese, A. Glaese, J. Aslanides, M. M. Botvinick, et al. 2022. Finetuning language models to find agreement among humans with diverse preferences. Advances in Neural Information Processing Systems 35:38176-38189.
Benzinger, L., J. Epping, F. Ursin, and S. Salloch. 2023. Artificial Intelligence to support ethical decision-making for incapacitated patients: A survey among German anesthesiologists and internists. Pre-print available at https:// www.researchgate.net/publication/374530025.
Berger, J. T. 2005. Patients’ interests in their family members’ well-being: An overlooked, fundamental consideration within substituted judgments. The Journal of Clinical Ethics 16 (1):3-10. doi: 10.1086/JCE200516101.
Biller-Andorno, N., A. Ferrario, S. Joebges, T. Krones, F. Massini, P. Barth, G. Arampatzis, and M. Krauthammer. 2022. AI support for ethical decision-making around resuscitation: Proceed with care. Journal of Medical Ethics 48 (3):175-183. doi: 10.1136/medethics-2020-106786.
Biller-Andorno, N., and A. Biller. 2019. Algorithm-aided prediction of patient preferences-an ethics sneak peek. The New England Journal of Medicine 381 (15):14801485. doi: 10.1056/NEJMms1904869.

Bleher, H., and M. Braun. 2022. Diffused responsibility: Attributions of responsibility in the use of AI-driven clinical decision support systems. AI and Ethics 2 (4):747761. doi: 10.1007/s43681-022-00135-x.

Braun, M. 2021. Represent me: Please! Towards an ethics of digital twins in medicine. Journal of Medical Ethics 47 (6):394-400. doi: 10.1136/medethics-2020-106134.

Braun, M. 2022. Ethics of digital twins: Four challenges. Journal of Medical Ethics 48 (9):579-580. doi: 10.1136/ medethics-2021-107675.

Brock, D. W. 2014. Reflections on the patient preference predictor proposal. The Journal of Medicine and Philosophy 39 (2):153-60. doi: 10.1093/jmp/jhu002.
Christian, B. 2020. The alignment problem. New York: W. W. Norton & Company.

Church, K. W., Z. Chen, and Y. Ma. 2021. Emerging trends: A gentle introduction to fine-tuning. Natural Language Engineering 27 (6):763-778. doi: 10.1017/S13513249210 00322.

Ciroldi, M., A. Cariou, C. Adrie, D. Annane, V. Castelain, Y. Cohen, A. Delahaye, L. M. Joly, R. Galliot, M. Garrouste-Orgeas, et al. 2007. Ability of family members to predict patient’s consent to critical care research. Intensive Care Medicine 33 (5):807-813. doi: 10.1007/ s00134-007-0582-6.
de Kerckhove, D. 2021. The personal digital twin, ethical considerations. Philosophical Transactions. Series A, Mathematical, Physical, and Engineering Sciences 379 (2207):20200367. doi: 10.1098/rsta.2020.0367.

Demaree-Cotton, J., B. D. Earp, and J. Savulescu. 2022. How to use AI ethically for ethical decision-making. The American Journal of Bioethics 22 (7):1-3. doi: 10.1080/ 15265161.2022.2075968.

Ditto, P. H., and C. J. Clark. 2014. Predicting end-of-life treatment preferences: Perils and practicalities. The Journal of Medicine and Philosophy 39 (2):196-204. doi: 10.1093/jmp/jhu007.

Dresser, R. 2014. Law, ethics, and the patient preference predictor. The Journal of Medicine and Philosophy 39 (2): 178-186. doi: .
Earp, B. D. 2022. Meta-surrogate decision making and artificial intelligence. Journal of Medical Ethics 48 (5):287289. doi: 10.1136/medethics-2022-108307.

Earp, B. D., J. Demaree-Cotton, M. Dunn, V. Dranseika, J. A. C. Everett, A. Feltz, G. Geller, I. R. Hannikainen, L. A. Jansen, J. Knobe, et al. 2020. Experimental philosophical bioethics. The American Journal of Bioethics Empirical Bioethics 11 (1):30-33. doi: 10.1080/23294515. 2020.1714792.

Earp, B. D., J. Lewis, V. Dranseika, and I. R. Hannikainen. 2021. Experimental philosophical bioethics and normative inference. Theoretical Medicine and Bioethics 42 (3-4):91111. doi: 10.1007/s11017-021-09546-z.

Earp, B. D., J. Lewis, J. A. Skorburg, I. Hannikainen, and J. A. C. Everett. 2022. Experimental philosophical bioethics of personal identity. In Experimental philosophy of identity and the self, by K. Tobia, 183-202. London: Bloomsbury.
Ferrario, A., S. Gloeckler, and N. Biller-Andorno. 2023a. Ethics of the algorithmic prediction of goal of care preferences: From theory to practice. Journal of Medical Ethics 49 (3):165-174. doi: 10.1136/jme-2022-108371.
Ferrario, A., S. Gloeckler, and N. Biller-Andorno. 2023b. AI knows best? Avoiding the traps of paternalism and other pitfalls of AI-based patient preference prediction. Journal of Medical Ethics 49 (3):185-186. doi: 10.1136/jme-2023108945.

Gabriel, I. 2020. Artificial intelligence, values, and alignment. Minds and Machines 30 (3):411-437. doi: 10.1007/ s11023-020-09539-2.
Giubilini, A., and J. Savulescu. 2018. The artificial moral advisor. The “ideal observer” meets artificial intelligence.

Philosophy & Technology 31 (2):169-188. doi: 10.1007/ s13347-017-0285-z.
Gloeckler, S., A. Ferrario, and N. Biller-Andorno. 2022. An ethical framework for incorporating digital technology into advance directives: Promoting informed advance decision making in healthcare. The Yale Journal of Biology and Medicine 95 (3):349-353.
Houts, R. M., W. D. Smucker, J. A. Jacobson, P. H. Ditto, and J. H. Danks. 2002. Predicting elderly outpatients’ lifesustaining treatment preferences over time: The majority rules. Medical Decision Making: An International Journal of the Society for Medical Decision Making 22 (1):39-52. doi: 10.1177/0272989X0202200104.
Hubbard, R., Greenblum. J., and J. 2020. Surrogates and artificial intelligence: Why AI trumps family. Science and Engineering Ethics 26 (6):3217-27. doi: 10.1007/s11948-020-00266-6.
Jardas, E. J., D. Wasserman, and D. Wendler. 2022. Autonomy-based criticisms of the patient preference predictor. Journal of Medical Ethics 48 (5):304-310. doi: 10. 1136/medethics-2021-107629.
John, S. 2014. Patient preference predictors, apt categorization, and respect for autonomy. The Journal of Medicine and Philosophy 39 (2):169-177. doi: 10.1093/jmp/jhu008.
John, S. D. 2018. Messy autonomy: Commentary on patient preference predictors and the problem of naked statistical evidence. Journal of Medical Ethics 44 (12):864-864. doi: 10.1136/medethics-2018-104941.

Jongsma, K. R., and S. van de Vathorst. 2015. Beyond competence: Advance directives in dementia research. Monash Bioethics Review 33 (2-3):167-180. doi: 10.1007/ s40592-015-0034-y.
Jost, L. A. 2023. Affective experience as a source of knowledge. PhD Thesis, University of St Andrews. doi: 10. 17630/sta/387.
Kang, W. C., J. Ni, N. Mehta, M. Sathiamoorthy, L. Hong, E. Chi, and D. Z. Cheng. 2023. Do LLMs understand user preferences? Evaluating LLMs on user rating prediction. arXivpreprint (1):1-11. doi: 10.48550/arXiv.2305. 06474.

Kenton, Z., T. Everitt, L. Weidinger, I. Gabriel, V. Mikulik, and G. Irving. 2021. Alignment of language agents. arXiv preprint (1):1-18. doi: 10.48550/arXiv.2103.14659.
Kim S. Y. 2014. Improving medical decisions for incapacitated persons: Does focusing on ‘accurate predictions’ lead to an inaccurate picture? Journal of Medicine and Philosophy 39:187-195. doi: .
Kim, J., and B. Lee. 2023. AI-augmented surveys: Leveraging large language models for opinion prediction in nationally representative surveys. arXiv preprint (1): 1-18. doi: 10.48550/arXiv.2305.09620.
Kirk, H. R., B. Vidgen, P. Röttger, and S. A. Hale. 2023. Personalisation within bounds: A risk taxonomy and policy framework for the alignment of large language models with personalized feedback. arXiv preprint (1):1-37. doi: 10.48550/arXiv.2303.05453.

Lamanna, C., and L. Byrne. 2018. Should artificial intelligence augment medical decision making? The case for an autonomy algorithm. AMA Journal of Ethics 20 (9):E902E910. doi: 10.1001/amajethics.2018.902.
Lewis, J., J. Demaree-Cotton, and B. D. Earp. 2023. Bioethics, experimental approaches. In Encyclopedia of
the philosophy of law and social philosophy, by M. Sellers, S. Kirste. Dordrecht: Springer. doi: 10.1007/978-94-007-6730-0_1053-1.
Lindemann, H., and J. L. Nelson. 2014. The surrogate’s authority. The Journal of Medicine and Philosophy 39 (2): 161-168. doi: .
Mainz, J. T. 2023. The patient preference predictor and the objection from higher-order preferences. Journal of Medical Ethics 49 (3):221-222. doi: 10.1136/jme-2022-108427.
O’Neil, C. 2022. Commentary on ‘Autonomy-based criticisms of the patient preference predictor. Journal of Medical Ethics 48 (5):315-316. doi: 10.1136/medethics-2022-108288.
Perry, J. E., L. R. Churchill, and H. S. Kirshner. 2005. The Terri Schiavo case: Legal, ethical, and medical perspectives. Annals of Internal Medicine 143 (10):744-748. doi: 10.7326/0003-4819-143-10-200511150-00012.

Porsdam Mann, S., B. D. Earp, N. Møller, V. Suren, and J. Savulescu. 2023. AUTOGEN: A personalized large language model for academic enhancement-Ethics and proof of principle. The American Journal of Bioethics 23 (10):28-41. doi: 10.1080/15265161.2023.2233356.

Rid, A., and D. Wendler. 2014a. Treatment decision making for incapacitated patients: Is development and use of a patient preference predictor feasible? The Journal of Medicine and Philosophy 39 (2):130-152. doi: 10.1093/ jmp/jhu006.
Rid, A., and D. Wendler. 2014b. Use of a patient preference predictor to help make medical decisions for incapacitated patients. The Journal of Medicine and Philosophy 39 (2):104-129. doi: .

Ryan, M. 2004. Discrete choice experiments in health care. BMJ (Clinical Research ed.) 328 (7436):360-361. doi: 10. 1136/bmj.328.7436.360.
Sacchi, L., S. Rubrichi, C. Rognoni, S. Panzarasa, E. Parimbelli, A. Mazzanti, C. Napolitano, S. G. Priori, and S. Quaglini. 2015. From decision to shared-decision: Introducing patients’ preferences into clinical decision analysis. Artificial Intelligence in Medicine 65 (1):19-28. doi: 10.1016/j.artmed.2014.10.004.
Savulescu, J., and H. Maslen. 2015. Moral enhancement and artificial intelligence: Moral AI?. In Beyond artificial intelligence. Topics in intelligent engineering and informatics, by Romportl, J., Zackova, E., Kelemen, J. 9, 79-95. Cham: Springer. doi: 10.1007/978-3-319-09668-1_6.
Schwartz, S. M., K. Wildenhaus, A. Bucher, and B. Byrd. 2020. Digital twins and the emerging science of self: Implications for digital health experience design and “small” data. Frontiers in Computer Science 2:31. doi: 10. 3389/fcomp.2020.00031.
Schwitzgebel, E., D. Schwitzgebel, and A. Strasser. 2023. Creating a large language model of a philosopher. arXiv Preprint (1):1-36. doi: 10.48550/arXiv.2302.01339.
Senthilnathan, I., and W. Sinnott-Armstrong. Forthcoming. Patient preference predictors: Options, implementations, and policies. Working paper.
Shalowitz, D. I., E. Garrett-Mayer, and D. Wendler. 2006. The accuracy of surrogate decision makers: A systematic
review. Archives of Internal Medicine 166 (5):493-497. doi: 10.1001/archinte.166.5.493.
Shalowitz, D. I., E. Garrett-Mayer, and D. Wendler. 2007. How should treatment decisions be made for incapacitated patients, and why? PLoS Medicine 4 (3):E35. doi: 10.1371/journal.pmed.0040035.

Sharadin, N. P. 2018. Patient preference predictors and the problem of naked statistical evidence. Journal of Medical Ethics 44 (12):857-862. doi: 10.1136/medethics-2017-104509.
Silveira, M. J. 2022. Advance care planning and advance directives. Up To Date. https://www.uptodate.com/con-tents/advance-care-planning-and-advance-directives.
Sinnott-Armstrong, W., and J. A. Skorburg. 2021. How AI can aid bioethics. Journal of Practical Ethics 9 (1):1-22. doi: 10.3998/jpe.1175.
Smucker, W. D., R. M. Houts, J. H. Danks, P. H. Ditto, A. Fagerlin, and K. M. Coppola. 2000. Modal preferences predict elderly patients’ life-sustaining treatment choices as well as patients’ chosen surrogates do. Medical Decision Making: An International Journal of the Society for Medical Decision Making 20 (3):271-280. doi: 10. 1177/0272989X0002000303.
Stocking, C. B., G. W. Hougham, D. D. Danner, M. B. Patterson, P. J. Whitehouse, and G. A. Sachs. 2006. Speaking of research advance directives: Planning for future research participation. Neurology 66 (9):1361-1366. doi: 10.1212/01.wnl.0000216424.66098.55.
Tomasello, M., M. Carpenter, J. Call, T. Behne, and H. Moll. 2005. Understanding and sharing intentions: The origins of cultural cognition. The Behavioral and Brain Sciences 28 (5):675-691. doi: 10.1017/S0140525X05000129.

Toomey, J., J. Lewis, I. Hannikainen, and B. D. Earp. 2023. Advance medical decision making differs across first- and third-person perspectives. PsyArXiv. https://osf.io/preprints/psyarxiv/pcrmd/
Tooming, U., and K. Miyazono. 2023. Affective forecasting and substantial self-knowledge. Emotional Self-Knowledge. New York: Routledge. doi: 10.4324/9781003310945-3.
van Kinschot, C. M. J., V. R. Soekhai, E. W. de BekkerGrob, W. E. Visser, R. P. Peeters, T. M. van Ginhoven, and C. van Noord. 2021. Preferences of patients and clinicians for treatment of Graves’ disease: A discrete choice experiment. European Journal of Endocrinology 184 (6):803-812. doi: 10.1530/EJE-20-1490.
Wasserman, D., and D. Wendler. 2023. Response to commentaries: ‘Autonomy-based criticisms of the patient preference predictor’. Journal of Medical Ethics 49 (8): 580-582. Online ahead of print doi: 10.1136/jme-2022108707.

Wendler, D., B. Wesley, M. Pavlick, and A. Rid. 2016. A new method for making treatment decisions for incapacitated patients: What do patients think about the use of a patient preference predictor? Journal of Medical Ethics 42 (4):235-241. doi: 10.1136/medethics-2015-103001.

Wu, L., Y. Chen, K. Shen, X. Guo, H. Gao, S. Li, J. Pei, and B. Long. 2023. Graph neural networks for natural language processing: A survey. Foundations and Trends in Machine Learning 16 (2):119-328. doi: 10. 1561/2200000096.

To cite this article: Brian D. Earp, Sebastian Porsdam Mann, Jemima Allen, Sabine Salloch, Vynn Suren, Karin Jongsma, Matthias Braun, Dominic Wilkinson, Walter Sinnott-Armstrong, Annette Rid, David Wendler & Julian Savulescu (2024) A Personalized Patient Preference Predictor for Substituted Judgments in Healthcare: Technically Feasible and Ethically Desirable, The American Journal of Bioethics, 24:7, 13-26, DOI: 10.1080/15265161.2023.2296402

To link to this article: https://doi.org/10.1080/15265161.2023.2296402

จ
© 2024 The Author(s). Published with
Published online: 16 Jan 2024. license by Taylor & Francis Group, LLC.

Submit your article to this journal
Article views: 3522

Advance directives; algorithm; generative AI; large language models; Patient Preference Predictor; substituted judgment

, a 26 -year-old married woman, collapses at home early one morning. When the ambulance arrives, she is found to be in cardiac arrest. She is resuscitated and transferred to hospital but is found to have sustained a severe brain injury from lack of oxygen. has a long period of hospitalisation and rehabilitation, but six months later has made minimal recovery and is diagnosed as being in a persistent vegetative state. She is dependent on artificial nutrition and hydration. Health professionals discuss with S’s family whether to
continue this treatment, or to withdraw it and allow her to die. However, had made no advance directive, and her husband and parents strongly disagree about what she would have wanted in such a situation.

When a formerly competent person like loses the capacity to make their own medical decisions, others must make such decisions on their behalf. Ideally, the person now lacking capacity (hereafter, “the patient”) would previously have indicated their treatment preferences in an advance directive or similar advance-care

planning tool (that is, when they had “full mental capacity”; see Toomey et al. 2023, for a recent discussion). However, in practice, most people do not make use of this option (Silveira 2022). Moreover, even when an advance directive is available, it may often fail to cover situations or treatment dilemmas an individual ends up facing. This can put surrogate decisionmakers, such as family, into a difficult position, as they must decide what to do on behalf of another person whose self-regarding preferences they cannot currently confirm, often in very stressful, high-stakes situations.

Nevertheless, where advance directives are not available, or do not cover the medical situation for which a patient like requires treatment, current clinical practice relies heavily on surrogate decision-makers to make such treatment decisions. These surrogates may, of course, draw on various factors in deciding what should be done; however, in cultures where individual choice is highly valued, it is typically argued that surrogates should use a “substituted judgment” standard out of respect for the patient’s (former) autonomy: they should choose as the patient themselves would choose if they were currently able to do so (for discussion of the U.S. legal standard, see Dresser 2014).

This is not a matter of universal consensus. Some would argue, for example, that considerations of family well-being should (also) guide substituted decision making, even if this conflicts with what the patient would have wanted (see Box 1 for discussion). However, as Berger (2005) notes, deep conflicts of this kind may not be very common, even in characteristically “individualistic” societies like the United States. This is because a concern for the well-being of one’s family typically is a major factor in one’s own preferences and interests, including those relating to medical treatment. In any case, in this essay, we will focus primarily on situations in which the assumed or attempted goal of surrogate decision-making is to choose the course of action the patient would endorse if currently autonomous (i.e., without thereby taking a stand on whether this goal should always be favored over others).

Even if such a goal is assumed, however, there are obstacles to taking this approach. One is that human surrogates are often mistaken about what a patient would have preferred, despite making a good-faith effort to adhere to the prevailing substituted judgment standard. Even under ideal research conditions, when it is unclear which treatment is clinically indicated, surrogates’ probability of correctly identifying what treatment an individual would want if competent is only slightly greater than chance (Ciroldi et al. 2007;

Shalowitz, Garrett-Mayer, and Wendler 2006; Stocking et al. 2006). Another obstacle, as mentioned, is that surrogate decision-makers often experience considerable anxiety and distress in response to being asked to make, and feeling responsible for, what are in many cases literal life-or-death decisions for their loved ones (Jongsma and van de Vathorst 2015; Rid and Wendler 2014a).

In response to such challenges, David Wendler, Annette Rid, and colleagues have called for the development of a “Patient Preference Predictor” (PPP): a computer-based algorithm that could be used to supplement (or in some versions of their proposal, possibly replace) key aspects of a typical surrogate decision-making process (Shalowitz, Garrett-Mayer, and Wendler 2007; Rid and Wendler 2014a; Rid and Wendler 2014b; Wendler et al. 2016; see also Ditto and Clark 2014). The PPP would be based on a large, voluntary survey of the general population in which participants would be asked to provide their preferences in various hypothetical medical situations alongside demographic data, such as age, gender, and insurance status. These demographic data would then be correlated with the expressed medical preferences of the surveyed participants, who would ideally be randomly drawn from, and representative of, the target population (Rid and Wendler 2014a). These correlations, in turn, would be used to construct an algorithm for inferring the preferences of particular persons who have become incapacitated and require medical care (i.e., including those whose preferences were not part of the original data set as they were not among the surveyed participants).

This proposal is based on a robust empirical relationship that has been demonstrated in numerous studies: namely, that demographic variables such as the ones just mentioned are statistically predictive, in the aggregate, of people’s healthcare choices as elicited under various conditions (reviewed in Rid and Wendler 2014b). So, for instance, a PPP based on such data might find that most young women of a similar age and background to S -the comatose patient from our opening example-would not wish for continued tube feeding under such-and-so conditions. To the extent that (a) those conditions apply to S’s case, (b) is relevantly like other members of her (multiply intersecting) demographic categories, and (c) such information could meaningfully be measured

or quantified to a reasonable approximation and entered into a PPP, a prediction might then be made as to what herself would want in the current circumstances (within a certain level of confidence). Indeed, available findings suggest that a PPP’s predictions of patient treatment preferences might well be more accurate than those of most next-of-kin human surrogates (Smucker et al. 2000; Houts et al. 2002; Shalowitz, Garrett-Mayer, and Wendler 2007).

In short, the PPP is intended to help surrogates, in a shared decision-making process with clinicians, make treatment decisions that are more likely to be consistent with the patient’s own preferences (provided, again, that these are not too idiosyncratic as compared to those of otherwise similarly situated persons of a relevantly similar background).

Nevertheless, the very idea of a PPP has been met with various objections. Some argue that respecting patient autonomy requires more than just accurately predicting treatment preferences based on population data (John 2018; Sharadin 2018). On a strong formulation of this view, medical decisions made on behalf of formerly autonomous persons should incorporate only the reasons, values, and evidence that the person themselves took, or would have taken, into account when making treatment decisions (John 2014; John 2018). Other concerns include that patients may have preferences about how treatment decisions are made for them, including how their preferences are identified, not just which treatments they receive (Mainz 2023). In other words, it may be that substituted decision-making should consider not only patients’ treatment preferences, but also their process preferences (i.e., the process by which treatment decisions are made or by which their treatment preferences are inferred). Only then could a patient’s autonomy robustly be respected.

In this paper, we will look at several such concerns regarding the PPP, rejecting some, but accommodating others. Our main purpose, however, will be to argue that at least some of what we take to be the most forceful objections to the PPP could in principle, and likely also in practice, be assuaged by a novel adaptation of the original idea. Here, we introduce and defend the notion of a Personalized Patient Preference Predictor (P4).

We propose to use machine learning to extract patients’ values or preferences from individual-level material produced primarily by themselves in which their preferences are likely to be encoded (if only implicitly). This hypothetical model for predicting patient preferences would harness advances in generative artificial intelligence (AI) to create large language models (LLMs) adapted to (that is, fine-tuned on) a person-specific corpus of text (as in Porsdam Mann et al. 2023). The result would be a kind of ‘digital psychological twin’ of the person (roughly along the lines discussed in de Kerckhove 2021) that could be queried in real-time as to the patient’s most likely preferences for treatment in any given healthcare crisis. In short, the P4 would be a personalized, rather than popula-tion-based, patient preference predictor.

In principle, a wide range of person-specific finetuning material could be used for model-training purposes, assuming that all relevant permissions and data protection measures were in place (a delicate matter to which we return below). Some current possibilities for such material are summarized in Table 1. Applied to the case of S, we might find that a P4 trained on such material could indicate-based on her own prior writing and other digitally recorded behavior-that there is a high chance she, specifically, would wish for artificial nutrition and hydration to be continued (even if that is not what most women of a similar age, etc., would choose in such a situation).

In this paper, we discuss how the P4 would work and how it compares to the PPP. In particular, we discuss how the P4 might improve upon the PPP, both in terms of predictive accuracy and respect for autonomy. We conclude that the P4 likely would be superior to the PPP in both respects; however, we do not suggest the two proposals are mutually exclusive (for

Table 1. Different versions of the proposed P4 based on different information types as input.

We begin by outlining the concept of the P4 at a high level. We then turn to thorny questions of implementation, including the role of the P4 in shared deci-sion-making and issues of privacy and consent for the use of training data. Finally, we explore the extent to which our P4 proposal can meet a number of objections levied against the PPP.

The P4 is a hypothetical personalized version of the PPP. It is personalized in the sense that it relies on information produced by, describing, or otherwise pertaining to a specific individual, beyond mere demographic categorization. Depending on the type and variety of information that would be available and duly authorized for model training purposes, a P4 could take one of a number of forms, either alone or by combining features from different versions, as summarized in Table 1.

Here is how we envision the P4 would work. Ideally with the patient’s prior permission, but if not,
with their surrogate’s permission, it would draw on various types of personal data as described in Table 1 in order to predict (a) their first-order treatment preferences during periods of decisional incapacity, (b) their second-order preferences for how treatment decisions are made for them during these periods (e.g., with respect to the type or degree of desired family involvement, assuming that such preferences were not explicitly recorded in an advance decisionmaking instrument), and (c) how certain the patient is about these preferences and how strong the preferences are: for example, are their preferences regarding which treatments they receive stronger or less strong than their preferences regarding family involvement?

Specifically, the P4 would take the form of a finetuned LLM trained on text produced by, or describing, an individual. It is this aspect of the P4 that distinguishes it from related proposals, such as the brief sketch of a similar idea mentioned by BillerAndorno and Biller in 2019. Similarly, Lamanna and Byrne (2018) have proposed the use of an ‘autonomy algorithm’ “to estimate confidence for predicted preferences of incapacitated patients by using machine learning technologies to analyze population-wide data sets, including EHRs [electronic health records] and

social media profiles” (907). Our proposal differs from that of the latter authors in specifying the use of finetuned LLMs for this purpose, as well as in focusing primarily on individual-level patient information rather than “population-wide datasets” for model training.

Fine-tuning is a process in which the last few layers of an LLM’s neural network are exposed to a specialized corpus of text, such that the resulting model retains its fundamental representation of language but generates output that is influenced by the more specific features of the specialized training set to which it was exposed (Church, Chen, and Ma 2021). A P4 as here envisioned would use, for its specialized training set, text written by or describing an individual. Ideally, this text would be medically relevant: for example, as mentioned, data stored in electronic health records and biobanks; responses to medical questionnaires or value-eliciting choice experiments undertaken by the individual while competent; and so on.

In addition to these primary, health-related sources, other text produced by individuals, such as blog posts or other published writings (Porsdam Mann et al. 2023), social media activity (e.g., Facebook ‘likes’; see Lamanna and Byrne 2018), and emails could be used;

as could purchasing and browsing histories (see below for consent and privacy concerns regarding the use of such materials). To maximize effectiveness, as much of this information as can safely and ethically be gathered would be used as input to the P4 fine-tuning process. However, where an individual has previously indicated that some information should not be used, for example social media posts from more than a decade ago which no longer reflect their current preferences, values, or personality, such requests should be honored.

In general, our description of the P4 is premised on the idea that individual preferences, including not only first-order treatment preferences but also secondorder “process” preferences for how treatment preferences are inferred, can be elicited directly or indirectly from such data. Of course, much empirical work will be needed to establish the extent to which these or other data sources can in fact allow accurate inferences of an individual’s first- or second-order medical preferences; in future papers, we hope to sketch out such an empirical research program. However, compared to the current baseline accuracy of human surrogate decision-making, which seems to hover around chance, a P4 would only have to be somewhat more accurate than that to be useful for present purposes. Based on current trends, this seems more than plausible.

It should also be noted that it is currently possible to manipulate the weight that an LLM-such as the proposed P4-places on potentially more relevant information, such as questionnaire data or information stored in electronic health records, during the fine-tuning process. One technically simple way in which this could be done would be to specify a greater number of training epochs (i.e., the number of times the underlying model is exposed to the finetuning data) for a privileged, medically-relevant dataset, and a lower number of training epochs for perhaps more tangentially relevant information such as purchasing history. Any such adjustments should be explored during the development of our proposed P4 and evaluated with respect to their impacts on accuracy.

Although such a specialized system has not, to our knowledge, yet been developed or tested, it is inspired by, and is technically analogous to, existing fine-tuned LLMs for which we do have a better sense of functionality. For example, in a recent proof-of-principle exercise, an LLM fine-tuned on the previously published writings of three of the present authors appeared to adapt to the style, argumentation, and
reasons employed in those individuals’ prior writings (Porsdam Mann et al. 2023). Another LLM fine-tuned on philosopher Daniel Dennett’s writings has produced outputs convincingly similar to Dennett’s own responses to novel questions not addressed in the model’s training set (Schwitzgebel, Schwitzgebel, and Strasser 2023).

These early studies concern the adaptation of LLMs to individuals’ styles of writing and argumentation, rather than to their medical treatment preferences per se. Indeed, outside of a small number of informal experiments we have been engaged in ourselves, we are not aware of any existing work that has attempted to infer such treatment preferences using LLMs. However, recent work has shown that LLMs are currently able to infer non-medical preferences to a high degree of accuracy across a variety of contexts, often using only limited examples of relevant conduct or information. For example, they can infer movement preferences for individualizing robotic systems (Wu et al. 2023); they can predict individuals’ movie ratings, reflecting their preferences for certain types of cinema (Kang et al. 2023); and they can anticipate individual responses to survey questions based on one’s answers to other surveys (Kim and Lee 2023).

Although it is no small leap from, say, predicting film ratings to predicting life-or-death decisions about health, there are good reasons to think that an appropriately fine-tuned LLM would be able to infer medical preferences. In addition to the above-mentioned studies showing that LLMs can infer non-medical preferences, there is a large literature on the related notion of aligning AI systems such as LLMs with
human values and preferences: both in general (Askell et al. 2021; Gabriel 2020; Christian 2020; Kenton et al. 2021), and for specific individuals (Kirk et al. 2023). In either case, the aim of research is to identify a process that can successfully adapt LLMs to reflect human values and preferences.

Finally, recent work has shown that LLMs can outperform humans in the creation of consensus statements based on homogenous preferences expressed in written opinions (Bakker et al. 2022). This also goes to show the extent to which LLMs can infer preferences based on textual inputs. In general, the primary function of LLMs is prediction: given data of a sufficient quality and relevance, prima facie LLMs should be able to predict medical preferences, too. This is a key assumption for our purposes, and it bears repeating that future work is necessary to confirm its validity, especially in the context of health.

There are various potential approaches to implementing a P4 in practice, each with different implications for ethical concerns such as privacy and consent (see Senthilnathan and Sinnott-Armstrong, forthcoming, for details).

At least initially, the P4 should be implemented in a manner consistent with currently existing legal and ethical norms governing healthcare decision-making for incapacitated persons in a given jurisdiction. Where surrogates such as family members have legal authority, they should determine the appropriate role and use of a P4 in the decision-making process.

Box 1. The role of family.
As in the case of the PPP, some may argue that family members alone, rather than an algorithm such as the proposed P4, should be relied upon to indicate what should be done in situations when their loved one lacks capacity. This may either be out of a belief that family members have an independent claim over the patient’s treatment decisions (a belief that is contrary to the legal situation in many jurisdictions) or out of respect for the patient’s wishes that their family be involved in any surrogate decision-making process (Brock 2014). The level of expected involvement of family members is also likely to vary between cultures.

According to Jardas, Wasserman, and Wendler (2022), the first justification would constitute a radical revision of the current practice in many jurisdictions to respect the independent wishes of the patient, while the second could be addressed by incorporating a PPP (or by the same token, a P4) in such a way as to supplement, rather than supplant, human family-based surrogate decision-making (see also Biller-Andorno et al. 2022; Ferrario, Gloeckler, and Biller-Andorno 2023b; however, for a contrary argument that AI-based patient predictors should supplant family as decisionmakers if more accurate and less biased, see Hubbard and Greenblum 2020).

Involving family members as surrogate decision-makers for incapacitated patients is often based on the belief that relatives know the patient’s treatment preferences and can therefore best predict what the patient would have wanted (Lindemann and Nelson 2014; Jardas, Wasserman, and Wendler 2022). However, as noted previously, this is not well-founded. In fact, only a small proportion of patients ( ) continue to prioritize family involvement when informed that surrogates often do not know the patient’s preferences (Jardas, Wasserman, and Wendler 2022). Thus, it may be preferable to use a system such as a P4-again, at least as a supplement or additional source of information-to reduce the burden of “total” responsibility on family members and minimize considerable anxiety and stress (Jongsma and van de Vathorst 2015; Rid and Wendler 2014a).

While there is no evidence yet about patients’ preferences for the use of a P4 instead of, or in addition to, human surrogates such as family (we are in the process of gathering it), we know that some patients do prioritize minimizing the decision-making burden on their families, in which case the use of a P4 may respect the patient’s process preferences as well. For further discussion, see Bleher and Braun (2022) on “distributed” responsibility for healthcare decision-making (i.e., between humans and AI); see also Allen et al. (2023) on “delegating” certain healthcare practices to an LLM.

Ethically, too, this may be valuable insofar as some patients not only care about predictive accuracy but also about the process of decision-making and want their family members to be involved (see Box 1). Elsewhere, patients should be asked prospectively to indicate the extent to which, and manner in which, they would like a P4 to be used in case of decisional incapacity.

Whenever possible, the use of a P4 should be voluntary: individuals should be asked about how, if at all, they would like a P4 to be used in case they lose decisional capacity, about the types of information, if any, that should go into it, about the priority it should be given (e.g., the weight that should be assigned to its predictions versus those of human surrogates), and so on. While we expect that our proposed P4 would be a help, rather than a hindrance, for substituted decision-makers, making its use voluntary for surrogates (if there are no prior binding instructions from the patient to the contrary) would also address any worries related to possible conflicts between the preferences or decisions of human surrogates and the predictions of a P4.

Searching a patient’s personal communications and medical records might raise fears that using such data to construct a P4 will violate the patient’s rights to privacy. However, the patient’s rights to privacy include the right to share data if and as they want, so they can consent to this use of their data. In addition, the data on which the P4 is based could be stored securely so that this information cannot be accessed for purposes other than constructing a P4 without the person’s consent.

Similar concerns about uploading such private information for the purposes of fine-tuning LLMs could be obviated through the use of locally stored LLMs: While current state-of-the-art models are operated by private, for-profit companies, there are also many alternatives (examples at the time of writing include GPT4All, Orca Mini-GPTQ, and LLaMA 2 Chat-GPTQ, as well as many others) which can be downloaded and hosted on local computers, thus removing the need to upload potentially sensitive information. A third alternative would be the use of a privately or publicly operated service specifically designed for the purpose of delivering a P4-as-a-service; such a company or public service could then be designed with privacy protection in mind.

Of course, the use of a PPP or P4 is itself predicated on the absence of sufficient advance information to determine first-order treatment preferences directly. Predictive algorithms in fact offer the most benefit in
cases where there are no other feasible options for determining a patient’s preferences (e.g., human surrogates are not available) as argued by Jardas, Wasserman, and Wendler (2022). This may be a large proportion of cases of patients who lack capacity. Despite concerted efforts to improve uptake, too few patients have completed an advance directive (Wendler et al. 2016). Even among those who have, there are often difficulties in documenting treatment preferences without adequate counseling due to both missing or mistaken knowledge about future medical possibilities and their concrete implications (Dresser 2014), and the high psychological burden of making certain decisions (e.g., about one’s own end-of-life care). A P4 may thus help to improve advance care planning.

In cases where individuals have not consented in advance to the use of a P4, various options are available. One is to proceed based on proxy consent given by surrogate decision-makers or next-of-kin. Another is to use all publicly available information about the individual patient that is not constrained by data protection laws. A third is to proceed irrespective of the lack of explicit prior consent. Finally, a fourth option is not to proceed without such consent. We do not here wish to take a position on this difficult question, except to say, again, that at least initially these implementation decisions should be made in a manner that respects the ethical and legal standards already in place in the relevant jurisdiction. Later, these standards might then be changed in light of practical experience and academic debate.

The PPP and P4 are not mutually exclusive. Nevertheless, there are three key advantages to using a P4 as compared to using (only) the PPP. One is that its predictions of first-order patient treatment preferences are likely to be more accurate than those of the PPP. This assumption is based on the relative success

of fine-tuned LLMs over general LLMs in inferring non-medical preferences at the individual level as described above. Moreover, the P4 is trained on per-son-specific information, whereas the PPP uses only group-level data. Thus, the PPP is only able to make accurate predictions at the individual level if the individual’s preferences are sufficiently close to group averages (i.e., they are not a statistical outlier). By contrast, since the P4 is already personalized, there is no such requirement for the P4. In other words, assuming there is enough individual-specific information available to train a P4, there is no further requirement that the individual in question be at all similar to others of a similar background in order for the P4’s predictions to be personally valid.

A second advantage of the P4 compared to the PPP is that the P4 would, potentially, be able to predict a broader range of preferences than the PPP. While the PPP is limited to, or at least likely to be most accurate on, predictions concerning the specific cases included in the surveys on which it is based, the P4 is not necessarily restricted in such a way. This is because LLMssuch as the P4-operate at a different level of generality or abstraction than do algorithms like the PPP. Whereas the latter correlates demographic information to hypothetical choices regarding specific, predetermined medical situations (and is thus useful primarily for those situations), a P4 is more likely to infer the underlying structure of an individual’s preferences as applied across a range of situations, as it draws on the full diversity of sentiments and reasons expressed in one’s corpus of text more generally.

A third advantage of the P4, which gets to the heart our thesis, is that it is less vulnerable to certain types of autonomy-based objections, such as those that have been leveled against the PPP (Wasserman and Wendler 2023). By this statement, we do not mean to imply that we simply accept all such objections as applied to the PPP. Rather, we argue that, whatever one thinks of the force of these objections in relation to the PPP, they have less force, if any force at all, against the proposed P4. We make a case for this view in the following sections.

One way of respecting a person’s autonomy in making a substituted judgment is simply to “get the right answer”-that is, to choose what they would choose in the current situation. This standard sets aside the question of means, focusing only on the end achieved.

An alternative view, advanced by critics of the PPP, is that the means matter. One version of this objection is that the prediction of an individual’s preferences must be based on information that the individual in question would regard as being appropriately related to the shaping of their own personal preferences, or that they would at least not reject as inappropriate (O’Neil 2022). By this standard, too, the P4, based as it is on individual-specific information, seems to fare better than the PPP, the latter of which relies on broad demographic variables to predict patients’ preferences.

However, critics of the PPP have raised another objection which may be relevant to the P4. According to these authors, the PPP (and presumably also the P4) fails to respect an incapacitated individual’s autonomy because, as a machine, it cannot appreciate the reasons and values that underpin patients’ preferences (John 2018; Sharadin 2018). Abstracting away from potential quibbles about what it means to “appreciate” a reason, and whether LLMs should really be excluded from the set of entities that have this (or a relevantly similar) capacity, we think this objection is in danger of proving too much. For it would imply that the P4 is being held to a higher ethical standard than is currently applied to human surrogates.

To see this, let us suppose that a human surrogate correctly states, based on a recent discussion, what a patient would want, but without necessarily knowing, much less fully “appreciating,” the reasons for that preference. If we now suppose that the surrogate’s prediction is used to make, or help make, a substituted judgment for the patient, it seems unlikely that this would trigger concerns about a failure to respect the patient’s (former) autonomy. Instead, we expect that it would be seen as sufficient that the surrogate was likely enough to get the right answer, and to do so having drawn on person-specific data (e.g., a story told to them by the patient) that plausibly captures or otherwise serves to convey the patient’s actual preferences.

This is not to dismiss concerns regarding “black box” algorithms (e.g., Benzinger et al. 2023), which have rightly prompted research into explainable AI systems. However, we should be wary of a potential double standard whereby a P4 would be required to explain its predictions to a greater level of detail than a similarly situated human surrogate. In fact, such a standard may be unrealistic in either case, given that patients’ preferences are not always based on explicit or articulable reasons in the first place. Indeed, as Biller-Andorno and Biller (2019) point out, many patients find it difficult to explain their own
preferences when directly asked by clinicians. Given this, it may be problematic to expect that either a P4 or a human surrogate should have to “appreciate” the reasons or values behind a patient’s preferences to respect their autonomy.

An additional autonomy-based objection has been raised by Mainz (2023). Although originally formulated in relation to the PPP, it might also apply to a P 4 . It is the ‘objection from higher-order preferences’ (alluded to earlier). In this objection, Mainz argues that many people have strong ‘second-order’ preferences about how their preferences are predicted (Mainz 2023; see also O’Neil 2022). For example, just as a patient might have a higher-order preference that their treatment preference not be inferred by means of an algorithm that, in some sense, ‘reduces’ them to their demographic categories (as with the PPP), a patient might likewise have a preference that their treatment preference not be inferred from, say, their social media posts (a possible source of data for the proposed P4).

If individuals do have these concerns, one way to allay them might be to give individuals the option of providing additional information, corresponding to versions 2 or 3 of the proposal in Table 1. A person could provide this information, for example, by filling out a survey that asks general questions about how much certain values matter to them or by reporting decisions in a sample of concrete scenarios (see, e.g., Ferrario, Gloeckler, and Biller-Andorno 2023a) or discrete choice experiments (e.g., van Kinschot et al. 2021). Where such prospective data-gathering is no longer possible because of mobility or capacity issues, a similar process could be carried out instead by persons close to the patient, such as their friends and family. This would correspond to version 4 of the proposed P4 in Table 1.

In addition, policies about how to construct and implement a P4 could incorporate a patient’s preferences for using only certain sources of information. Moreover, the extent to which a P4 would be able to accurately infer second-order preferences from contextual information in its training data is an open question. However, even if it should turn out that a P4 is not capable of making such inferences, this objection can be met by offering the use of a P4 prospectively as a voluntary choice instead of a requirement, such that those who have strong second-order desires about how their preferences are predicted are able to decline the use of a P4. This would make the use or otherwise of a P4 an instance of self-
determination, an aspect of autonomy which might be valued greatly by some patients.

We will now consider some practical and epistemic limitations. One concerns how we would evaluate the accuracy of a P4 (or indeed that of surrogates or the PPP). Put simply, it will never be possible to know with certainty what an incapacitated patient would have autonomously preferred in a specific situation, because by definition they are not able adequately to express this preference. The closest we can get to such knowledge is the use of hypothetical scenarios answered by the patient in question prior to incapacity; yet hypothetical situations do not necessarily reflect what people choose in actual situations, amongst other reasons because of social desirability bias in these types of research methods. However, this is a general problem for any kind of prediction, whether based on an algorithm such as the PPP or P4, on a surrogate’s decision-making, or indeed even an advance directive.

Given this problem, it may be that surrogate deci-sion-making has already reached the upper limits of accurately predicting the treatment preferences of incapacitated patients (Kim 2014). While this may be true, the only way to approximate a proof of this thesis would be to launch a full-scale prototype of a PPP (or P4) and compare its accuracy to that of current standards (Jardas, Wasserman, and Wendler 2022). That being said, to be useful, a P4 does not have to predict with absolute certainty the treatment preferences of an incapacitated patient. Some authors hold that it simply must be better than the (barely better than chance) predictive capabilities of human surrogates and in this or other ways help surrogates with their difficult task (Shalowitz, Garrett-Mayer, and Wendler 2006).

Others may argue that being able to predict one’s preferences requires substantial knowledge of the patient’s identity (Tooming and Miyazono 2023). Such knowledge of the self cannot be reproduced on the basis of description alone but requires an in-depth contextual understanding of the patient’s life and individual clinical circumstances. As a form of AI, a P4 would only be able to make empirical inferences based on previously produced textual evidence. Family members, on the other hand, make qualitatively different sorts of inferences based on their capacity to share in the patient’s intentions (Tomasello et al. 2005). However, these two approaches are not mutually exclusive. For example, as mentioned above, it is possible to imagine a variation on a P4 in which family members or others close to an individual are asked to provide relevant information about a patient’s preferences based on their knowledge of a patient’s intentions.

There may also be problems with the implementation of a P4 in clinical practice, similar to the difficulties that already exist with advance directives. For example, the latter are often not available when needed or not followed by healthcare professionals. It seems likely that these same problems would apply to attempts to have individuals fill out various surveys in advance designed to elicit their preferences and values (i.e., to be able to feed these particularly rich, personalized datasets into a P4 to further improve its inferences). We do not deny that there would be various barriers to uptake. Nevertheless, where such advance information could in fact be provided for the purpose of training a P4, it would likely provide numerous benefits in terms of the accuracy of prediction due to a closer fit between the training data and actual preferences, and thus the strength and directness of the inferential connection between the two. And even where such personalized survey data could not be collected in advance, it is possible that other potential sources of individual-level data that might be easier to collect (e.g., social media posts or other publicly available writing) could still be used to reasonably good effect.

Finally, it is possible that a P4 might be given undue weight in some circumstances. LLMs in general are capable of producing texts that indicate a high degree of confidence. Moreover, the degree of confidence with which LLMs present text is independent of the degree of certainty that the text does indeed correspond to the target construct-in this case, individual preferences or values. There is a chance that highly confident-sounding statements of preferences
by a P4 could lead to inappropriate reliance on its output due to an inability to determine the degree to which such statements are based on plausible inferences from training data. This is an important point that needs to be addressed before clinical use of P4s is considered. Methods of addressing it could include technical work aimed at allowing a P4 to compute and express its degree of confidence. Indicating how uncertain the prediction is might reduce over-reliance and would also provide a more realistic representation of the preferences of patients who are themselves uncertain about what to do in difficult cases. These confidence intervals along with additional information concerning the functioning, strengths, and weaknesses of LLMs in general and P4s in particular, could be provided to surrogates and clinical decisionmakers.

To return to the case at the start of this paper, how can we improve decision-making for patients like who have lost capacity and for whom there is uncertainty or disagreement about what they would have chosen? When first introduced, the PPP was conceived as a promising approach to improving treatment decision-making for incapacitated patients. In this paper, we propose a novel means of patient preference prediction using machine learning algorithms, specifically fine-tuned LLMs. We refer to this hypothetical predictive system as the Personalized Patient Preference Predictor (P4). By fine-tuning an LLM on person-specific textual evidence, a P4 may be more accurate at predicting a patient’s actual treatment preferences than the current practice of using surrogate decision-makers. It also may be more accurate than a PPP as well as less liable to certain objections based on respect for individual autonomy.

As our proposal is theoretical only, and as we (or others to our knowledge) have not yet conducted formal studies to empirically test a P4, several things need to happen before it can be stated with confidence that the P4 is, or would be, a superior method of predicting patient preferences. These four points require further consideration but may provide an initial framework for thinking about the P4 as an aid to proxy decision making.

First and foremost, prototype P4s need to be built and their accuracy compared to PPPs and human surrogates. Such prototypes should, at first, include state-of-the-art models fine-tuned only on individual data that is publicly available or for use of which informed
consent has been explicitly obtained. This is an important first step for addressing feasibility and privacy concerns. However, prototype P4s using alternative LLMs capable of being stored locally (thus obviating privacy concerns) need also to be explored either in parallel or once feasibility has been established. Likewise, the accuracy of P4s across languages other than those for which LLMs are best suited (English, Chinese, and Spanish) needs to be tested and if necessary language-specific improvements should be pursued.

Secondly, research on P4 prototypes should attempt to establish the relative usefulness of various types of information (e.g., directly medically relevant information gleaned from electronic health records versus more indirectly relevant information such as social media posts) for the purposes of medical preference prediction. This would provide useful information regarding the extent to which P4s should privilege certain types of information during the fine-tuning process (e.g., by weighting these types of information more heavily).

Thirdly, surveys should be carried out in which individuals are asked about their opinions and concerns relating to P4s, as well as whether they would wish to have them used in a hypothetical future in which these individuals become incapacitated and relevant advance directives are not available. Better yet, experimental methods drawn from the cognitive sciences could be used to probe public attitudes and intuitions while systematically varying and testing candidate factors that might be expected to play a role in shaping their perspectives on these questions (Earp et al. 2020, 2021, 2022; Lewis, Demaree-Cotton, and Earp 2023).

Fourthly, more thought should be given as to the ways in which a P4 would be integrated into established advance care planning and surrogate decisionmaking procedures. Open questions include the potential for mixed-modality preference prediction in which surrogates, PPPs, and P4s are used in combination; as well as the extent to which P4s should be used to supplement or supplant surrogate decisionmaking in cases of conflict.

Fifth, there is a need to establish evaluation strategies. A central finding of our analysis is that certain structural conditions must be met in clinical decisionmaking for a P4 to be understood as strengthening patients’ right to self-determination. Embedding the application of P4 in shared decision-making structures is likely to be helpful here. This is especially the case if there are clear protocols that specify the process of
using P4 in concrete decision making as well as how to deal with interpretive uncertainties in the assessment of indicated preferences.

Perhaps the most important advance would be a situation in which the P4 could in fact cite the reasons for its predictions-that is, at minimum, identifying which statements or behavior it is basing its prediction on. If the P4 is made explainable, either by advances in the underlying LLM itself or by pairing it with higher order explanations through programs such as LIME, it could also in principle infer the weights that the patient places on various considerations and how those considerations interact. This would allow independent scrutiny by health professionals, surrogates, and family. In other words, while it might be difficult or impossible in some cases for LLMs to make their predictions fully explainable, it seems in principle that it would be possible to extract, or zero in on, the relevant factors upon which the predictions are based. These data could then be evaluated by humans to try to determine their meaning (for discussion, see Gloeckler, Ferrario, and BillerAndorno et al. 2022).

There are wider implications to our discussion. Some of us have proposed the use of AI to enhance not merely prudential decision-making in relation to one’s context-dependent preferences (the subject of this paper) but also moral decision making more broadly (Savulescu and Maslen 2015; Giubilini and Savulescu 2018; Sinnott-Armstrong and Skorburg 2021; Demaree-Cotton, Earp, and Savulescu 2022). ‘Moral AI’ could extract a person’s values from their explicit input, behavior and statements, and retrieve ‘big data’ about options which would best serve those values. AI, in the form of LLMs, could make implicit values explicit, and potentially challenge a person’s moral or prudential values, leading to moral or personal development. In this paper, we have merely touched the tip of the iceberg of the use of AI to engage with a person’s values-the possibilities are enormous and extend well beyond the decision to limit or extend life-sustaining medical treatment.

Julian Savulescu is a Partner Investigator on an Australian Research Council grant LP190100841 which involves industry partnership from Illumina. He does not personally receive any funds from Illumina. JS is a Bioethics Committee consultant for Bayer.

JS received a fee for speaking as a panellist on a podcast sponsored by MyProtein (August 2020).

JS is an Advisory Panel member for the Hevolution Foundation (2022-).

The views expressed here are those of the authors and do not necessarily reflect the policies of the National Institutes of Health or the U.S. Department of Health and Human Services.

Matthias Braun: MB’s work has partly been funded by the German Research Foundation as part of the CRC1483 EmpkinS (No.442419336) and the European Research Council as part of ERC Starting Grant SIMTWIN (No.101076822). Views and opinions expressed are however those of the author(s) only and do not necessarily reflect those of the European Union or the European Research Council. Neither the European Union nor the granting authority can be held responsible for them. The founders had no influence on the research.
Walter Sinnott-Armstrong: WSA’s work on this paper was supported in part by grants from OpenAI and Duke University. These funders are not responsible for the content.
Dominic Wilkinson: This research was funded in whole, or in part, by the Wellcome Trust [203132/Z/16/Z]. The funders had no role in the preparation of this manuscript or the decision to submit for publication. For the purpose of open access, the author has applied a CC BY public copyright license to any Author Accepted Manuscript version arising from this submission.
Julian Savulescu: This research was funded in whole, or in part, by the Wellcome Trust [Grant number WT203132/Z/ 16/Z]. For the purpose of open access, the author has applied a CC BY public copyright licence to any Author Accepted Manuscript version arising from this submission. Julian Savulescu, through his involvement with the Murdoch Children’s Research Institute, received funding through from the Victorian State Government through the Operational Infrastructure Support (OIS) Program. This research is supported by the Singapore Ministry of Health’s National Medical Research Council under its Enablers and Infrastructure Support for Clinical Trials-related Activities Funding Initiative (NMRC Project No. MOH-000951-00), the Chen Su Lan Research Funding and by National University of Singapore under the NUS Start-Up grant; NUHSRO/2022/078/Startup/13.
Annette Rid: This work was supported in part by the Clinical Center Department of Bioethics, which is in the Intramural Program of the National Institutes of Health. The views expressed here are those of the author and do not necessarily reflect the policies of the National Institutes of Health or the U.S. Department of Health and Human Services.
David Wendler: This work was funded, in part, by the Intramural Research Program at the NIH Clinical Center. However, opinions expressed are the author’s own. They do not represent the position or policy of the National

Institutes of Health, the US Public Health Service, or the US Department of Health and Human Services.

Brian D. Earp (D http://orcid.org/0000-0001-9691-2888
Karin Jongsma (D http://orcid.org/0000-0001-8135-6786
Matthias Braun (D) http://orcid.org/0000-0002-6687-6027
Dominic Wilkinson (D) http://orcid.org/0000-0003-3958-
8633
Walter Sinnott-Armstrong (D http://orcid.org/0000-0003-2579-9966
David Wendler (D http://orcid.org/0000-0002-9359-4439
Julian Savulescu (D http://orcid.org/0000-0003-1691-6403

Allen, J., B. D. Earp, J. J. Koplin, and D. Wilkinson. 2023. Consent GPT: Is it ethical to delegate procedural consent to conversational AI? Journal of Medical Ethics. Online ahead of print. doi: 10.1136/jme-2023-109347.
Askell, A., Y. Bai, A. Chen, D. Drain, D. Ganguli, T. Henighan, A. Jones, N. Joseph, B. Mann, N. DasSarma, et al. 2021. A general language assistant as a laboratory for alignment. arXiv Preprint (1):1-48. doi: 10.48550/arXiv. 2112.00861.

Bakker, M., M. Chadwick, H. Sheahan, M. Tessler, L. Campbell-Gillingham, J. Balaguer, N. McAleese, A. Glaese, J. Aslanides, M. M. Botvinick, et al. 2022. Finetuning language models to find agreement among humans with diverse preferences. Advances in Neural Information Processing Systems 35:38176-38189.
Benzinger, L., J. Epping, F. Ursin, and S. Salloch. 2023. Artificial Intelligence to support ethical decision-making for incapacitated patients: A survey among German anesthesiologists and internists. Pre-print available at https:// www.researchgate.net/publication/374530025.
Berger, J. T. 2005. Patients’ interests in their family members’ well-being: An overlooked, fundamental consideration within substituted judgments. The Journal of Clinical Ethics 16 (1):3-10. doi: 10.1086/JCE200516101.
Biller-Andorno, N., A. Ferrario, S. Joebges, T. Krones, F. Massini, P. Barth, G. Arampatzis, and M. Krauthammer. 2022. AI support for ethical decision-making around resuscitation: Proceed with care. Journal of Medical Ethics 48 (3):175-183. doi: 10.1136/medethics-2020-106786.
Biller-Andorno, N., and A. Biller. 2019. Algorithm-aided prediction of patient preferences-an ethics sneak peek. The New England Journal of Medicine 381 (15):14801485. doi: 10.1056/NEJMms1904869.

Bleher, H., and M. Braun. 2022. Diffused responsibility: Attributions of responsibility in the use of AI-driven clinical decision support systems. AI and Ethics 2 (4):747761. doi: 10.1007/s43681-022-00135-x.

Braun, M. 2021. Represent me: Please! Towards an ethics of digital twins in medicine. Journal of Medical Ethics 47 (6):394-400. doi: 10.1136/medethics-2020-106134.

Braun, M. 2022. Ethics of digital twins: Four challenges. Journal of Medical Ethics 48 (9):579-580. doi: 10.1136/ medethics-2021-107675.

Brock, D. W. 2014. Reflections on the patient preference predictor proposal. The Journal of Medicine and Philosophy 39 (2):153-60. doi: 10.1093/jmp/jhu002.
Christian, B. 2020. The alignment problem. New York: W. W. Norton & Company.

Church, K. W., Z. Chen, and Y. Ma. 2021. Emerging trends: A gentle introduction to fine-tuning. Natural Language Engineering 27 (6):763-778. doi: 10.1017/S13513249210 00322.

Ciroldi, M., A. Cariou, C. Adrie, D. Annane, V. Castelain, Y. Cohen, A. Delahaye, L. M. Joly, R. Galliot, M. Garrouste-Orgeas, et al. 2007. Ability of family members to predict patient’s consent to critical care research. Intensive Care Medicine 33 (5):807-813. doi: 10.1007/ s00134-007-0582-6.
de Kerckhove, D. 2021. The personal digital twin, ethical considerations. Philosophical Transactions. Series A, Mathematical, Physical, and Engineering Sciences 379 (2207):20200367. doi: 10.1098/rsta.2020.0367.

Demaree-Cotton, J., B. D. Earp, and J. Savulescu. 2022. How to use AI ethically for ethical decision-making. The American Journal of Bioethics 22 (7):1-3. doi: 10.1080/ 15265161.2022.2075968.

Ditto, P. H., and C. J. Clark. 2014. Predicting end-of-life treatment preferences: Perils and practicalities. The Journal of Medicine and Philosophy 39 (2):196-204. doi: 10.1093/jmp/jhu007.

Dresser, R. 2014. Law, ethics, and the patient preference predictor. The Journal of Medicine and Philosophy 39 (2): 178-186. doi: .
Earp, B. D. 2022. Meta-surrogate decision making and artificial intelligence. Journal of Medical Ethics 48 (5):287289. doi: 10.1136/medethics-2022-108307.

Earp, B. D., J. Demaree-Cotton, M. Dunn, V. Dranseika, J. A. C. Everett, A. Feltz, G. Geller, I. R. Hannikainen, L. A. Jansen, J. Knobe, et al. 2020. Experimental philosophical bioethics. The American Journal of Bioethics Empirical Bioethics 11 (1):30-33. doi: 10.1080/23294515. 2020.1714792.

Earp, B. D., J. Lewis, V. Dranseika, and I. R. Hannikainen. 2021. Experimental philosophical bioethics and normative inference. Theoretical Medicine and Bioethics 42 (3-4):91111. doi: 10.1007/s11017-021-09546-z.

Earp, B. D., J. Lewis, J. A. Skorburg, I. Hannikainen, and J. A. C. Everett. 2022. Experimental philosophical bioethics of personal identity. In Experimental philosophy of identity and the self, by K. Tobia, 183-202. London: Bloomsbury.
Ferrario, A., S. Gloeckler, and N. Biller-Andorno. 2023a. Ethics of the algorithmic prediction of goal of care preferences: From theory to practice. Journal of Medical Ethics 49 (3):165-174. doi: 10.1136/jme-2022-108371.
Ferrario, A., S. Gloeckler, and N. Biller-Andorno. 2023b. AI knows best? Avoiding the traps of paternalism and other pitfalls of AI-based patient preference prediction. Journal of Medical Ethics 49 (3):185-186. doi: 10.1136/jme-2023108945.

Gabriel, I. 2020. Artificial intelligence, values, and alignment. Minds and Machines 30 (3):411-437. doi: 10.1007/ s11023-020-09539-2.
Giubilini, A., and J. Savulescu. 2018. The artificial moral advisor. The “ideal observer” meets artificial intelligence.

Philosophy & Technology 31 (2):169-188. doi: 10.1007/ s13347-017-0285-z.
Gloeckler, S., A. Ferrario, and N. Biller-Andorno. 2022. An ethical framework for incorporating digital technology into advance directives: Promoting informed advance decision making in healthcare. The Yale Journal of Biology and Medicine 95 (3):349-353.
Houts, R. M., W. D. Smucker, J. A. Jacobson, P. H. Ditto, and J. H. Danks. 2002. Predicting elderly outpatients’ lifesustaining treatment preferences over time: The majority rules. Medical Decision Making: An International Journal of the Society for Medical Decision Making 22 (1):39-52. doi: 10.1177/0272989X0202200104.
Hubbard, R., Greenblum. J., and J. 2020. Surrogates and artificial intelligence: Why AI trumps family. Science and Engineering Ethics 26 (6):3217-27. doi: 10.1007/s11948-020-00266-6.
Jardas, E. J., D. Wasserman, and D. Wendler. 2022. Autonomy-based criticisms of the patient preference predictor. Journal of Medical Ethics 48 (5):304-310. doi: 10. 1136/medethics-2021-107629.
John, S. 2014. Patient preference predictors, apt categorization, and respect for autonomy. The Journal of Medicine and Philosophy 39 (2):169-177. doi: 10.1093/jmp/jhu008.
John, S. D. 2018. Messy autonomy: Commentary on patient preference predictors and the problem of naked statistical evidence. Journal of Medical Ethics 44 (12):864-864. doi: 10.1136/medethics-2018-104941.

Jongsma, K. R., and S. van de Vathorst. 2015. Beyond competence: Advance directives in dementia research. Monash Bioethics Review 33 (2-3):167-180. doi: 10.1007/ s40592-015-0034-y.
Jost, L. A. 2023. Affective experience as a source of knowledge. PhD Thesis, University of St Andrews. doi: 10. 17630/sta/387.
Kang, W. C., J. Ni, N. Mehta, M. Sathiamoorthy, L. Hong, E. Chi, and D. Z. Cheng. 2023. Do LLMs understand user preferences? Evaluating LLMs on user rating prediction. arXivpreprint (1):1-11. doi: 10.48550/arXiv.2305. 06474.

Kenton, Z., T. Everitt, L. Weidinger, I. Gabriel, V. Mikulik, and G. Irving. 2021. Alignment of language agents. arXiv preprint (1):1-18. doi: 10.48550/arXiv.2103.14659.
Kim S. Y. 2014. Improving medical decisions for incapacitated persons: Does focusing on ‘accurate predictions’ lead to an inaccurate picture? Journal of Medicine and Philosophy 39:187-195. doi: .
Kim, J., and B. Lee. 2023. AI-augmented surveys: Leveraging large language models for opinion prediction in nationally representative surveys. arXiv preprint (1): 1-18. doi: 10.48550/arXiv.2305.09620.
Kirk, H. R., B. Vidgen, P. Röttger, and S. A. Hale. 2023. Personalisation within bounds: A risk taxonomy and policy framework for the alignment of large language models with personalized feedback. arXiv preprint (1):1-37. doi: 10.48550/arXiv.2303.05453.

Lamanna, C., and L. Byrne. 2018. Should artificial intelligence augment medical decision making? The case for an autonomy algorithm. AMA Journal of Ethics 20 (9):E902E910. doi: 10.1001/amajethics.2018.902.
Lewis, J., J. Demaree-Cotton, and B. D. Earp. 2023. Bioethics, experimental approaches. In Encyclopedia of
the philosophy of law and social philosophy, by M. Sellers, S. Kirste. Dordrecht: Springer. doi: 10.1007/978-94-007-6730-0_1053-1.
Lindemann, H., and J. L. Nelson. 2014. The surrogate’s authority. The Journal of Medicine and Philosophy 39 (2): 161-168. doi: .
Mainz, J. T. 2023. The patient preference predictor and the objection from higher-order preferences. Journal of Medical Ethics 49 (3):221-222. doi: 10.1136/jme-2022-108427.
O’Neil, C. 2022. Commentary on ‘Autonomy-based criticisms of the patient preference predictor. Journal of Medical Ethics 48 (5):315-316. doi: 10.1136/medethics-2022-108288.
Perry, J. E., L. R. Churchill, and H. S. Kirshner. 2005. The Terri Schiavo case: Legal, ethical, and medical perspectives. Annals of Internal Medicine 143 (10):744-748. doi: 10.7326/0003-4819-143-10-200511150-00012.

Porsdam Mann, S., B. D. Earp, N. Møller, V. Suren, and J. Savulescu. 2023. AUTOGEN: A personalized large language model for academic enhancement-Ethics and proof of principle. The American Journal of Bioethics 23 (10):28-41. doi: 10.1080/15265161.2023.2233356.

Rid, A., and D. Wendler. 2014a. Treatment decision making for incapacitated patients: Is development and use of a patient preference predictor feasible? The Journal of Medicine and Philosophy 39 (2):130-152. doi: 10.1093/ jmp/jhu006.
Rid, A., and D. Wendler. 2014b. Use of a patient preference predictor to help make medical decisions for incapacitated patients. The Journal of Medicine and Philosophy 39 (2):104-129. doi: .

Ryan, M. 2004. Discrete choice experiments in health care. BMJ (Clinical Research ed.) 328 (7436):360-361. doi: 10. 1136/bmj.328.7436.360.
Sacchi, L., S. Rubrichi, C. Rognoni, S. Panzarasa, E. Parimbelli, A. Mazzanti, C. Napolitano, S. G. Priori, and S. Quaglini. 2015. From decision to shared-decision: Introducing patients’ preferences into clinical decision analysis. Artificial Intelligence in Medicine 65 (1):19-28. doi: 10.1016/j.artmed.2014.10.004.
Savulescu, J., and H. Maslen. 2015. Moral enhancement and artificial intelligence: Moral AI?. In Beyond artificial intelligence. Topics in intelligent engineering and informatics, by Romportl, J., Zackova, E., Kelemen, J. 9, 79-95. Cham: Springer. doi: 10.1007/978-3-319-09668-1_6.
Schwartz, S. M., K. Wildenhaus, A. Bucher, and B. Byrd. 2020. Digital twins and the emerging science of self: Implications for digital health experience design and “small” data. Frontiers in Computer Science 2:31. doi: 10. 3389/fcomp.2020.00031.
Schwitzgebel, E., D. Schwitzgebel, and A. Strasser. 2023. Creating a large language model of a philosopher. arXiv Preprint (1):1-36. doi: 10.48550/arXiv.2302.01339.
Senthilnathan, I., and W. Sinnott-Armstrong. Forthcoming. Patient preference predictors: Options, implementations, and policies. Working paper.
Shalowitz, D. I., E. Garrett-Mayer, and D. Wendler. 2006. The accuracy of surrogate decision makers: A systematic
review. Archives of Internal Medicine 166 (5):493-497. doi: 10.1001/archinte.166.5.493.
Shalowitz, D. I., E. Garrett-Mayer, and D. Wendler. 2007. How should treatment decisions be made for incapacitated patients, and why? PLoS Medicine 4 (3):E35. doi: 10.1371/journal.pmed.0040035.

Sharadin, N. P. 2018. Patient preference predictors and the problem of naked statistical evidence. Journal of Medical Ethics 44 (12):857-862. doi: 10.1136/medethics-2017-104509.
Silveira, M. J. 2022. Advance care planning and advance directives. Up To Date. https://www.uptodate.com/con-tents/advance-care-planning-and-advance-directives.
Sinnott-Armstrong, W., and J. A. Skorburg. 2021. How AI can aid bioethics. Journal of Practical Ethics 9 (1):1-22. doi: 10.3998/jpe.1175.
Smucker, W. D., R. M. Houts, J. H. Danks, P. H. Ditto, A. Fagerlin, and K. M. Coppola. 2000. Modal preferences predict elderly patients’ life-sustaining treatment choices as well as patients’ chosen surrogates do. Medical Decision Making: An International Journal of the Society for Medical Decision Making 20 (3):271-280. doi: 10. 1177/0272989X0002000303.
Stocking, C. B., G. W. Hougham, D. D. Danner, M. B. Patterson, P. J. Whitehouse, and G. A. Sachs. 2006. Speaking of research advance directives: Planning for future research participation. Neurology 66 (9):1361-1366. doi: 10.1212/01.wnl.0000216424.66098.55.
Tomasello, M., M. Carpenter, J. Call, T. Behne, and H. Moll. 2005. Understanding and sharing intentions: The origins of cultural cognition. The Behavioral and Brain Sciences 28 (5):675-691. doi: 10.1017/S0140525X05000129.

Toomey, J., J. Lewis, I. Hannikainen, and B. D. Earp. 2023. Advance medical decision making differs across first- and third-person perspectives. PsyArXiv. https://osf.io/preprints/psyarxiv/pcrmd/
Tooming, U., and K. Miyazono. 2023. Affective forecasting and substantial self-knowledge. Emotional Self-Knowledge. New York: Routledge. doi: 10.4324/9781003310945-3.
van Kinschot, C. M. J., V. R. Soekhai, E. W. de BekkerGrob, W. E. Visser, R. P. Peeters, T. M. van Ginhoven, and C. van Noord. 2021. Preferences of patients and clinicians for treatment of Graves’ disease: A discrete choice experiment. European Journal of Endocrinology 184 (6):803-812. doi: 10.1530/EJE-20-1490.
Wasserman, D., and D. Wendler. 2023. Response to commentaries: ‘Autonomy-based criticisms of the patient preference predictor’. Journal of Medical Ethics 49 (8): 580-582. Online ahead of print doi: 10.1136/jme-2022108707.

Wendler, D., B. Wesley, M. Pavlick, and A. Rid. 2016. A new method for making treatment decisions for incapacitated patients: What do patients think about the use of a patient preference predictor? Journal of Medical Ethics 42 (4):235-241. doi: 10.1136/medethics-2015-103001.

Wu, L., Y. Chen, K. Shen, X. Guo, H. Gao, S. Li, J. Pei, and B. Long. 2023. Graph neural networks for natural language processing: A survey. Foundations and Trends in Machine Learning 16 (2):119-328. doi: 10. 1561/2200000096.