تاريخ الاستلام: 8 يونيو 2023
تم القبول: 1 فبراير 2024
نُشر على الإنترنت: 04 مارس 2024
(د) التحقق من التحديثات

أصبح تطوير الشبكات العصبية الاصطناعية المتطورة (ANNs) واحدة من أعلى أولويات الشركات التكنولوجية وحكومات الدول الغنية، حيث يمكن أن تعزز من تصنيع أنظمة الذكاء الاصطناعي (AI) التي تولد فوائد اقتصادية واجتماعية في مجالات متعددة (مثل، اللوجستيات، التجارة، الرعاية الصحية،
الأمن القومي، إلخ. تستطيع الشبكات العصبية الاصطناعية حساب وتخزين الكمية الهائلة من البيانات الإلكترونية المنتجة (سواء من قبل البشر أو الآلات)، وتنفيذ عمليات معقدة بها. من أمثلة المنتجات الإلكترونية التي تحتوي على شبكات عصبية اصطناعية نتفاعل معها في حياتنا اليومية هي تلك التي تحدد الأنماط البيومترية (مثل الوجه، بصمة الإصبع) للوصول.
التحكم في الهواتف الذكية أو تطبيقات الخدمات المصرفية عبر الإنترنت ، وتلك التي تحدد الكائنات في الصور من الشبكات الاجتماعية وكاميرات الأمن/المرور بجانب التعرف على الصور، هناك أمثلة أخرى مثل المحركات التي تحول الكلام إلى نص في الحواسيب والهواتف الذكية. معالجة اللغة الطبيعية مثل نظام الدردشة الآلي الجديد chat-GPT وتلك التي تقدم توصيات دقيقة للتسوق عبر الإنترنت بناءً على سلوكيات سابقة من أنفسنا و/أو من الأشخاص في شبكتنا .

يمكن فهم الشبكات العصبية الاصطناعية على أنها تنفيذ سلسلة من العمليات الرياضية. تتكون بنية الشبكات العصبية الاصطناعية من عدة عقد (تسمى الخلايا العصبية) مترابطة مع بعضها البعض (عن طريق المشابك)، ويتم تنفيذ التعلم من خلال ضبط قوة (وزن) هذه الاتصالات. يتم تنفيذ الشبكات العصبية الاصطناعية الحديثة عبر البرمجيات في أنظمة الحوسبة العامة المستندة إلى وحدة المعالجة المركزية (CPU) والذاكرة – المعمارية المعروفة باسم فون نيومان. . ومع ذلك، في هذه البنية، يرتبط مقدار كبير من استهلاك الطاقة ووقت الحوسبة بتبادل البيانات المستمر بين الوحدتين، وهو ما ليس بكفاءة. يمكن تسريع وقت الحوسبة عن طريق
استخدام وحدات معالجة الرسوميات (GPUs) لتنفيذ الشبكات العصبية الاصطناعية (انظر الشكل 1أ)، حيث يمكنها تنفيذ عمليات متعددة بشكل متوازي . ومع ذلك، فإن هذا النهج يستهلك المزيد من الطاقة، مما يتطلب أنظمة حوسبة كبيرة وبالتالي لا يمكن دمجه في الأجهزة المحمولة. خيار آخر هو استخدام مصفوفات البوابات القابلة للبرمجة في الميدان (FPGAs)، التي تستهلك طاقة أقل بكثير من وحدات معالجة الرسوميات (GPUs) بينما توفر كفاءة حوسبة متوسطة بين وحدات المعالجة المركزية (CPUs) ووحدات معالجة الرسوميات. استطلاع أجرته غوان وآخرون تم تلخيص الحلول الحالية للأجهزة لتنفيذ الشبكات العصبية الاصطناعية وأدائها في الشكل 1b.

في السنوات القليلة الماضية، قدمت بعض الشركات والجامعات دوائر متكاملة محددة التطبيقات (ASICs) تعتمد على تقنية أشباه الموصلات المعدنية المؤكسدة التكميلية (CMOS) القادرة على حساب وتخزين المعلومات في نفس الوحدة. وهذا يسمح لهذه الدوائر المتكاملة بأداء عمليات متعددة بشكل متوازي وبسرعة كبيرة، مما يجعلها قادرة على تقليد سلوك الخلايا العصبية والوصلات العصبية في الشبكات العصبية الاصطناعية (ANN) مباشرة في الأجهزة. قائمة شاملة من هذه الدوائر المتكاملة تشمل تلك مثل وحدة معالجة جوجل (TPU). أمازون إنفيرنتيا تسلا NPU ، إلخ، ملخصة في المرجع 22. مثل هذه المتكاملة

الشكل 1 | زيادة الطلب على قوة الحوسبة وانتقال المنصة من فون نيومان نحو الهياكل المعالجة بشكل متوازي. أ زيادة الطلب على قوة الحوسبة على مدى العقود الأربعة الماضية معبرًا عنها بوحدات بيتا فلوپس في اليوم. حتى عام 2012، كان الطلب على قوة الحوسبة يتضاعف كل 24 شهرًا؛ مؤخرًا، تم تقصير هذه الفترة إلى حوالي كل شهرين. تشير أسطورة الألوان إلى اختلافات
مجالات التطبيق ميهونيك، أ.، كينون، أ. ج. الحوسبة المستوحاة من الدماغ تحتاج إلى خطة رئيسية. ناتشر 604، 255-260 (2022)، معاد إنتاجها بإذن من SNCSC. ب مقارنة لمسرعات الشبكات العصبية لأجهزة FPGA وASIC وGPU من حيث السرعة واستهلاك الطاقة. GOP/s عمليات جيجا في الثانية، تيرا عمليات في الثانية.
يمكن تصنيف الدوائر إلى فئتين. من ناحية، تعتبر معالجات تدفق البيانات معالجات مصممة خصيصًا لاستنتاج وتدريب الشبكات العصبية. نظرًا لأن حسابات تدريب واستنتاج الشبكات العصبية يمكن أن تُرتب بشكل حتمي تمامًا، فهي قابلة لمعالجة تدفق البيانات حيث يتم برمجة أو وضع وتوجيه الحسابات، والوصول إلى الذاكرة، وإجراءات الاتصالات بين وحدات المعالجة الحسابية بشكل صريح/ثابت على الأجهزة الحاسوبية. من ناحية أخرى، تدمج معجلات المعالجة في الذاكرة (PIM) عناصر المعالجة مع تكنولوجيا الذاكرة. من بين هذه المعجلات PIM توجد تلك المعتمدة على تكنولوجيا الحوسبة التناظرية التي تعزز دوائر الذاكرة الفلاش بقدرات الجمع والضرب التناظرية في المكان. يرجى الرجوع إلى المراجع الخاصة بـ Mythic. والصقر الجير مسرعات لمزيد من التفاصيل حول هذه التكنولوجيا المبتكرة.

الشبكات العصبية الاصطناعية المذكورة سابقًا وتلك التي تم الإبلاغ عنها بالتفصيل في الاستطلاع المقدم في المرجع 22 تنتمي إلى مجموعة فرعية تُعرف بالشبكات العصبية العميقة (DNNs). في الشبكة العصبية العميقة، يتم تمثيل المعلومات بقيم مستمرة في الزمن ويمكن أن تحقق دقة عالية في التعرف على البيانات من خلال استخدام طبقتين على الأقل من الخلايا العصبية غير الخطية المترابطة بواسطة أوزان تشابكية قابلة للتعديل. . على العكس من ذلك، هناك ترميز بديل للمعلومات أدى إلى ظهور نوع آخر من الشبكات العصبية الاصطناعية، وهي الشبكات العصبية النابضة (SNN). في الشبكات العصبية النابضة، يتم ترميز المعلومات بواسطة نبضات تعتمد على الزمن، مما يقلل بشكل ملحوظ من استهلاك الطاقة مقارنة بالشبكات العصبية العميقة (DNN). علاوة على ذلك، فإن وظيفة الشبكات العصبية السريعة (SNNs) تشبه بشكل أكبر الوظيفة الفعلية للشبكات العصبية البيولوجية، ويمكن أن تساعد في فهم الأنظمة العصبية المعقدة للثدييات. من المحتمل أن تكون إنتل لديها أكثر برامج البحث شمولاً لتقييم الجدوى التجارية لمسرعات SNN بتقنيتها لوهي. ومجتمع تطوير الذكاء العصبي من إنتل . من بين التطبيقات التي تم استكشافها مع لوهي هي تصنيف الأهداف في رادار الفتحة الاصطناعية والصور البصرية , تحليل مشهد السيارات , ومشفّر الطيف . علاوة على ذلك، أعلنت شركة واحدة، إيناتيرا، عن معالج SNN تجاري . أيضًا، المنصات التي طورتها IBM (TrueNorth )، وتسينغوا هي أمثلة معروفة على جهود البحث من كل من الصناعة والأكاديمية في هذا المجال.

ومع ذلك، تتطلب تطبيقات ANNs المعتمدة على CMOS بالكامل عشرات الأجهزة لمحاكاة كل مشبك عصبي، مما يهدد كفاءة الطاقة والمساحة، وبالتالي يجعل الأنظمة الكبيرة الحجم غير عملية. نتيجة لذلك، لا يزال أداء ANNs المعتمدة على CMOS بعيدًا جدًا عن أداء الشبكات العصبية البيولوجية. لمحاكاة التعقيد واستهلاك الطاقة المنخفض للغاية للشبكات العصبية البيولوجية، يجب أن تحقق المنصات المادية لـ ANNs كثافة تكامل عالية جدًا ( تيرابايت لكل ) واستهلاك طاقة منخفض ( لكل عملية .

أشارت الدراسات الحديثة إلى أن استخدام الأجهزة الميمريستية لمحاكاة المشابك العصبية قد يسرع من مهام حساب ANNs مع تقليل استهلاك الطاقة العام والبصمة . الأجهزة الميمريستية هي أنظمة مواد يمكن ضبط مقاومتها الكهربائية على حالتين ثابتتين أو أكثر (أي غير متطايرة) عن طريق تطبيق ضغوط كهربائية . الأجهزة الميمريستية التي تظهر حالتين غير متطايرتين يتم تسويقها بالفعل كذاكرة مستقلة , على الرغم من أن سوقها العالمي لا يزال صغيرًا ( مليون دولار أمريكي بحلول عام 2020، أي من سوق الذاكرة المستقلة الذي تبلغ قيمته 127 مليار ). ومع ذلك، يمكن أن تظهر الأجهزة الميمريستية أيضًا ثلاث سمات مدمرة مناسبة بشكل خاص للتنفيذ المادي لـ ANNs: i) إمكانية برمجة حالات غير متطايرة متعددة (حتى ، وحتى )، ii) استهلاك طاقة منخفض للتبديل ( لكل انتقال حالة مع استهلاك ثابت صفر عند الخمول )، و iii) هيكل قابل للتوسع مناسب للتكامل المصفوفي (غالبًا ما يُشار إليه باسم تقاطع ) وحتى التكديس ثلاثي الأبعاد . علاوة على ذلك، يمكن أن يكون وقت التبديل قصيرًا يصل إلى .

حتى الآن، ادعت عدة مجموعات وشركات تحقيق تنفيذات هجينة من ANNs المعتمدة على CMOS/ميمريستور , -من الآن فصاعدًا، ANNs الميمريستية- بأداء يتفوق على نظيراتها المعتمدة على CMOS بالكامل. ومع ذلك، فإن معظم تلك الدراسات في الواقع قاست فقط أرقام الجدارة لواحد/قليل من الأجهزة ومحاكاة
دقة ANN عبر البرمجيات في هذا النوع من الدراسات، تكون العلاقة بين الميمريستورات المصنعة وANN ضعيفة نسبيًا. ذهبت بعض الدراسات إلى ما هو أبعد من ذلك وبنت/وصفت مصفوفات تقاطع من الأجهزة الميمريستية , لكنها لا تزال بعيدة جدًا عن تنفيذات الأجهزة الكاملة لجميع العمليات الرياضية المطلوبة من قبل ANN. أفادت الدراسات الأكثر تقدمًا في هذا المجال بأنظمة حساب في الذاكرة تعتمد على الميمريستور متكاملة بالكامل , لكن الوصف المنهجي للتفاصيل الأساسية حول هيكل الجهاز أو بنية الدائرة غالبًا ما يكون مفقودًا في هذه التقارير.

في هذه المقالة نقدم وصفًا شاملًا خطوة بخطوة لتنفيذ الأجهزة لـ ANNs الميمريستية لتصنيف الصور -التطبيق الأكثر دراسة والذي غالبًا ما يستخدم لتقييم الأداء، موضحين جميع الكتل الأساسية اللازمة وتدفق معالجة المعلومات. من أجل الوضوح، نعتبر الشبكات البسيطة نسبيًا، حيث تكون الشبكة متعددة الطبقات هي الحالة الأكثر تعقيدًا. نأخذ في الاعتبار التحديات التي تنشأ على كل من مستوى الجهاز والدائرة ونناقش نهجًا قائمًا على SPICE لدراستها في مرحلة التصميم، بالإضافة إلى التوبولوجيات الدائرية المطلوبة لتصنيع ANN ميمريستية.

تظهر الشكل 2 مخطط تدفق يوضح الهيكل العام لـ ANN؛ يحتوي على مدخلات متعددة (لصور القناة الواحدة مثل الألوان المفهرسة، الصور الرمادية وصور البت، هناك عدد من المدخلات بقدر عدد البكسلات التي تحتويها الصورة المراد تصنيفها) وعدة مخرجات (بقدر أنواع/فئات الصور التي سيتعرف عليها ANN). كما يتضح، يتكون ANN من عمليات رياضية متعددة (صناديق خضراء)، مثل ضرب مصفوفة المتجهات (VMM)، دالة التنشيط، ودالة softargmax. من بين جميع العمليات الحرجة في ANN، تعتبر VMM الأكثر تعقيدًا ومتطلبات، ويتم تنفيذها عدة مرات خلال عملية التدريب والاستدلال. وبالتالي، فإن تطوير أجهزة جديدة لتنفيذ ANN موجه بقوة لتحقيق عمليات VMM بطريقة أكثر كفاءة. من المثير للاهتمام، أن عملية VMM -التي غالبًا ما تُفهم على أنها روتين الضرب والتجميع (MAC)- يمكن تنفيذها باستخدام مصفوفة تقاطع من عناصر الذاكرة. يمكن أن تكون تلك الأجهزة الذاكرية إما ذاكرات قائمة على الشحن أو ذاكرات قائمة على المقاومة .

قبل شرح الأجهزة الميمريستية لـ ANN، في هذه الفقرة نصف حالة الفن للأجهزة CMOS لـ ANNs، لتزويد المؤلف بصورة شاملة عن التقنيات المختلفة المتاحة لـ ANNs المعتمدة على الأجهزة. من بين الذاكرات القائمة على الشحن، تم استخدام خلايا SRAM (هيكل ترانزستور ثنائي الاستقرار مصنوع عادةً من اثنين من المحولات CMOS متصلة ببعضها البعض والتي تحتفظ بتركيز الشحن، انظر الشكل 3a كمثال على هيكل مصفوفة تقاطع من 6T SRAM) على نطاق واسع لـ VMM . إذا كانت عناصر متجه الإدخال ومصفوفة الوزن محدودة بالقيم الثنائية الموقعة، فإن عملية الضرب تُبسط إلى مجموعة من وظائف XNOR وADD التي يتم تنفيذها مباشرة من خلال خلايا SRAM. مثال على ذلك هو العمل الذي قام به خوا وآخرون، الذي يذكر نظام حساب في الذاكرة يعتمد على مصفوفة تقاطع من خلايا ذاكرة 6T SRAM كاتصالات مشبكية ثنائية تستخدم مدخلات/مخرجات ثنائية . الدائرة المقترحة تتكون من 4 كيلوبايت من المشابك المصنعة في عملية CMOS 65 نانومتر وأبلغت عن كفاءة طاقة تبلغ 55.8 TOPS لكل واط. في الحالات التي تكون فيها x غير ثنائية، تتمثل إحدى الطرق في استخدام المكثفات بالإضافة إلى خلايا SRAM , مما ينطوي على عملية من ثلاث خطوات. ومع ذلك، فإن العيب الرئيسي لذاكرات SRAM هو طبيعتها المتطايرة. بسبب ارتفاع حاجز ترانزستور التأثير الميداني المنخفض ( 0.5 eV )، يحتاج الشحن باستمرار إلى التجديد من مصدر خارجي ومن ثم تحتاج SRAM دائمًا إلى الاتصال بمصدر طاقة. عنصر ذاكرة بديل لعملية VMM هو خلية الذاكرة الفلاش , حيث يتم ربط عقدة تخزين الشحن ببوابة FET مع الشحن المخزن إما على قطب موصل محاط بالعوازل (البوابة العائمة) أو في فخاخ منفصلة داخل طبقة عازل معيبة (طبقة حبس الشحن). على عكس SRAM، فإن ارتفاع الحاجز لـ

الشكل 2 | مخطط كتلي عام يشير إلى الكتل الدائرية المطلوبة لتنفيذ ANN ميمريستية لتصنيف الأنماط. تشير الكتل الخضراء (3،5،7 و8) إلى العمليات الرياضية المطلوبة (مثل VMM أو دوال التنشيط). تحدد الكتل الحمراء الدوائر المطلوبة لتكييف الإشارة و/أو تحويلها. يتم الإشارة إلى مسار البيانات المتبع أثناء الاستدلال (أو المرور الأمامي) بواسطة الأسهم/الخطوط الحمراء. يتم الإشارة إلى مسار البيانات المتبع للتدريب في الموقع بواسطة الأسهم/الخطوط الزرقاء. يتم الإشارة إلى مسار البيانات المتبع
خلال التدريب خارج الموقع بواسطة الأسهم/الخطوط الصفراء. لكل صندوق، تشير الجزء العلوي (المُلوّن) إلى اسم الوظيفة التي يجب تحقيقها بواسطة الكتلة الدائرية، والجزء السفلي يشير إلى نوع الأجهزة المطلوبة. يشمل الصندوق المعنون بالطبقات العصبية المتعاقبة عدة كتل فرعية بهيكل مشابه للمجموعة المعنونة بالطبقة العصبية الأولى. 1S1R تعني 1 محدد 1 مقاوم بينما 1R تعني 1 مقاوم. UART وSPI و هي معايير اتصالات معروفة. RISC تعني جهاز كمبيوتر مجموعة التعليمات المخفضة.
ارتفاع عقدة التخزين مرتفع بما يكفي للاحتفاظ بالبيانات على المدى الطويل. أيضًا، تعمل VMM المعتمدة على الفلاش بطريقة مختلفة قليلاً عن VMM المعتمدة على SRAM. في VMM المعتمدة على الفلاش، يساهم كل عنصر ذاكرة بمقدار مختلف في التيار في كل عمود من مصفوفة التقاطع اعتمادًا على الجهد المطبق على المدخل أو صف التقاطع وعناصر المصفوفة مخزنة كشحن على البوابة العائمة (أي، الضرب) وجميع التيارات في عمود ما يتم جمعها على الفور (أي، التراكم) بواسطة قانون كيرشوف للتيارات. نظرًا لأن الأجهزة يمكن الوصول إليها بالتوازي على طول BL، فإن ذاكرة فلاش NOR تُفضل عمومًا على ذاكرة فلاش NAND للحوسبة في الذاكرة. هذه هي حالة العمل الذي قام به فيك وآخرون من شركة ميثيك ، الذي يعتمد على مصفوفة فلاش NOR لتطوير معالج مصفوفة تناظرية لاكتشاف وضع الإنسان في معالجة الفيديو في الوقت الحقيقي. ومع ذلك، هناك عمل حديث يصف استخدام NAND ثلاثي الأبعاد، المكون من طبقات مكدسة عموديًا من أجهزة فلاش المتصلة تسلسليًا، حيث تقوم كل طبقة من المصفوفة بتشفير مصفوفة فريدة . يمكن أن تساعد هذه الطريقة في التغلب على مشكلة قابلية التوسع لذاكرة فلاش NOR، والتي يصعب توسيعها إلى ما بعد عقدة تكنولوجيا 28 نانومتر. المسرع المقترح 3D-aCortex هو تنفيذ كامل بتقنية CMOS يعتمد على مصفوفة فلاش NAND ثلاثية الأبعاد تجارية كعنصر تشابكي. يتم تجميع المخرجات الجزئية من عدة مصفوفات تشابكية مؤقتًا ورقميًا باستخدام عدادات رقمية، مشتركة بين جميع المصافي على طول صف من الشبكة، مما يتجنب عبء الاتصال الناتج عن إجراء هذه التخفيضات عبر مستويات متعددة من التسلسل الهرمي. تشارك المصفوفة ثلاثية الأبعاد بأكملها ذاكرة عالمية وعمود من الدوائر المحيطية، مما يزيد من كفاءة تخزينها. ومع ذلك، لا يزال هذا نظريًا ولم يتم تصنيعه بعد. ومع ذلك، تتطلب عملية الكتابة على ذاكرات الفلاش فولتages عالية (عادةً ) وتنطوي على زمن تأخير كبير ( ) بسبب الحاجة إلى التغلب على حواجز عقد التخزين. يمكن حل هذه المشكلات بشكل محتمل باستخدام ذاكرات قائمة على المقاومة، أو الميمريستور كعنصر ذاكرة عند تقاطعات المصفوفة، حيث يمكنها تحقيق عملية الضرب بموجب قانون أوم ( ، حيث هو التيار، هو جهد الإدخال و هو موصلية كل ميمريستور)، مع تقليل استهلاك الطاقة والمساحة بالإضافة إلى توفير فولتages تشغيل متوافقة مع CMOS. يتم تصوير هيكل مصفوفات الميمريستور التشابكية لـ VMM في الشكل 3b، c: خيار التكامل الشائع هو وضع ترانزستور CMOS في سلسلة مع الميمريستور للتحكم في التيار من خلاله (الشكل 3b) في هيكل يسمى 1 ترانزستور 1 مقاومة (1T1R)، بينما سيتم تحقيق أعلى كثافة تكامل من خلال مصفوفة تشابكية لا تحتوي على ترانزستورات، أي، اعتبار الخلايا التي يشار إليها عادةً باسم 1 مقاومة/
ميمريستور (1 R أو 1 M) أو مصفوفة تشابكية سلبية (الشكل 3c). عند استخدام مصفوفات تشابكية من الميمريستورات لأداء عمليات VMM، قد تكون هناك حاجة إلى دوائر إضافية عند الإدخال والإخراج لاستشعار و/أو تحويل الإشارات الكهربائية (انظر الصناديق الحمراء في الشكل 2). من أمثلة هذه الدوائر محولات من الرقمية إلى التناظرية (DAC)، ومن التناظرية إلى الرقمية (ADC) ومضخمات مقاومة التيار (TIA). لاحظ أن دراسات أخرى استخدمت تنفيذات تختلف قليلاً عن هذا المخطط، أي، دمج أو تجنب كتل معينة لتوفير المساحة و/أو تقليل استهلاك الطاقة (انظر الجدول 1).

في الأقسام الفرعية التالية، نصف بالتفصيل جميع الكتل الدائرية المطلوبة لتنفيذ كامل للأجهزة لشبكة عصبية ميمريستيف. لتوفير صورة عالمية واضحة وشرح تفصيلي، تتوافق عناوين الأقسام الفرعية مع أسماء الكتل في الشكل 2.

الصورة (أو النمط) هي مجموعة من البكسلات بألوان مختلفة مرتبة في شكل مصفوفة (يشار إليها باسم في هذه المقالة). في هذا العمل، سنعتبر الصور بالأبيض والأسود، حيث يمكن تشفير لون تلك البكسلات بقيمة واحدة فقط. ومع ذلك، في الصور الملونة، يتم تمثيل كل بكسل بـ 3 (في ترميز RGB) أو 4 (في ترميز CMYK) قيم، مرتبة بطريقة تنسورية، أي، أو . يتم إجراء كل من التدريب والاختبار لشبكة عصبية لتصنيف الصور من خلال تقديم مجموعات بيانات كبيرة من الصور إلى مدخلاتها. في شبكة عصبية حقيقية، يمكن أن تأتي كل صورة مباشرة من كاميرا مدمجة (الكتلة 1)، أو يمكن تقديمها كملف من قبل المستخدم (الكتلة 2). اعتمادًا على تنسيق الصورة (على سبيل المثال، أبيض/أسود، 8 بت *.bmp، 24 بت *.bmp، *.jpg، *.png، من بين العديد من الآخرين) سيكون نطاق الألوان الممكنة (المشفرة كقيم عددية) لكل بكسل مختلفًا. كل من الطرق المذكورة أعلاه لتغذية الصور إلى الشبكة العصبية تعني أعباء أجهزة مختلفة. في حالة تصنيف الصور أثناء الطيران، من الضروري وجود جهاز تصوير CMOS لالتقاط الصور المدخلة . على سبيل المثال، المرجع 84 يستخدم مستشعر صورة بكسل ، حيث يتكون كل بكسل من ثنائي ضوئي وأربعة ترانزستورات تولد إشارة تناظرية تكون سعتها متناسبة مع شدة الضوء. ثم يتم إنشاء صورة ثنائية بكسل عن طريق رسم بكسلات الجوار في بكسل واحد في الصورة الثنائية. يتم اعتبار نهج مشابه في المرجع 85 حيث يتم التقاط صورة بكسل بواسطة مستشعر الصورة ثم يتم تغيير حجمها إلى صورة . سيتم تغطية إجراء تغيير الحجم وضرورة مثل هذا الإجراء لاحقًا في هذا القسم الفرعي.

فيما يتعلق بالصور المدخلة، هناك مجموعات بيانات متعددة من الصور متاحة عبر الإنترنت لتدريب واختبار الشبكات العصبية. بعض من أكثرها استخدامًا هي: 1) MNIST (المعهد الوطني للمعايير والتكنولوجيا المعدل)، والذي هو في الأساس مجموعة بيانات تحتوي على 70,000 صورة بالأبيض والأسود تظهر أرقام مكتوبة بخط اليد من 0 إلى 9 (أي، حوالي 7,000 لكل رقم)؛ 60,000 منها تستخدم للتدريب و 10,000 للاختبار ؛ 2) CIFAR (المعهد الكندي للبحث المتقدم)، الذي يحتوي على 60,000 صورة ملونة مقسمة إلى 10 فئات لـ CIFAR-10 و 100 فئة لـ CIFAR-100 ؛ 3) ImageNet، واحدة من أكبر مجموعات بيانات الصور، والتي تتكون من أكثر من 1.2 مليون صورة مصنفة من 1000 فئة لمسابقة ImageNet . تعتبر MNIST نقطة انطلاق جيدة
نظرًا لأن هذه المجموعة البسيطة يمكن تصنيفها حتى مع الشبكات العصبية الصغيرة. لتقييم جهاز أو شريحة، من الضروري تقييم دقة نماذج الشبكات العصبية العميقة القياسية مثل و ResNet على مجموعة بيانات CIFAR و ImageNet من خلال استخدام محاكاة على مستوى الهيكل وإحصائيات الأجهزة الواقعية . للتوضيح، هنا نوضح مع مجموعة بيانات MNIST. عدد الأنواع/الفئات من الصور (يشار إليها باسم في هذه المقالة) في مجموعة بيانات MNIST هو 10. يتم ضغط الصور في .idx3-ubyte ملف يمكن فتحه باستخدام MATLAB؛ كل منها يأتي بتدرج الرمادي وبدقة بكسل. في بايثون، يمكن العثور على صور MNIST مضمنة في مكتبة تُدعى Keras. تُستخدم صور التدريب لتمكين الشبكة العصبية الاصطناعية من فهم الميزات المميزة لكل نمط (أي الأرقام)، وتُعرض صور الاختبار على الشبكة العصبية الاصطناعية (بعد التدريب) لتصنيفها. يمكن رؤية بعض الأمثلة على هذه الصور في الشكل 4a، حيث X و المحور يمثل مؤشر البكسل. يتم ترميز سطوع البكسل في 256 مستوى رمادي بين 0 (مطفأ بالكامل، أسود) و255 (مضاء بالكامل، أبيض). في مجموعة بيانات MNIST، كل من 60,000 تُعبر صور التدريب عن متجه عمودي، وجميع هذه المتجهات أفقياً

تنخفض الدقة من بكسلات (الحالة I) إلى (الحالة الرابعة). ج تمثيل تخطيطي لفك لف بكسلات الصورة. لاحظ أن كل من تُجمع أعمدة الصور من وحدات البكسل عموديًا للوصول إلى متجه عمودي. ثم يتم توسيعه بواسطة لإنتاج متجه من الفولتية التناظرية التي يتم تغذيتها إلى الشبكة العصبية الاصطناعية.
مُتَسَلسِلَة لعرض مصفوفة. وبالمثل، تتكون مجموعة بيانات الاختبار من المصفوفة. في كلتا الحالتين، كل من يجب تغذية البيكسلات إلى مصفوفة التقاطع لمزيد من المعالجة.

كما ذُكر سابقًا، يجب أن تحتوي أبسط هياكل الشبكات العصبية الاصطناعية (البرسيبترونات متعددة الطبقات) على عدد من المدخلات يساوي عدد البيكسلات الموجودة في الصور المراد تصنيفها. في الشبكات العصبية الاصطناعية المعتمدة على البرمجيات، لا تمثل هذه مشكلة. ومع ذلك، فإن المدخلات المتاحة في الشبكات العصبية الاصطناعية المعتمدة على الأجهزة محدودة بحجم مصفوفة الميمريستور الأقصى. في الأدبيات، تم التعامل مع مثل هذا التحدي من خلال اعتبار نهج مختلفة: على سبيل المثال، بالنظر إلى مجموعة بيانات MNIST التي تحتوي على صور بدقة بكسلات، إحدى الخيارات هي تنفيذ الطبقة المشبكية باستخدام عدة تقاطعات لتناسب 784 مدخلاً (على سبيل المثال، أو ستكون هناك حاجة إلى القضبان العرضية ومع ذلك، بالنسبة للجهود البحثية التي تركز على مستوى الجهاز، فإن هذا عادة ما يكون خارج نطاق الوصول لأنه يتطلب دمجًا غير مباشر بين CMOS والميمريستور. خيار آخر هو النظر في الشبكات العصبية الأكثر تعقيدًا، مثل الشبكات العصبية التلافيفية (CNN). الطبقة الأولى من LeNet-5 (نوع من الشبكات العصبية التلافيفية) هي التي يمكن تنفيذها مع العارضة. في الواقع، تعتمد مهام تصنيف الصور في التعلم العميق الحديث عادةً على طبقة تلافيفية. أما بالنسبة للحالة السابقة، فإن تنفيذ ذلك ليس سهلاً لمشاريع البحث التي تركز على مستوى الجهاز، حيث يتطلب أيضًا تكاملًا معقدًا بين CMOS والميمريستور. ومع ذلك، في بعض الحالات، يتم تنفيذ أولى الطبقات التلافيفية على البرمجيات وخارج الشريحة لتقليل أبعاد الصورة، ثم يتم تغذية المتجه الناتج إلى الجزء الميمريستيف من الشبكة العصبية الاصطناعية. لاحظ أنه في هذه الحالة، لا يتم تمثيل عدم مثالية الأجهزة بشكل متساوٍ في جميع أنحاء الشبكة، ويتم تقييم تأثيرها فقط على الجزء المتصل بالكامل. . أخيرًا، الخيار الآخر هو إعادة قياس كل من الصور في مجموعة بيانات MNIST الأصلية (في هذا العمل، ممثلة بالكتلة 3). على سبيل المثال، إذا كان لدينا 64 مدخلًا في الشريط المتقاطع، فسيكون من الضروري إعادة قياس الصورة من إلى (أي 64 بكسل)؛ سيتم الإشارة إلى حجم الصورة المعاد تحجيمها بـ يمكن إجراء إعادة القياس بسهولة عبر البرمجيات، باستخدام على سبيل المثال MATLAB ومجموعة أدوات التعلم العميق الخاصة به كلغة/منصة لتنفيذ هذا النوع من العمليات الحسابية، أو Python مع مكتبات TensorFlow وKeras أو Pytorch. ومع ذلك، كما هو موضح في الشكل 4b، تصبح الصور المعاد قياسها بشكل مفرط بالكاد قابلة للقراءة وبالتالي يتغير مجموعة البيانات بالكامل وكذلك المعيار، أي نتائج الاستدلال التي تم الحصول عليها لـ يجب مقارنة الصور المعاد قياسها من MNIST فقط
مع نتائج MNIST وليست مع نتائج معيار MNIST الأصلية. هذا مشابه لاستخدام مجموعة بيانات مصنوعة خصيصًا. مع وضع ذلك في الاعتبار، ونظرًا للاستخدام المتكرر لهذه المنهجية في الأدبيات، سنأخذ في الاعتبار استخدامها مع التأكيد على الاعتبارات المذكورة أعلاه، ونشجع المؤلفين على عدم إعادة قياس مجموعة بيانات الصور إذا كانوا يهدفون إلى مقارنة نتائجهم مع مجموعات البيانات الأصلية.

كمثال، يوضح الخوارزم الإضافي 1 كود MATLAB المستخدم لإعادة تحجيم مجموعة بيانات الصور من إلى بكسل. قبل تقليل حجم الصور، يجب إعادة تشكيل كل منها من متجه عمودي إلى مصفوفة، باستخدام دالة MATLAB reshape(). ثم، يتم تغيير حجم الصورة إلى الحجم المطلوب الحجم بالبكسل بواسطة دالة MATLAB imresize() . هذه الوظيفة تستقبل كوسيلة للمعالجة طريقة تقليل العينة المرغوبة، والتي تم اختيارها في هذا المثال لتكون الاستيفاء الثنائي المكعب (كما في مقالات أخرى في مجال الميمريستيف) ). تظهر نتائج إعادة القياس لصورة واحدة في الشكل 4ب. لاحظ أنه باستخدام هذه الطريقة، من المتوقع أن تكون القيم خارج نطاق [ 0,1 ]. وبالتالي، يتم معالجة الصورة المنقوصة وأي قيمة ناتجة تتجاوز هذا النطاق يتم تقليمها إلى 0 أو 1 . ثم يتم إعادة تشكيل الصور المعاد قياسها إلى تنسيق تمثيل متجه العمود وتخزينه في مصفوفة جديدة. الآن يمكن استخدام هذه الصورة كمدخل في مصفوفة التوصيل لميمريستور.

لون كل بكسل في الصورة (يمثل كـ العمود) يتم ترميزه كجهد يُطبق على صف في الشبكة المتقاطعة (أي، خط الكلمة)، كما هو موضح في الشكل 4c، مما يؤدي إلى متجه الجهود التناظرية . إذا كانت الصورة بالأبيض والأسود (أي، قيمتان ممكنتان)، فإن قيم الجهد كل بكسل سيكون 0 و ( كونه جهد مرجعي محدد بواسطة التطبيق)؛ ومع ذلك، يمكن أن يتراوح لون كل بكسل أيضًا ضمن تدرج الرمادي، مما يؤدي إلى مجموعة من الجهود التناظرية. على سبيل المثال، لون كل بكسل في 8 بت صور مجموعة بيانات MNIST (وبالتالي، لون كل بكسل في الصورة المعاد حجمها الصورة المدخلة إلى المبدل) تتراوح ضمن تدرج رمادي من 256 قيمة ممكنة (مشفرة في التمثيل الثنائي من 00000000 إلى 11111111)، مما يعني أن الفولتية التي يجب تطبيقها على كل مدخل من مداخل الشبكة المتقاطعة يمكن أن تأخذ قيمًا مثل إلخ حتى . لذلك، من الضروري وجود محول رقمي إلى تناظري (DAC) بعمق 8 بت لكل مدخل لتحويل الشيفرة المكونة من 8 بتات إلى جهد واحد. عندما يتم استخدام الشبكة العصبية الاصطناعية (ANN) للتعرف على أنواع أخرى من

تتطلب الصور المشفرة بتنسيق مختلف (مثل 24 بت) محولات رقمية تماثلية (DACs) بدقة مختلفة. يعتمد التنسيق الذي تُعرض به الصور على التطبيق النهائي للشبكة، أي أن الشبكات العصبية الاصطناعية (ANNs) لتحديد أرقام اللوحات قد تعمل بشكل جيد مع الصور بالأبيض والأسود (أي 1 بت)، بينما قد تحتاج الشبكات العصبية الاصطناعية لتحديد الأجسام إلى النظر في 24 بت (16.7 مليون) لون. تُعرض أمثلة على محولات DAC المستخدمة غالبًا في الشبكات العصبية الاصطناعية الميمريستيفية في الشكل 5: DAC ثنائي الوزن N-بت (الشكل 5a)، DAC بتوجيه التيار (الشكل 5b)، DAC ميمريستيفي (الشكل 5c)، DAC R-2R N-بت (الشكل 5d) وDAC القائم على تعديل عرض النبضة (PWM) (الشكل 5e).

تحديد دقة محولات الرقمية إلى التناظرية (DACs) عند مدخل كل صف من صفوف الشبكة المتقاطعة هو عامل حاسم يؤثر على استهلاك الطاقة، والمساحة، ومقاومة الخرج لشبكة الأعصاب الاصطناعية – حيث أن تقليل المقاومة مهم لتحقيق شبكات متقاطعة كبيرة. تتكون محولات DAC التقليدية عالية الدقة ذات المقاومة المنخفضة من نواة DAC مع مضخم عمليات (في تكوين عازل) كمرحلة خرج من أجل تقليل مقاومة الخرج. وبالتالي، يمكن تقسيم فقدان الطاقة في DAC إلى الطاقة الناتجة عن التبديل/التسرب لنواة DAC الرقمية والطاقة الثابتة/الديناميكية لمضخم العمليات. من ناحية، يمكن تقدير فقدان الطاقة في نواة DAC الرقمية على أنه ، حيث هو تردد الإخراج، هو الطفيلي
السعة هو جهد الإمداد، و هو طاقة التسرب التي تعتمد على عقدة التكنولوجيا، ولتكنولوجيا 65 نانومتر مع مصدر طاقة 1 فولت تكون في حدود عدة بيكو واط في العاكس. من ناحية أخرى، يمكن تقدير فقدان الطاقة في الكتلة التناظرية من خلال افتراض مرحلة متابع من الفئة AB، مع كفاءة في هذا السيناريو، تساوي القدرة الثابتة لهذه الوحدة قدرتها الديناميكية ويمكن حساب مجموعهما كـ ، حيث هو عدد الميمريستورز التي يجب تشغيلها و هو الحد الأدنى لمقاومتهم. تحت ترددات تقارب هو السائد، بينما فوق هذا العتبة، فإن الطاقة المبددة أثناء التبديل تجعل أكبر من .

بالنسبة لمساحة السيليكون المطلوبة لمحوّلات الرقمية إلى تماثلية (DACs)، فإنها تُحدد بشكل رئيسي بواسطة دقة DAC، والتي تحددها بدورها مطابقة عناصر الضوضاء في الجهاز. بالنسبة لمحوّلات DAC التي تعتمد على المقاومات، فإن المصدر الرئيسي للضوضاء يأتي من مضخم العمليات CMOS في مرحلة الخرج. يمكن تقليلها باستخدام ترانزستورات أكبر (من حيث العرض والطول) لزوج الإدخال التفاضلي. وبالمثل، لتعظيم التوافق بين المقاومات المرجعية، يُشجع على استخدام أجهزة أوسع، مما يساهم في زيادة المساحة السيليكونية المطلوبة لكل محول رقمي إلى تماثلي (DAC).

لتقليل مساحة السيليكون واستهلاك الطاقة، كلما كانت دقة المحول الرقمي إلى التناظري (DAC) أقل كان ذلك أفضل. ونتيجة لذلك، بالإضافة إلى الترميز القائم على السعة لمدخلات الشبكة المتقاطعة، يتم أيضًا النظر في مخططات الترميز الزمني. على سبيل المثال، في أنظمة تعديل عرض النبضة (PWM)، يتم ترميز المدخلات بأطوال نبضات مختلفة. 256 ثانية، إلخ حتى ). هذا يسمح بتجاوز عدم خطية الجهاز ولكنه يعاني من انخفاض في معدل النقل . بدلاً من ذلك، في ما يُعرف بالتشفير التسلسلي للبتات تُقدم المدخلات عالية الدقة عبر الشبكة على شكل تيار من نبضات الجهد ذات السعة والعرض الثابتين على سبيل المثال، لتمثيل مدخلات الكروس بار بعمق 16 بت، تُرسل إشارات الجهد ذات الـ -bit إلى صف الكروس بار عبر دورات الزمن . بعد حساب VMM، يتم تجميع المنتجات الجزئية (مخرجات كل خطوة زمنية) معًا لتشكيل قيمة الإخراج النهائية. أيضًا، العديد من الأوراق لقد استكشفت حالة الشبكات العصبية الاصطناعية مع المدخلات الثنائية، حيث تستخدم أبسط محولات رقمية تماثلية (1-بت). في حالة تدفق المدخلات 1-بت، يمكن أيضًا استبدال المحولات الرقمية التماثلية بمبدلات متبوعة بمضخم إخراج للسماح للمبدل بتشغيل جميع الأجهزة المتصلة بـ . بالإضافة إلى ذلك، فإن الحساب باستخدام المدخلات المشفرة زمنياً يتأثر بشكل أقل بتغيرات الضوضاء، التي تؤثر في الغالب على سعة إشارات المدخلات بدلاً من عرض النبضة. ومع ذلك، فإن العيب في أنظمة التشفير الزمني هو تقليل سرعة الحساب والعبء المادي المطلوب لحساب المجموعات الجزئية. .

بديل للحفاظ على معدل نقل مرتفع واستخدام محول رقمي تماثلي منخفض الدقة هو استخدام الحوسبة التقريبية. عند استخدام محولات الرقمية إلى التناظرية ذات الدقة المنخفضة (1- أو 2- أو 3-بت)، هناك فرصة أكبر لوجود مدخلات متعددة تتطلب نفس جهد القيادة، مما يسمح بمشاركة المحولات بين عدة خطوط، وبالتالي توفير الطاقة والمساحة. ومع ذلك، يجب أن يؤخذ في الاعتبار أن مقاومة الخرج للمحول تحد من عدد خطوط الكلمات التي يمكن تحييدها. أيضًا، تتطلب هذه الطريقة استخدام مضاعفات تناظرية (الكتلة 11) بين دوائر القيادة المدخلة وعبور الميمريستور، مما يؤدي إلى زيادة الحمل على دوائر التحكم. تكمن المشكلة في استخدام محولات ذات دقة منخفضة عند مدخل العبور في فقدان دقة عملية VMM. وبالتالي، هناك توازن جوهري بين جميع هذه المتغيرات. يمكن أيضًا تقليل فقدان الدقة من خلال استغلال تقنيات التدريب المعتمدة على البرمجيات للشبكات العصبية الكمية.

الجهود الناتجة عن كل محول رقمي إلى تناظري (DAC) (التي تمثل لون كل بكسل من الصورة المعاد قياسها تُطبق (الصورة) عند المدخلات (الصفوف) من مصفوفة القضبان المتقاطعة من الميمريستورز. تصف موصلية كل ميمريستور داخل القضبان المتقاطعة الاتصال المشبكي بين كل خلية عصبية مدخلة (i) وكل خلية عصبية مخرجة (j). يتم استخدام هذا المخطط في أوراق بحثية متنوعة. . ومع ذلك، يعتبر البعض أيضًا أن هناك مصطلح انحياز مضاف إلى المجموع الموزون المدخل إلى الخلية العصبية . يمكن القيام بذلك رقميًا وخارجيًا، أو في المجال التناظري. إذا تم القيام بذلك بطريقة تناظرية، فستكون هناك حاجة إلى صف إضافي في الشبكة المتقاطعة، مما يتطلب شبكة متقاطعة من . هذه العملية تنتج متجه صف بحجم (انظر المعادلة 1). في نظام الحوسبة التقليدي من نوع فون نيومان، يتم تنفيذ VMM من خلال القيام بكل عملية فرعية (الضربات والجمع) بشكل متسلسل، مما يستغرق وقتًا طويلاً؛ علاوة على ذلك، يزداد وقت الحساب بشكل تربيعي مع زيادة أبعاد مصفوفات الإدخال. ، أو في حالة استخدام ما يُسمى بتدوين Big-O، فإن خوارزمية VMM لها تعقيد زمني قدره . تسمح تقاطعات الميمريستور (مثل تلك الموضحة في الشكل 6a) بإجراء عمليات VMM بسهولة وسرعة أكبر لأن جميع العمليات الفرعية تتم بشكل متوازي. في التقاطع، يتم ترميز سطوع (لون) كل بكسل في كل صورة من حيث الفولتية التناظرية وتطبيقها على الصفوف المدخلة (المعروفة أيضًا بخطوط الكلمات والمتصلة بأقطاب الميمريستور العلوية)، بينما يتم تأريض الأعمدة الناتجة (المعروفة أيضًا بخطوط البت والمتصلة بأقطاب الميمريستور السفلية) من خلال مضخم مقاومة الترانسيميدانس (انظر الشكل 6b لتمثيل مثالي). ثم يتم إجراء VMM بطريقة تناظرية، حيث يتم تحديد التيار المتدفق عبر كل ميمريستور بواسطة الفولتية المطبقة على الخط والمقاومة لـ
كل ميمريستور ( ). لاحظ أنه في زوج يمثل صف التقاطع، و j يمثل عمود التقاطع. ثم يتم جمع التيارات المتدفقة عبر الميمريستورات المتصلة بخط بت معين واستشعارها لتشكيل متجه الناتج. دعنا نعتبر التدوين التالي لشرح هذه الفكرة بشكل أفضل:

لتصنيف صور MNIST بدقة بكسل مع ANN، تتطلب عمليات VMM متعددة، حيث يتم تعريف مصفوفة المقاومات في المعادلة 1 بناءً على مصفوفة من الأوزان المشبكية، التي لها حجم ، وجميع الأرقام التي تشكلها هي أرقام حقيقية ( ) مع إمكانية وجود قيم إيجابية وسلبية – الطريقة التي يتم بها حساب موصوفة بالتفصيل في قسم تدريب ANN وتحديث الوزن المشبكي (الكتل 2، 11-15): خوارزمية التعلم. نظرًا لأن القيم السلبية لا يمكن تمثيلها مباشرة باستخدام الميمريستورات، تم اعتماد بعض الاستراتيجيات. أضاف المرجع 104 عمودًا إضافيًا في التقاطع (يسمى عمود المرجع، انظر السهم الأزرق في الشكل 6c) مع جميع ميمريستوراتها مضبوطة على ، ليصبح المجموع ميمريستورات في التقاطع. ثم يتم الحصول على التيار الكلي عند مخرج التقاطع عن طريق طرح التيار الناتج عن عمود المرجع {ref} من التيار الناتج عن عمود (انظر الشكل 6c). يتم تمثيل هذا المفهوم رياضيًا في المعادلة 2.

حيث يمثل المقاومات لعمود المرجع و يتم حسابه بطريقة تجعل الأجهزة ذات المقاومة فوق تنتج أوزان مشبكية إيجابية، وتلك التي لديها مقاومة أقل من تنتج أوزان مشبكية سلبية . لهذه الاستراتيجية عيبان: من ناحية، يمكن للمرء استخدام نصف الحالات المعروضة من قبل الميمريستور للأوزان الإيجابية والنصف الآخر للأوزان السلبية، مما يقلل من النطاق بين الوزن الأقصى والأدنى. من ناحية أخرى، فإن توجيه عمود المرجع إلى بقية أعمدة التقاطع لإجراء عملية الطرح المقابلة ليس بالأمر السهل. استراتيجية أخرى هي استخدام ميمريستورين لكل وزن مشبكي، مما يؤدي إلى وجود تقاطعين من . ضمن هذا النهج، يمكن إعادة كتابة المعادلة 2 كـ

حيث يتم ترميز المقاومات الإيجابية والسلبية بواسطة زوج من الميمريستورات المجاورة ( و )، كل منهما مضبوط على قيمة إيجابية من المقاومة. تم اختيار هذه الطريقة التمثيلية، الموضحة في الشكل 6d، في هذه الدراسة لأنها تضاعف نطاق

مستويات المقاومة في التقاطع، مما يجعلها أقل عرضة للضوضاء والتغيرات .

لحساب قيمة المقاومة المطلوبة لكل من الميمريستورات في الزوج، نبدأ بتقسيم إلى مصفوفتين و كالتالي:

كل منهما يحتوي فقط على أوزان إيجابية، بحيث . يمكن تمثيل المصفوفة في الجانب الأيسر ( ، التي تحتوي على قيم إيجابية وسلبية) كفرق بين المصفوفتين في الجانب الأيمن ( و ، كلاهما يحتوي فقط على أرقام إيجابية). وبالتالي، من خلال تطبيق المعادلة 4، نحصل على
عن طريق استبدال جميع العناصر السلبية من بالصفر، بينما تم الحصول عليها من خلال ضرب المصفوفة بـ -1 ثم استبدال جميع القيم السلبية بالصفر.

في الخطوة التالية، يتم حساب مصفوفات المقاومة و (المعادلة 5) ليتم رسمها في التقاطعات باستخدام تحويل خطي، :

هنا و هما القيم الدنيا والقصوى للمقاومة للميمريستورات في التقاطع، و و هما القيم القصوى والدنيا في . في هذه المرحلة، من المهم ملاحظة أن هذه الاستراتيجية للرسم تقدم الأوزان المشبكية من إلى مجموعة من قيم المقاومة في النطاق [ ].

ومع ذلك، تم الإبلاغ على نطاق واسع ، أن عدد الحالات التي يمتلكها الميمريستور، كلما كان من الصعب تحديدها، بسبب التغيرات الكامنة. علاوة على ذلك، اعتمادًا على المواد وطرق التصنيع، يمكن أن تحتوي بعض أجهزة الميمريستور على عدد محدود فقط من حالات المقاومة المستقرة. للتعامل مع هذه العيوب غير المثالية، تم اقتراح تقنيات رسم متقدمة في الأدبيات وتم تلخيصها في الملاحظات التكميلية 1 و 2، الأخيرة تركز على التخفيف من انحراف الأوزان المشبكية الناتج عن الحرارة. وبالتالي، عند النظر في جهاز يحتوي على عدد من الحالات، يجب أن تحتوي كل موضع من مصفوفات المقاومة الناتجة على قيم ممكنة فقط. من أجل استغلال النطاق الديناميكي الكامل للميمريستورات (الذي سيسهل تحديد كل قيمة مقاومة)، نعتبر و ، حيث و هما مقاومة الحالات الأكثر والأقل توصيلًا (على التوالي). بهذه الطريقة، يتم تحويل الأوزان المشبكية في مصفوفتي و إلى قيم مقاومة ضمن النطاق . المثال التالي يوضح الإجراء لتحويل مصفوفة التي تم إرجاعها من مرحلة تدريب MATLAB (أي مصفوفة من القيم الحقيقية في النطاق ) إلى مصفوفتين من الميمريستورات (مع الأخذ في الاعتبار أن كل ميمريستور يمكن أن يحتوي على 6 حالات مقاومة موزعة خطيًا عند و ):

أولاً، ينتج التدريب الخارجي مصفوفة من الأوزان المشبكية:

ثانيًا، يتم تمثيل الأوزان المشبكية كفرق بين مصفوفتين:

ثالثًا، يتم تقريب الأوزان إلى أقرب حالة من بين الحالات المتاحة:

أخيرًا، يتم رسم الأوزان الكمية إلى قيمة مقاومة:

تتحقق القيمة الناتجة عن وزن مشبكي سلبي من خلال طرح التيار المتدفق عبر الميمريستورات المتصلة
بخط البت في المصفوفة من ذلك في خط البت المقابل في المصفوفة.

بمجرد تطبيق الفولتية المدخلة على المدخلات (الصفوف) للتقاطع، يتم توليد التيارات عند المخرجات (الأعمدة) تقريبًا على الفور، والتي تحتاج إلى أن يتم استشعارها. هناك ثلاثة أوضاع استشعار مستخدمة على نطاق واسع لفولتية المخرجات . أبسط نهج هو استخدام مقاومة استشعار (الشكل 7a). ومع ذلك، فإن تأريض خطوط البت من خلال مقاومة قد يغير الجهد المطبق على خط البت، والذي لن يكون 0 فولت، مما يضيف تباينًا وبالتالي يغير القراءة عبر مقاومة الاستشعار . لاستشعار تيارات منخفضة دون هذه المشكلة، إحدى الخيارات هي استخدام مضخمات مقاومة الترانسيميدانس (TIA، انظر الشكل 7b). في هذه الحالة، يتم تأريض خطوط بت التقاطع من خلال TIA يتم تنفيذه باستخدام مضخم عمليات أو مضخم ترانزستور عمليات يضمن بقاء جهد خط البت عند 0 فولت. على الرغم من أنها شائعة جدًا ، قد يكون هذا النهج محدودًا في حالة أصغر تقنيات التنفيذ حيث يتم تحديد الكسب وعرض النطاق الترددي للمضخمات بواسطة كسب الترانزستور الداخلي . بديل هو استبدال كتلة TIA بدائرة تراكم قائمة على الشحن. تم استخدام هذه الاستراتيجية للتعامل مع ترميز تعديل عرض النبض الذي يستبعد استخدام TIA واحد. لاحظ أن نفس النهج يمكن استخدامه مع تقنيات ترميز أخرى مثل رقمنة المدخلات وتعديل سعة النبض. في أبسط تنفيذ لها، فهي مشابهة جدًا لاستخدام مقاومة استشعار ولكن باستبدال المقاومة بمكثف (انظر الشكل 7c). ثم يقوم المكثف بتطوير جهد يتناسب مع التيار المتكامل المتدفق من خلاله. على هذا النحو، تضيف هذه الطريقة البعد الزمني إلى عملية استشعار المخرجات: يجب دمج التيار على مدى فترة زمنية ثابتة ومحددة جيدًا لتوليد جهد ناتج. لاحظ أنه في العديد من الحالات، لتقليل التيار الذي يجب دمجه (وبالتالي حجم المكثفات التكاملية)، تعتبر دوائر تقسيم التيار أو مكاملات الزوج التفاضلي (انظر الشكل 7d).

أخيرًا، لاحظ أن اختيار تصميم دائرة الاستشعار سيعتمد على إشارات الإدخال إلى مصفوفة الميمريستور، كما هو موضح في الشكل 8. بافتراض أن إشارات الإدخال لكل من الخلايا الموجبة والسالبة لها نفس القطبية، فإن دائرة استشعار/تحويل مستقلة مطلوبة لكل من خط البت الموجب والسالب. ثم تقوم دائرة الطرح (التي يتم تنفيذها على سبيل المثال باستخدام مضخم عمليات، كما هو موضح في الشكل 8أ) بتوليد جهد خرج يتناسب مع فرق التيار. على العكس، عندما يكون من الممكن تطبيق إشارات إدخال ذات قطبية مختلفة على الـ و المصفوفة، يمكن تبسيط الإلكترونيات الحسية، كما عن طريق توصيل خطوط البت من و يؤدي مباشرةً عملية الطرح من حيث التيارات، وبالتالي يحتاج إلى مضخم استشعار واحد فقط (كما هو موضح في مضخم التحويل الوحيد في الشكل 8b).

من الناحية المثالية، فإن تيار الخرج لكل زوج من خطوط البت (الأعمدة) في تنفيذ يعتمد على الشبكة المتقاطعة (Crossbar) لوحدة الذاكرة المتغيرة (VMM) هو مجموع وزني خطي لجميع خطوط الكلمات (الصفوف) المتصلة بهذا العمود. نظرًا لأن مجموعة من الدوال الخطية تؤدي إلى دالة خطية جديدة، فإن العلاقات غير الخطية المعقدة لا يمكن تكرارها بواسطة شبكة عصبية اصطناعية بغض النظر عن عدد الطبقات العصبية الخطية المعنية. يمكن التغلب على هذه المشكلة من خلال إدخال تحويل غير خطي على الناتج من المجموع الوزني لكل عمود. يتم ذلك من خلال ما يسمى بدوال تنشيط الخلايا العصبية، والأكثر شيوعًا هي: دالة سيغمويد (المعروفة أيضًا باسم اللوجستية). التانجنت الزائد وحدة الخط المستقيم المصححة (ReLU) . أيضًا، بالنسبة للحالة الخاصة لمهام تصنيف الأنماط، فإن قيم المخرجات من نموذج VMM الذي يتم تنفيذه بواسطة الطبقة العصبية الأخيرة لديها متطلبات إضافية تتمثل في أن يتم ربطها بـ أو نطاقها لأنها تشير إلى احتمال انتماء المدخل إلى كل فئة. لتحقيق ذلك، يجب تقليص الفجوة بين قيمة المخرج الأكثر نشاطًا (العمود) وبقية المخرجات، وكذلك الفروق بين المخرجات الأقل نشاطًا.

الشكل 7 | مخططات الدوائر للإلكترونيات الاستشعار الموضوعة في مخرج كل عمود من مصفوفة الميمريستيف. في جميع الحالات، الهدف هو تحويل إشارة التيار إلى إشارة جهد. أ المقاومة الاستشعارية هي أبسط حالة، حيث تقوم بتحويل التيار إلى جهد مباشرةً وفقًا لقانون أوم. استخدام TIA يسمح بربط أعمدة المفاتيح إلى 0 فولت والعمل مع تيارات خرج أقل. كما هو الحال في النهج القائم على المقاومات، فإن تحويل الجهد الحالي يكون خطيًا عند تشغيل TIA ضمن نطاقه الخطي ويكون إشارة جهد الخرج متاحة على الفور بمجرد استقرار خرج TIA.
تحت نظام النانو أمبير، تعتبر تكامل الشحنة الخيار الأكثر ملاءمة لتحويل التيار إلى جهد. يمكن تحقيق ذلك باستخدام مكثف. وبالتالي، فإن القياس ليس فوريًا حيث يتطلب وقت تكامل ثابت وقابل للتحكم قبل القياس. لتقليل متطلبات المساحة لمكثف التكامل، يسمح استخدام مقسم التيار بتقليل التيار بشكل أكبر، ومعه، حجم المكثف المطلوب. التبادل في هذه الحالة هو مع الدقة (بشكل رئيسي بسبب عدم تطابق الترانزستورات) ونطاق جهد الخرج الديناميكي.
المخرجات، مضخمة. يجب أن يُلاحظ أنه على الرغم من عدم الضرورة في حالة الشبكات العصبية المنفذة في مجال البرمجيات، في حالة الشبكات العصبية المعتمدة على نوى الميمريستور-VMM، يجب أن تكون عناصر متجهات الإدخال لكل طبقة عصبية ضمن نطاق من الفولتية التناظرية. لهذا السبب، فإن دوال تفعيل ReLU، التي هي بطبيعتها دوال تفعيل غير محدودة. يحتاج إلى تعديل طفيف مع حد أقصى لمنع تغيير الأوزان المشبكية المسجلة في ميمريستور الطبقة العصبية.

يمكن تحقيق جميع هذه الدوال التنشيطية إما في البرمجيات أو في الأجهزة، ولكل تنفيذ مزاياه وعيوبه. في هذه الدراسة، تشير التنفيذات المعتمدة على البرمجيات إلى التصاميم التي يتم فيها حساب دوال التنشيط ومعالجة المخرجات الوسيطة بين طبقات الشبكة العصبية الاصطناعية في وحدة أجهزة منفصلة خارج الشبكة المتقاطعة. يمكن أن تكون هذه الوحدة الأجهزة عبارة عن وحدة معالجة مركزية، أو FPGA، أو متحكم دقيق، أو معالج دقيق، أو لوحة دوائر مطبوعة (PCB) اعتمادًا على كيفية دمج بنية الشبكة المتقاطعة مع وحدات المعالجة الأخرى. تشير التنفيذات المعتمدة على الأجهزة إلى دمج الشبكات المتقاطعة الميمريستيف ووحدات دوال التنشيط في نفس الشريحة. في التنفيذات المعتمدة على البرمجيات، يحتاج مخرج كل عمود من الشبكة المتقاطعة إلى التحويل إلى المجال الرقمي باستخدام محول تناظري إلى رقمي (ADC) (مما يزيد بشكل ملحوظ من المساحة واستهلاك الطاقة) ثم يتم إرساله للمعالجة الإضافية. هذه هي الطريقة الأكثر استخدامًا في النماذج البحثية التي تم تطويرها كأدلة تكنولوجية بسبب مرونتها، حيث يمكن تنفيذ دالة التنشيط وتغييرها ببساطة عن طريق تعديل كود البرمجيات. . في سياق تطوير المنتجات المستقبلية، تم اقتراح الدوائر المتكاملة القابلة لإعادة التكوين (ASICs) لمعالجة الإشارات بعد التحويل من التناظرية إلى الرقمية. وعلى النقيض من ذلك، فإن الدوائر المتكاملة الخاصة (ASIC) –
لا يمكن تغيير تنفيذات دوال التنشيط المستندة إلى الدوائر المتكاملة في نفس الشريحة مثل تقنيات التقاطع بعد تصنيع الدائرة. يمكن تنفيذ مثل هذه الدوال في كل من المجالات الرقمية والتناظرية. يؤدي المعالجة في المجال الرقمي إلى زيادة الحمل الناتج عن محول التناظر إلى الرقمي (كما هو الحال في التنفيذات المستندة إلى البرمجيات) ولكنه يتأثر بشكل أقل بالضوضاء وعدم تطابق الترانزستورات. يتم عرض تنفيذ دالة ReLU المنشطة في المجال الرقمي المدمجة في دائرة الاستشعار في بشكل عام، تتطلب تطبيقات CMOS التناظرية لوظائف التفعيل عددًا أقل من الترانزستورات وتساعد على تجنب التحويل من التناظرية إلى الرقمية في هذه المرحلة. تظهر تطبيقات CMOS التناظرية لوظائف التفعيل في الشكل 9 (انظر الشكل 9أ لوظيفة التفعيل Sigmoid والشكل 9ب لوظيفة التفعيل ReLU). على الرغم من أن مثل هذه التصاميم لا يمكن إعادة تكوينها عند تصنيعها، إلا أن هذه الضعف يتم تعويضه باستهلاك طاقة منخفض بشكل كبير (يُقدّر في المرجع 102 لعنصر CMOS بحجم 65 نانومتر بأنه أقل بحوالي 30 مرة). قدمت المراجع 119 و126 تطبيقات CMOS التناظرية لوظائف التفعيل Sigmoid وReLU وHyperbolic Tangent ضمن الشبكات العصبية الاصطناعية والشبكات التنافسية التوليدية (GAN) على التوالي.

نظرًا لأن الشبكات العصبية الاصطناعية تحتاج إلى عدد كبير جدًا من التنشيطات لتحقيق دقة عالية، فإن استهلاك الطاقة المنخفض لوظائف التنشيط المخصصة المصنوعة من CMOS التناظرية قد لا يزال مفرطًا. يمكن أن يؤدي استخدام جهاز نانو مدمج وفعال من حيث الطاقة ينفذ وظائف التنشيط غير الخطية إلى تعزيز أداء وكثافة تكامل الشبكات العصبية الميمريستية. اقترح المرجع 121 استخدام أكسيد الفاناديوم ( جهاز عازل موت (الذي يتم تسخينه بواسطة فقدان الطاقة جولي) لتحقيق وظيفة ReLU المرغوبة (انظر الشكل 9c)، واقترح المرجع 127 استخدام دليل موجي نانوفوتوني من الليثيوم نيوبيوم ذو فيلم رقيق مُنظم بشكل دوري لتنفيذ ذلك.

الشكل 8 | الدائرة الكهربائية المعادلة للطوبولوجيا المستخدمة لتنفيذ الفرق الرياضي بين إشارتين كهربائيتين. أ بافتراض أن مدخلات الجهد أحادية القطب (أي، إما سلبية أو إيجابية فقط)، يتطلب الأمر أولاً تحويل إشارات التيار إلى جهد ثم إضافة مضخم عمليات في وضع الطرح.
التكوين. إذا كان بالإمكان تطبيق إشارات ثنائية القطب في المدخلات، من خلال تحييد الأوزان المشبكية السلبية بجهد أو قطبية معاكسة، فإن جمع التيارات الناتجة في نقطة مشتركة (قانون كيرشوف للتيار) يحل بالفعل عملية الطرح، ويتطلب الأمر فقط مضخم تحويل التيار إلى جهد واحد لكل عمود.

وظيفة في الشبكات العصبية البصرية. على الرغم من أن هذه التصاميم واعدة كحل صغير وفعال من حيث الطاقة لتنفيذ دوال التنشيط، إلا أن تكاملها الفعال مع الدوائر المحيطية الأخرى ومكونات CMOS لا يزال يمثل تحديًا مفتوحًا.

بدلاً من دوال التفعيل التي تم وصفها سابقًا، تستخدم الطبقة المشبكية النهائية في الشبكة العصبية الاصطناعية كما تم تغطيته هنا، كتلة مختلفة. في هذه الحالة، من الضروري أن يكون هناك كتلة تكشف عن أي مخرج هو الأكثر نشاطًا في الشبكة المتقاطعة (أي، أي عمود يقود بأعلى).
الكتلة الحالية (غالبًا ما تُسمى دالة SoftArgMax أو دالة تنشيط SoftArgMax) التي تحتوي على عدد من المدخلات يساوي عدد خطوط البت، تقوم بتنفيذ معبر الميمريستور، وتطبق بشكل أساسي المعادلة 10: