Digital Tهينك Tank (DTT)

كيف تتفوق على الذكاء الاصطناعي - الإنسان مقابل الآلة.

أنظمة الكمبيوتر AI تجد طريقها إلى العديد من مجالات حياتنا وتوفر إمكانات كبيرة ، من المركبات ذاتية القيادة إلى مساعدة الأطباء في التشخيص والبحث المستقل وروبوتات الإنقاذ.

ومع ذلك ، فإن إحدى المشكلات الرئيسية التي لم يتم حلها ، خاصةً مع فرع الذكاء الاصطناعي المعروف باسم "الشبكات العصبية" ، هو أن العلماء لا يستطيعون في كثير من الأحيان تفسير سبب حدوث أخطاء. هذا يرجع إلى عدم فهم عملية صنع القرار داخل أنظمة الذكاء الاصطناعي. تُعرف هذه المشكلة بمشكلة "الصندوق الأسود".

من هو الاذكى؟

يهدف مشروع بحثي جديد مدته 15 شهرًا من قبل جامعة لانكستر ، وتشارك فيه أيضًا جامعة ليفربول ، إلى كشف أسرار مشكلة الصندوق الأسود وإيجاد طريقة جديدة "تعلم عميق"لنماذج الكمبيوتر AI التي تتخذ القرارات شفافة وقابلة للتفسير.

المشروع "نحو أنظمة تعلم روبوتية مستقلة مسؤولة وقابلة للتفسير"سيطور سلسلة من إجراءات التحقق والاختبار الأمنية لتطوير خوارزميات الذكاء الاصطناعي. وسيساعد ذلك في ضمان أن القرارات التي تتخذها الأنظمة قوية وقابلة للتفسير.

مصدر الصورة: Pixabay


التدريب

سيستخدم الباحثون تقنية تسمى التدريب العكسي. يتمثل في تقديم النظام في موقف معين حيث يتعلم كيفية اتخاذ إجراء - على سبيل المثال ب. كشف ورفع الجسم. يقوم الباحثون بعد ذلك بتغيير عناصر مختلفة من السيناريو مثل اللون والشكل والبيئة وملاحظة كيف يتعلم النظام من خلال التجربة والخطأ. يعتقد الباحثون أن هذه الملاحظات يمكن أن تؤدي إلى فهم أفضل لكيفية تعلم النظام وإلقاء نظرة ثاقبة على عملية إتخاذ القرار ممنوح.


من خلال تطوير طرق لإنشاء أنظمة ذات شبكات عصبية يمكنها فهم القرارات والتنبؤ بها ، سيكون البحث مفتاحًا لإلغاء تأمين الأنظمة المستقلة في مجالات السلامة الحرجة مثل المركبات والروبوتات في الصناعة.

دكتور. قال وينجي روان ، الأستاذ في كلية الحاسبات والاتصالات بجامعة لانكستر والباحث الرئيسي في المشروع ، "على الرغم من أن تعلم عميق نظرًا لكونها واحدة من أبرز تقنيات الذكاء الاصطناعي التي حققت نجاحًا هائلاً في العديد من التطبيقات ، فإنها تواجه مشكلاتها الخاصة عند استخدامها في أنظمة الأمان الحرجة ، بما في ذلك آليات اتخاذ القرار غير الشفافة والضعف أمام الهجمات العدائية. "هذا المشروع هو فرصة ممتازة لنا لسد فجوة البحث بين تقنيات التعلم العميق وأنظمة السلامة الحرجة.