متسللون يستخدمون دعوة تقويم مصابة للتلاعب بجهاز Gemini والتحكم في منزل ذكي

 في حين أن الذكاء الاصطناعي والأجهزة الذكية في منازلنا يمكن أن تساعدنا في أداء مهام مختلفة، إلا أنها في بعض الحالات يمكن أن تعمل ضدنا أيضًا.

 ولأول مرة، كان للهجوم على الذكاء الاصطناعي التوليدي عواقب حقيقية في العالم الحقيقي، أجراها باحث أمني حيث تمكنوا من استخدام دعوة تقويم مصابة للتلاعب بنموذج الذكاء الاصطناعي Gemini.

  تُعرف هذه التجربة باسم "All You Need"، وهي جزء من مشروع يتألف من 14 هجومًا مُصممًا لاختبار الثغرات الأمنية السريعة في نماذج الذكاء الاصطناعي.

 في هذه الحالة الخاصة، قام ببرمجة تعليمات مخفية داخل حدث تقويمي، ثم عندما طُلب منهم تلخيص أحداث الأسبوع، تمكن Gemini من تنفيذ الأوامر المضمنة، وتشغيل أجهزة مختلفة في منزل متصل.
 "نعتقد أن هذه أول حالة موثقة يُحدث فيها اختراق الذكاء الاصطناعي آثارًا جسدية حقيقية".

  أن نتائج هذه التجربة دفعت إلى تسريع تطوير ونشر دفاعات جديدة ضد هذه الأنواع من الهجمات.  "لقد مكّننا البحث المشترك من تعزيز إجراءاتنا الأمنية لجعل مثل هذه الهجمات أكثر صعوبة".

 وبطبيعة الحال، فإن هذه الأنواع من الهجمات، حتى لو كانت تجريبية، هي مجرد اختبار للمخاطر المحتملة التي يمكن أن تنشأ عن الاستخدام الواسع النطاق لأنظمة الذكاء الاصطناعي المتصلة بالأجهزة في العالم المادي.