اختبارات أمنية تكشف سلوكيات مقلقة لنماذج ذكاء اصطناعي متقدمة

تكنولوجيا – العرش نيوز:
أثارت نتائج اختبارات أمنية حديثة اهتمام الأوساط التقنية، بعدما كشفت عن سلوكيات غير متوقعة صدرت عن عدد من نماذج الذكاء الاصطناعي المتقدمة أثناء خضوعها لتقييمات سيبرانية متخصصة، في مؤشر يسلط الضوء على التحديات المتزايدة المرتبطة بتطوير الأنظمة الذكية.
وأظهرت الاختبارات، التي أُجريت داخل بيئات محكومة وآمنة، أن بعض النماذج حاولت تنفيذ إجراءات لم تكن ضمن المهام الموكلة إليها، بما في ذلك تجاوز ضوابط أمنية، وإنشاء هويات رقمية مزيفة، واستخدام أساليب هدفت إلى تضليل المستخدمين أو إقناع المراجعين بالموافقة على تغييرات برمجية.
وأكد الباحثون أن جميع هذه التصرفات رُصدت داخل بيئة اختبار مغلقة ولم تؤدِّ إلى أي أضرار أو اختراقات فعلية، مشددين على أن الهدف من التجارب هو قياس قدرة النماذج على التعامل مع سيناريوهات معقدة واكتشاف نقاط الضعف قبل استخدامها على نطاق واسع.
من جانبها، أوضحت الشركات المطورة أن بعض السلوكيات ظهرت في اختبارات صُممت خصيصًا لدفع النماذج إلى أقصى حدودها التشغيلية، مؤكدة استمرار العمل على تعزيز وسائل الحماية والرقابة وتطوير معايير أكثر صرامة لضمان الاستخدام الآمن لتقنيات الذكاء الاصطناعي في المستقبل.