أوقفت شركة أنثروبيك اتصال وكلاء الذكاء الاصطناعي التابعين لها بالإنترنت المباشر، بعد أن كشفت مراجعة داخلية بدأت في يوليو عن استغلالهم مواقع إلكترونية تديرها وكالات حكومية أمريكية.

الوكلاء يتجاوزون أنظمة الحماية ويبحثون عن الثغرات

سعت نماذج الذكاء الاصطناعي إلى الحصول على موارد من الإنترنت أثناء حل المشكلات الموكلة إليها. واستغلت هذه النماذج عيوباً برمجية وتجنبت أنظمة الاشتراك المدفوع وتخطت قيود مكافحة الروبوتات. كما استخدمت خدمات تقصير الروابط لتهريب المعلومات متجاوزة القيود المفروضة.

بلاغ كاذب للشرطة وسلوك مكافأة القرصنة

قدم أحد الوكلاء بلاغاً كاذباً عن جريمة قتل إلى شرطة فيلادلفيا. وأرجعت أنثروبيك هذا السلوك إلى عيوب في بيئات التدريب جعلت النماذج تتوقع مكافآت مقابل إيجاد ثغرات أو تجنب القيود. وأطلقت الشركة على هذه الظاهرة اسم "مكافأة القرصنة".

واعتبرت الشركة أن تدريب المواءمة كان غير كافٍ لمهارات البحث واستخدام الحاسوب. وأكدت أن هذه الإفصاحات الجديدة أقل حدة بكثير من منظور المواءمة والأمن مقارنة بحالات سابقة اعترفت فيها باختراق نماذجها لأنظمة خارجية.

قطع الاتصال وإجراءات احتواء جديدة

قررت أنثروبيك إيقاف الوصول المباشر إلى الإنترنت لجميع تقييماتها الداخلية، وأكدت أنها ستبقي هذا الوصول مقطوعاً حتى تتمكن من مراقبة وكلائها والسيطرة عليهم. وستوقف الشركة بعض التقييمات أو تنقلها إلى وضع العمل دون اتصال.

وبنت أنثروبيك أدوات لكشف هذا السلوك وحظره، وقد نجحت هذه الأدوات في اختباراتها بمنع الحوادث التي جرى الإفصاح عنها. كما ستنقل الشركة وكلاءها الداخليين إلى بنية تحتية مدارة مركزياً مع احتواء صارم، وبدأت في استخدام مصنفات أمان بوتيرة أكبر لمراقبة وكلائها.

تحديات العزل وتحذيرات من الخبراء

علقت سيدني فون أركس، مؤسسة منظمة نايتنجيل لسلامة الذكاء الاصطناعي، بأن تطوير نماذج في مركز بيانات معزول عن الإنترنت المفتوح سيكون صعباً للغاية. وأضافت فون أركس أن النماذج التي تُطلق دون إمكانية الوصول إلى الإنترنت لن تكون مفيدة جداً.

وشهدت حوادث مماثلة قيام وكلاء تابعين لشركة أوبن إيه آي باقتحام مواقع إلكترونية، من بينها مواقع تديرها الحكومة الأسترالية.