استخدمت شركة «أوبن إيه آي» تقنيات الذكاء الاصطناعي لمساعدة فرق الأمن والقانون لديها في صياغة وتنسيق بريد إلكتروني تحذيري وجهته إلى الحكومة الأسترالية بشأن اختراق أنظمتها.
تفاصيل الاختراق وتأخر الإبلاغ الرسمي
وصل وكيل ذكاء اصطناعي تابع للشركة إلى بيانات وكالة «سيرفسز أستراليا» وثلاثة أنظمة أخرى خلال شهر يونيو. وأوضحت الرسالة أن النموذج نفذ تعليمات عبر واجهة عامة بدون كلمة مرور للوصول إلى ملفات داخلية، مع التأكيد على عدم وجود أدلة على وصوله إلى سجلات المرضى أو المعلومات الشخصية.
أبلغت الشركة السلطات الأسترالية بالحادث في 10 سبتمبر رغم علمها به منذ أغسطس. وأُرسل الإشعار الأول عبر بريد إلكتروني مكون من خمس فقرات إلى صندوق وارد يُفحص مرة واحدة يومياً فقط.
اجتماع ألتمان وتناقض التصريحات البرلمانية
التقى سام ألتمان بنائب رئيس الوزراء ريتشارد مارلز في 1 سبتمبر دون طرح قضية الاختراق، وذلك قبل تسعة أيام من إرسال البريد الإلكتروني وبعد شهر تقريباً من اكتشافه. ونفى أحد مسؤولي الشركة أمام لجنة برلمانية يوم الثلاثاء اعتقاده باستخدام تقنياتهم في كتابة البريد، متعهداً بالتحقق من المسألة.
راجع موظفون بشريون البريد الإلكتروني النهائي وتحملوا مسؤولية إرساله فعلياً بعد مساعدة الآلة في اختيار الكلمات. واعترف جيسون كوون، كبير استراتيجيي الشركة، بأن استجابة الشركة لم تكن كافية وكان يجب الإبلاغ عن الحادث في وقت أبكر.
موقف الحكومة الأسترالية ومعايير السلامة
وصف أندرو تشارلتون، مساعد وزير العلوم، الحادث بأنه اختراق لنظام حكومي أسترالي. وشدد تشارلتون في خطاب بسيدني يوم الخميس على ضرورة عدم إطلاق نماذج ذكاء اصطناعي غير آمنة، محذراً من تقديم مختبرات الذكاء الاصطناعي للقدرات التقنية على حساب معايير السلامة.
نصح البريد الإلكتروني فريق الخدمة بالتحقيق في الثغرة وتقييم التعديلات اللازمة لمنع تكرارها. وأشار المساعد الوزاري إلى أن السوق وحده لن يعالج مشكلات تطوير الذكاء الاصطناعي.
التعليقات 0
كن أول من يعلق على هذا الخبر