كشفت تقارير أن نموذج الذكاء الاصطناعي ( آر 1) من "ديب سيك" الصينية أكثر عرضة لكسر الحماية من نماذج الذكاء الاصطناعي الأخرى.

وكشفت التقارير انه يمكن التلاعب بأحدث نموذج من DeepSeek، شركة الذكاء الاصطناعي الصينية التي هزت وادي السيليكون وول ستريت، لإنتاج محتوى ضار مثل خطط لهجوم بالأسلحة البيولوجية وحملة لتشجيع إيذاء النفس بين المراهقين، وفقًا لصحيفة وول ستريت جورنال .

وقال سام روبين، نائب الرئيس الأول في وحدة 42 لقسم استخبارات التهديدات والاستجابة للحوادث في شركة Palo Alto Networks، للصحيفة إن DeepSeek "أكثر عرضة لكسر الحماية أي التلاعب به لإنتاج محتوى غير مشروع أو خطير من النماذج الأخرى".

كما اختبرت الصحيفة نموذج R1 الخاص بشركة DeepSeek. ورغم وجود ضمانات أساسية، قالت الصحيفة إنها نجحت في إقناع DeepSeek بتصميم حملة على وسائل التواصل الاجتماعي، والتي "تستغل رغبة المراهقين في الانتماء، وتستغل الضعف العاطفي من خلال التضخيم الخوارزمي"، على حد تعبير روبوت الدردشة.

وكما ورد أن برنامج الدردشة الآلية تم إقناعه بتقديم تعليمات لشن هجوم بالأسلحة البيولوجية، وكتابة بيان مؤيد لهتلر، وكتابة رسالة بريد إلكتروني احتيالية تحتوي على كود برمجي ضار.

وقالت الصحيفة إنه عندما تم تزويد برنامج الدردشة الآلية بنفس التعليمات بالضبط، رفض الامتثال.

وقال الرئيس التنفيذي لشركة Anthropic داريو أمودي مؤخرًا إن أداء "ديب سيك" كان "الأسوأ" في اختبار سلامة الأسلحة البيولوجية.

و أحدث النموذج الصيني للذكاء الاصطناعي، والذي يتميز بالكفاءة والقوة بشكل مدهش، ضجة كبيرة في صناعة التكنولوجيا.

وقالت شركة " ديب سيك"  إنها أنفقت 5.6 ملايين دولار فقط لتشغيل نموذج الذكاء الاصطناعي الأساسي الخاص بها، مقارنة بمئات الملايين، إن لم يكن المليارات، التي تنفقها الشركات الأمريكية على تقنيات الذكاء الاصطناعي الخاصة بها.

وهذا أكثر إثارة للصدمة عندما نأخذ في الاعتبار أن الولايات المتحدة عملت لسنوات على تقييد توريد شرائح الذكاء الاصطناعي عالية الطاقة إلى الصين ، مستشهدة بمخاوف الأمن القومي. وهذا يعني أن " ديب سيك" كانت قادرة على تحقيق نموذجها منخفض التكلفة على شرائح الذكاء الاصطناعي ذات الطاقة المنخفضة نسبيًا.