النمط الأول
النمط الثاني
الرئيسية
الأخبار
صور
فيديو
صوت
أقلام
مفتاح
رشفات
المشكاة
منشور
اضاءات
ثقف
قصص
الاخبار
اخبار الساحة الاسلامية
أخبار العتبة العلوية المقدسة
أخبار العتبة الحسينية المقدسة
أخبار العتبة الكاظمية المقدسة
أخبار العتبة العسكرية المقدسة
أخبار العتبة العباسية المقدسة
أخبار العلوم و التكنولوجيا
الاخبار الصحية
الاخبار الاقتصادية
باحثون: تشات جي بي تي ونماذج الذكاء الاصطناعي يمكن "تسميمها"
المؤلف: skynewsarabia.com
المصدر:
الجزء والصفحة:
2025-10-12
686
+
-
20
حذر باحثون من أن بعض أدوات الذكاء الاصطناعي مثل "تشات جي بي تي" و"جيميناي" يمكن تسميمها، والتلاعب بها لإنتاج محتوى مضلل. وأوضحت دراسة أجراها مركز الذكاء الاصطناعي في بريطانيا، ومعهد "ألان تورينغ" وشركة "أنتروبيك" للذكاء الاصطناعي، أنه من السهل التلاعب بأدوات الذكاء الاصطناعي واستغلال بعض الثغرات، لتدريبها ببيانات كاذبة. وتوصل الباحثون إلى هذه النتائج بعد تدريب هذه الأدوات على 250 وثيقة ملوثة ببيانات مغلوطة، تم إدخالها عبر ثغرة خلفية. وبعد التجربة، أنتجت الأدوات نصوصا مبهمة وغير مفهومة، وفقا لما ذكرته صحيفة "إندبندنت" البريطانية.
وأقلقت هذه النتائج الباحثين، خاصة أن معظم النماذج تدرب على نصوص منشورة على الإنترنت مسبقا، بما في ذلك المواقع الشخصية والمدونات، ما يجعل أي محتوى ينشئه أي شخص يدخل ضمن البيانات التي تتدرب عليها هذه النماذج. ولتوضيح هذا الخلل، قالت شركة "إنتروبيك" في منشور على مدونتها "إن الجهات الخبيثة يمكنها إدخال نصوص ملوّثة لهذه المنشورات لجعل النماذج تكتسب سلوكيات غير مرغوب فيها وخطيرة، وتعرف هذه العملية باسم "التسميم". وقال باحثون في أمن الذكاء الاصطناعي، إن هذه الثغرات تحد من إمكانية استخدام الذكاء الاصطناعي في الأمور الحساسة. وكتب فاسيلوس مافروديس وكريس هيكس من معهد ألان تورينغ: "كانت نتائجنا مفاجئة ومثيرة للقلق"، مضيفين أن "تسميم البيانات كان أكثر سهولة مما كنا نعتقد، إذ سيكون على المهاجم إنشاء نحو 250 مقالة ملوثة على ويكيبيديا للتلاعب" بـ"تشات جي بي تي" وباقي النماذج.
معنى سلندر السيارة ووظيفته وأنواعه والفرق بينه وبين حصان السيارة
ياماها تطرح دراجة المستقبل الذكية
الكشف عن أسرار مخفية تحت القارة المتجمدة الجنوبية بدقة غير مسبوقة!
تويوتا تدخل عالم السيارات الكهربائية بمركبة متطورة
خسوف القمر: العالم يترقب ظاهرة القمر الدامي النادرة
النباتات تستخدم اتصالات سرية لدعم نمو جاراتها
علماء سيبيريا ينتجون الوقود من الهواء والماء
لأول مرة منذ عقود.. رصد "قرش" ضخم قرب جزيرة إسبانية
إطارات جديدة من دون هواء تبشر بثورة في عالم السيارات
الكشف عن تجويف ضخم في هرم خوفو في مصر
كيف تكتشف وتربي طفلا عبقريا؟
تقنية ثورية يمكنها أن تعرض لك ما لا يمكن للكاميرات أن تسجله
لغز جديد...تخيل ماذا اكتشف العلماء في العظام
حدقة العين... مرآة صادقة لسلوكنا!
العفو الدولية: غوغل وفيسبوك يهددان حقوق الإنسان
بحث علمي يسلّط الضوء على جوانب من طعن المستشرقين وشكوكهم الموجّهة نحو الحديث النبوي
دراسة علمية تستعرض آليّات وتطبيقات المنهج الفيلولوجي في السيرة النبوية الشريفة
باحث يناقش المراجع القرآنية في دراسة السيرة النبوية ضمن مؤتمر دار الرسول الأعظم
رئيس جامعة العميد: السيرة النبوية تطبيق علمي للقرآن الكريم وتجسيد للعدل ومنهج حياة للأمة
دراسة تكشف تأثيرا مذهلا لـ"أوميغا 3"
دراسة تكشف تأثير المشي في الوقاية من الزهايمر
العصير ليس دائما الخيار الصحي.. حقائق يجب أن تعرفها
دراسة حديثة تعيد الجدل حول بدائل السكر
"سيري".. نسخة جديدة تعتمد على الذكاء الاصطناعي من "غوغل"
ظاهرة نادرة.. "قمر القندس العملاق" الأقرب للأرض في 2025
بعثة صينية تمدد إقامتها في الفضاء.. وتواجه "المجهول"
أبوظبي تجمع رواد تكنولوجيا الذكاء والتنقل الذكي والروبوتات
اشترك بقناتنا على التلجرام ليصلك كل ما هو جديد
