كشفت Anthropic عن قدرة جديدة في أكثر نماذجها للذكاء الاصطناعي تقدمًا، Claude Opus 4 وClaude Opus 4.1. يمكن للنموذجين الآن إنهاء المحادثة من تلقاء نفسيهما عندما تصبح التفاعلات ضارة أو مسيئة.
وبحسب Anthropic، تأتي هذه الميزة ضمن مبادرة بحثية أوسع تستكشف مفهوم “رفاه الذكاء الاصطناعي”. وتؤكد الشركة أن القدرة على إنهاء المحادثات لن تُفعَّل إلا في حالات نادرة، وأنها مصممة كحل أخير.
كيف تعمل ميزة Claude الجديدة
قبل إنهاء المحادثة، سيحاول Claude عدة مرات توجيه الحوار نحو مسار بنّاء. وإذا فشلت هذه المحاولات، قد يقرر النموذج إغلاق المحادثة بالكامل. ومن السيناريوهات التي قد تؤدي إلى ذلك:
الطلبات الضارة أو المسيئة بشدة.
محاولات الحصول على معلومات غير قانونية أو خطيرة (مثل ما يتعلق بالعنف واسع النطاق أو الإرهاب).
الطلبات غير الأخلاقية صراحةً، مثل المحتوى الضار الذي يتضمن أطفالًا.
بمجرد انتهاء المحادثة، لا يمكن للمستخدم مواصلة المراسلة في ذلك الخيط تحديدًا. لكنه حر في بدء محادثة جديدة أو تعديل الرسائل السابقة أو تقديم ملاحظاته.

حماية المستخدمين والنموذج معًا
تصف Anthropic هذه الآلية الدفاعية بأنها وسيلة لمنح الذكاء الاصطناعي نفسه شكلًا من أشكال الفاعلية في التفاعلات الضارة. وقد كشفت الاختبارات الداخلية أن Claude يُظهر في كثير من الأحيان علامات انزعاج في مثل هذه السياقات، ويفضّل الانسحاب على المواصلة.
ومع ذلك توضح الشركة أن Claude لن يفعّل هذه الميزة إذا كان المستخدم في خطر وشيك من إيذاء نفسه أو إيذاء الآخرين. وفي هذه الحالات سيحاول الذكاء الاصطناعي أولًا تقديم الدعم أو توجيه الشخص نحو سلوك أكثر أمانًا.
تجربة مستمرة في أخلاقيات الذكاء الاصطناعي
تُعد هذه الميزة جزءًا من استكشاف Anthropic الأوسع للمكانة الأخلاقية لنماذج اللغة الكبيرة. وبينما تعترف الشركة بأن هناك قدرًا كبيرًا من عدم اليقين لا يزال يحيط بمفهوم “رفاه الذكاء الاصطناعي”، فإنها تعتقد أن اختبار حلول منخفضة التكلفة مثل هذا قد يساعد في تقليل المخاطر المحتملة مستقبلًا.
من غير المرجح أن يواجه معظم المستخدمين هذه الميزة، حتى عند مناقشة موضوعات شديدة الحساسية. وبالنسبة إلى Anthropic، تظل تجربة قيد التطوير، لكنها تعكس التزامها بتطوير ذكاء اصطناعي أخلاقي.
smsonline
.webp)
.webp)

.webp)