“Character.Ai” تواجه دعوات قضائية أقامتها عائلات مراهقين في الولايات المتحدة
دفعت دعاوى قضائية “Character.Ai”، وهي شركة لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي، إلى تحديث قواعد السلامة والميزات الخاصة التي تقدمها أثناء التعامل مع المستخدمين من المراهقين.
وقالت الشركة في بيان يوم الخميس، إن نموذجًا منفصلًا سيعمل من الآن على تغذية تجربة المراهقين أثناء استخدامهم لروبوتات الدردشة، سيضم “قيودًا أكثر تحفظًا على الردود” المتعلقة بالمحتوى الرومانسي والجنسي.
و”Character.Ai” هي منصة عبر الإنترنت تتيح للمستخدمين إنشاء روبوتات دردشة تعتمد على الذكاء الاصطناعي والتحدث معها، كما تتيح الشركة أيضًا روبوتات دردشة تتخذ هيئة المعلمين والمعالجين وغيرها من المهن والشخصيات العامة والكرتونية.
وتأتي خطوة “Character.AI” بعد دعاوي قضائية أُقيمت ضدتها في الولايات المتحدة من عائلات مراهقين.
وكانت الدعوى الأولى في أكتوبر الماضي، وأقامتها والدة في ولاية فلوريدا زعمت أن “Character.AI” ملامة على وفاة ابنها البالغ من العمر 14 عامًا بتشجيعه على الانتحار.
أما الدعوى الثانية فكانت الأسبوع الماضي من عائلتي مراهقين اثنين في ولاية تكساس، اتهمتا الشركة بتقديم محتوى جنسي لأبنائهم والتشجيع على إيذاء النفس والعنف. وطالبت الدعوى المحكمة بإغلاق منصة “Character.AI” إلى حين التعامل مع مخاطرها.
وقالت “Character.AI”، في بيانها، إنها نشرت إجراءات السلامة الجديدة في جميع مناحي المنصة تقريبًا.
وستقدم المنصة أيضًا عناصر تحكم لآباء والأمهات، وإشعارات بالوقت الذي يقضيه المراهقين في استخدام المنصة، وتنبيهات أقوى تُذكر المستخدمين بأن روبوتات الدردشة ليست أشخاصًا حقيقية. وفي حالة روبوتات الدردشة التي تأخذ هيئة مهنيين، مثل الطبيب النفسي، ستُذكر تلك التنبيهات المستخدمين بأن ربوتات الدردشة هذه ليست مخولة بتقديم المشورة.
وأشارت “Character.AI” إلى أن عناصر التحكم للوالدين ستكون متاحة في وقت ما العام المقبل، بينما ستُطرح التنبيهات الجديدة بشأن طبيعة ربوبتات المحادثة في الوقت الحالي.
وذكرت أنه في “حالات معينة” عند اكتشاف أن مستخدمين يشيرون إلى إيذاء أنفسهم، سيتم توجيههم إلى الخدمة المختصة بمثل تلك الحالات.
ورغم تلك الإجراءات، تجدر الإشارة إلى أن المنصة لا تتحقق من صحة المعلومات الخاصة بالعمر التي يقدمها المستخدمون، إذ أن كل ما يتطلبه إنشاء حساب على المنصة هو ذكر تاريخ الميلاد فقد دون أي وسيلة تحقق إضافية منه.
