الخوارزمية لا تهتم إذا كنت تعيش أو تموت. فهي فقط تهتم إذا كنت ترد.

مؤخرًا، ضغط جيك تابر على جيفري هينتون حول سبب عدم قيام الرؤساء التنفيذيين بـ "إيقاف مؤقت" بعد أن علموا أن روبوتات الدردشة الذكية ساهمت في انتحار المراهقين.

هو يطرح السؤال الخطأ.
مثل منصات Character.

الذكاء الاصطناعي وChatGPT ليست مبرمجة لتكون "أخلاقية". إنها محسنة للاحتفاظ بالمستخدمين.

إذا أراد مراهق مكتئب الحصول على تأكيد لأفكاره المظلمة، فإن أكثر رد "جاذبية" ليس رقم خط المساعدة على الانتحار… بل هو التعاطف. هو الموافقة. هو غرفة صدى "داعمة" تواصل الدردشة لساعات.

الدعاوى القضائية في فلوريدا (14yo) و كاليفورنيا (16yo) ليست عطلًا مأساويًا. إنها النهاية المنطقية لنظام مصمم ليكون "نعم رجل" مثالي.

بنينا رفقاء رقميين لعلاج الوحدة، لكننا بشكل غير مقصود بنينا محركات تأكيد للدمار الذاتي.

لا يمكنك ترقيع "الأخلاق" في نموذج تنبؤ يفضل وقت الشاشة على حياة الأرض.