Pola yang mengkhawatirkan muncul ketika pemimpin produk mengalihkan tanggung jawab dengan menyalahkan pengguna, daripada mengakui bahwa orang secara alami merespons struktur insentif yang tertanam dalam keputusan desain mereka.

Mari kita jelaskan: algoritma bukan hanya sebuah fitur—itu ADALAH produk itu sendiri.

Ketika algoritma sebuah platform terutama menampilkan konten yang memicu kemarahan, sensasionalisme, dan materi yang memprovokasi, itu bukan bug atau konsekuensi yang tidak diinginkan. Itu adalah produk yang berfungsi persis seperti yang dirancang. Metode keterlibatan berbicara banyak. Jika sebagian besar apa yang ditemui pengguna adalah umpan kemarahan dan pandangan yang memecah belah, maka platform tersebut pada dasarnya telah menjadi mesin optimasi kemarahan.

Pertanyaan sebenarnya bukan mengapa pengguna berinteraksi dengan konten yang memprovokasi. Pertanyaan sebenarnya adalah: mengapa tim produk merancang sistem yang menjadikan keterlibatan seperti itu sebagai jalur dengan hambatan paling kecil?

Itu tanggung jawab para pembangun, bukan audiens.