Orang pintar paling mudah terjebak: menggunakan teori yang mewah untuk membela alasan buruk

Apakah Anda menyadari bahwa orang-orang yang paling pandai berbicara dan berargumentasi sering kali paling mudah menggunakan satu set logika yang terdengar sangat meyakinkan untuk membela hal yang jelas-jelas buruk?

Ini bukan kebetulan. Vitalik dalam artikel terbarunya menunjukkan sebuah kebenaran yang menyakitkan: Semakin pintar seseorang, semakin mereka perlu menggunakan “aturan bodoh” untuk membatasi diri mereka. Jika tidak, kecerdasan tinggi hanya akan menjadi alat terbaik untuk menipu diri sendiri.

Bagaimana orang pintar membungkus kebohongan menjadi kebenaran

Bayangkan skenario berikut:

Seorang tokoh teknologi besar melakukan PHK sebanyak 30%, dan secara resmi mengatakan bahwa ini adalah “mengirimkan tenaga kerja berkualitas tinggi ke masyarakat, mengoptimalkan penempatan sumber daya manusia”.

Seorang pengembang proyek mengeluarkan koin kosong, dan mengklaim bahwa ini adalah “memberdayakan ekonomi global melalui tata kelola desentralisasi”.

Seorang peneliti AI dengan cepat mendorong teknologi yang belum matang, dengan alasan “saya tidak melakukan ini sendiri, orang lain juga akan melakukannya, ini adalah keharusan sejarah, saya hanya mengikuti arus”.

Ini adalah fenomena yang disebut Vitalik sebagai “galaksi otak”—menggunakan trik berpikir tingkat tinggi untuk membungkus hal yang tidak masuk akal menjadi sesuatu yang tampak besar dan bermakna.

Masalahnya adalah, kerangka logika ini sendiri seperti lubang hitam tanpa dasar. Selama Anda memperpanjang garis waktu cukup lama dan menggambarkan “tujuan akhir” secara cukup besar, setiap kejahatan saat ini dapat dibenarkan oleh “manfaat di masa depan”.

Jerat “long-termism”

“Long-termism” adalah salah satu alasan paling mudah disalahgunakan saat ini.

Pernyataan yang sangat tahan terhadap kritik adalah: “Pohon ini akan tumbuh 5 meter dalam 10 tahun”—ini konkret dan dapat diverifikasi.

Sedangkan “long-termism” yang kurang tahan adalah: “Meskipun saya melakukan hal yang sangat tidak bermoral saat ini, dalam 500 tahun manusia akan hidup seperti utopia, kebahagiaan masa depan tak terbatas, jadi pengorbanan saat ini diabaikan.”

Mengerti? Jika Anda memperluas skala cukup jauh, Anda dapat membenarkan apapun yang menyakiti saat ini. Seperti yang dikatakan Vitalik: “Jika argumen Anda bisa membuktikan apapun sebagai hal yang sah, maka argumen Anda tidak membuktikan apa-apa.”

Ilusi tanggung jawab “necessitarianism”

Alasan lain yang sering digunakan adalah “necessitarianism”. Silicon Valley sangat menyukai ini.

Pernyataannya adalah: “AI menggantikan pekerjaan adalah keharusan sejarah, karena itu keharusan, saya tidak perlu bertanggung jawab atas kerusakan yang ditimbulkan.”

Terdengar sangat meyakinkan? Tapi jika dilihat lebih dekat, ini adalah membungkus nafsu pribadi (saya ingin uang, saya ingin berkuasa) menjadi “menjalankan misi sejarah”. Rasa tanggung jawab langsung menguap.

Obat yang Sederhana Tapi Efektif

Solusi yang diberikan Vitalik sangat “bodoh”, tapi justru karena bodoh, paling efektif.

Pertama, kembali ke moralitas “deontologi”—aturan keras tingkat taman kanak-kanak:

• Jangan mencuri
• Jangan membunuh orang tak bersalah
• Jangan menipu
• Hormati kebebasan orang lain

Mengapa aturan ini memiliki resistensi tinggi? Karena mereka hitam dan putih, tanpa area abu-abu. Ketika Anda mencoba menjelaskan penyalahgunaan dana pengguna dengan “revolusi keuangan” yang besar, aturan tegas “jangan mencuri” langsung menampar wajah Anda: mencuri tetap mencuri.

Kedua, ubah posisi dan lingkungan Anda.

Pantat menentukan otak. Jika Anda setiap hari berkumpul di komunitas yang berpikiran sama, di mana suara yang Anda dengar selalu sama, kemampuan penilaian Anda akan tergerus secara tak kasat mata. Vitalik bahkan memberikan saran fisik: jangan terlalu lama berada di tempat yang sangat homogen.

Apa sebenarnya kebijaksanaan sejati

Peringatan utama dari artikel ini adalah: jangan karena Anda pintar, lalu merasa bisa melampaui batas moral yang sederhana.

Teori-teori yang terdengar besar dan mampu menjelaskan segalanya sering kali adalah alasan paling berbahaya. Sebaliknya, aturan yang tampak kaku dan dogmatis adalah garis pertahanan terakhir untuk mencegah kita menipu diri sendiri.

Kebijaksanaan sejati bukanlah mampu membela diri dengan logika yang rumit, melainkan memiliki pengetahuan diri—mengetahui kapan harus melepaskan kecerdikan kecil dan berpegang pada kebijaksanaan besar yang sederhana.