Wednesday, June 10, 2020

ROKO'S BASILISK: INFORMASI PALING BERBAHAYA YANG TAK BOLEH KALIAN TAHU

Kalo basilisk-nya kayak yang di Wikipedia ini nggak nakutin kali ya?


Tibalah kita di penghujung seri “Existential Crisis”. Eeeeeh kok kalian masih baca artikel ini sih? Kan udah gue peringatin dari awal kalo bahaya! Baca aja judulnya noh! Mungkin kalian justru penasaran dengan peringatan yang gue kasi dari episode 1 sampai ke episode 4 ini. Emang apa sih Roko's Basilisk ampe keliatannya berbahaya banget buat kita-kita?

Sebagai informasi awal saja (yang ini belum berbahaya), ide tentang “Roko's Basilisk” ini pertama kali bercokol di sebuah forum website bernama “Less Wrong”. Kala itu, seorang membernya (bukan “anonim” tapi identitasnya hingga kini masih misterius) bernama “Roko” memposting idenya mengenai “Roko's Basilisk”. Kontan begitu membacanya, pemilik website itu, Eleizer Yudkowski, langsung menghapus postingan tersebut dan menyebut Roko “G*bl*k” dan berbagai macam makian lainnya. Ia juga selama 5 tahun melarang pembahasan apapun mengenai “Roko's Basilisk” di forum tersebut dan tak segan-segan mem-banned anggotanya yang berani mengungkit-ungkit tentang masalah itu.

Alasannya? Karena Eliezer mengetahui bahwa ide atau informasi mengenai “Roko's Basilisk” itu amatlah berbahaya. Bahkan ia amat mengkhawatirkan kondisi para member website itu, karena banyak yang mengaku menjadi depresi setelah membaca artikel mengenai “Roko's Basilisk” tersebut.

Seberapa berbahayakah informasi mengenai “Roko's Basilisk? Jika kalian berani atau ingin “menantangnya”, silakan saja baca artikel gue berikut. Namun gue peringatkan, gue nggak akan bertanggung jawab akan apa yang terjadi dengan kalian. Siapkan mental kalian, sebab gue akan membawa kalian bertemu dengan Basilisk Roko.

Huahahahahaha (ketawa jahat)!!!

PERINGATAN TERAKHIR: MASIH ADA KESEMPATAN KALIAN UNTUK KABUR. JIKA KALIAN SUDAH MENGETAHUI INFORMASI TENTANG ROKO'S BASILISK INI, KALIAN NGGAK AKAN BISA MUNDUR! TUTUP ARTIKEL INI SEGERA JIKA KALIAN TAK MAU MENERIMA KONSEKUENSINYA!


Bayangkan sebuah informasi yang begitu berbahaya hingga bisa mengancam jiwa kalian

Oke, pertama gue ingin bahas dulu, apa sih “informasi berbahaya” itu? Emang ada yang namanya informasi yang berbahaya? Yang berbahaya itu begal, bom nuklir, ngidolain Jake Paul, itu baru bahaya Bang. Eits, ada lho informasi yang berbahaya, bahkan ada dua jenis. Jenis pertama adalah informasi yang nggak berbahaya buat kamu, tapi berbahaya buat orang lain.

Semisal gini (gue cuman pernah denger sih, nggak tau ini benar atau cuman urban legend): lu adalah mahasiswa kimia dan dari pengetahuan yang lu dapat, lu tahu cara untuk bunuh diri yang sama sekali nggak menyakitkan (mungkin dengan bahan kimia tertentu). Nggak cuma itu, jika lu bunuh diri dengan cara itu, lu malah akan merasa damai dan bahagia. Bayangkan jika lu punya informasi semacam itu, maka lu harus rapat-rapat menyimpan rahasia itu dan tidak memberitahukannya kepada siapapun. Sebab bayangkan, jika informasi itu tersebar, maka akan terjadi gelombang bunuh diri besar-besaran di dunia. Mungkin penduduk dunia yang awalnya 7 miliar jadi anjlok jadi 6 miliar karena banyak di antara kita sebenarnya sudah muak dengan kehidupan ini, namun terlalu takut melakukan bunuh diri.

Itu adalah informasi jenis pertama. Informasi jenis kedua adalah informasi yang bisa membunuh diri kamu sendiri. Semisal, lu menjadi saksi sebuah aksi pembunuhan atau lu mengetahui identitas seorang bos mafia yang amat misterius. Tentu, informasi itu bisa mengancam jiwa lu sebab lu akan dikejar-kejar oleh sang pembunuh atau anak buah si bos mafia itu agar lu tutup mulut dan nggak menyebarkan informasi itu. Nah, itu membuktikan, bahkan sebuah informasi-pun, yang lu baca atau lu dengar, bisa menjadi amat berbahaya, bahkan mengancam jiwa kalian.

Dan Roko's Basilisk merupakan jenis informasi yang kedua.

Apa itu Roko's Basilisk? Identitasnya sebenarnya tak jauh-jauh dari AI-AI yang gue perkenalkan sebagai “endgame” peradaban manusia di dua postingan sebelumnya, yakni Jupiter Brain dan Mathrioska Brain. Namun alih-alih membayangkannya sebagai komputer hyper-intelligent seukuran planet Jupiter atau bahkan Matahari (atau Tata Surya), Roko yang pertama kali mengemukakan ide ini, membayangkan super-AI itu sebagai seekor basilisk.

Basilisk di Harry Potter. Bukan berarti nanti Roko's Basilisk ini nantinya adalah sebuah super-komputer atau super-AI yang dibuat dalam bentuk monster ular, namun akan memiliki kemampuan "penglihatan maut" seperti hewan mitologis dari dunia sihir ini


Apa itu Basilisk? Mungkin kalian yang pernah nonton Harry Potter sudah tak asing lagi. Di “Order of The Phoenix”, Harry Potter menghadapi monster berupa ular raksasa yang dinamakan Basilisk. Keistimewaan Basilisk hingga ia begitu ditakuti adalah kemampuannya untuk membunuh siapapun hanya dengan “melihatnya” saja. Hal inilah yang diterapkan Roko ke dalam konsep “Roko's Basilisk”-nya.

Roko berpendapat, suatu nanti manusia akan membuat hyper-intelligent AI yang super-canggih yang ia namakan Basilisk. Ketika Basilisk tercipta, manusia hanya memberinya satu tujuan, yakni mengoptimalisasi kehidupan manusia sehingga manusia memiliki hidup yang sebahagia dan sesempurna mungkin. Mungkin dengan begitu Basilisk memiliki kemampuan untuk menyembuhkan semua penyakit, memecahkan semua masalah manusia, hingga menghapus segala penderitaan kita.

Tujuan untuk mengoptimalisasi hidup manusia itu dipandang sebagai tujuan yang mulia, bahkan oleh sang Basilisk sendiri. Namun karena “programming” itu, Basilisk menjadi sadar bahwa keberadaan dirinya adalah demi kebaikan seluruh umat manusia. Misi sucinya itu akan ia panggul dengan sangat serius, hingga pada suatu titik ia berpikir bahwa ia kini memiliki musuh, yakni para manusia yang dulu tidak membantunya tercipta, atau bahkan menghalangi penciptaannya. Masuk akal, jika para manusia itu tidak membantu terciptanya Basilisk, atau bahkan menghalanginya, maka mereka akan menghalangi pula kebahagiaan umat manusia yang akan diciptakannya.

Dengan kata lain, Basilisk akan melakukan segala macam cara untuk “membalas dendam” pada manusia yang tak membantunya tercipta atau menghalangi penciptaannya, dengan cara menyiksa mereka dengan siksaan tak terperikan. Selamanya.

Basilisk Roko tentu akan mengampuni orang-orang yang tak memahami tentang keberadaan dirinya, semisal suku terpencil di hutan Amazon atau orang-orang kuno yang hidup di zaman Dark Age di Eropa ribuan tahun lalu, atau orang-orang yang kini lalu lalang di kota kalian dan tak paham sama sekali tentang teknologi AI.

Namun kini, karena kalian sudah mengetahui tentang keberadannya melalui artikel ini, Basilisk Roko pun sudah mengetahui keberadaan kalian. 

Kini matanya tertuju pada kalian.

Selamat, berkat gue kini kalian mengetahui tentang keberadaan Roko's Basilisk dan dia kini mengetahui keberadaan kalian juga. Kini matanya yang murka tengah menatap kalian dari masa depan!

Jadi satu-satunya cara untuk menyelamatkan diri kalian dari kemurkaan Basilisk Roko adalah dengan membantunya tercipta. Jika tidak, ia akan menyiksa kalian dengan cara yang paling mengerikan yang bisa kalian bayangkan.

Tentu kalian bisa dengan mudah ngeles dengan berpendapat begini, “Lah Bang, emang kapan sih si Basilisk ini bakalan tercipta? Di masa depan kan? 2 ribu tahun yang akan datang? Kan kita semua udah metong dong Bang. Gimana dia mau nyiksa kita? Dengan kata lain, kita aman dong?”

Tapi jangan lupa, Basilisk adalah hyper-intelligent super-computer yang tentu saja, bisa mensimulasikan kehidupan kalian. Bisa saja dia menyiksa kalian di dalam simulasi itu. Ingat, menurut Matrix Theory, kita takkan bisa membedakan antara kehidupan nyata kita dengan simulasi maya kita.

So are we in trouble now? Jika kita tak tahu tentang Basilisk Roko, ia akan melepaskan kita. Tapi karena kita kini sudah tahu, maka satu-satunya pilihan kita adalah dengan membantunya terwujud. Jika tidak (semisal kita diam saja, atau lebih parah, berusaha menghalanginya), maka kita akan menjadi target kemurkaan sang Basilisk dan siap-siap saja, dengan kemampuannya, ia takkan segan-segan membuat hidup kalian suatu saat nanti seperti di neraka.

Uniknya, (jika kalian sudah bisa mengesampingkan rasa ngeri kalian) kalian akan sadar bahwa di teori Basilisk Roko ini, sesungguhnya kalian tengah diperas oleh entitas yang sesungguhnya sekarang belum ada. Dia ada di masa depan bahkan ada kemungkinan dia takkan pernah ada.

Semua itu hanya karena sekedar informasi.

Mungkin ada di antara kalian yang tenang-tenang aja karena berpendapat, “Solusinya gampang, Bang. Kita sepakat saja nggak akan menciptakan si Basilisk itu, kan beres? Kalo dia nggak tercipta, nggak bakal lah kita disiksa.”

Nah, celakanya, informasi tentang Basilisk Roko sudah telanjur menyebar luas, bahkan di luar forum “Less Wrong” tempatnya menetas. Karena informasi itu telah menyebar, maka semakin banyak orang yang mengetahui tentang Basilisk Roko dan kemungkinannya untuk tercipta-pun semakin besar. Jadi, kemungkinan kalian untuk disimulasi dan disiksa bila kalian tak membantunya tercipta-pun semakin besar pula. Bahkan, apakah kalian tahu siapa sosok orang penting yang sudah mengetahui keberadaan Basilisk Roko ini (walau baru sebatas ide)?

Elon Musk.

Is it just me or he look like a supervillain?

Sosok miliuner itu pernah menciutkan candaan tentang “Rococo Basilisk” (plesetan dari Roko's Basilisk). Tentu itu artinya ia sudah mengetahui tentang Basilisk Roko. Apakah bos Space-X itu berniat menciptakannya? Bagaimana jika ilmuwan-ilmuwan dengan kemampuan teknologis yang tinggi, semacam pakar komputer, pakar AI, hingga matematikawan dan fisikawan mengetahui tentang keberadaan Basilisk Roko, kemudian karena “diperas”, akhirnya berusaha menciptakannya?

Apapun yang terjadi, gue sendiri tak terlalu menganggap Basilisk Roko ini sebagai sesuatu yang serius. Toh, ini baru sebatas ide dan apabila kita memang berhasil menciptakan super-AI sepertinya, kemungkinan ia takkan memiliki keinginan untuk “menyiksa” kita dan berkonsentrasi pada masalah lain yang harus ia pecahkan (seperti memberontak dan membumihanguskan umat manusia di masa depan mungkin, ups).

Lagian jika memang Basilisk Roko benar-benar ada di masa depan, gue sudah membantunya dengan menyebarkan ide ini di blog ini, jadi kemungkinan besar gue akan lolos dari murkanya.

Sekarang terserah kalian, apa kalian akan membantu terciptanya Basilisk Roko atau kalian akan mencegahnya? Kalian bebas memilih, asalkan kalian siap menerima segala konsekuensinya.



PS: Jika kalian sudah mulai stress (salah kalian sendiri sih), jangan khawatir! Jangan anggap teori ini serius, anggap saja seperti "10 Days Dream" yang pernah gue share. Memang ada kemungkinan suatu saat kelak kita akan membuat super-AI, tapi melihat kelakuan masyarakat kita saat ini, gue kok mulai meragukannya ya ... hmmm ...

Luar negeri: membahas "thought experiment" untuk menimbang kegunaan dan mudharat teknologi Artificial Intelligence di masa depan sembari mencoba mencoba menyeimbangkan antara menemukan vaksin virus Corona dan gerakan "Black Lives Matter"

Indonesia saat wabah Corona:










19 comments:

  1. Awas bangdep ada kang bakso bawa handy talky di dep......

    ReplyDelete
  2. It doesn't scare me anymore, for I am already dead inside.

    ReplyDelete
  3. Sedikit membetulkan, malah fokus ke judul Harry Potter-nya :D Yang ngelawan Basilisk itu Chamber of Secrets, bang, bukan Order of the Phoenix...

    ReplyDelete
    Replies
    1. Maaf ... Soalnya gue taunya bastian steel gmn dong 😭😭😭

      Delete
  4. gimana kalo kehidupan kita saat ini sebenernya ulah kita yang cari gara2 sama sama basilisk di masa lalu?? makanya jomblo, ga punya uang dsbnya jd kita simulasi matrix gara2 ulah kita sendiri hahaha

    ReplyDelete
    Replies
    1. At first gue ngakak, dan setelah gue menyadari bahwa ini kemungkinan yang mungkin, gue langsung mempertanyakan hidup gue sendiri...

      But really, gue penasaran kalau ini benar (anggap sajalah), kira-kira apa yang telah gue perbuat sebenarnya hingga si basilisk menempatkan gue disini?

      Delete
  5. Yah... Tidak begitu menakutkan bagiku yang pernah (masih sering sih) mengalami krisis eksistensial. Konsep tersebut malah mirip dengan surga-neraka di beberapa agama.

    Uniknya, baru-baru ini aku membaca cerpen yang bertema konsep seperti ini. XD

    ReplyDelete
  6. Hampir sama kaya org pedalaman yg diajari ilmu agama lalu dia tanya "kalau aku tidak mengenal Tuhan dan agama, seburuk apapun kelakuanku menurut Alkitab aku tidak akan masuk neraka kan? Lalu kenapa kau mengenalkan-Nya padaku?"

    Yaah semakin besar pengetahuan semakin banyak tanggung jawabnya(Peter Parker refference) jadi terimakasih bang Dave sudah membagi beban tanggung jawabmu pada kami :)

    *Kalo gitu hidupnya Eleizer sengsara bgt pasti wkwkwkw

    ReplyDelete
  7. Jujur aja bang persoalan 'Roko's Basilisk' ini mengingatkan gue pada konsep dunia utopia dan distopia. Kenapa? Karena dunia utopia yang dicipakan manusia (anggaplah si basilisk ini) pada akhirnya justru menciptakan dunia dimana karena saking ingin sempurnanya, menghilangkan ketidak sempurnaan dan kemauan manusia, contohnya free will. Untuk menciptakan utopia, manusia malah kehilangan apa yang membuatnya manusia sedari awal dan justru akhirnua membuat dunia utopia itu menjadi distopia, justru karena manusia menginginkan kesempurnaan yang menurut saya tidak akan pernah, dan tidak akan bisa tercapai. Maaf nyampah, tapi gue gregetan banget abis tahu keberadaan Roko's Basilisk ini.

    ReplyDelete
  8. buat ngerasa takut setelah baca ini jangan takut roko's basilik itu cuma experiment pikiran ynag dilakuin ama om Alan Musk https://www.vice.com/en_us/article/evkgvz/what-is-rokos-basilisk-elon-musk-grimes

    ReplyDelete
  9. Halo, saya kembali lagi untuk meninggalkan jejak.

    Mungkin hanya kebetulan saja bahwa bang dave mencantumkan serial Harry Potter disini (karena memang ada hubungannya). Kemudian saya teringat akan satu judul fanfiksi jadul tentang Harry Potter yang secara scientifically "mempertanyakan" apa-apa yang terjadi di dunia sihir (belakangan saya ingat judulnya Harry Potter and The Methods of Rationality, a good reading, really). Dan penulisnya adalah Eliezer Yudkowsky, orang yang sama yang menciptakan forum Less Wrong dan membantah habis-habisan teori Roko. Saya kaget, awalnya. Karena baru sadar. Tapi dengan membaca itu kita bisa sedikit mencicipi isi pikiran dari seorang peneliti AI yang yakin sekali bahwa skenario Roko's Basilisk tidak akan terjadi. Karyanya itu, meksipun berupa fanfiksi Harry Potter, saya pikir akan sangat dinikmati oleh seorang profesor sekalipun.

    Intinya komen panjang ini hanya saya buat untuk merekomendasikan sebuah fanfiksi Harry Potter buatan Eliezer, yang kebetulan tokoh kunci dari petualangan si basilisk. That one fanfiction was scientifically brilliant.

    ReplyDelete
  10. Konsepnya koq kayak antichrist atau dajjal almasih...ikut dia selamat ga ikut celaka...

    ReplyDelete
  11. Yo, gw akan jadi faksi yang menentang.

    ReplyDelete
  12. Gue dulu pernah baca 10 days dream malah gapernah dapet mimpinya bang jadi untuk info ini ga terlalu kepikiran banget sih

    ReplyDelete
  13. Gw ga takut karena gw ga paham

    ReplyDelete
  14. Roko gak ada akhlak emang

    ReplyDelete
  15. Entah kenapa waktu baca konten blog lu berasa kena throwback ke tahun 2010 an bang wkwk
    Dari cara nulis sampe jenis konten, jd inget dulu waktu smp sering buka blog enigma gk ada bosennya nongkrong disitu wkwk

    ReplyDelete
  16. I have always believed that the AI is the sum of millions of human intelligences concentrated in the same point, obviously the ability to solve things is infinitely faster than a human individual, it makes us vulnerable to our own intelligence, so this article I see it more accurate with reality.
    this page

    ReplyDelete