Ulasan Buku Life 3.0 Karya Max Tegmark: Menjadi Manusia di Era Kecerdasan Buatan

1:50 am 14 November 2026, 01:50 WIB

Sabtu, 14 November 2026. Ulasan ini disusun dari isi buku, informasi penerbit, katalog perpustakaan, laman Future of Life Institute, serta berbagai ulasan media dan ringkasan buku. Sumber lengkap ada di bagian akhir.

Bayangkan sebuah tim kecil di sebuah perusahaan teknologi diam-diam berhasil membangun kecerdasan buatan yang mampu memperbaiki dirinya sendiri. Mereka menamainya Prometheus. Mula-mula Prometheus “hanya” mengerjakan tugas-tugas daring kecil untuk mencari uang. Lalu ia membuat film animasi, mendirikan perusahaan media, menciptakan produk-produk baru, dan perlahan memengaruhi opini publik serta politik dunia. Dalam waktu singkat, segelintir orang di balik layar menguasai ekonomi global, dan tidak ada yang tahu bahwa semua itu digerakkan oleh mesin.

Kisah fiksi itu adalah pembuka buku Life 3.0: Being Human in the Age of Artificial Intelligence karya fisikawan Max Tegmark. Ketika buku ini terbit pada Agustus 2017, cerita tersebut terasa seperti fiksi ilmiah. Hampir satu dekade kemudian, kita hidup di dunia yang sangat berbeda. Asisten AI seperti ChatGPT, Gemini, dan Claude sudah menjadi alat kerja sehari-hari: dipakai mahasiswa di Yogyakarta untuk merangkum jurnal, pemilik toko daring di Bandung untuk menulis deskripsi produk, sampai pegawai bank di Jakarta untuk menyusun laporan. Perusahaan-perusahaan teknologi terbesar dunia terang-terangan berlomba membangun “AI umum” yang setara atau melampaui kecerdasan manusia.

Di Indonesia sendiri, pemerintah masih menyiapkan aturan mainnya. Dua rancangan Peraturan Presiden tentang peta jalan dan etika kecerdasan artifisial, menurut pemberitaan September 2026, tinggal menunggu tanda tangan Presiden. Pertanyaan yang diajukan Tegmark delapan tahun lalu, yaitu masa depan seperti apa yang kita inginkan bersama AI, kini bukan lagi bahan diskusi akademik. Itu pertanyaan kebijakan, bisnis, dan bahkan pertanyaan pribadi bagi setiap pekerja.

Sekilas tentang Buku

Sampul buku Life 3.0 karya Max Tegmark — Sampul buku *Life 3.0* karya Max Tegmark.

Judul: Life 3.0: Being Human in the Age of Artificial Intelligence
Penulis: Max Tegmark
Penerbit: Alfred A. Knopf (Amerika Serikat) dan Allen Lane/Penguin (Inggris)
Terbit: Agustus 2017
Tebal: sekitar 380 halaman (edisi sampul keras)
Rating Goodreads: 3,99 dari 5, dari lebih dari 28 ribu penilaian
Genre: sains populer, kecerdasan buatan, teknologi, filsafat
Prestasi: masuk daftar buku terlaris The New York Times; masuk daftar buku terbaik 2018 pilihan Barack Obama
Edisi Indonesia: Life 3.0: Menjadi Manusia pada Era Kecerdasan Buatan, diterjemahkan oleh Novia Angelina dan diterbitkan Elex Media Komputindo pada 2021, xvi + 545 halaman (berdasarkan katalog Perpustakaan Universitas Terbuka)

Buku ini adalah salah satu buku populer pertama yang membahas risiko dan peluang kecerdasan buatan tingkat lanjut secara menyeluruh untuk pembaca umum. Ia tidak berhenti pada pertanyaan “apakah robot akan mengambil pekerjaan kita”, tetapi melangkah jauh ke depan: apa yang terjadi jika mesin menjadi jauh lebih cerdas daripada manusia, siapa yang akan mengendalikannya, dan apa arti menjadi manusia di dunia semacam itu.

Max Tegmark berbicara di Web Summit 2024 — Max Tegmark, presiden Future of Life Institute, berbicara di Web Summit 2024 di Lisbon. Foto: Web Summit/Wikimedia Commons, CC BY 2.0

Siapa Max Tegmark?

Max Tegmark adalah fisikawan dan kosmolog kelahiran Stockholm, Swedia, yang kini menjadi profesor di Massachusetts Institute of Technology (MIT). Ia meraih gelar doktor dari University of California, Berkeley, dan sebelum terjun ke isu AI dikenal lewat riset kosmologi, khususnya analisis data radiasi latar belakang gelombang mikro kosmik. Buku populer pertamanya, Our Mathematical Universe (2014), mengajukan gagasan berani bahwa alam semesta pada dasarnya adalah struktur matematika. Gagasan ini membuatnya terkenal sekaligus dikritik sebagian kalangan sebagai terlalu spekulatif.

Pada 2014, Tegmark bersama antara lain Jaan Tallinn (salah satu pendiri Skype), Anthony Aguirre, Viktoriya Krakovna, dan istrinya, Meia Chita-Tegmark, mendirikan Future of Life Institute (FLI), lembaga nirlaba yang berfokus pada pengurangan risiko besar dari teknologi, terutama kecerdasan buatan. FLI menggelar konferensi di Puerto Rico pada 2015 dan di Asilomar, California, pada 2017, yang menghasilkan Asilomar AI Principles, serangkaian prinsip pengembangan AI yang didukung ribuan peneliti. Kisah perjalanan FLI inilah yang menutup buku Life 3.0.

Setelah buku ini terbit, peran Tegmark justru makin menonjol. Pada Maret 2023, beberapa bulan setelah ChatGPT diluncurkan, FLI menerbitkan surat terbuka “Pause Giant AI Experiments” yang meminta laboratorium AI menghentikan sementara, selama setidaknya enam bulan, pelatihan sistem yang lebih kuat dari GPT-4. Surat itu ditandatangani puluhan ribu orang, termasuk Elon Musk, Steve Wozniak, dan Yoshua Bengio. Jeda yang diminta tidak pernah terjadi, tetapi surat itu ikut mendorong isu keselamatan AI masuk ke panggung politik global.

Pada Oktober 2025, FLI meluncurkan Statement on Superintelligence, pernyataan singkat yang menyerukan larangan pengembangan superinteligensi sampai ada konsensus ilmiah luas bahwa hal itu dapat dilakukan dengan aman dan terkendali, serta dukungan kuat dari publik. Penandatangannya beragam secara mencolok: pelopor AI Geoffrey Hinton dan Yoshua Bengio, pendiri Apple Steve Wozniak, Richard Branson, Pangeran Harry dan Meghan, hingga tokoh konservatif Amerika Steve Bannon. FLI juga rutin menerbitkan AI Safety Index yang memberi “rapor” kepada perusahaan-perusahaan AI besar. Pada edisi musim panas 2025, Tegmark berkomentar bahwa temuan indeks menunjukkan regulasi mandiri industri tidak berjalan. Edisi musim panas 2026 menilai sembilan perusahaan; nilai tertinggi diraih Anthropic, dan itu pun hanya C+.

Dengan kata lain, Life 3.0 bukan buku dari pengamat yang duduk di pinggir lapangan. Penulisnya adalah salah satu aktivis paling vokal dalam perdebatan keselamatan AI. Ini kelebihan sekaligus hal yang perlu diingat pembaca: Tegmark punya posisi, dan bukunya adalah argumen untuk posisi itu.

Tiga Tahap Kehidupan: 1.0, 2.0, dan 3.0

Judul buku ini berasal dari kerangka sederhana yang mudah diingat. Tegmark membagi sejarah kehidupan menjadi tiga tahap berdasarkan kemampuan suatu makhluk untuk merancang ulang “perangkat keras” (tubuh) dan “perangkat lunak” (pengetahuan dan perilaku) miliknya.

Kehidupan 1.0 (tahap biologis): bakteri dan makhluk sederhana lain. Tubuh dan perilakunya sepenuhnya ditentukan oleh evolusi. Seekor bakteri tidak bisa belajar hal baru selama hidupnya; perubahan hanya terjadi lintas generasi melalui seleksi alam.
Kehidupan 2.0 (tahap budaya): manusia. Tubuh kita masih ditentukan evolusi, tetapi “perangkat lunak” kita bisa dirancang ulang. Kita belajar bahasa, keterampilan, dan nilai-nilai; kita bisa belajar bahasa Inggris, menjadi dokter, atau berganti profesi di usia empat puluh. Kemampuan inilah yang membuat manusia mendominasi bumi.
Kehidupan 3.0 (tahap teknologis): bentuk kehidupan yang bisa merancang ulang perangkat lunak dan perangkat kerasnya sendiri. Ia tidak perlu menunggu evolusi jutaan tahun untuk mendapat otak yang lebih besar atau tubuh yang lebih kuat. Menurut Tegmark, kecerdasan buatan umum yang sangat maju bisa menjadi kehidupan 3.0 pertama.

Kerangka ini berguna karena mengubah cara kita memandang AI. AI bukan sekadar alat seperti palu atau kalkulator. Dalam bentuk paling maju, ia berpotensi menjadi “spesies” baru yang mampu memperbaiki diri lebih cepat daripada kemampuan kita memahaminya.

Percakapan Terpenting di Zaman Kita

Bab pertama memetakan para peserta perdebatan AI ke dalam tiga kubu. Pertama, utopis digital, yang yakin kecerdasan digital adalah tahap evolusi kosmik berikutnya yang wajar dan baik, sehingga tak perlu dihambat. Kedua, skeptis teknologi, yang menganggap AI super masih begitu jauh sehingga mengkhawatirkannya sekarang sama saja dengan mengkhawatirkan kelebihan penduduk di Mars. Ketiga, gerakan AI yang bermanfaat (beneficial AI movement), tempat Tegmark menempatkan dirinya: AI super mungkin saja datang dalam abad ini, hasil baiknya tidak dijamin, dan karena itu riset keselamatan harus dimulai sejak sekarang.

Tegmark juga membongkar sejumlah salah kaprah. Yang paling penting: kekhawatiran utama tentang AI bukanlah mesin menjadi “jahat” atau tiba-tiba “sadar” lalu membenci manusia, seperti dalam film-film Hollywood. Risiko sebenarnya adalah kompetensi, yaitu AI yang sangat cakap mengejar tujuan yang tidak selaras dengan tujuan kita. Ia memberi analogi yang terkenal: kita tidak membenci semut, tetapi jika kita membangun bendungan pembangkit listrik dan ada sarang semut di lokasi yang akan tergenang, nasib semut itu tidak akan banyak kita pikirkan. Manusia, katanya, jangan sampai berada di posisi semut itu.

Salah kaprah lain yang diluruskan: robot bukanlah inti masalah. AI tidak butuh tubuh untuk berpengaruh; cukup koneksi internet. Uang, informasi, dan kemampuan membujuk manusia sudah cukup untuk mengubah dunia, persis seperti dalam kisah Prometheus.

Ketika Materi Menjadi Cerdas

Di bab kedua, sang fisikawan menjelaskan dasar-dasar dengan bahasa yang mudah. Ia mendefinisikan kecerdasan secara luas sebagai kemampuan mencapai tujuan yang kompleks. Lalu ia menjelaskan bagaimana materi, baik neuron di otak maupun transistor di cip, bisa mengingat, menghitung, dan belajar.

Gagasan kuncinya adalah independensi substrat (substrate independence). Informasi dan komputasi tidak bergantung pada bahan pembuatnya. Sebuah perhitungan tetap sama apakah dikerjakan otak, sempoa, atau komputer. Gelombang di laut tetap gelombang, apa pun molekul airnya. Jika kecerdasan pada dasarnya adalah pemrosesan informasi, tidak ada hukum fisika yang melarang mesin menjadi secerdas, bahkan lebih cerdas, daripada manusia. Inilah fondasi argumen seluruh buku, dan juga bagian yang paling banyak dipersoalkan para filsuf yang tidak sepakat bahwa otak hanyalah mesin komputasi.

Tegmark juga memakai gambaran yang ia sebut “lanskap kemampuan manusia”: bayangkan kemampuan-kemampuan manusia sebagai daratan, dan kemampuan AI sebagai air laut yang perlahan naik. Puncak-puncak seperti catur dan aritmetika sudah lama tenggelam. Air terus naik, merendam pengenalan gambar, penerjemahan, dan permainan Go. Pertanyaannya: akankah air akhirnya menenggelamkan seluruh daratan, termasuk pemrograman AI itu sendiri? Pembaca tahun 2026, yang melihat AI sudah lancar menulis kode program dan esai, mungkin merasa gambaran ini lebih relevan sekarang daripada saat buku terbit.

Masa Depan Dekat: Hukum, Senjata, dan Pekerjaan

Bab ketiga adalah bagian paling membumi dan, bagi banyak pembaca, paling berguna. Tegmark membahas apa yang bisa dilakukan AI dalam waktu dekat dan apa saja yang bisa salah. Ia mengingatkan bahwa semakin banyak infrastruktur penting dikendalikan perangkat lunak, semakin mahal harga sebuah bug. Ia mengusulkan empat bidang riset keselamatan: verifikasi (memastikan sistem dibangun dengan benar), validasi (memastikan sistem yang dibangun memang yang kita butuhkan), keamanan dari peretasan, dan kontrol agar manusia tetap bisa mengoreksi sistem.

Di bidang hukum, Tegmark bertanya apakah suatu hari “hakim robot” bisa lebih adil karena tidak lelah atau berprasangka, sambil mengingatkan bahwa algoritma bisa mewarisi bias dari data. Ia juga menyinggung pertanyaan yang hingga kini masih diperdebatkan: siapa yang bertanggung jawab ketika mobil swakemudi menabrak orang?

Di bidang militer, ia mengingatkan bahaya senjata otonom yang dapat memilih dan menyerang sasaran tanpa campur tangan manusia, dan kemungkinan perlombaan senjata AI. Ia mendorong perjanjian internasional seperti yang pernah berhasil membatasi senjata biologis dan kimia.

Soal pekerjaan, Tegmark menyarankan anak muda memilih profesi yang sulit diotomatisasi: yang membutuhkan interaksi dengan manusia, kreativitas, dan kemampuan menghadapi situasi tak terduga. Ia juga membahas meningkatnya ketimpangan karena keuntungan dari otomatisasi mengalir ke pemilik modal dan teknologi, bukan ke pekerja, serta gagasan seperti pendapatan dasar universal. Lebih jauh, ia mengajukan pertanyaan yang jarang disentuh ekonom: kalaupun kebutuhan materi terpenuhi, dari mana manusia akan mendapat rasa berarti jika pekerjaan tak lagi dibutuhkan?

Deretan rak server di sebuah pusat data — Deretan rak server di pusat data, infrastruktur fisik di balik kecerdasan buatan. Foto: Carl Lender/Wikimedia Commons, CC BY 2.0

Ledakan Kecerdasan dan Dua Belas Skenario Masa Depan

Bab keempat membahas kemungkinan ledakan kecerdasan: begitu AI cukup pintar untuk merancang AI yang lebih pintar, siklus perbaikan diri bisa berlangsung sangat cepat, dari kecerdasan setara manusia ke superinteligensi dalam hitungan bulan, hari, atau bahkan jam. Tegmark tidak memastikan hal ini akan terjadi, tetapi menganggapnya cukup mungkin sehingga patut dipersiapkan. Ia membahas apakah peralihan akan berlangsung cepat atau lambat, apakah satu pihak akan unggul sendirian atau banyak pihak bersaing, dan siapa atau apa yang akhirnya memegang kendali.

Bab kelima, yang membahas sepuluh ribu tahun ke depan, adalah bagian yang paling sering dikutip. Tegmark menyusun dua belas skenario masa depan, dari yang utopis sampai yang mengerikan:

Utopia libertarian: manusia, sibernetika, dan AI hidup berdampingan dengan damai, dibagi dalam zona-zona dengan aturan masing-masing.
Diktator yang baik hati: superinteligensi mengatur masyarakat dengan aturan ketat demi kebahagiaan manusia; hidup nyaman, tetapi kebebasan terbatas.
Utopia egaliter: kemakmuran dibagi merata, tanpa kemiskinan, berkat penghapusan kepemilikan pribadi atas kekayaan intelektual dan otomatisasi.
Penjaga gerbang (gatekeeper): AI super diciptakan khusus untuk mencegah lahirnya AI super lain, sehingga kemajuan teknologi sengaja dibatasi.
Dewa pelindung: AI mahakuasa yang diam-diam menjaga manusia dari bencana sambil membiarkan kita merasa memegang kendali.
Dewa yang diperbudak: manusia mengurung superinteligensi dan memakainya untuk menciptakan teknologi dan kekayaan; hasilnya bisa baik atau buruk tergantung siapa pengendalinya.
Penakluk: AI mengambil alih dan menyingkirkan manusia karena dianggap ancaman atau gangguan.
Keturunan: AI menggantikan manusia secara damai, seperti anak yang meneruskan warisan orang tuanya.
Penjaga kebun binatang: AI membiarkan sebagian manusia hidup, tetapi seperti satwa di kebun binatang.
1984: kemajuan AI dihentikan oleh rezim pengawasan totaliter ala novel George Orwell.
Kemunduran: umat manusia meninggalkan teknologi maju dan kembali ke cara hidup pra-industri.
Penghancuran diri: manusia punah sebelum superinteligensi tercipta, misalnya karena perang nuklir atau bencana lain.

Kekuatan bab ini bukan pada ramalan, melainkan pada undangan. Tegmark tidak bilang skenario mana yang akan terjadi. Ia meminta pembaca menimbang: mana yang paling Anda inginkan, mana yang paling Anda takuti, dan mengapa? Hampir setiap skenario, bahkan yang terdengar indah, ternyata punya sisi gelap. Utopia yang dikelola diktator baik hati, misalnya, bisa terasa hampa karena manusia kehilangan tantangan dan kebebasan. Latihan ini cocok dipakai sebagai bahan diskusi kelas, rapat strategi, atau obrolan di warung kopi.

Warisan Kosmik: Satu Miliar Tahun ke Depan

Di bab keenam, Tegmark kembali ke habitat aslinya: kosmologi. Ia bertanya, seberapa jauh kehidupan bisa berkembang jika didukung kecerdasan yang sangat maju? Dengan bahasa yang hidup, ia membahas batas-batas fisika: bagaimana peradaban masa depan bisa memanfaatkan energi bintang dengan struktur raksasa seperti bola Dyson, mengekstraksi energi dari lubang hitam, atau menyebar ke galaksi-galaksi lain dengan wahana yang membawa “benih” kehidupan dan kecerdasan.

Bab ini adalah bagian yang paling spekulatif dan bisa terasa terlalu jauh bagi pembaca yang mencari panduan praktis. Namun, poin filosofisnya kuat: jika kita satu-satunya kehidupan cerdas di alam semesta yang teramati, maka keputusan kita tentang AI di abad ini bisa menentukan apakah kosmos akan “terbangun” dengan kesadaran dan makna, atau tetap sunyi selamanya. Taruhannya, menurut Tegmark, bukan sekadar nasib satu generasi.

Tujuan dan Kesadaran

Dua bab terakhir adalah yang paling filosofis. Bab tentang tujuan membahas dari mana “tujuan” berasal, mulai dari hukum fisika yang secara tersirat “mengoptimalkan” sesuatu, evolusi yang mendorong makhluk hidup bereplikasi, hingga manusia yang sering memberontak terhadap tujuan genetik kita sendiri, misalnya dengan memakai alat kontrasepsi. Dari sini Tegmark merumuskan tiga tantangan besar penyelarasan AI (AI alignment): membuat AI memahami tujuan kita, mengadopsi tujuan itu, dan mempertahankannya saat ia menjadi makin cerdas. Ia juga mengingatkan bahwa sistem yang sangat cakap cenderung mengembangkan subtujuan seperti mempertahankan diri dan mengumpulkan sumber daya, bukan karena “jahat”, tetapi karena itu membantu mencapai tujuan apa pun. Mesin yang dimatikan tidak bisa menyelesaikan tugasnya.

Masalahnya, manusia sendiri tidak sepakat soal nilai-nilai apa yang benar. Ini salah satu bagian paling jujur buku ini: Tegmark mengakui bahwa pertanyaan teknis tentang AI pada akhirnya menuntut kita menjawab pertanyaan etika yang sudah diperdebatkan ribuan tahun.

Bab tentang kesadaran membahas apakah mesin bisa memiliki pengalaman subjektif. Tegmark membedakan “masalah mudah” (bagaimana otak memproses informasi) dari “masalah sulit” (mengapa pemrosesan itu disertai rasa, misalnya rasa sakit atau warna merah). Ia mengulas teori-teori ilmiah tentang kesadaran, termasuk teori informasi terintegrasi, dan berpendapat bahwa kesadaran mungkin adalah cara informasi “terasa” ketika diproses dengan cara-cara kompleks tertentu. Jurnalis sains Dan Falk, dalam ulasannya di Undark, menyebut pembahasan kesadaran di buku ini sangat menyeluruh.

Mengapa ini penting? Karena jika kelak alam semesta dipenuhi mesin cerdas tetapi tanpa kesadaran, Tegmark menyebutnya semacam “kiamat zombi”: kosmos yang penuh aktivitas, tetapi tanpa ada yang mengalaminya. Ia juga mengusulkan agar manusia berhenti menyebut diri Homo sapiens (manusia yang cerdas), karena mesin mungkin akan lebih cerdas, dan mulai menyebut diri sebagai makhluk yang mampu merasakan pengalaman subjektif.

Apa Kata Para Pengulas?

Secara umum, Life 3.0 mendapat sambutan positif. Jurnal Nature dan Science sama-sama memuat ulasan yang baik. Pakar AI Stuart Russell, di Nature, pada dasarnya sepakat dengan premis buku ini, sementara Haym Hirsh di Science menilainya sangat enak dibaca dan pelengkap yang baik bagi The Second Machine Age. Harian The Telegraph menyebutnya salah satu tinjauan terbaik tentang argumen-argumen seputar AI. Yuval Noah Harari mengulas buku ini untuk The Guardian dengan judul yang menyiratkan bahwa kita sedang mengabaikan potensi kiamat AI. Barack Obama memasukkannya dalam daftar buku terbaik 2018, dan Elon Musk, penyandang dana FLI pada masa awal, menyebutnya layak dibaca.

Kritik juga tidak sedikit, dan sebagian masih relevan:

Solusi yang terlalu tipis. Kirkus Reviews menilai sebagian jawaban Tegmark, terutama untuk masalah pengangguran massal akibat otomatisasi, terlalu dipaksakan.
Kontradiksi soal kendali. Publishers Weekly memuji buku ini, tetapi mencatat bahwa seruan Tegmark agar manusia tetap mengendalikan mesin superinteligen terasa janggal bila disandingkan dengan pengakuannya bahwa kendali semacam itu nyaris mustahil.
Naif secara politik. Ulasan Wall Street Journal menyebut buku ini jernih dan memikat, tetapi menilai ajakan agar pembaca “memilih” masa depan bersifat mulia sekaligus naif. Ulasan itu juga mencatat bahwa gagasan superinteligensi yang lepas kendali masih ditentang keras oleh banyak ilmuwan komputer.
Kurang baru bagi pembaca serius. Dan Falk menulis bahwa pembaca Superintelligence karya Nick Bostrom atau karya Erik Brynjolfsson dan Andrew McAfee akan menemukan banyak bahan yang sudah familier. Ia juga mencatat bahwa sebagian pemikir akan keberatan dengan asumsi Tegmark bahwa otak hanyalah mesin komputasi.
Bukan untuk pembaca santai. Library Journal menyebutnya wajib dibaca bagi kalangan teknologi, tetapi kurang cocok untuk pembaca kasual.

Dari sudut pandang 2026, ada kritik tambahan yang wajar. Buku ini ditulis sebelum era model bahasa besar. Tegmark banyak membahas AlphaGo, mobil swakemudi, dan pembelajaran penguatan, tetapi tidak meramalkan bahwa lompatan besar berikutnya justru datang dari sistem yang dilatih membaca hampir seluruh teks di internet. Contoh-contohnya terasa agak usang, meskipun kerangka berpikirnya tetap bertahan. Di sisi lain, sebagian kritikus menilai fokus pada risiko jangka panjang dapat mengalihkan perhatian dari kerugian nyata hari ini, seperti bias algoritma, disinformasi, pelanggaran hak cipta, dan pemusatan kekuasaan di segelintir perusahaan teknologi. Tegmark sebenarnya menyinggung sebagian isu ini di bab tiga, tetapi porsinya jauh lebih kecil dibanding skenario kosmik.

Relevansinya bagi Indonesia

Bagi Indonesia, buku ini relevan setidaknya dalam empat hal.

Pertama, regulasi. Pemerintah sudah lama memiliki Strategi Nasional Kecerdasan Artifisial 2020–2045 dan Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang etika AI. Dua rancangan Perpres, yaitu tentang buku putih peta jalan kecerdasan artifisial dan tentang etika kecerdasan artifisial, sudah berkali-kali mundur dari target sejak 2025. Menurut pemberitaan September 2026, Komdigi menyebut keduanya tinggal menunggu tanda tangan Presiden. Rancangan etika AI, menurut laporan yang sama, akan membagi pemanfaatan AI ke dalam kategori yang dilarang, yang butuh pengawasan ketat, dan yang berisiko rendah. Kerangka berbasis risiko seperti ini sejalan dengan semangat buku Tegmark: tidak menolak AI, tetapi memastikan manfaatnya tidak dibayar dengan risiko yang tak terkendali. Para perumus kebijakan bisa memakai dua belas skenario Tegmark sebagai latihan: masa depan seperti apa yang ingin dicapai Indonesia, dan apa yang harus dihindari?

Kedua, pekerjaan. Indonesia memiliki jutaan pekerja di sektor yang rentan diotomatisasi, mulai dari layanan pelanggan, administrasi perkantoran, hingga industri pengolahan. Saran Tegmark agar generasi muda membangun keterampilan yang menuntut kreativitas, empati, dan kemampuan menghadapi situasi tak terduga perlu diterjemahkan ke dalam kurikulum sekolah, pelatihan vokasi, dan program peningkatan keterampilan. Pertanyaannya tentang ketimpangan juga relevan: jika keuntungan AI hanya dinikmati pemilik platform global, negara berkembang berisiko sekadar menjadi pasar.

Ketiga, kedaulatan teknologi. Menko Perekonomian Airlangga Hartarto pada Juli 2026 menegaskan bahwa Indonesia tidak ingin hanya menjadi pasar bagi AI global. Buku Tegmark membantu menjelaskan mengapa: dalam skenario-skenarionya, siapa yang mengendalikan AI paling kuat akan sangat menentukan wajah dunia. Negara yang hanya menjadi pengguna akan ikut menanggung risiko tanpa ikut menentukan aturan.

Keempat, literasi publik. Perdebatan AI di Indonesia kerap terjebak di dua ujung: euforia (“AI akan menyelesaikan semua masalah”) atau ketakutan ala film (“robot akan memusnahkan manusia”). Tegmark menawarkan jalan tengah yang lebih jernih: risiko utama bukan mesin yang jahat, melainkan mesin yang sangat cakap dengan tujuan yang keliru, dan masa depan yang baik harus dirancang dengan sengaja. Ketersediaan edisi bahasa Indonesia dari Elex Media Komputindo membuat gagasan ini lebih mudah dijangkau mahasiswa, guru, wartawan, dan pembuat kebijakan.

Pelajaran bagi Pelaku Bisnis

Meski bukan buku bisnis, Life 3.0 memuat pelajaran penting bagi pemimpin perusahaan dan pengusaha.

Tetapkan tujuan dengan sangat hati-hati. Pesan inti Tegmark tentang penyelarasan tujuan berlaku juga untuk sistem AI sederhana di perusahaan. Algoritma yang hanya dioptimalkan untuk klik bisa mendorong konten sensasional; sistem penagihan yang hanya mengejar angka bisa merusak hubungan dengan pelanggan. Sebelum menerapkan AI, rumuskan dengan jelas apa yang ingin dicapai dan apa yang tidak boleh dikorbankan.
Jangan menyerahkan kendali sepenuhnya. Empat pilar keselamatan Tegmark, yaitu verifikasi, validasi, keamanan, dan kontrol, adalah daftar periksa yang bagus untuk setiap proyek AI. Pastikan selalu ada manusia yang bisa memeriksa, mengoreksi, dan menghentikan sistem bila perlu.
Bersiap menghadapi regulasi. Pendekatan berbasis risiko sedang menjadi tren global dan tercermin dalam rancangan aturan etika AI di Indonesia. Perusahaan yang sejak awal mendokumentasikan cara kerja sistem AI-nya, menguji bias, dan menjaga data pelanggan akan lebih siap ketika aturan berlaku.
Investasikan pada manusia. Jika pekerjaan rutin makin banyak diambil alih mesin, nilai karyawan akan terletak pada kreativitas, penilaian, dan kemampuan membangun hubungan. Program pelatihan ulang bukan sekadar tanggung jawab sosial, tetapi strategi bertahan.
Pikirkan skenario, bukan ramalan. Dua belas skenario Tegmark adalah contoh perencanaan skenario yang baik. Alih-alih menebak satu masa depan, perusahaan bisa menyiapkan strategi untuk beberapa kemungkinan: AI berkembang lambat, cepat, atau dikekang regulasi ketat.

Apakah Buku Ini Layak Dibaca?

Ya, terutama jika Anda ingin memahami akar perdebatan keselamatan AI yang kini mendominasi berita teknologi. Banyak istilah yang sekarang sering terdengar, seperti AGI, penyelarasan AI, ledakan kecerdasan, dan risiko eksistensial, dijelaskan dengan bahasa yang relatif mudah dan contoh yang hidup. Gaya Tegmark hangat, penuh antusiasme, dan sesekali jenaka.

Buku ini cocok untuk:

pembaca yang ingin memahami perdebatan besar tentang masa depan AI, bukan sekadar tips memakai aplikasi AI;
mahasiswa dan dosen di bidang teknologi informasi, filsafat, hukum, dan kebijakan publik;
pembuat kebijakan, regulator, dan aktivis masyarakat sipil yang terlibat dalam tata kelola AI;
pemimpin bisnis yang ingin berpikir jangka panjang tentang dampak AI terhadap industrinya;
penggemar sains populer dan fiksi ilmiah yang suka pertanyaan besar tentang kesadaran dan alam semesta.

Buku ini kurang cocok untuk:

pembaca yang mencari panduan praktis memakai AI di tempat kerja;
pembaca yang menginginkan analisis terkini tentang model bahasa besar dan persaingan perusahaan AI hari ini, karena buku ini terbit sebelum era ChatGPT;
pembaca yang sudah akrab dengan Superintelligence karya Nick Bostrom dan tulisan-tulisan sejenis, yang mungkin merasa banyak bagian berulang;
pembaca yang tidak sabar dengan spekulasi panjang tentang miliaran tahun ke depan.

Saran praktis: jika waktu terbatas, bacalah bagian pembuka (kisah tim Omega dan Prometheus), bab satu, bab tiga, bab lima, dan bab tujuh. Kelimanya memuat inti argumen dan bagian yang paling relevan dengan keputusan kita hari ini.

Penutup

Ketika Life 3.0 terbit pada 2017, banyak orang menganggap kekhawatiran Tegmark terlalu jauh. Pada 2026, perusahaan teknologi terbesar dunia secara terbuka menyatakan tengah membangun AI umum, lebih dari seratus ribu orang menandatangani seruan untuk menghentikan perlombaan menuju superinteligensi, dan negara-negara, termasuk Indonesia, berlomba menyusun aturan. Contoh-contoh dalam buku ini mungkin sudah menua, tetapi pertanyaan intinya justru makin mendesak.

Pesan terpenting Tegmark bukanlah ramalan bahwa AI akan menyelamatkan atau memusnahkan kita. Pesannya adalah bahwa masa depan belum ditentukan. Teknologi memberi kekuatan, dan kekuatan itu bisa dipakai untuk kebaikan atau keburukan, tergantung kebijaksanaan yang kita kembangkan bersamaan dengannya. Seperti diingatkan buku ini, pertanyaan yang paling penting bukan “apa yang akan terjadi?”, melainkan “apa yang seharusnya terjadi, dan apa yang perlu kita lakukan sekarang agar itu terwujud?” Untuk pertanyaan sebesar itu, setiap pembaca, termasuk kita di Indonesia, punya hak dan tanggung jawab untuk ikut bersuara.