by Marc Andreessen

#1: Apakah AI Akan Membunuh Kita Semua?
Risiko AI yang pertama adalah bahwa AI akan memutuskan untuk secara harfiah membunuh umat manusia.
Ketakutan bahwa teknologi ciptaan kita sendiri akan bangkit dan menghancurkan kita sangat terkodifikasi dalam budaya kita. Orang Yunani mengungkapkan ketakutan ini dalam Mitos Prometheus – Prometheus membawa kekuatan pemusnah api, dan lebih umumnya teknologi (“techne”), kepada manusia, karena itu Prometheus dihukum untuk disiksa selamanya oleh para dewa. Kemudian, Mary Shelley memberi kita versi mitos modern kita dalam novelnya Frankenstein, atau, The Modern Prometheus, di mana kita mengembangkan teknologi untuk kehidupan abadi, yang kemudian bangkit dan mencoba menghancurkan kita. Dan tentu saja, tidak ada cerita koran panik AI yang lengkap tanpa gambar diam robot pembunuh bercahaya merah dari film Terminator James Cameron.
Tujuan evolusi yang diduga dari mitologi ini adalah untuk memotivasi kita untuk benar-benar mempertimbangkan risiko potensial dari teknologi baru – api, setelah semua, memang bisa digunakan untuk membakar seluruh kota. Tetapi seperti halnya api juga menjadi dasar peradaban modern karena digunakan untuk menjaga kita tetap hangat dan aman di dunia yang dingin dan bermusuhan, mitologi ini mengabaikan manfaat jauh lebih besar dari sebagian besar – semua? – teknologi baru, dan dalam praktiknya memicu emosi yang merusak daripada analisis yang rasional. Hanya karena manusia pra-modern freaked out seperti ini tidak berarti kita harus; kita dapat menerapkan rasionalitas sebagai gantinya.
Pandangan saya adalah bahwa gagasan bahwa AI akan memutuskan untuk secara harfiah membunuh umat manusia adalah kesalahan kategori yang mendalam. AI bukanlah makhluk hidup yang telah diprimer oleh miliaran tahun evolusi untuk berpartisipasi dalam pertempuran untuk kelangsungan hidup yang paling cocok, seperti hewan, dan seperti kita. Ini adalah matematika – kode – komputer, dibangun oleh orang, dimiliki oleh orang, digunakan oleh orang, dikendalikan oleh orang. Gagasan bahwa suatu saat nanti ia akan mengembangkan pikiran sendiri dan memutuskan bahwa ia memiliki motivasi yang mengarahkannya untuk mencoba membunuh kita adalah sebuah handwave yang bersifat supestitius.
Singkatnya, AI tidak ingin, tidak memiliki tujuan, tidak ingin membunuh Anda, karena tidak hidup. Dan AI adalah mesin – tidak akan menjadi hidup lagi daripada pemanggang roti Anda.
Sekarang, jelas, ada penganut sejati dalam AI killer – Baptis – yang mendapatkan jumlah liputan media tiba-tiba stratosfer untuk peringatan menakutkan mereka, beberapa di antaranya mengklaim telah mempelajari topik selama beberapa dekade dan mengatakan mereka sekarang takut keluar dari pikiran mereka dengan apa yang telah mereka pelajari. Beberapa dari penganut sejati ini bahkan merupakan inovator sebenarnya dari teknologi. Para aktor ini mengajukan berbagai pembatasan aneh dan ekstrem pada AI mulai dari larangan pengembangan AI, hingga serangan udara militer pada pusat data dan perang nuklir. Mereka berargumen bahwa karena orang seperti saya tidak dapat mengecualikan konsekuensi bencana masa depan dari AI, maka kita harus mengasumsikan sikap pencegahan yang mungkin memerlukan jumlah kekerasan fisik dan kematian yang besar untuk mencegah risiko eksistensial potensial.
Tanggapan saya adalah bahwa posisi mereka tidak ilmiah – Apa hipotesis yang dapat diuji? Apa yang akan memalsukan hipotesis? Bagaimana kita tahu ketika kita masuk ke zona bahaya? Pertanyaan-pertanyaan ini sebagian besar tidak terjawab selain dari “Anda tidak bisa membuktikan itu tidak akan terjadi!” Faktanya, posisi Baptis ini sangat tidak ilmiah dan sangat ekstrem – teori konspirasi tentang matematika dan kode – dan sudah meminta kekerasan fisik, sehingga saya akan melakukan sesuatu yang biasanya tidak saya lakukan dan mempertanyakan motif mereka juga.
Secara khusus, saya pikir tiga hal sedang terjadi:
Pertama, ingatlah bahwa John Von Neumann merespons kekhawatiran terkenal Robert Oppenheimer tentang perannya menciptakan senjata nuklir – yang membantu mengakhiri Perang Dunia II dan mencegah Perang Dunia III – dengan mengatakan, “Beberapa orang mengakui kesalahan untuk mengklaim kredit atas dosa.” Apa cara paling dramatis seseorang dapat mengklaim kredit atas pentingnya pekerjaannya tanpa terdengar terlalu sombong? Ini menjelaskan ketidakcocokan antara kata-kata dan tindakan Baptis yang sebenarnya membangun dan mendanai AI – perhatikan tindakan mereka, bukan kata-kata mereka. (Truman lebih keras setelah bertemu dengan Oppenheimer: “Jangan biarkan crybaby itu masuk lagi.”)
Kedua, beberapa Baptis sebenarnya adalah Bootleggers. Ada seluruh profesi “ahli keselamatan AI”, “etika AI”, “peneliti risiko AI”. Mereka dibayar untuk

Ketiga, California terkenal karena ribuan kultusnya, mulai dari EST hingga Peoples Temple, Heaven’s Gate hingga Keluarga Manson. Banyak, meskipun tidak semuanya, dari kultus-kultus ini tidak berbahaya, bahkan mungkin melayani tujuan bagi orang-orang yang merasa terasing dan menemukan rumah di dalamnya. Tetapi beberapa sangat berbahaya, dan kultus-kultus memiliki waktu yang sangat sulit untuk menyeberangi garis yang akhirnya mengarah pada kekerasan dan kematian.
Dan kenyataannya, yang jelas bagi semua orang di Bay Area tetapi mungkin tidak di luar sana, adalah bahwa “risiko AI” telah berkembang menjadi kultus, yang tiba-tiba muncul ke sorotan perhatian pers global dan percakapan publik. Kultus ini telah menarik bukan hanya karakter pinggiran, tetapi juga beberapa ahli industri sebenarnya dan sejumlah donatur kaya – termasuk, sampai baru-baru ini, Sam Bankman-Fried. Dan sudah mengembangkan seluruh perilaku dan keyakinan kultus.
Kultus inilah yang menyebabkan adanya sekelompok orang yang sangat pesimistis tentang risiko AI – bukan karena mereka benar-benar memiliki pengetahuan rahasia yang membuat ekstremisme mereka logis, tetapi karena mereka telah membangkitkan diri mereka sendiri menjadi kegilaan dan benar-benar sangat ekstrem.
Ternyata jenis kultus ini tidak baru – ada tradisi Barat yang berlangsung lama dari millenarianisme, yang menghasilkan kultus-kultus kiamat. Kultus risiko AI memiliki semua ciri-ciri kultus millenarian. Dari Wikipedia, dengan penambahan oleh saya:
“Millenarianisme adalah keyakinan oleh sekelompok atau gerakan [penghancur risiko AI] dalam transformasi fundamental masyarakat yang akan datang [kedatangan AI], setelah itu semua hal akan berubah [utopia AI, distopia, dan / atau akhir dunia]. Hanya peristiwa dramatis [larangan AI, serangan udara pada pusat data, serangan nuklir pada AI yang tidak diatur] yang dianggap mampu mengubah dunia [mencegah AI] dan perubahan diharapkan akan dihasilkan, atau bertahan hidup, oleh sekelompok orang yang saleh dan berdedikasi. Dalam sebagian besar skenario millenarian, bencana atau pertempuran yang akan datang [kiamat AI, atau pencegahannya] akan diikuti oleh dunia baru yang disucikan [larangan AI] di mana para pengikut akan dihargai [atau setidaknya diakui telah benar selama ini]. “

Pola kultus kiamat ini begitu jelas sehingga saya terkejut lebih banyak orang tidak melihatnya.
Jangan salah paham, kultus menyenangkan untuk didengar, materi tulisannya sering kreatif dan menarik, dan anggotanya menarik pada pesta makan malam dan di TV. Tetapi keyakinan ekstrem mereka tidak boleh menentukan masa depan hukum dan masyarakat – jelas tidak.

#2: Akankah AI Merusak Masyarakat Kita?

Risiko kecerdasan buatan (AI) yang kedua yang banyak diperdebatkan adalah bahwa AI akan menghancurkan masyarakat kita, dengan menghasilkan keluaran yang begitu “berbahaya”, untuk menggunakan istilah dari jenis doomer ini, sehingga menyebabkan kerusakan yang mendalam bagi umat manusia, bahkan jika kita tidak benar-benar dibunuh. Versi singkatnya: Jika robot pembunuh tidak membunuh kita, ujaran kebencian dan informasi yang salah akan melakukannya. Ini adalah kekhawatiran doomer yang relatif baru yang berasal dari dan agak mengambil alih gerakan “risiko AI” yang saya jelaskan di atas. Bahkan, terminologi risiko AI baru-baru ini berubah dari “keselamatan AI” – istilah yang digunakan oleh orang-orang yang khawatir bahwa AI secara harfiah akan membunuh kita – menjadi “penyejajaran AI” – istilah yang digunakan oleh orang-orang yang khawatir tentang “kerusakan” sosial. Orang-orang keselamatan AI asli frustrasi dengan pergeseran ini, meskipun mereka tidak tahu bagaimana cara memasukkannya kembali ke dalam kotak – mereka sekarang menganjurkan agar topik risiko AI sebenarnya diubah namanya menjadi “AI notkilleveryoneism”, yang belum banyak diadopsi tetapi setidaknya jelas. Petunjuk tentang sifat klaim risiko sosial AI adalah istilahnya sendiri, “penyejajaran AI”. Penyejajaran dengan apa? Nilai-nilai manusia. Nilai manusia siapa? Ah, di situlah hal-hal menjadi sulit. Sebagai kebetulan, saya telah memiliki kursi depan untuk situasi analog – perang “kepercayaan dan keamanan” media sosial. Seperti yang sekarang jelas, layanan media sosial telah berada di bawah tekanan besar dari pemerintah dan aktivis untuk melarang, membatasi, menyensor, dan sebaliknya menekan berbagai konten selama bertahun-tahun. Dan kekhawatiran yang sama tentang “ujaran kebencian” (dan lawannya dalam matematika, “bias algoritmik”) dan “informasi yang salah” langsung ditransfer dari konteks media sosial ke medan baru “penyejajaran AI”.

Pembelajaran besar saya dari perang media sosial adalah:
Di satu sisi, tidak ada posisi kebebasan berbicara yang absolut. Pertama, setiap negara, termasuk Amerika Serikat, membuat setidaknya beberapa konten ilegal. Kedua, ada jenis konten tertentu, seperti pornografi anak dan penghasutan ke kekerasan dunia nyata, yang hampir secara universal disepakati untuk tidak boleh diunggah – legal atau tidak – oleh hampir setiap masyarakat. Jadi, setiap platform teknologi yang memfasilitasi atau menghasilkan konten – ucapan – akan memiliki beberapa pembatasan.
Di sisi lain, slippery slope bukanlah sebuah kesalahan, itu adalah sebuah kenyataan yang tak terhindarkan. Setelah kerangka kerja untuk membatasi konten yang sangat mengerikan ada – misalnya, untuk ujaran kebencian, kata-kata menyakitkan tertentu, atau untuk informasi yang salah, klaim yang jelas-jelas salah seperti “paus sudah mati” – sejumlah besar badan pemerintah dan kelompok tekanan aktivis dan entitas non-pemerintah akan bergerak dan menuntut tingkat sensor dan penindasan ucapan yang semakin besar dari apa pun yang mereka anggap sebagai ancaman bagi masyarakat dan / atau preferensi pribadi mereka sendiri. Mereka akan melakukannya hingga dan termasuk dengan cara yang jelas-jelas merupakan kejahatan. Siklus ini dalam praktiknya dapat berjalan terus-menerus, dengan dukungan antusias dari pengawas otoriter yang terpasang di seluruh struktur kekuasaan elit kita. Ini telah terjadi selama satu dekade di media sosial dan hanya dengan beberapa pengecualian terus menjadi semakin giat sepanjang waktu.
Dan inilah dinamika yang telah terbentuk di sekitar “AI alignment” sekarang. Para pendukungnya mengklaim kebijaksanaan untuk merekayasa ucapan dan pemikiran yang dihasilkan oleh AI yang baik untuk masyarakat, dan untuk melarang ucapan dan pemikiran yang dihasilkan oleh AI yang buruk untuk masyarakat. Para penentangnya mengklaim bahwa polisi pemikiran sangat arogan dan angkuh – dan seringkali secara terbuka kriminal, setidaknya di AS – dan sebenarnya mencari menjadi jenis baru dari kekuasaan otoriter fusi pemerintah-perusahaan-akademik diktator ucapan yang dicabut langsung dari halaman George Orwell’s 1984.
Karena pendukung “trust and safety” dan “AI alignment” terkumpul menjadi irisan sangat sempit dari populasi global yang menggambarkan elit pesisir Amerika – yang mencakup banyak orang yang bekerja di industri teknologi dan menulis tentangnya – banyak pembaca saya akan merasa siap untuk berargumen bahwa pembatasan dramatis pada output AI diperlukan untuk menghindari menghancurkan masyarakat. Saya tidak akan mencoba meyakinkan Anda sekarang, saya hanya akan menyatakan bahwa ini adalah sifat permintaan, dan bahwa kebanyakan orang di dunia tidak setuju dengan ideologi Anda atau ingin melihat Anda menang.
Jika Anda tidak setuju dengan moralitas niche yang sedang diterapkan pada media sosial dan AI melalui kode ucapan yang semakin intensif, Anda juga harus menyadari bahwa pertarungan atas apa yang diizinkan AI katakan / hasilkan akan lebih penting – jauh lebih penting – daripada pertarungan atas sensor media sosial. AI sangat mungkin menjadi lapisan kontrol untuk segala sesuatu di dunia. Bagaimana diizinkan untuk beroperasi akan menjadi hal yang sangat penting. Anda harus menyadari bagaimana sekelompok kecil dan terisolasi dari insinyur sosial partisan mencoba menentukan hal itu saat ini, di bawah perlindungan klaim kuno bahwa mereka melindungi Anda.
Singkatnya, jangan biarkan polisi pemikiran menekan AI.

#3: Apakah AI Akan Mengambil Semua Pekerjaan Kita?

Ketakutan akan kehilangan pekerjaan akibat mekanisasi, otomatisasi, komputerisasi, atau kecerdasan buatan telah menjadi kepanikan yang berulang selama ratusan tahun, sejak awal munculnya mesin seperti mesin tenun mekanik. Meskipun setiap teknologi baru telah mengarah pada lebih banyak pekerjaan dengan upah yang lebih tinggi sepanjang sejarah, setiap gelombang kepanikan ini disertai klaim bahwa “kali ini berbeda” – ini adalah waktu ketika akhirnya akan terjadi, ini adalah teknologi yang akhirnya akan memberikan pukulan telak pada tenaga kerja manusia. Namun, itu tidak pernah terjadi.
Kita telah mengalami dua siklus kepanikan pengangguran yang didorong oleh teknologi dalam masa lalu – kepanikan outsourcing pada tahun 2000-an, dan kepanikan otomatisasi pada tahun 2010-an. Meskipun banyak pembicara, ahli, dan bahkan eksekutif industri teknologi memukul meja sepanjang dua dekade itu bahwa pengangguran massal sudah dekat, pada akhir 2019 – tepat sebelum munculnya COVID – dunia memiliki lebih banyak pekerjaan dengan upah yang lebih tinggi daripada sejarah.
Namun demikian, gagasan keliru ini tidak akan mati.
Dan tentu saja, itu kembali.
Kali ini, kami akhirnya memiliki teknologi yang akan mengambil semua pekerjaan dan membuat pekerja manusia tidak diperlukan – kecerdasan buatan yang sebenarnya. Pasti kali ini sejarah tidak akan berulang, dan AI akan menyebabkan pengangguran massal – bukan pertumbuhan ekonomi, pekerjaan, dan upah yang cepat – benar?
Tidak, itu tidak akan terjadi – dan sebenarnya AI, jika diizinkan untuk berkembang dan tersebar di seluruh ekonomi, dapat menyebabkan ledakan ekonomi yang paling dramatis dan berkelanjutan sepanjang masa, dengan pertumbuhan pekerjaan dan upah yang sesuai – persis kebalikan dari ketakutan. Dan inilah alasannya.
Kesalahan inti yang terus dilakukan oleh para penghancur pekerjaan otomatisasi adalah disebut Kesalahan Lump Of Labor. Kesalahan ini adalah gagasan yang salah bahwa ada jumlah tenaga kerja yang tetap harus dilakukan dalam ekonomi pada setiap saat tertentu, dan entah mesin melakukannya atau orang melakukannya – dan jika mesin melakukannya, tidak akan ada pekerjaan untuk orang yang dilakukan.

Kesalahan Pikiran tentang Jumlah Pekerjaan yang Tersedia aliran alami dari intuisi naif, tetapi intuisi naif di sini salah. Ketika teknologi diterapkan pada produksi, kami mendapatkan pertumbuhan produktivitas – peningkatan output yang dihasilkan oleh pengurangan input. Hasilnya adalah harga yang lebih rendah untuk barang dan jasa. Saat harga barang dan jasa turun, kami membayar lebih sedikit untuk mereka, yang berarti bahwa kami sekarang memiliki kekuatan pengeluaran tambahan dengan cara membeli hal-hal lain. Ini meningkatkan permintaan di ekonomi, yang mendorong penciptaan produksi baru – termasuk produk dan industri baru – yang kemudian menciptakan pekerjaan baru bagi orang-orang yang digantikan oleh mesin dalam pekerjaan sebelumnya. Hasilnya adalah ekonomi yang lebih besar dengan kemakmuran material yang lebih tinggi, lebih banyak industri, lebih banyak produk, dan lebih banyak pekerjaan.
Tetapi berita baik tidak berhenti di situ. Kami juga mendapatkan upah yang lebih tinggi. Ini karena, pada tingkat pekerja individu, pasar menetapkan kompensasi sebagai fungsi dari produktivitas marjinal pekerja. Seorang pekerja di bisnis yang terinfus teknologi akan lebih produktif daripada seorang pekerja di bisnis tradisional. Pemberi kerja akan membayar pekerja itu lebih banyak uang karena dia sekarang lebih produktif, atau pemberi kerja lain akan melakukannya, semata-mata karena kepentingan diri sendiri. Hasilnya adalah bahwa teknologi yang diperkenalkan ke dalam industri umumnya tidak hanya meningkatkan jumlah pekerjaan di industri tetapi juga meningkatkan upah.
Untuk merangkum, teknologi memberdayakan orang untuk menjadi lebih produktif. Ini menyebabkan harga untuk barang dan jasa yang ada turun, dan upah meningkat. Ini pada gilirannya menyebabkan pertumbuhan ekonomi dan pertumbuhan pekerjaan, sambil memotivasi penciptaan pekerjaan dan industri baru. Jika ekonomi pasar diizinkan untuk berfungsi normal dan jika teknologi diizinkan diperkenalkan dengan bebas, ini adalah siklus ke atas yang abadi yang tidak pernah berakhir. Karena, seperti yang diamati oleh Milton Friedman, “Keinginan dan kebutuhan manusia tidak ada habisnya” – kami selalu ingin lebih dari yang kami miliki. Ekonomi pasar yang terinfus teknologi adalah cara kita mendekati memberikan segala sesuatu yang mungkin diinginkan semua orang, tetapi tidak pernah sampai ke sana sepenuhnya. Dan itulah mengapa teknologi tidak menghancurkan pekerjaan dan tidak akan pernah melakukannya.
Ini adalah ide-ide yang sangat mengagumkan bagi orang-orang yang belum terpapar oleh mereka sehingga mungkin membutuhkan waktu bagi Anda untuk memahaminya. Tetapi saya bersumpah saya tidak membuat mereka – bahkan Anda dapat membaca semuanya tentang mereka dalam buku teks ekonomi standar. Saya sarankan bab Kutukan Mesin di Economics In One Lesson karya Henry Hazlitt, dan Petisi Pembuat Lilin satir oleh Frederic Bastiat untuk menghapus matahari karena persaingan yang tidak adil dengan industri pencahayaan, di sini dimodernisasi untuk zaman kita.

Tapi kali ini berbeda, kamu berpikir. Kali ini, dengan AI, kita memiliki teknologi yang dapat menggantikan SEMUA tenaga kerja manusia.
Namun, dengan menggunakan prinsip-prinsip yang saya jelaskan di atas, bayangkan apa artinya jika semua tenaga kerja manusia yang ada digantikan oleh mesin.
Ini akan berarti tingkat pertumbuhan produktivitas ekonomi yang akan sangat tinggi, jauh melampaui segala sejarah. Harga barang dan jasa yang ada akan turun secara menyeluruh menjadi hampir nol. Kesejahteraan konsumen akan melonjak. Daya beli konsumen akan melonjak. Permintaan baru di ekonomi akan meledak. Para pengusaha akan menciptakan berbagai industri, produk, dan layanan baru yang membingungkan, dan mempekerjakan sebanyak mungkin orang dan AI secepat mungkin untuk memenuhi semua permintaan baru.
Bayangkan jika AI sekali lagi menggantikan tenaga kerja itu? Siklus akan terulang, mendorong kesejahteraan konsumen, pertumbuhan ekonomi, dan pertumbuhan pekerjaan dan upah bahkan lebih tinggi. Ini akan menjadi spiral lurus menuju utopia material yang tidak pernah dibayangkan oleh Adam Smith atau Karl Marx.
Kita harus sangat beruntung.