Ilustrasi: PXhere
KEAJAIBAN teknologi yang dihasilkan dari penerapan transformator dalam pembelajaran mesin sungguh tak dapat disangkal. Mereka mewakili sebuah langkah perubahan dalam serangkaian penelitian teknis yang telah menghabiskan sebagian besar sejarahnya untuk terlihat positif, setidaknya bagi para pemrakarsanya yang lebih sadar. Di sebelah kiri, refleks kritis untuk melihat hal ini sebagai putaran lain dari sekrup neoliberal, atau untuk menunjukkan ekstraksi tenaga kerja dan sumber daya yang menopangnya, gagal total ketika berhadapan dengan mesin yang akhirnya dapat menafsirkan instruksi bahasa alami dengan cukup akurat, dan dengan lancar menghasilkan teks dan gambar sebagai tanggapan. Belum lama ini, hal-hal seperti itu tampak mustahil.
Respons yang tepat untuk keajaiban teknologi ini bukanlah penolakan, tetapi rasa takut, dan mungkin dari sanalah kita harus memulainya. Pasalnya, keajaiban ini sangat terkonsentrasi di tangan segelintir orang yang sering kali merupakan orang-orang istimewa yang bertengger di puncak sosial kekuatan dunia yang tidak stabil. Jelas sangat bodoh untuk meletakkan kepercayaan kepada mereka dengan kecerdasan yang telah direifikasi oleh umat manusia pada umumnya, tetapi di situlah kita berada.
Di Inggris, para manajer universitas yang kecanduan teknologi saat ini telah menganjurkan kepada para staf pengajar yang kewalahan dengan beban kerja untuk beralih ke kecerdasan buatan (Artifical Intelligence/AI) generatif untuk produksi bahan ajar. Selain itu, lebih dari separuh mahasiswa sudah menggunakan teknologi yang sama untuk membantu mereka menulis esai, dan berbagai platform AI sedang diujicobakan untuk otomatisasi penilaian. Jika ditindaklanjuti sampai pada kesimpulan logisnya, perkembangan nantinya akan mengubah sistem pendidikan menjadi sekadar proses pelatihan untuk model pembelajaran mesin yang dimiliki secara pribadi: siswa, guru, dosen, semuanya diubah menjadi semacam administrator atau teknisi yang dialihdayakan, yang cenderung mempelajari “kecerdasan” dalam kotak hitam yang bukan milik mereka.
Mengingat bahwa tidak ada cara yang diketahui untuk mencegah Model Bahasa Besar (Large Language Model) dari “berhalusinasi”–menenun ketidakbenaran dan absurditas ke dalam output mereka, dengan cara yang sulit dikenali kecuali jika seseorang telah melakukan pekerjaan yang relevan itu sendiri–maka para pengelola standar intelektual yang tersisa akan direduksi perannya menjadi sekadar pemberi umpan balik korektif terhadap omong kosong mesin. Jika orang tidak melakukan fungsi ini, halusinasi akan menyebar tanpa terkendali.
Web–yang pernah dibayangkan, berdasarkan CERN, sebagai semacam komunitas ilmiah yang ideal–kini telah dibanjiri oleh ocehan sistem statistik. Seperti halnya limbah fisik yang dikirim ke negara-negara Selatan untuk dibuang, limbah digital juga dibuang ke negara-negara miskin di dunia: di luar bahasa-bahasa yang memiliki sumber daya yang lebih baik, terjemahan mesin yang berkualitas rendah dari konten berbahasa Inggris berkualitas rendah kini mendominasi web. Hal ini, tentu saja, berisiko meracuni salah satu sumber utama yang selama ini digunakan oleh model AI generatif hingga saat ini, sehingga menimbulkan momok lingkaran degeneratif yang serupa dengan siklus protein pada penyakit Creutzfeldt-Jakob–pembelajaran mesin berubah menjadi kebalikannya.
Manusia, tidak diragukan lagi, akan dipanggil untuk memperbaiki kecenderungan tersebut, menyaring, mengoreksi, dan menyusun data pelatihan untuk proses yang meninggalkan jejak kehancuran ini. Namun, pendidik tentu saja harus terdidik, dan bahkan ketika pasar buku dipenuhi dengan sampah yang dihasilkan secara otomatis, budaya tempat para pendidik masa depan akan belajar tidak dapat dianggap remeh. Dalam sebuah kutipan yang terkenal, Marx muda berpendapat bahwa proses transformasi diri yang terlibat dalam pembelajaran yang sesungguhnya menyiratkan transformasi radikal dalam situasi pembelajaran itu sendiri. Jika pembelajaran saat ini berisiko direduksi menjadi pemeriksaan kewarasan pada output mesin orang lain, memperhalus hubungan produksi yang secara struktural berlawanan dengan pembelajar, langkah pertama menuju pendidikan mandiri harus melibatkan penolakan untuk berpartisipasi dalam penerapan teknologi ini.
Meskipun AI koneksionis yang mendasari perkembangan ini memiliki akar yang bahkan lebih tua dari komputer elektronik, perkembangannya tidak dapat dipisahkan dari dinamika dunia kontemporer yang diliputi krisis beruntun. Sistem pendidikan yang sudah terancam runtuh menyediakan lahan subur untuk pengembangan teknologi yang berbahaya ini, baik itu didorong oleh keputusasaan, kecerdikan, atau sinisme dari para pelaku. Layanan kesehatan, di mana risiko langsungnya mungkin lebih tinggi, adalah domain lain yang ingin ditampilkan oleh para promotornya sebagai sejalan dengan perombakan berbasis AI. Kita mungkin melihat perkembangan ini sebagai pertanda tanggapan masa depan terhadap keadaan darurat iklim. Lupakan skenario apokaliptik standar yang dijajakan oleh para nabi Kecerdasan Buatan; mereka adalah pengalih perhatian dari bencana yang sudah ada di depan mata.
IndoPROGRESS adalah media murni non-profit. Demi menjaga independensi dan tetap bisa memberikan bacaan bermutu, meningkatkan layanan, dan akses gratis pembaca, kami perlu bantuan Anda.
Buku terbaru Matteo Pasquinelli, The Eye of the Master: Social History of Artificial Intelligence, mungkin merupakan upaya paling canggih sejauh ini untuk membangun tanggapan teoretis-kritis terhadap perkembangan ini. Judulnya agak kurang tepat: tidak ada banyak sejarah sosial di sini–tidak dalam pengertian konvensional. Memang, seperti halnya dengan A People’s History of Computing in the United States (2018) karya Joy Lisi Rankin, akan sulit untuk menyusun sejarah seperti itu untuk ranah teknis yang telah lama tersimpan dalam lingkungan akademis dan penelitian yang jarang terjadi. Yang sosial masuk ke sini melalui penafsiran ulang teoretis atas sejarah kapitalisme yang berpusat pada analisis Babbage dan Marx tentang proses kerja, yang mengidentifikasi bahkan pada mekanisasi dan pembagian kerja abad ke-19, suatu bentuk keterasingan intelektualitas manusia. Hal ini kemudian menjadi dasar bagi penjelasan tentang sejarah awal AI koneksionis. “Mata” dari judul tersebut menghubungkan otomatisasi pengenalan pola dengan sejarah pengawasan pekerjaan.
Meskipun bukan sebuah buku sejarah, buku ini disusun berdasarkan beberapa penemuan ilmiah menakjubkan yang patut mendapat perhatian serius. Telah diketahui bahwa upaya awal Babbage untuk mengotomatisasi komputasi berhubungan erat dengan perspektif ekonomi-politik tentang pembagian kerja. Perspektif yang lebih baru di sini berasal dari penelusuran Pasquinelli terhadap gagasan Marx tentang “kecerdasan umum” ke dalam buku sosialis Ricardian William Thompson pada tahun 1824, An Inquiry into the Principles of the Distribution of Wealth. Teori kerja Thompson menyoroti pengetahuan yang tersirat bahkan dalam jenis pekerjaan yang relatif rendah–sebuah pengetahuan yang diambil alih oleh mesin dan bertentangan dengan orang-orang yang darinya pengetahuan tersebut diasingkan. Hal ini menjadi dasar bagi spekulasi mengenai kemungkinan kejatuhan ekonomi dari akumulasi teknologi ini, seperti “Fragmen tentang Mesin” yang terkenal dari Marx.
Namun, pemisahan “aristokrasi buruh” dalam gerakan buruh membuat penekanan pada aspek-aspek mental dari pekerjaan menjadi berbahaya bagi kohesi. Seiring makin matangnya proyek Kapital, Marx mengesampingkan intelektualitas umum untuk pekerja kolektif, menghilangkan penekanan pada pengetahuan dan intelektualitas dan memilih fokus pada koordinasi sosial. Dalam prosesnya, teori awal tentang peran pengetahuan dan kecerdasan dalam mekanisasi dikaburkan, dan karenanya membutuhkan rekonstruksi dari perspektif zaman Model Bahasa Besar. Implikasinya bagi kita di sini adalah bahwa produksi kapitalis selalu melibatkan keterasingan pengetahuan; dan mekanisasi kecerdasan selalu tertanam dalam pembagian kerja.
Jika Pasquinelli berhenti sampai di situ, bukunya akan menjadi sebuah manuver yang menarik dalam bidang marxologi dan sejarah ekonomi politik. Namun, materi ini memberikan latar belakang teoretis untuk eksplorasi ilmiah tentang asal-usul pendekatan koneksionis terhadap pembelajaran mesin, pertama dalam ilmu saraf dan teori-teori pengorganisasian diri para pemikir sibernetik seperti Warren McCulloch, Walter Pitts, dan Ross Ashby yang terbentuk di tengah-tengah Perang Dunia Kedua dan segera setelahnya, dan kemudian pada akhir tahun 1950-an, di Laboratorium Penerbangan Cornell, munculnya “perceptron” Frank Rosenblatt–leluhur langsung paling awal dari model-model pembelajaran mesin kontemporer.
Di antara sumber daya intelektual yang menjadi dasar pengembangan perceptron adalah kontroversi antara ahli sibernetika dan psikolog Gestalt tentang pertanyaan persepsi Gestalt atau pengenalan pola; teori pikiran koneksionisme Hayek–yang mulai dikembangkannya dalam tugas yang tidak banyak diberitakan–sebagai asisten laboratorium untuk ahli neuropatologi Constantin Monakow, dan yang sejajar dengan keyakinan ekonominya; dan metode vektorisasi yang telah muncul dari statistik dan psikometri, dengan hubungan historis yang mendalam dengan gerakan eugenika (eugenics movement). Hubungan yang terakhir ini memiliki resonansi yang mencolok dalam konteks keprihatinan yang banyak dipublikasi mengenai bias rasial dan bias lainnya dalam AI kontemporer.
Kekuatan Pasquinelli yang luar biasa di sini terletak pada kemampuann untuk menguraikan detail perkembangan teknis dan intelektual dalam sejarah awal AI dengan aspirasi menuju konstruksi teori sosial yang lebih luas. Yang kurang berkembang adalah upayanya untuk mengaitkan perceptron dan semua yang mengikutinya dengan pembagian kerja, melalui penekanan pada otomatisasi bukan pada kecerdasan secara umum, namun pada persepsi -menghubungkannya dengan pekerjaan mengawasi produksi. Namun, ia mungkin masih ada benarnya pada tingkat yang paling abstrak, dalam upaya untuk membumikan kecerdasan yang teralienasi yang saat ini merangsek melalui media digital, sistem pendidikan, perawatan kesehatan, dan sebagainya, dalam sejarah yang lebih dalam tentang pengambilalihan intelektualitas yang sebelumnya tertanam dalam proses kerja di mana kerja-otak merupakan aspek yang tak terpisahkan.
Perbedaan utama dengan gelombang saat ini, mungkin, adalah status sosial dan budaya dari objek-objek otomatisasi. Jika dulu pemikiran pekerja manual diwujudkan dalam perangkat baru, dalam konteks stratifikasi di mana intelektualitas bidang tersebut ditolak, dalam model pembelajaran mesin saat ini, wacana manusialah yang diobjektivikasi dalam mesin. Jika politik permesinan tidak pernah netral, maka tingkat keumuman yang dicapai mekanisasi saat ini seharusnya membunyikan lonceng peringatan di mana-mana: hal-hal ini tidak dapat dengan aman dipercayakan kepada sekelompok kecil perusahaan dan elite teknis. Selama masih ada, alat-alat ini–betapa pun ajaibnya–akan menjadi musuh kita, dan mencari alternatif dari jalur dominan pengembangan teknis merupakan hal yang mendesak.
Rob Lucas adalah direktur penerbitan di jurnal New Left Review. Artikel ini sebelumnya telah dimuat di Sidecar New Left Review, diterjemahkan oleh Coen Husain Pontoh, dan diterbitkan ulang di sini untuk tujuan pendidikan.
