Demokrasi modern yang telah rentan oleh berbagai inovasi otokratik tidak boleh runtuh karena tirani teknologi.
Dominasi raksasa teknologi dalam pengembangan sistem kecerdasan buatan (artificial intelligence/AI) menunjukkan adanya kait kelindan antara inovasi dan risiko.
Pengelolaan keduanya membutuhkan pemerintahan yang berorientasi ke keadilan dan warga yang berdaya. Ini memberi kesempatan lebih baik bagi demokrasi untuk menampik suatu tirani teknologi.
Hingga sekitar abad III Sebelum Masehi, kalangan elite Yunani kuno biasa pergi ke kuil Delphi untuk bertanya kepada Pythia, yang dianggap mampu menujum masa depan. Membawa persembahan, mereka berharap Dewa Apollo bersedia membagikan kepada Pythia gambaran peristiwa mendatang. Hasil ramalan tersebut turut menjadi dasar pengambilan putusan oleh penguasa.
Dalam suatu negara modern, tentu saja, kebijakan bagus tidak bisa disandarkan pada suatu hasil ramalan. AI dapat dilibatkan untuk membantu melakukan ekstrapolasi, termasuk untuk memproyeksikan pengalaman demi menyusun suatu rencana antisipatif. Meski demikian, diperlukan aturan lebih setimbang agar AI dapat bermanfaat bagi lebih banyak orang.
Tanpa pernah menjalani kehidupan sebagai manusia, sistem AI berkemampuan untuk lebih lanjut mengisahkan masa lalu kita dan memproyeksikan masa depan kita (Vallor, 2024). Kemampuan AI untuk menghasilkan refleksi kompleks itu bersumber dari pikiran dan kebutuhan serta hasrat dan imajinasi manusia. AI menjadi istimewa dalam konstruksinya sebagai cermin kecerdasan manusia.
Jensen Huang menaksir bahwa pada dekade mendatang, kemampuan komputasi sistem AI akan berkembang menjadi sejuta kali lebih besar daripada kemampuannya sekarang. Itu berarti lonjakan kapasitas sistem tersebut untuk terus belajar, menyimpulkan, dan membayangkan. Bukan sekadar menjawab secara instan pertanyaan, AI mungkin akan memiliki kemampuan untuk berpikir kritikal.
Pemanfaatan AI demi peningkatan produktivitas dan penurunan biaya menghasilkan otomatisasi yang berdampak pada hilangnya pekerjaan dan timpangnya keahlian.
AI juga membantu dalam konteks pengawasan dan analisis perilaku, tetapi itu dikritik karena menafikan privasi dan kebebasan. Minimasi berbagai efek pengembangan sistem AI perlu menyasar pelindungan mereka yang rentan.
Para technopreneur pengembang sistem AI kini telah kelewat digdaya. Tujuh raksasa teknologi yang memusat di Amerika Serikat saat ini memiliki nilai pasar sekitar 12,3 triliun dollar AS.
Dengan dominasi mereka dalam inovasi sistem AI, mereka memiliki kendali untuk membawa arah perkembangan AI ke depan. Dibutuhkan suatu tanggung jawab etis agar perkembangan AI tidak menjauh dari kemanusiaan.
Pengembangan sistem AI itu amat kompetitif dan berbiaya sangat mahal sehingga para raksasa teknologi memilih untuk melindungi cara kerja mereka. Bersama rendahnya transparansi dan akuntabilitas, terdapat risiko bahwa sistem AI dapat menjadi cukup cerdas dan mandiri, bahkan untuk menjalankan putusan-putusan tidak etis. Ini akan menempatkan semua orang pada posisi rentan.
Kekuatan penyeimbang
Risiko menjadi bagian tidak terpisahkan dari inovasi, yang ketika diterapkan secara ceroboh justru bisa mendatangkan petaka. Perubahan iklim, termasuk contoh tragis bagaimana kemajuan berdampak ancaman kehancuran, bahkan bagi mereka yang tidak turut merusak. Kehadiran suatu pemerintahan demokratis, berikut warga yang berdaya, dapat memberi perlindungan dari risiko inovasi sistem AI.
Acemoglu dan Johnson (2023) mengingatkan bahwa kebebasan dalam pilihan teknologi dan pemanfaatannya secara lebih adil telah mengubah kehidupan banyak orang menjadi lebih baik. Karena itu, agar kesejahteraan terdistribusi lebih meluas dan masyarakat menjadi semakin berdaya, tatanan sosial itu harus dijauhkan dari kehendak untuk melayani semata kepentingan sempit elite.
Pembaruan arah perkembangan teknologi kemudian mereka ajukan sebagai alternatif. Di dalamnya, partisipasi warga untuk memperluas secara berkeadilan manfaat AI perlu dibarengi peran sentral pemerintah lewat regulasi dan pajak demi menghindari dominasi elite.
Inovasi tetap didorong, tetapi pemusatan dalam penguasaan pasar dan penguasaan teknologi dicegah agar tidak lantas merusak.
Gagasan tentang keterlibatan negara kerap dikaitkan dengan kebutuhan warga menyangkut tertib sosial, yang di dalamnya teknologi dapat mempermudah orang untuk menjalani kehidupan mereka.
Dalam tatanan semacam itu, keteraturan dan kemajuan dapat saja dicapai; tetapi, absennya aspek kontrol hanya akan memaksa banyak orang untuk bertahan dalam ketimpangan dan kerentanan.
Kemajuan teknologi dapat dimanipulasi demi tujuan-tujuan tak etis dan melahirkan tirani oleh raksasa teknologi atau pemerintahan korup.
Dominasi mereka pada akses teknologi membuka peluang penyalahgunaan AI untuk mengobarkan perang atau untuk memenangi pemilu secara tidak fair. Dibutuhkan kekuatan penyeimbang agar demokrasi tidak ditindas oleh kemajuan teknologi.
Memberi kewenangan kepada negara untuk mengatur arah perkembangan sistem AI semata tidaklah cukup. Regulasi harus terlahir dari suatu permusyawaratan rakyat dengan kemampuan untuk memitigasi halangan bagi partisipasi bermakna publik.
Kontrol silang ini diharapkan sanggup untuk meminimalkan kemungkinan kekeliruan dan untuk mendistribusikan secara lebih adil manfaat AI.
Dalam suatu konsepsi lebih utuh tentang kehidupan politik, keteraturan sepatutnya disandingkan dengan keadilan agar kebebasan tak diekspose demi memelihara dominasi.
Merujuk sejarah Yunani kuno, pembusukan sosial lewat tangan tiran merupakan penyumbang utama ambruknya demokrasi.
Demokrasi modern yang telah rentan oleh berbagai inovasi otokratik tidak boleh runtuh karena tirani teknologi.
*Artikel Telah dimuat di harian Kompas 22 Januari 2025.
