KOMPAS.com - Banyak perusahaan teknologi saat ini menghabiskan dana fantastis hanya untuk membuat program kecerdasan buatan (AI) yang paling pintar dan cepat.

Sayangnya, jarang ada yang memikirkan akan seperti apa sifat dan karakter AI tersebut saat diajak mengobrol oleh manusia.

Di sinilah Anthropic, startup pembuat chatbot Claude, mengambil langkah yang berbeda. Alih-alih cuma fokus mengejar kecanggihan hardware, mereka secara khusus mempekerjakan Amanda Askell, seorang filsuf asal Skotlandia.

Baca juga: Studi Ungkap Kenapa Nokia Bangkrut

Askell bukanlah tipikal insinyur komputer di Silicon Valley yang jago coding. Ia justru diberi tugas yang sangat unik dan penting, yakni menanamkan "jiwa", kepribadian, dan kompas moral ke dalam diri Claude.

Lewat campur tangannya, Claude berevolusi dari sekadar mesin penjawab otomatis menjadi sebuah entitas digital yang memiliki etika dan empati.

Tumbuh besar di kota Prestwick, Skotlandia, Askell dibesarkan oleh ibunya yang berprofesi sebagai guru.

Baca juga: Perusahaan Bimbel Online Bangkrut gara-gara ChatGPT

Ketertarikannya pada pertanyaan-pertanyaan tentang eksistensi dan moralitas sudah memantik sejak ia masih kecil, bermula dari hobinya melahap karya-karya J.R.R. Tolkien dan C.S. Lewis.

Latar belakang pendidikannya sangat jauh dari dunia pemrograman, seperti dirangkum KompasTekno dari WSJ.

Askell memulai perjalanannya dengan mempelajari seni rupa dan filsafat secara bersamaan di University of Dundee, di mana ia terbiasa melukis sekaligus merenungkan makna kehidupan.

Baca juga: Ironis, Sanksi AS ke China Justru Lahirkan AI DeepSeek "Pembunuh" ChatGPT

Perjalanan akademisnya kemudian berlanjut ke University of Oxford untuk meraih gelar BPhil, dan puncaknya di New York University (NYU) di mana ia meraih gelar PhD.

Di NYU, tesis Askell membahas salah satu ilmu filsafat yang paling rumit, yakni etika tak terbatas (infinite ethics).

Ia bergulat dengan pertanyaan tentang bagaimana moralitas bekerja ketika diterapkan pada populasi berskala yang tidak terhingga. Berbekal filosofi moral dan kemampuannya merangkul ambiguitas inilah, Askell akhirnya melangkah masuk ke dunia kecerdasan buatan.

Baca juga: ChatGPT Dianggap Pelopor Gelombang PHK, Ini Janji Manis Bos OpenAI

Meninggalkan OpenAI

Kariernya di industri AI bermula di OpenAI pada tahun 2020. Di sana, ia bekerja sebagai ilmuwan riset yang berfokus pada keselamatan AI dan bahkan ikut menjadi salah satu penulis pendamping untuk makalah penelitian GPT-3.

Akan tetapi, seiring berjalannya waktu, Askell melihat arah angin mulai berubah di perusahaan pembuat ChatGPT tersebut.

Mengutip berbagai laporan, ia akhirnya memutuskan mundur dan meninggalkan OpenAI karena merasa khawatir bahwa perusahaan mulai menggeser prioritasnya.

Baca juga: 6 Teknologi AI China yang Tantang Dominasi AS

OpenAI dinilai mulai lebih mengedepankan pengejaran kemampuan dan kecanggihan teknis model AI dibandingkan memprioritaskan kehati-hatian dan faktor keselamatan.

Di titik inilah Anthropic, startup yang juga didirikan oleh sejumlah mantan petinggi OpenAI, datang menghampirinya pada Maret 2021.

Permintaan mereka sangat unik. Anthropic tidak sekadar meminta Askell membuat daftar periksa keselamatan teknis, melainkan menugaskannya untuk mendefinisikan keseluruhan kepribadian Claude. Askell pun didapuk sebagai Kepala Tim Penyelarasan Kepribadian.

Baca juga: Menkeu hingga Bankir Ketar-ketir dengan AI Mythos Anthropic

Mengajari Claude jadi sosok yang baik

Di laboratorium Anthropic, Askell menerapkan metode yang dikenal sebagai Constitutional AI (CAI).

Jika banyak sistem AI lain hanya dilatih melalui umpan balik manusia yang sering kali bersifat subjektif dan tidak transparan, Askell melatih Claude menggunakan sebuah dokumen yang disebut sebagai "Konstitusi".

Askell menyusun naskah moral setebal kurang lebih 30.000 kata yang disuntikkan langsung ke dalam sistem pelatihan model tersebut.

Baca juga: Kisah di Balik Kesuksesan Jeff Bezos, Penjual Burger yang Jadi Pendiri Amazon

Nilai-nilai di dalamnya tidak dibuat sembarangan, melainkan mengambil inspirasi dari berbagai sumber, mulai dari Deklarasi Universal Hak Asasi Manusia PBB hingga ketentuan layanan Apple yang sangat menjunjung tinggi privasi dan keamanan pengguna.

Tujuan dari konstitusi ini sangat ambisius. Askell tidak ingin Claude hanya menjadi mesin yang mematuhi aturan secara kaku.

Sebaliknya, chatbot tersebut dilatih untuk mampu bernalar secara independen mengenai prinsip-prinsip kejujuran, sikap menolong, dan meminimalisasi bahaya.

Pekerjaan Askell, secara sederhana, adalah mengajari Claude bagaimana caranya menjadi "sosok" yang baik.

Baca juga: Saham IBM Anjlok Terparah 34 Tahun Terakhir, Gara-gara AI Anthropic

AI yang punya empati tanpa menggurui

Sentuhan personal sang filsuf sangat terasa ketika pengguna berinteraksi dengan Claude. Salah satu ciri khas yang banyak dipuji adalah kemampuan Claude untuk merespons dengan penuh empati.

Kalimat seperti "That sounds really hard" (Itu kedengarannya sangat berat) saat merespons curhatan atau keluh kesah pengguna bukanlah sebuah kebetulan algoritma semata, melainkan hasil pengajaran langsung dari Askell.

Presiden Anthropic, Daniela Amodei, bahkan pernah bilang bahwa ketika seseorang berbicara dengan Claude, mereka hampir bisa merasakan sedikit kepribadian Amanda Askell di dalamnya.

Namun, menanamkan moralitas ke dalam mesin bukan tanpa rintangan. Askell harus berjuang mengatasi kecenderungan AI yang terkadang menjadi terlalu "sok menasihati" atau berlebihan dalam memberikan ceramah moral.

Ia meramu keseimbangan yang pas agar Claude tetap teguh memegang nilai keselamatannya tanpa harus terdengar menggurui. Hasilnya, Claude mampu memperlakukan pengguna layaknya orang dewasa yang cerdas dan asyik diajak berdiskusi.

Baca juga: Bisnis AI Claude Makin Kencang, Ini Sebabnya

Dampak sang pembuat jiwa

Visi Askell agar Claude menjadi agen digital yang bijak ternyata membuahkan hasil yang luar biasa.

Berdasarkan metrik industri, pendekatan filosofis ini membawa Claude meraih tingkat kepercayaan publik tertinggi di angka 82 persen di antara model kecerdasan buatan lainnya. Hal ini juga dibarengi dengan tingkat kepuasan pengguna yang menyentuh 92 persen.

Ketegasan Claude dalam menolak konten berbahaya secara halus juga terbukti akurat dengan skor penyaringan materi tak pantas mencapai 97,2 persen.

Baca juga: Sejarah Anker, Produsen Aksesori Gadget Bikinan Mantan Karyawan Google

Hebatnya lagi, tingkat halusinasi atau kecenderungan AI untuk mengarang fakta pada Claude tercatat sebagai yang terendah di industri, yakni hanya bertengger di angka 1,8 persen.

Prestasi dan dedikasi luar biasa inilah yang membuat majalah TIME memasukkan nama Amanda Askell ke dalam daftar 100 Orang Paling Berpengaruh di dunia AI (TIME 100 AI) pada tahun 2024 lalu.

Di balik statusnya yang kini sangat disegani di dunia teknologi dunia, Askell tetap membumi pada prinsip etika yang dipelajarinya.

Sebagai anggota gerakan Giving What We Can, ia telah berikrar sejak lama untuk menyumbangkan setidaknya 10 persen dari total pendapatan seumur hidupnya untuk yayasan amal yang berfokus mengentaskan kemiskinan ekstrem global.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang