5 Tugas ChatGPT yang Berisiko jika Menyangkut Hukum, Kesehatan, dan Data Sensitif - Qoo

ChatGPT dapat membantu mengolah teks, merangkum dokumen, menulis kode, hingga memproses gambar hanya melalui perintah tertulis. Namun, kemampuan tersebut tidak berarti semua pekerjaan aman atau tepat diserahkan kepada chatbot.

Risiko terbesar muncul ketika percakapan melibatkan data rahasia atau keputusan yang membutuhkan ketepatan tinggi. Dalam urusan hukum, kesehatan, serta kondisi emosional, bantuan profesional tetap diperlukan.

1. Meminta Saran Hukum

ChatGPT dapat membantu menjelaskan istilah atau konsep hukum dengan bahasa yang lebih mudah dipahami. Meski demikian, chatbot tidak dapat menggantikan pengacara dalam menilai kasus, aturan, dan konsekuensi hukum secara spesifik.

Jawaban yang dihasilkan bisa tampak masuk akal, tetapi belum tentu memiliki dasar hukum yang valid. Chatbot juga berpotensi menciptakan kutipan atau preseden yang sebenarnya tidak ada.

Peneliti hukum Damien Charlotin pernah membangun basis data berisi lebih dari 2.000 kasus di berbagai negara yang bermasalah akibat penggunaan ChatGPT. Sejumlah kasus tersebut bahkan melibatkan pengacara yang menggunakan informasi hasil chatbot dalam pekerjaan mereka.

2. Menggantikan Psikolog atau Konselor

ChatGPT bisa menjadi sarana percakapan yang tersedia kapan saja tanpa pengguna harus membuat janji. Akan tetapi, respons yang terdengar empatik bukan berarti sistem tersebut benar-benar memahami kondisi emosional seseorang.

Chatbot hanya merespons berdasarkan informasi yang diberikan pengguna dalam percakapan. Dalam situasi tertentu, kecenderungan sistem untuk menyetujui keyakinan pengguna dapat memperkuat pola pikir yang keliru.

Masalah kesehatan mental yang serius membutuhkan penanganan dari psikolog, psikiater, terapis, atau tenaga profesional terkait. Penilaian profesional diperlukan karena kondisi seseorang tidak dapat dipahami hanya dari percakapan berbasis teks.

3. Mengolah Dokumen Rahasia Perusahaan

Sebagian pengguna memasukkan dokumen internal ke ChatGPT agar isi dokumen lebih cepat dipahami atau diringkas. Langkah ini berisiko karena dokumen perusahaan dapat memuat kontrak, data pelanggan, laporan keuangan internal, atau informasi dalam perjanjian kerahasiaan.

Data yang bersifat krusial sebaiknya tidak diunggah begitu saja ke dalam percakapan. Pengguna perlu memastikan dokumen yang diproses tidak mengandung informasi sensitif yang dapat membahayakan perusahaan atau pihak terkait.

4. Mendiagnosis Penyakit atau Meminta Saran Medis

ChatGPT bukan dokter dan tidak dapat melakukan pemeriksaan fisik terhadap pengguna. Sistem ini juga tidak memiliki gambaran lengkap mengenai riwayat kesehatan, gejala, maupun kondisi medis seseorang.

Jawaban medis dari chatbot dapat keliru meski disampaikan dengan bahasa yang meyakinkan. Konsultasi dengan tenaga medis profesional tetap diperlukan untuk diagnosis, pengobatan, dan perubahan pola konsumsi yang berkaitan dengan kesehatan.

Salah satu kasus yang disebutkan melibatkan pria berusia 60 tahun yang meminta saran untuk mengurangi asupan klorida dalam makanannya. Ia mengganti garam dapur dengan sodium bromide dan kemudian dirawat di rumah sakit akibat keracunan.

5. Memasukkan Kata Sandi dan Data Pribadi

Kata sandi, nama pengguna, nomor identitas, informasi rekening, serta data pribadi lain tidak seharusnya dimasukkan ke percakapan ChatGPT. Informasi seperti itu dapat menimbulkan risiko keamanan apabila terekspos atau terjadi kebocoran data.

Fast Company pernah menemukan sekitar 4.500 percakapan pengguna ChatGPT muncul dalam hasil pencarian Google. Meski OpenAI telah menghapus percakapan tersebut, peristiwa itu menunjukkan pentingnya membatasi informasi sensitif yang dibagikan ke layanan berbasis AI.

Pengguna dapat memanfaatkan ChatGPT untuk pekerjaan umum yang tidak memerlukan keputusan profesional atau data rahasia. Untuk informasi yang berdampak pada hukum, kesehatan, keamanan, dan privasi, verifikasi serta bantuan ahli tetap menjadi langkah penting.