Oleh: Nelson Aguillar - diterjemahkan dari CNET
Meskipun saya penggemarnya, saya juga tahu keterbatasan ChatGPT, dan Anda pun harus tahu, baik pemula maupun yang sudah berpengalaman. ChatGPT memang menyenangkan untuk mencoba resep baru, belajar bahasa asing, atau merencanakan liburan, tetapi Anda tentu tidak ingin memberikan ChatGPT kebebasan penuh. ChatGPT tidak sempurna dalam segala hal -- bahkan, bisa sangat buruk dalam banyak hal.
ChatGPT terkadang berhalusinasi dan menyajikan informasi sebagai fakta, dan mungkin tidak selalu memiliki informasi terkini. Ia sangat percaya diri, bahkan ketika informasinya jelas salah. (Hal yang sama juga berlaku untuk alat AI generatif lainnya, tentu saja.)
Hal itu menjadi penting seiring meningkatnya risiko, seperti ketika pajak , tagihan medis, jadwal sidang, atau saldo bank masuk ke dalam obrolan. Jika Anda ragu kapan beralih ke ChatGPT mungkin berisiko, berikut 11 skenario di mana Anda harus menghentikan AI dan memilih opsi lain. Jangan gunakan ChatGPT untuk hal-hal berikut.
(Pengungkapan: Ziff Davis, perusahaan induk CNET, pada bulan April mengajukan gugatan terhadap pembuat ChatGPT OpenAI, dengan tuduhan melanggar hak cipta Ziff Davis dalam pelatihan dan pengoperasian sistem AI-nya.)
1. Mendiagnosis masalah kesehatan fisik
Saya memang pernah memberi tahu ChatGPT tentang gejala saya karena penasaran, tetapi jawaban yang muncul bisa terasa seperti mimpi buruk terburuk. Saat Anda memeriksa kemungkinan diagnosis, Anda bisa saja beralih dari dehidrasi dan flu ke jenis kanker tertentu. Saya punya benjolan di dada dan memasukkan informasi itu ke ChatGPT. Ternyata, ChatGPT memberi tahu saya bahwa saya mungkin menderita kanker. Luar biasa! Faktanya, saya menderita lipoma, yang bukan kanker dan terjadi pada 1 dari 1.000 orang. Dokter berlisensi saya memberi tahu saya hal itu.
Bukan berarti ChatGPT tidak bermanfaat bagi kesehatan : ChatGPT dapat membantu Anda menyusun pertanyaan untuk janji temu berikutnya, menerjemahkan jargon medis, dan mengatur linimasa gejala sehingga Anda dapat datang dengan lebih siap. Hal ini juga dapat mengurangi beban kunjungan dokter. Namun, AI tidak dapat meminta hasil lab atau memeriksa Anda, dan jelas tidak memiliki asuransi malapraktik. Ketahui batasannya.
2. Menjaga kesehatan mental Anda
ChatGPT memang menawarkan teknik grounding, tetapi tidak bisa menjawab telepon saat Anda benar-benar bermasalah dengan kesehatan mental. Saya tahu beberapa orang menggunakan ChatGPT sebagai terapis pengganti. Corin Cesaric dari CNET merasa aplikasi ini cukup membantu dalam mengatasi kesedihan , asalkan ia tetap mengingat batasannya. Namun, sebagai seseorang yang memiliki terapis yang sangat nyata dan manusiawi, saya dapat memberi tahu Anda bahwa ChatGPT hanyalah tiruan yang samar, dan sangat berisiko.
ChatpGPT tidak memiliki pengalaman langsung, tidak dapat membaca bahasa tubuh atau nada bicara Anda, dan tidak memiliki kapasitas untuk berempati secara tulus. Ia hanya dapat menirunya. Terapis berlisensi beroperasi berdasarkan mandat hukum dan kode etik profesional yang melindungi Anda dari bahaya. ChatGPT tidak. Sarannya dapat meleset, mengabaikan tanda-tanda bahaya, atau secara tidak sengaja memperkuat bias yang tertanam dalam data pelatihannya. Serahkan pekerjaan yang lebih mendalam — pekerjaan yang sulit, rumit, dan manusiawi — kepada manusia sungguhan yang terlatih untuk menanganinya dengan tepat. Jika Anda atau orang yang Anda cintai sedang mengalami krisis, silakan hubungi 988 di AS, atau hotline lokal Anda.
3. Membuat keputusan keselamatan segera
Jika alarm karbon monoksida Anda mulai berbunyi, jangan buka ChatGPT dan tanyakan apakah Anda benar-benar dalam bahaya. Saya akan keluar dulu dan bertanya kemudian. Model bahasa yang besar tidak dapat mencium bau gas, mendeteksi asap, atau mengirimkan kru darurat. Dalam krisis, setiap detik yang Anda habiskan untuk mengetik adalah satu detik Anda tidak melakukan evakuasi atau menghubungi 911. ChatGPT hanya dapat bekerja dengan potongan-potongan informasi yang Anda berikan, dan dalam keadaan darurat, mungkin terlalu sedikit dan terlambat. Jadi, perlakukan chatbot Anda sebagai penjelas pascainsiden, bukan sebagai penanggap pertama.
4. Mendapatkan perencanaan keuangan atau pajak yang dipersonalisasi
ChatGPT dapat menjelaskan apa itu ETF, tetapi tidak mengetahui rasio utang terhadap pendapatan Anda, braket pajak negara bagian, status pengajuan, potongan pajak, tujuan pensiun, atau selera risiko. Karena data pelatihannya mungkin tidak mencakup tahun pajak berjalan, dan kenaikan suku bunga terbaru, panduannya mungkin sudah tidak relevan saat Anda menekan enter.
Saya punya teman yang memasukkan total 1099 mereka ke ChatGPT untuk SPT DIY. Chatbot ini tidak bisa menggantikan Akuntan Publik Bersertifikat (CPA) yang bisa mendeteksi potongan tersembunyi senilai beberapa ratus dolar atau menandai kesalahan yang bisa merugikan Anda hingga ribuan dolar. Jika uang sungguhan, tenggat waktu pelaporan, dan denda IRS dipertaruhkan, hubungi profesional, bukan AI. Perlu diketahui juga bahwa apa pun yang Anda bagikan dengan chatbot AI kemungkinan akan menjadi bagian dari data pelatihannya, termasuk pendapatan Anda, nomor Jaminan Sosial Anda, dan informasi rute bank Anda.
5. Berurusan dengan data rahasia atau yang diatur
Sebagai jurnalis teknologi, saya melihat embargo masuk ke kotak masuk saya setiap hari, tetapi saya tidak pernah berpikir untuk memasukkan siaran pers ini ke ChatGPT untuk mendapatkan ringkasan atau penjelasan lebih lanjut. Soalnya, jika saya melakukannya, teks tersebut akan berada di luar kendali saya dan masuk ke server pihak ketiga di luar batasan perjanjian kerahasiaan saya.
Risiko yang sama berlaku untuk kontrak klien, rekam medis, atau apa pun yang dilindungi oleh Undang-Undang Privasi Konsumen California, HIPAA, GDPR, atau undang-undang rahasia dagang biasa. Risiko ini juga berlaku untuk pajak penghasilan, akta kelahiran, SIM, dan paspor Anda. Setelah informasi sensitif berada di jendela prompt, Anda tidak dapat menjamin di mana informasi tersebut disimpan, siapa yang dapat meninjaunya secara internal, atau apakah informasi tersebut dapat digunakan untuk melatih model di masa mendatang. ChatGPT juga tidak kebal terhadap peretas dan ancaman keamanan. Jika Anda tidak akan menempelkannya ke kanal Slack publik, jangan menempelkannya ke ChatGPT.
6. Melakukan hal yang ilegal
Yang ini sudah jelas maksudnya.
7. Menyontek saat mengerjakan tugas sekolah
Bohong kalau bilang saya tidak pernah menyontek saat ujian. Waktu SMA, saya pakai iPod Touch generasi pertama untuk mengintip beberapa persamaan rumit yang susah saya hafal di kalkulus AP, aksi yang sebenarnya tidak terlalu saya banggakan. Tapi dengan AI, skala kecurangan zaman sekarang membuat hal itu terlihat sangat jinak.
Turnitin dan detektor serupa semakin baik dalam mendeteksi prosa yang dihasilkan AI setiap semester, dan para profesor sudah bisa mendengar "suara ChatGPT" dari jarak jauh (terima kasih sudah merusak em-dash kesayangan saya). Skorsing, pengusiran, dan pencabutan lisensi adalah risiko nyata. Sebaiknya gunakan ChatGPT sebagai teman belajar, bukan penulis bayangan. Anda juga akan merugi jika Anda membiarkan ChatGPT mengerjakannya untuk Anda.
8. Memantau informasi dan berita terkini
Sejak OpenAI meluncurkan Pencarian ChatGPT pada akhir 2024 (dan membukanya untuk umum pada Februari 2025), chatbot ini dapat mengambil halaman web terbaru, harga saham, harga bensin , skor olahraga, dan angka-angka real-time lainnya saat Anda memintanya, lengkap dengan kutipan yang dapat diklik sehingga Anda dapat memverifikasi sumbernya. Namun, chatbot ini tidak akan mengalirkan pembaruan berkelanjutan secara otomatis. Setiap pembaruan membutuhkan perintah baru, jadi ketika kecepatan sangat penting, umpan data langsung, siaran pers resmi, situs berita, pemberitahuan push, dan liputan streaming tetap menjadi pilihan terbaik Anda.
9. Perjudian
Saya sebenarnya pernah beruntung dengan ChatGPT dan berhasil mendapatkan parlay tiga arah selama kejuaraan bola basket putra NCAA, tetapi saya tidak akan pernah merekomendasikannya kepada siapa pun. Saya pernah melihat ChatGPT berhalusinasi dan memberikan informasi yang salah tentang statistik pemain, cedera yang salah dilaporkan, dan rekor menang-kalah. Saya hanya mencairkan uang karena saya memeriksa ulang setiap klaim dengan peluang waktu nyata, dan itu pun saya beruntung. ChatGPT tidak dapat melihat skor pertandingan besok, jadi jangan mengandalkannya semata-mata untuk mendapatkan kemenangan itu.
10. Menyusun surat wasiat atau kontrak lain yang mengikat secara hukum
ChatGPT sangat bagus untuk menguraikan konsep-konsep dasar. Jika Anda ingin tahu lebih banyak tentang perwalian hidup yang dapat dibatalkan, silakan bertanya. Namun, saat Anda memintanya untuk menyusun teks hukum yang sebenarnya, Anda sedang mengambil risiko. Aturan hukum warisan dan keluarga berbeda-beda di setiap negara bagian, dan terkadang bahkan di setiap wilayah, jadi melewatkan tanda tangan saksi atau menghilangkan klausul notaris dapat membuat seluruh dokumen Anda dibatalkan. Biarkan ChatGPT membantu Anda menyusun daftar pertanyaan untuk pengacara Anda, lalu bayar pengacara tersebut untuk mengubah daftar tersebut menjadi dokumen yang sah di pengadilan.
11. Membuat karya seni
Ini bukan kebenaran objektif, hanya pendapat saya sendiri, tapi saya tidak percaya AI seharusnya digunakan untuk menciptakan karya seni. Saya sama sekali tidak anti-kecerdasan buatan. Saya menggunakan ChatGPT untuk bertukar pikiran tentang ide-ide baru dan membantu saya menulis judul, tapi itu suplemen, bukan substitusi. Silakan saja gunakan ChatGPT, tapi tolong jangan gunakan untuk membuat karya seni yang kemudian Anda akui sebagai karya Anda sendiri. Agak menjijikkan.
Komentar