Sam Altman: Jangan Terlalu Percaya pada Jawaban ChatGPT

Sam Altman, CEO OpenAI, baru-baru ini memberikan peringatan penting kepada seluruh pengguna ChatGPT agar tidak menaruh kepercayaan secara penuh terhadap jawaban yang diberikan oleh chatbot kecerdasan buatan (AI) tersebut. Peringatan itu disampaikan langsung oleh Altman dalam episode perdana siniar (podcast) resmi OpenAI berjudul “Sam Altman on AGI, GPT-5, and what’s next — the OpenAI Podcast Ep. 1”.

Dalam podcast berdurasi sekitar 40 menit itu, Altman secara terbuka membahas keterbatasan dari teknologi ChatGPT, serta pentingnya pengguna memiliki sikap kritis dan tidak mudah menerima jawaban AI tanpa verifikasi lebih lanjut.

“Orang-orang punya tingkat kepercayaan yang sangat tinggi terhadap ChatGPT, yang sebenarnya cukup mengejutkan, karena AI itu masih sering ‘berhalusinasi’,” ujar Altman.

Apa Itu Halusinasi AI?

Istilah “halusinasi” dalam dunia AI tidak berarti chatbot seperti ChatGPT benar-benar menghayal seperti manusia. Istilah ini merujuk pada kecenderungan model bahasa AI untuk menghasilkan informasi yang salah atau tidak akurat, meskipun disampaikan dalam bentuk yang terdengar sangat meyakinkan.

Altman menegaskan, meskipun ChatGPT terlihat canggih dan mampu menjawab berbagai pertanyaan dengan cepat dan rapi, pada kenyataannya sistem ini tidak benar-benar memahami konteks atau makna jawaban yang diberikannya. Model AI hanya memprediksi kata-kata berdasarkan data pelatihan yang dikumpulkan dari berbagai sumber di internet, buku, hingga dokumen resmi.

Bukan Sumber Kebenaran Mutlak

Altman ingin menekankan bahwa ChatGPT bukanlah sumber kebenaran yang bisa diandalkan sepenuhnya. “Teknologi ini belum benar-benar bisa diandalkan 100 persen. Kami harus jujur dan terbuka soal itu,” ujarnya.

Ia pun menyarankan agar pengguna memperlakukan ChatGPT seperti menggunakan kalkulator atau kamus—alat bantu yang mempermudah, namun bukan satu-satunya rujukan. Khusus untuk bidang yang memerlukan akurasi tinggi seperti kesehatan, pendidikan, riset ilmiah, atau keuangan, pengguna sangat disarankan untuk melakukan verifikasi ulang terhadap informasi yang diberikan oleh ChatGPT.

“ChatGPT itu alat bantu, bukan pengganti akal sehat kita,” tegas Altman. Dengan kata lain, penggunaan AI ini harus selalu disertai dengan nalar kritis dan pemahaman konteks.

Risiko Jika Dipercaya Sepenuhnya

Jika pengguna memperlakukan ChatGPT sebagai satu-satunya sumber informasi tanpa menyaring dan meninjau kembali jawaban yang muncul, maka ada risiko besar munculnya misinformasi atau bahkan keputusan yang keliru. Meskipun sering memberikan jawaban yang membantu, ChatGPT tidak jarang menyampaikan informasi yang tidak benar atau menyesatkan.

Altman pun secara tegas mengingatkan bahwa AI ini bisa sangat membantu jika digunakan secara bijak. Namun sebaliknya, bisa menjadi bumerang jika dipakai tanpa pertimbangan.

Potensi Iklan dan Fitur Berbayar

Selain membahas soal keandalan ChatGPT, Altman juga mengangkat topik lain yang tak kalah penting: masa depan monetisasi ChatGPT. Ia membuka kemungkinan bahwa di masa mendatang, ChatGPT mungkin akan memiliki iklan atau fitur-fitur premium yang berbayar.

Namun, Altman menekankan bahwa jika OpenAI sampai memasukkan iklan ke dalam ChatGPT, maka hal itu harus dilakukan secara transparan dan tidak boleh memengaruhi isi jawaban AI. “Kalau isi jawaban ChatGPT sampai dipengaruhi oleh siapa yang bayar lebih, itu akan menghancurkan kepercayaan pengguna,” ujarnya dengan tegas.

Pernyataan ini mencerminkan kesadaran Altman bahwa kepercayaan pengguna adalah fondasi utama dari teknologi AI. Ia tidak ingin model AI menjadi bias hanya karena tekanan komersial atau keuntungan bisnis semata.

Upaya Transparansi dan Tanggung Jawab

Pernyataan Altman dalam podcast ini menunjukkan adanya upaya transparansi dari pihak OpenAI dalam mengelola harapan pengguna terhadap AI yang mereka kembangkan. Ia tidak menutupi kelemahan teknologi ini, melainkan justru mengajak pengguna untuk lebih bijaksana dalam memanfaatkannya.

Dengan popularitas ChatGPT yang kian meningkat di seluruh dunia, termasuk di Indonesia, peringatan ini patut menjadi perhatian. Terutama bagi mereka yang menggunakan ChatGPT untuk mendukung pekerjaan, studi, atau pengambilan keputusan penting.

Dengan memahami bahwa ChatGPT bukan sumber kebenaran mutlak, kita sebagai pengguna bisa memaksimalkan manfaat AI tanpa terjerumus ke dalam jebakan misinformasi.

Podcast lengkap episode ini dapat disaksikan langsung melalui saluran resmi OpenAI, dan menjadi pembuka diskusi penting tentang bagaimana kita seharusnya menyikapi perkembangan AI yang makin cepat dan kompleks.