Sekian Biaya yang Dihabiskan OpenAI saat Pengguna Bilang "Tolong" dan "Terima Kasih" ke ChatGPT

"Saya penasaran berapa banyak biaya listrik yang dihabiskan OpenAI karena orang-orang mengucapkan 'tolong' dan 'terima kasih' ke model AI mereka," tanya pengguna X Twitter dengan handle @tomieinlove.

Namun dia tak merinci berapa biaya yang terkuras sebenarnya. Jawaban Altman menyiratkan bahwa OpenAI tidak begitu keberatan dengan "beban" akibat kesopanan yang diberikan penggunanya.

Berapa biaya yang dihabiskan OpenAI karena kata "tolong" dan "terima kasih"?

Misalnya saja, kata "halo" bernilai 1 token, lalu "terima kasih" bernilai 2 token. Akan tetapi, nilai token tadi bisa berbeda-beda, tergantung bahasa yang diugunakan.

Jadi, biaya untuk satu kali penggunaan (yang menyertakan kata sopan) sangat kecil—sekitar 0,0000015 dollar AS sampai 0,000002 dollar AS per percakapan.

Berdasarkan perkiraan kasar, biaya ini bisa mencapai sekitar 400 dollar AS (sekitar Rp 6,7, asumsi 1 dollar AS= Rp 16.859) per hari atau 146.000 dollar AS (sekitar Rp 2,4 miliar) per tahun.

Untuk biaya listrik, Lembaga Penelitian Listrik dari Badan Informasi Energi AS memperkirakan tagihan listrik bulanan OpenAI sekitar 12 juta dollar AS (sekitar Rp 202 juta), atau sekitar 140 juta dollar AS (sekitar Rp 2,3 triliun) per tahun.

Angka ini mencakup semua interaksi, bukan hanya yang sopan. Jadi, meskipun secara teori penggunaan kata-kata sopan bisa menyumbang biaya lebih dari 10 juta dollar AS (sekitar Rp 168 miliar) per tahun, tidak ada data yang lebih rinci. Hal ini hanya diketahui oleh tim internal OpenAI, dirangkum dari Tech Spot.

Berapa banyak listrik yang dibutuhkan?

Secara teknis, sebuah model AI—termasuk yang digunakan oleh ChatGPT—memang harus melalui proses pelatihan agar mampu menjalankan berbagai tugas, mulai dari mengenali gambar hingga memahami bahasa.

Pelatihan ini memanfaatkan kumpulan data berukuran besar serta perangkat keras bertenaga tinggi, seperti graphics processing unit (GPU), tensor processing unit (TPU), dan chip kuat lainnya.

Komponen-komponen pendukung AI juga menghasilkan panas dalam jumlah signifikan selama pelatihan, sehingga dibutuhkan sistem pendingin, baik berupa pendingin udara maupun cair, yang juga memerlukan konsumsi listrik hampir setara dengan komponen utama.

GPT-3, misalnya, menghabiskan sekitar 1.287 megawatt-hour (MWh), jumlah energi yang cukup untuk menyuplai listrik bagi 120 rumah di Amerika Serikat selama satu tahun, menurut laporan KompasTekno yang bersumber dari The Economic Times, Selasa (22/4/2025).

Berapa listrik yang dibutuhkan model AI GPT-4?

OpenAI memiliki model AI GPT-4 yang lebih cerdas dibanding GPT-3. Kecanggihan GPT-4 dimungkinkan karena model AI ini dilatih menggunakan sekitar 25.000 GPU Nvidia A100 selama 90-100 hari.

Seperti disebut sebelumnya, model AI GPT-4 disebut membutuhkan diperlukan waktu 90–100 hari untuk melatih GPT-4. Itu berarti 90 x 24 jam= 2.160 jam per server atau 100 x 24 jam = 2.400 jam per server.

Saat menghitung konsumsi energi perangkat keras komputer, biasanya konsumsi energi perangkat keras dikalikan dengan apa yang disebut efektivitas penggunaan daya (PUE) pusat data, tempat perangkat keras tersebut beroperasi.

GPT-4 kemungkinan besar dilatih di pusat data Microsoft Azure, mengingat adanya kemitraan antara OpenAI dengan Microsoft. rata-rata 1,18. Perlu dicatat bahwa ini dapat bervariasi di antara pusat data.

Jadi, estimasi konsumsi listrik untuk melatih GPT-4 selama 90-100 hari adalah antara 51.772 MWh dan 57.525 MWh. Ini setara dengan konsumsi energi selama 5 hingga 6 tahun dari 1.000 rumah tangga AS pada umumnya.

Angka tersebut 40 kali lebih tinggi dari estimasi konsumsi listrik yang dikonsumsi pendahulunya, GPT-3, sebagaimana dihimpun KompasTekno dari Towards Data Center, Selasa (22/4/2025).