"Berapa besar biaya listrik yang dikeluarkan OpenAI hanya karena orang-orang menambahkan kata 'tolong' dan 'terima kasih' ke AI mereka?," tanya warganet tersebut.
Altman menjawab secara santai, namun tetap menyiratkan adanya pengeluaran besar yang harus ditanggung.
"Puluhan juta dolar yang digunakan dengan baik. Anda tidak akan pernah tahu," jawab Sam Altman lewat akun X miliknya, tanpa menyebutkan angka pasti.
Jawaban tersebut menarik perhatian warganet mengenai besarnya energi yang dibutuhkan untuk melatih dan mengoperasikan model AI canggih seperti GPT-4, yang menjadi otak di balik ChatGPT dan Microsoft Copilot.
Pelatihan model GPT-4 sendiri memerlukan waktu antara 90 hingga 100 hari menggunakan sekitar 25.000 unit GPU Nvidia A100. Untuk mendukung pelatihan ini, dibutuhkan sekitar 3.125 server Nvidia HGX (masing-masing berisi 8 GPU). Dengan estimasi daya maksimum 6,5 kilowatt per server, maka konsumsi listrik untuk satu server selama masa pelatihan berkisar antara 14.040 hingga 15.600 KWh.
Dikalikan jumlah server, total energi yang digunakan berkisar dari 43.875.000 hingga 48.750.000 KWh. Setelah dikalibrasi dengan efektivitas penggunaan energi pusat data (PUE) milik Microsoft Azure yang rata-ratanya adalah 1,18 maka konsumsi energi keseluruhan meningkat menjadi sekitar 51.772.500 hingga 57.525.000 KWh (atau sekitar 51.772 hingga 57.525 MWh).
Angka ini sebanding dengan kebutuhan listrik 1.000 rumah tangga di Amerika Serikat selama 5 hingga 6 tahun, dan 40 kali lebih besar dibanding konsumsi listrik yang diperlukan oleh GPT-3.
5 Tanda Kamu Butuh Istirahat Mental, Kenali Sebelum Terlambat!!
Model AI seperti GPT-4 tidak hanya dituntut untuk memahami bahasa, tetapi juga menjalankan berbagai tugas kompleks, termasuk mengolah gambar dan konteks percakapan. Untuk mencapai kecanggihan ini, pelatihan membutuhkan perangkat keras dengan daya tinggi dan sistem pendingin khusus seperti AC industri dan pendingin cair, yang semuanya menambah beban listrik secara signifikan.
Biaya energi tersebut belum termasuk biaya operasional lain seperti infrastruktur server, pemeliharaan, dan keamanan data. Sehingga, meski terdengar kecil, menambahkan satu atau dua kata sopan ke dalam prompt AI sebenarnya memberikan beban komputasi tambahan yang turut memengaruhi pengeluaran perusahaan secara keseluruhan.
Altman memang tak mempermasalahkan "kesopanan digital" ini, namun pernyataannya menegaskan betapa mahalnya menjalankan teknologi AI mutakhir di balik layar.***