Jawaban singkat
Jika Anda menginginkan akses api llm gratis tanpa batas dan tanpa tagihan, ini bukan layanan itu, dan Anda harus curiga terhadap siapa pun yang menjanjikannya. Menjalankan model bahasa besar membutuhkan biaya nyata dalam waktu GPU, sehingga endpoint yang dihosting baik mengenakan biaya per token, membatasi Anda secara ketat, atau membayar sendiri dengan cara lain. Apa yang ditawarkan API ini adalah uji coba: setelah masuk Anda mengklaim $0,50 kredit dengan satu klik di halaman kunci API. Ini satu per orang, berlaku selama 7 hari, dan Anda tidak membayar apa pun untuk mengklaimnya.
Setelah itu, model menggunakan sistem bayar sesuai pemakaian. Anda membeli saldo prabayar, menghabiskannya pada $0.15 per 1M token input dan $0.50 per 1M token output, tanpa biaya bulanan tersembunyi. Karena tarif per token rendah, $0.50 memiliki daya beli jauh lebih besar daripada yang terlihat. Bagian di bawah memberikan angka nyata agar Anda dapat memutuskan apakah uji coba cukup untuk pengujian Anda, dan berapa biaya beban kerja nyata setelah masa uji coba berakhir.
Endpoint ini kompatibel dengan OpenAI, sehingga mencobanya berarti mengubah URL dasar dan kunci dalam kode yang mungkin sudah Anda miliki. Anda dapat membaca detail pengaturan di halaman panduan awal, dan daftar harga tersedia di halaman harga.
Apa yang bisa dibeli dengan $0,50 kredit uji coba
Harga token dikutip per juta, yang sulit dibayangkan. Cara yang lebih sederhana adalah menentukan harga satu permintaan, lalu membagi. Token adalah beberapa karakter teks, jadi 1.000 token kira-kira setara dengan satu halaman prosa biasa. Ambil sebuah permintaan dengan 1.000 token input dan 500 token output:
- Input: 1.000 token x $0,15 / 1.000.000 = $0,00015
- Output: 500 token x $0,50 / 1.000.000 = $0,00025
- Total: $0,0004 per permintaan
Bagi uji coba dengan itu: $0,50 / $0,0004 = 1.250 permintaan. Itu cukup untuk membuat prototipe, menjalankan beberapa ratus prompt pengujian, dan masih memiliki sisa kredit untuk demo. Tabel di bawah ini menunjukkan aritmatika yang sama untuk empat bentuk permintaan umum.
| Bentuk permintaan | Token input / output | Biaya per permintaan | Permintaan dalam $0,50 |
|---|---|---|---|
| Klasifikasi singkat | 300 / 20 | $0.000055 | sekitar 9.090 |
| Prompt pengujian standar | 1,000 / 500 | $0.0004 | 1,250 |
| Putaran obrolan dengan riwayat | 3,000 / 700 | $0.0008 | 625 |
| Pemindaian dokumen panjang | 80,000 / 2,000 | $0.013 | 38 |
Baris dokumen panjang menunjukkan di mana uji coba habis dengan cepat: prompt besar. Mengisi seluruh jendela konteks 100.000 token hanya dengan input saja berharga 100.000 x $0,15 / 1.000.000 = $0,015, jadi uji coba akan mencakup sekitar 33 permintaan sebesar itu sebelum Anda bahkan menghitung jawabannya.
Batas uji coba yang harus Anda ketahui
Kunci uji coba sengaja lebih kecil daripada kunci penuh. Ini memungkinkan 2 permintaan paralel dan 60 permintaan per menit, dibandingkan dengan 8 paralel dan 300 per menit pada kunci penuh. Untuk pengujian manual dan satu skrip ini sudah cukup. Ini akan terasa jika Anda mengarahkan pekerjaan batch dengan banyak pekerja ke sana.
Ketika Anda melebihi batas, API menjawab dengan HTTP 429. Kode kesalahan adalah rate_limited ketika Anda melebihi permintaan per menit dan concurrency ketika terlalu banyak permintaan yang sedang berlangsung pada satu waktu. Streaming penting di sini: permintaan streaming memegang slot konkurensinya hingga stream berakhir, sehingga dua stream panjang dapat memblokir permintaan ketiga bahkan jika Anda jauh di bawah 60 per menit. Jika Anda melihat kesalahan concurrency pada kunci uji coba, kurangi jumlah pekerja Anda menjadi 2.
Uji coba berlangsung 7 hari dari klaim, jadi klaim ketika Anda siap untuk menguji, bukan ketika Anda pertama kali membuat akun. Pendaftaran dilakukan dengan Google atau dengan email dan kata sandi, dan tombol klaim ada di halaman kunci API.
Berapa biaya beban kerja nyata setelah uji coba
Tiga contoh dengan perhitungan yang dijabarkan, sehingga Anda dapat memasukkan angka Anda sendiri.
Aplikasi chat dengan riwayat
Setiap giliran mengirim sekitar 3.000 token dari prompt sistem dan riwayat, serta menerima 700 token kembali. Itu memakan biaya 3.000 x $0.15 / 1M = $0.00045 untuk input ditambah 700 x $0.50 / 1M = $0.00035 untuk output, sehingga $0.0008 per pesan. Seribu pesan memakan biaya $0.80. Pengguna yang mengirim 40 pesan sehari akan menghabiskan biaya $0.032 sehari, atau sekitar $0.96 dalam satu bulan 30 hari.
Pekerjaan batch
Katakanlah Anda memproses 10.000 rekaman, masing-masing dengan 1.500 token input dan 300 token output. Input adalah 15.000.000 token, yang bernilai 15 x $0.15 = $2.25. Output adalah 3.000.000 token, yang bernilai 3 x $0.50 = $1.50. Total biaya eksekusi adalah $3.75. Perhatikan bahwa output hanya seperenam dari token di sini tetapi 40% dari tagihan, karena output lebih mahal lebih dari tiga kali lipat per token dibandingkan input.
Analisis konteks panjang
Membaca dokumen 80.000 token dan menulis ringkasan 2.000 token berharga $0,012 untuk input dan $0,001 untuk output, jadi $0,013. Jalankan pada 100 dokumen dan Anda telah menghabiskan $1,30.
Permintaan yang gagal atau ditolak tidak dibebankan biaya, sehingga permintaan yang gagal tidak menguras total ini. Setiap respons membawa header X-Balance-USD, yang memungkinkan Anda memantau saldo yang tersisa dari kode Anda sendiri daripada menebak-nebak.
Apa yang dicakup oleh isi saldo $20
Isi saldo minimum adalah $20, dan Anda dapat menambahkan jumlah bulat apa pun hingga $500. Isi saldo yang lebih besar membawa bonus: +5% dari $50, +10% dari $100 dan +15% dari $200. Dalam praktiknya itu berarti $50 memberi Anda kredit $52,50, $100 memberi $110 dan $200 memberi $230. Pembayaran hanya dalam kripto, USDT di TRC20 atau USDC di Base, dan kredit tidak pernah kedaluwarsa, jadi tidak ada tekanan untuk menghabiskannya dalam sebulan.
Pada $20 tanpa bonus, empat bentuk permintaan yang sama dari tabel bekerja seperti ini:
- Klasifikasi pendek pada $0.000055: sekitar 363.636 permintaan
- Prompt pengujian standar pada $0.0004: 50.000 permintaan
- Giliran chat pada $0.0008: 25.000 permintaan
- Lolos dokumen panjang pada $0.013: sekitar 1.538 permintaan
Untuk sebagian besar proyek sampingan, $20 adalah beberapa bulan penggunaan. Periksa halaman harga untuk opsi pengisian ulang saat ini sebelum Anda membayar.
Cara untuk memperpanjang kredit gratis lebih jauh
Beberapa kebiasaan memotong tagihan tanpa mengubah apa yang dilakukan aplikasi Anda.
- Potong riwayat. Token input adalah sisi murah, tetapi chat yang mengirim ulang 20.000 token dari giliran lama pada setiap pesan terakumulasi. Rangkum atau buang giliran lama.
- Batasi output di tempat yang tepat.
max_tokensbersifat opsional, tetapi mengaturnya untuk tugas singkat seperti klasifikasi mencegah jawaban bertele-tele memakan biaya lima kali lipat dari yang Anda perkirakan. - Gunakan urutan berhenti. Parameter
stopmengakhiri generasi pada penanda yang Anda pilih. - Jaga prompt tetap stabil saat pengujian. Parameter
seedmembantu Anda membandingkan jalannya prompt yang sama, sehingga Anda tidak membakar kredit mengejar noise. - Baca penggunaan Anda sendiri. Catat blok
usagedari setiap respons dan kalikan dengan dua tarif tersebut. Helper lima baris membuat biaya terlihat sejak hari pertama.
IN_PER_M, OUT_PER_M = 0.15, 0.50
def cost_usd(usage):
return (usage.prompt_tokens * IN_PER_M
+ usage.completion_tokens * OUT_PER_M) / 1_000_000
# resp = client.chat.completions.create(...)
# print(f"${cost_usd(resp.usage):.6f}")Jika Anda ingin mencobanya terhadap endpoint nyata, atur URL dasar ke https://api.nsfwvideogenerator.cc/v1, gunakan ID model uncensored, dan kirim kunci Anda sebagai token Bearer. panduan awal memiliki contoh kerja di Python, Node dan curl.
Alternatif gratis dan kapan itu masuk akal
Menjadi lurus tentang ini: uji coba bukan satu-satunya rute. Model bobot terbuka dapat dijalankan pada perangkat keras Anda sendiri, yang tidak memiliki biaya per token tetapi membutuhkan mesin dengan memori yang cukup dan waktu Anda untuk mengaturnya dan menjalankannya. Beberapa penyedia juga mengiklankan tier gratis, dengan batas laju dan kebijakan mereka sendiri, jadi periksa harga dan ketentuan saat ini mereka daripada mempercayai ringkasan.
Alasan menggunakan endpoint prabayar yang dihosting adalah sederhana. Anda mendapatkan model yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, antarmuka kompatibel OpenAI yang stabil, dan harga yang dapat Anda hitung di atas serbet. Batas keras tetap ada: tidak ada konten seksual yang melibatkan anak di bawah umur. Layanan ini hanya teks, jadi tidak akan menghasilkan gambar, audio atau video, dan tidak menawarkan embedding atau fine-tuning. Jika proyek Anda adalah pipa teks, seperti skrip dan prompt untuk alat hilir yang dijelaskan di halaman NSFW pipelines, itu adalah irisan yang Anda butuhkan.
Prompt tidak digunakan untuk pelatihan, yang layak diketahui sebelum Anda menempelkan materi proyek nyata ke API yang dihosting.
