Darmowy dostęp do API LLM: Co obejmuje próba i ile to kosztuje

Krótka odpowiedź

Jeśli chcesz darmowego dostępu do API LLM bez limitów i rachunku, to nie jest to ta usługa i powinieneś być sceptyczny wobec każdego, kto to obiecuje. Uruchomienie dużego modelu językowego kosztuje prawdziwe pieniądze na moc obliczeniową GPU, więc endpoint hostowany albo pobiera opłatę za token, albo mocno Cię ogranicza, albo zwraca koszty w inny sposób. To API oferuje próbę: po rejestracji odbierasz $0,50 kredytu jednym kliknięciem na stronie klucza API. Jest jeden na osobę, ważny przez 7 dni i nie wymaga opłat za odebranie.

Po tym okresie model jest płatny zgodnie z zużyciem. Kupujesz kredyt z góry, zużywasz go po $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych, a nie ma ukrytych opłat miesięcznych. Ponieważ stawki za token są niskie, $0,50 starcza znacznie dalej, niż się wydaje. Poniższe sekcje przedstawiają konkretne liczby, abyś mógł ocenić, czy próba wystarczy do Twoich testów i ile kosztuje prawdziwe obciążenie, gdy próba się skończy.

Endpoint jest kompatybilny z OpenAI, więc jego wypróbowanie oznacza zmianę adresu bazowego URL i klucza w kodzie, który prawdopodobnie już masz. Szczegóły konfiguracji znajdziesz na stronie szybkiego startu, a lista cen na stronie z cenami.

Co kupisz za $0,50 kredytu próbnego

Ceny tokenów są podane za milion, co trudno sobie wyobrazić. Prostszym sposobem jest wycenienie jednego zapytania, a następnie podzielenie. Token to kilka znaków tekstu, więc 1000 tokenów to około jedna strona zwykłej prozy. Weźmy zapytanie z 1000 tokenami wejściowymi i 500 wyjściowymi:

• Wejście: 1000 tokenów x $0,15 / 1 000 000 = $0,00015
• Wyjście: 500 tokenów x $0,50 / 1 000 000 = $0,00025
• Razem: $0,0004 za zapytanie

Podziel kredyt przez tę kwotę: $0,50 / $0,0004 = 1250 zapytań. To wystarczy na zbudowanie prototypu, uruchomienie kilkuset promptów testowych i pozostawienie kredytu na demonstrację. Poniższa tabela pokazuje te same obliczenia dla czterech typowych kształtów zapytań.

Kształt zapytania	Tokeny wejściowe / wyjściowe	Koszt za zapytanie	Zapytania w 0,50 $
Krótkie klasyfikowanie	300 / 20	$0.000055	około 9090
Standardowy prompt testowy	1,000 / 500	$0.0004	1,250
Tura czatu z historią	3,000 / 700	$0.0008	625
Przejście przez długi dokument	80,000 / 2,000	$0.013	38

Wiersz z długim dokumentem pokazuje, gdzie próba szybko się kończy: duże prompty. Wypełnienie całego okna kontekstu 100 000 tokenów samymi danymi wejściowymi kosztuje 100 000 x $0,15 / 1 000 000 = $0,015, więc próba pokryłaby około 33 takich zapytań, zanim policzymy nawet odpowiedzi.

Limity próby, o których musisz wiedzieć

Klucz próbny jest celowo mniejszy niż pełny klucz. Pozwala na 2 równoległe zapytania i 60 zapytań na minutę, wobec 8 i 300 na minutę w pełnym kluczu. Do ręcznego testowania i jednego skryptu to wystarczy. Boli, jeśli wskażesz na niego zadanie wsadowe z wieloma workerami.

Gdy przekroczysz limit, API odpowiada kodem HTTP 429. Kod błędu to rate_limited przy przekroczeniu limitu zapytań na minutę i concurrency przy zbyt dużej liczbie zapytań w locie. Strumieniowanie ma tu znaczenie: strumieniowane zapytanie zajmuje slot równoległości do końca strumienia, więc dwa długie strumienie mogą zablokować trzecie zapytanie, nawet jeśli jesteś daleko poniżej 60 na minutę. Jeśli widzisz błędy concurrency na kluczu próbnym, zmniejsz liczbę workerów do 2.

Próbny trwa 7 dni od zgłoszenia, więc zgłoś go, gdy będziesz gotowy do testowania, a nie przy pierwszym założeniu konta. Rejestracja działa przez Google lub e-mail z hasłem, a przycisk zgłoszenia jest na stronie klucz API.

Ile kosztuje prawdziwe obciążenie po próbie

Trzy przykłady z zapisanymi obliczeniami, abyś mógł podstawić własne liczby.

Aplikacja czatu z historią

Każda tura wysyła około 3000 tokenów promptu systemowego i historii oraz otrzymuje 700 tokenów zwrotu. Kosztuje to 3000 x $0,15 / 1M = $0,00045 za wejście plus 700 x $0,50 / 1M = $0,00035 za wyjście, czyli $0,0008 za wiadomość. Tysiąc wiadomości kosztuje $0,80. Użytkownik wysyłający 40 wiadomości dziennie kosztuje Cię $0,032 dziennie, około $0,96 w 30-dniowym miesiącu.

Zadanie wsadowe

Załóżmy, że przetwarzasz 10 000 rekordów, każdy z 1500 tokenami wejściowymi i 300 wyjściowymi. Wejście to 15 000 000 tokenów, czyli 15 x $0,15 = $2,25. Wyjście to 3 000 000 tokenów, czyli 3 x $0,50 = $1,50. Całe uruchomienie kosztuje $3,75. Zauważ, że wyjście to tylko szósta część tokenów, ale 40% rachunku, ponieważ wyjście kosztuje ponad trzy razy więcej za token niż wejście.

Analiza długiego kontekstu

Przeczytanie dokumentu 80 000 tokenów i napisanie podsumowania 2000 tokenów kosztuje $0,012 za wejście i $0,001 za wyjście, czyli $0,013. Uruchom to na 100 dokumentach i wydasz $1,30.

Zapytania nieudane lub odrzucone nie są rozliczane, więc błąd w zapytaniu nie zużywa tych środków. Każda odpowiedź zawiera nagłówek X-Balance-USD, który pozwala Ci śledzić pozostałe saldo we własnym kodzie, zamiast zgadywać.

Co pokrywa doładowanie $20

Minimalne doładowanie to $20, a możesz dodać dowolną kwotę całkowitą do $500. Większe doładowania mają bonus: +5% od $50, +10% od $100 i +15% od $200. W praktyce oznacza to, że $50 daje kredyt $52,50, $100 daje $110, a $200 daje $230. Płatność tylko w kryptowalutach, USDT na TRC20 lub USDC na Base, a kredyt nigdy nie wygasa, więc nie ma presji na jego wydanie w ciągu miesiąca.

Przy $20 bez bonusu, cztery kształty zapytań z tabeli wyglądają tak:

• Krótka klasyfikacja po $0,000055: około 363 636 zapytań
• Standardowy prompt testowy po $0,0004: 50 000 zapytań
• Tura czatu po $0,0008: 25 000 zapytań
• Przejście długiego dokumentu po $0,013: około 1538 zapytań

Większość projektów bocznych na $20 starczy na miesiące. Sprawdź stronę cenową pod kątem aktualnych opcji doładowania przed płatnością.

Sposoby na wydłużenie darmowego kredytu

Kilka nawyków obniża rachunek bez zmiany działania Twojej aplikacji.

1. Ogranicz historię. Tokeny wejściowe są tańsze, ale czat, który wysyła 20 000 tokenów starych tur przy każdej wiadomości, szybko narasta. Podsumuj lub usuń stare tury.
2. Ogranicz output tam, gdzie to ma sens. max_tokens jest opcjonalne, ale ustawienie go dla krótkich zadań, takich jak klasyfikacja, zapobiega kosztownym, długim odpowiedziom, które kosztują pięciokrotność oczekiwanej ceny.
3. Użyj sekwencji stop. Parametr stop kończy generowanie po wybranym znaczniku.
4. Utrzymuj spójność promptów podczas testów. Parametr seed pomaga Ci porównać wyniki tego samego prompta, dzięki czemu nie marnujesz kredytu na gonienie szumu.
5. Sprawdzaj własne zużycie. Zapisuj blok usage z każdej odpowiedzi i mnoż go przez dwa stawki. Pięciolinowy helper czyni koszty widocznymi od pierwszego dnia.

CopyIN_PER_M, OUT_PER_M = 0.15, 0.50

def cost_usd(usage):
    return (usage.prompt_tokens * IN_PER_M
            + usage.completion_tokens * OUT_PER_M) / 1_000_000

# resp = client.chat.completions.create(...)
# print(f"${cost_usd(resp.usage):.6f}")

Aby przetestować na prawdziwym endpointzie, ustaw base URL na https://api.nsfwvideogenerator.cc/v1, użyj ID modelu uncensored i wyślij klucz jako token Bearer. quickstart zawiera działający przykład w Python, Node i curl.

Darmowe alternatywy i kiedy mają sens

Będąc szczerym: próba to nie jedyna opcja. Modele o otwartych wagach można uruchomić na własnym sprzęcie, co nie wiąże się z opłatą za token, ale wymaga maszyny z wystarczającą pamięcią oraz Twojego czasu na konfigurację i utrzymanie. Niektórzy dostawcy reklamują również darmowe poziomy z ich własnymi limitami zapytań i politykami, więc sprawdź ich aktualne cenniki i regulaminy, zamiast ufać podsumowaniom.

Powód użycia hostowanego prepaid endpointu jest prosty. Otrzymujesz model dostosowany do odpowiadania bez odmów treści dla dorosłych, stabilny interfejs kompatybilny z OpenAI i cenę do obliczenia na serwetce. Limit pozostaje: brak treści seksualnych z udziałem nieletnich. Usługa jest tylko tekstowa, nie generuje obrazów, audio ani wideo i nie oferuje embeddingów ani fine-tuning. Jeśli Twój projekt to pipeline tekstowy, np. skrypty i prompty dla narzędzi opisanych na stronie NSFW pipelines, to dokładnie ten obszar, którego potrzebujesz.

Prompty nie są używane do trenowania, co warto wiedzieć przed wklejeniem prawdziwych materiałów projektowych do dowolnego hostowanego API.

Więcej przewodników

• Darmowe LLM dla Pythona: Modele lokalne vs API hostowane
• API LLM do generowania scenariuszy NSFW: Workflow oparty na tekście
• API LLM bez cenzury dla pipeline'ów NSFW