Бесплатный доступ к LLM API: что покрывает пробный период и сколько это стоит

Краткий ответ

Если вы хотите бесплатный доступ к LLM API без лимитов и счетов, это не тот сервис, и стоит насторожиться, если кто-то обещает именно это. Запуск большой языковой модели стоит реальных денег на GPU, поэтому хостинг либо берёт оплату за токен, либо жёстко ограничивает вас, либо окупается иным способом. Этот API предлагает пробный период: после регистрации вы получаете $0,50 баланса одним кликом на странице API-ключа. Один на человека, срок действия — 7 дней, получить его бесплатно.

Далее модель работает оплата по факту использования. Вы покупаете предоплаченный баланс, тратите его по $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов, и за этим не скрывается ежемесячная плата. Из-за низких ставок за токен $0,50 позволяют сделать гораздо больше, чем кажется. В разделах ниже приведены реальные цифры, чтобы вы могли решить, хватит ли пробного баланса для теста, и какова будет стоимость реальной нагрузки.

Эндпоинт совместим с OpenAI, поэтому попробовать его означает изменить базовый URL и ключ в коде, который у вас, вероятно, уже есть. Подробности настройки на странице быстрого старта, а прайс-лист — на странице цен.

Что можно получить на $0,50 пробного баланса

Цены на токены указаны за миллион, что трудно оценить на глаз. Проще оценить стоимость одного запроса, а затем разделить. Токен — это несколько символов текста, поэтому 1 000 токенов — это примерно страница обычного текста. Возьмём запрос с 1 000 входных и 500 выходных токенов:

• Вход: 1 000 токенов x $0,15 / 1 000 000 = $0,00015
• Вывод: 500 токенов x $0,50 / 1 000 000 = $0,00025
• Итого: $0,0004 за запрос

Разделите пробный баланс на эту сумму: $0,50 / $0,0004 = 1 250 запросов. Этого хватит, чтобы создать прототип, запустить несколько сотен тестовых промптов и оставить остаток кредита для демонстрации. В таблице ниже показана арифметика для четырех типовых форматов запросов.

Форма запроса	Входные / выходные токены	Стоимость запроса	Запросы на $0,50
Классификация короткая	300 / 20	$0.000055	около 9 090
Стандартный тестовый промпт	1,000 / 500	$0.0004	1,250
Ход чата с историей	3,000 / 700	$0.0008	625
Обработка длинного документа	80,000 / 2,000	$0.013	38

Строка с длинным документом показывает, где пробный баланс быстро заканчивается: большие промпты. Заполнение всего контекстного окна на 100 000 токенов только входными данными стоит 100 000 × $0,15 / 1 000 000 = $0,015, так что пробного баланса хватит примерно на 33 таких запроса, даже не считая ответы.

Лимиты пробного периода, о которых нужно знать

Пробный ключ намеренно ограничен по сравнению с полным. Он позволяет выполнять 2 параллельных запроса и 60 запросов в минуту, против 8 параллельных и 300 в минуту для полного ключа. Для ручного тестирования и одного скрипта этого достаточно. Это станет проблемой, если направить на него пакетное задание с множеством воркеров.

При превышении лимита API возвращает HTTP 429. Код ошибки rate_limited при превышении запросов в минуту и concurrency при превышении одновременных запросов. Потоковая передача важна здесь: потоковый запрос удерживает слот параллельности до конца потока, поэтому два длинных потока могут заблокировать третий запрос, даже если вы далеко ниже 60 в минуту. Если видите ошибки concurrency на пробном ключе, снизьте количество воркеров до 2.

Пробный период длится 7 дней с момента получения, поэтому получайте его, когда готовы тестировать, а не при первой регистрации. Регистрация работает через Google или email и пароль, а кнопка получения находится на странице API-ключа.

Сколько стоит реальная нагрузка после пробного периода

Три примера с расчётами, чтобы вы могли подставить свои числа.

Чат-приложение с историей

Каждый ход отправляет около 3 000 токенов системного промпта и истории и получает 700 токенов обратно. Это стоит 3 000 x $0,15 / 1 000 000 = $0,00045 за вход плюс 700 x $0,50 / 1 000 000 = $0,00035 за выход, итого $0,0008 за сообщение. Тысяча сообщений стоит $0,80. Пользователь, отправляющий 40 сообщений в день, стоит вам $0,032 в день, около $0,96 за 30-дневный месяц.

Пакетная обработка

Допустим, вы обрабатываете 10 000 записей, каждая с 1 500 входными и 300 выходными токенами. Вход — 15 000 000 токенов, что составляет 15 x $0,15 = $2,25. Выход — 3 000 000 токенов, что составляет 3 x $0,50 = $1,50. Весь запуск стоит $3,75. Обратите внимание, что выход составляет лишь шестую часть токенов, но 40% счёта, так как выход стоит более чем в три раза дороже за токен, чем вход.

Анализ длинного контекста

Чтение документа на 80 000 токенов и написание 2 000 токенов краткого содержания стоит $0,012 за вход и $0,001 за выход, итого $0,013. Запустите это на 100 документах, и вы потратите $1,30.

Неудачные или отклонённые запросы не оплачиваются, поэтому запрос с ошибкой не уменьшает эти суммы. Каждый ответ содержит заголовок X-Balance-USD, который позволяет отслеживать оставшийся баланс из вашего кода, а не гадать.

Что покрывает пополнение на $20

Минимальное пополнение — $20, можно добавить любую целую сумму до $500. Большие пополнения дают бонус: +5% от $50, +10% от $100 и +15% от $200. На практике это означает, что $50 дают $52,50 кредита, $100 дают $110, а $200 дают $230. Оплата только криптовалютой: USDT на TRC20 или USDC на Base, и кредит не истекает, поэтому нет давления потратить его за месяц.

При $20 без бонуса те же четыре формата запросов из таблицы рассчитываются так:

• Короткая классификация по $0,000055: около 363 636 запросов
• Стандартный тестовый промпт по $0,0004: 50 000 запросов
• Ход чата по $0,0008: 25 000 запросов
• Обработка длинного документа по $0,013: около 1 538 запросов

Для большинства побочных проектов $20 — это месяцы использования. Проверьте страницу цен на текущие варианты пополнения перед оплатой.

Способы продлить бесплатный баланс

Несколько привычек снижают счёт, не меняя функционал приложения.

1. Обрезайте историю. Входные токены — дешёвая сторона, но чат, отправляющий 20 000 токенов старых ходов при каждом сообщении, быстро наберёт сумму. Резюмируйте или удаляйте старые ходы.
2. Ограничивайте вывод там, где это уместно. max_tokens — необязательный параметр, но его установка для коротких задач, таких как классификация, предотвращает ситуацию, когда болтливый ответ стоит в пять раз дороже ожидаемого.
3. Используйте последовательности остановки. Параметр stop завершает генерацию по выбранному вами маркеру.
4. Сохраняйте стабильность промптов при тестировании. Параметр seed помогает сравнивать запуски одного промпта, чтобы не сжигать кредит, охотясь за шумом.
5. Следите за своим потреблением. Логируйте блок usage из каждого ответа и умножайте на тарифы. Пятистрочный помощник покажет стоимость с первого дня.

CopyIN_PER_M, OUT_PER_M = 0.15, 0.50

def cost_usd(usage):
    return (usage.prompt_tokens * IN_PER_M
            + usage.completion_tokens * OUT_PER_M) / 1_000_000

# resp = client.chat.completions.create(...)
# print(f"${cost_usd(resp.usage):.6f}")

Чтобы протестировать реальный эндпоинт, укажите базовый URL https://api.nsfwvideogenerator.cc/v1, используйте ID модели uncensored и передайте ключ как Bearer-токен. Быстрый старт содержит рабочий пример на Python, Node и curl.

Бесплатные альтернативы и когда они имеют смысл

Будем честны: пробный период — не единственный путь. Модели с открытыми весами можно запускать на собственном оборудовании, что не имеет стоимости за токен, но требует машины с достаточной памятью и вашего времени на настройку и поддержку. Некоторые провайдеры также рекламируют бесплатные тарифы со своими лимитами и политиками, поэтому проверяйте их текущие цены и условия, а не доверяйте кратким описаниям.

Причина использовать хостинговый предоплаченный эндпоинт проста. Вы получаете модель, настроенную на ответы без отказов по контенту для законного использования взрослыми, стабильный интерфейс, совместимый с OpenAI, и цену, которую можно посчитать на салфетке. Жесткое ограничение сохраняется: нет сексуального контента с участием несовершеннолетних. Сервис работает только с текстом, поэтому он не генерирует изображения, аудио или видео, и не предлагает эмбеддинги или дообучение. Если ваш проект — текстовый конвейер, например скрипты и промпты для последующих инструментов, описанных на странице NSFW pipelines, это именно тот сегмент, который вам нужен.

Промпты не используются для обучения, что стоит знать перед тем, как вставлять реальный материал проекта в любой хостинговый API.

Дополнительные руководства

• Бесплатные LLM для Python: локальные модели против хостингового API
• API LLM для сценариев NSFW: текстовый рабочий процесс
• ⟦a0⟦Uncensored LLM API для NSFW конвейеров/a0