RU ▾

LLM API с открытыми весами без ограничений контента.

Ключ API Janitor AI: настройка через прокси

Для использования ключа API Janitor AI от стороннего сервиса Janitor AI требует три параметра: адрес эндпоинта, API-ключ и имя модели. Ниже приведены шаги настройки и исправления частых ошибок.

Анализ стоимости и компромиссов при использовании модели без цензуры

Обновлено

Маленькая театральная сцена с масками и светящимися диалоговыми пузырями, подключенными к серверу, тема Janitor AI

Основные моменты

  1. Три поля: адрес эндпоинта, API-ключ и имя модели uncensored.

  2. Сначала проверьте ключ через curl, чтобы понять, проблема в ключе или в настройках Janitor AI.

  3. Ошибка 404 обычно означает неверный адрес, 401 — неверный ключ, 429 — слишком много запросов.

  4. Более длинный контекст делает каждое сообщение дороже, поэтому ограничивайте его в соответствии с потребностями.

Кратко: три значения для заполнения

Janitor AI предоставляет возможность подключить собственный источник моделей через конечную точку, совместимую с OpenAI. Поэтому для API-ключа Janitor AI от этого сервиса вам нужно просто заполнить три значения:

  • Адрес эндпоинта: https://api.apitanpasensor.com/v1/chat/completions
  • API-ключ: ваш ключ со страницы API-ключ
  • Имя модели: uncensored

Названия полей и расположение меню в Janitor AI могут меняться, поэтому эта статья описывает настройку в общих чертах. Если интерфейс отличается от того, что вы видите, следуйте официальным инструкциям Janitor AI для соответствующего раздела, а затем вернитесь к трем значениям выше.

Шаг 1: получить ключ и проверить через curl

Прежде чем переходить к Janitor AI, убедитесь, что ваш ключ работает. Так, если возникнет ошибка, вы будете знать, что проблема не в ключе. Новые пользователи могут получить пробный кредит в размере $0,50 на странице API-ключа без привязки карты; этого хватит на несколько сотен тестовых сообщений.

curl https://api.apitanpasensor.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "Kamu adalah karakter fiksi bernama Laras, seorang penjaga mercusuar."},
      {"role": "user", "content": "Selamat malam, boleh saya masuk?"}
    ],
    "max_tokens": 200
  }'

Если вы получили JSON с ответом в choices[0].message.content, ключ и модель указаны верно. Также проверьте заголовок X-Balance-USD, чтобы увидеть остаток баланса.

Шаг 2: заполнить настройки прокси в Janitor AI

В Janitor AI настройки модели обычно находятся в меню настроек API на экране чата. Найдите опцию использования прокси или пользовательского источника моделей и заполните её следующим образом:

  1. Выберите опцию прокси или пользовательского API, а не встроенную модель.
  2. Укажите адрес прокси как https://api.apitanpasensor.com/v1/chat/completions. Многие руководства сообщества рекомендуют указывать полный адрес до части /chat/completions. Если подключение не работает, попробуйте с этим окончанием и без него.
  3. Вставьте ваш API-ключ в поле ключа.
  4. Укажите имя модели uncensored. Регистр букв должен быть точно таким же.
  5. Сохраните настройки, перезагрузите страницу и отправьте тестовое сообщение.

Не вводите слово "Bearer" в поле ключа. Приложения, совместимые с OpenAI, добавляют его автоматически, и дублирование приводит к ошибке аутентификации.

Если вы сомневаетесь в каком-либо шаге, откройте документацию Janitor AI. Настройки там являются самым актуальным справочником по интерфейсу. Для API-части справочником служит наша документация.

Распространенные ошибки и способы их исправления

СимптомыНаиболее вероятная причинаИсправление
Ошибка 401 или сбой аутентификацииНеверный, обрезанный ключ или пробелы в начале или концеСкопируйте ключ заново, убедитесь, что в нем нет слова "Bearer", затем проверьте снова через curl
Ошибка 404Неверный адрес эндпоинта, например, опечатка или отсутствие части /v1Используйте адрес точно так, как указано выше, и попробуйте варианты с /chat/completions и без него
Ошибка моделиИмя модели не совпадаетВведите uncensored строчными буквами
Ошибка 429 с кодом concurrencyСлишком много одновременных запросовЗакройте другие вкладки чата, которые всё ещё генерируют ответы
Ошибка 429 с кодом rate_limitedПревышен лимит запросов в минутуПодождите немного, затем отправьте запрос снова
Ответ остановился или завершился с ошибкойБаланс исчерпан или контекстное окно слишком великоПроверьте баланс через заголовок X-Balance-USD или запрос GET /v1/balance, а также уменьшите размер контекста

Для тестового ключа лимит — 2 параллельных запроса и 60 в минуту. Для полного ключа — 8 параллельных запросов и 300 в минуту. Когда API перегружен, он может вернуть 429 с заголовком Retry-After: 5, что означает повторную попытку через 5 секунд. Один потоковый ответ занимает один слот до завершения.

Если все шаги выполнены правильно, но ошибка сохраняется, отправьте ID запроса из заголовка X-Request-Id в службу поддержки, чтобы ускорить отслеживание.

Если ответ медленный или прерывается

Некоторые проблемы связаны не с ключом, а с тем, как работает чат. Проверьте следующие пункты по порядку:

  • Несколько активных вкладок: каждый ответ в режиме потоковой передачи занимает один слот одновременных запросов. Поскольку у тестового ключа всего 2 слота, одновременная работа трех вкладок легко приводит к ошибке 429.
  • Слишком длинный ответ: длинные ответы действительно требуют больше времени. Ограничьте длину ответа в настройках Janitor AI.
  • Слишком большой контекст: очень длинные промпты замедляют начальный ответ и увеличивают стоимость.
  • Ваша сеть: попробуйте выполнить curl с того же компьютера. Если curl работает нормально, а Janitor AI нет, проблема в настройках на стороне Janitor AI, а не в API.

Если повторная попытка часто завершается успешно, это обычно признак временного ограничения или перегрузки. Подождите несколько секунд и отправьте сообщение снова, не нажимайте кнопку отправки многократно, так как каждая попытка занимает слот.

Настройка контекста и стоимости сообщения

Каждый раз, когда вы отправляете сообщение, Janitor AI отправляет часть истории чата в API. Чем больше контекста вы разрешаете, тем больше входных токенов будет оплачено. Максимальное контекстное окно здесь — 100 000 токенов (промпт плюс ответ), но почти ни один чат не нуждается в таком объёме.

Пример расчёта по тарифу $0,15 за 1 млн входящих токенов и $0,50 за 1 млн исходящих токенов:

  • Контекст 8 000 токенов и ответ 400 токенов: 8 000 x 0.15 / 1 000 000 = $0,0012, плюс 400 x 0.50 / 1 000 000 = $0,0002. Итого $0,0014 за сообщение.
  • Сто таких сообщений: 100 x $0,0014 = $0,14.
  • При контексте 2 000 токенов и том же ответе стоимость составляет $0,0003 + $0,0002 = $0,0005 за сообщение, или $0,05 за сто сообщений.

Для персонажей с длинным фоном обычно достаточно среднего размера контекста (несколько тысяч токенов). Увеличивайте его только тогда, когда персонаж начинает забывать важные детали. Более подробное обсуждение стоимости см. на странице цены.

Полезные настройки генерации

API передаёт стандартные параметры сэмплирования, поэтому настройки в Janitor AI будут переданы модели: temperature, top_p, stop, seed и штрафы за повторение. Несколько начальных подсказок:

  • Temperature: начните со среднего значения. Немного увеличьте, если ответ кажется сухим, уменьшите, если персонаж начинает отклоняться от темы.
  • Штраф за повторение: немного увеличьте, если модель повторяет одну и ту же фразу в каждом ответе.
  • Длина ответа: ограничьте с помощью max_tokens, если ответ слишком длинный. Эта настройка также помогает сэкономить, так как исходящие токены дороже.
  • Seed: полезен, если вы хотите получить тот же результат при тестировании промптов для персонажа.

Изменяйте одну настройку за раз, затем сравнивайте несколько ответов. Изменение трёх вещей сразу не позволяет понять, какая из них повлияла.

Описание персонажа, примеры диалогов и стартовое сообщение отправляются обратно почти при каждом сообщении, поэтому их длина напрямую влияет на стоимость. Персонаж с описанием в 3 000 токенов добавляет 3 000 x 0.15 / 1 000 000 = $0,00045 к каждому сообщению. За тысячу сообщений это $0,45 — небольшая сумма, но её можно сэкономить, написав более кратко.

  • Пишите только факты, которые действительно используются в сюжете: имя, черты, отношения и правила мира. Удалите абзацы фона, которые никогда не появляются.
  • Используйте короткие и конкретные предложения. Модель лучше понимает «Ларас молчалива, знает имена кораблей, боится шторма», чем три абзаца метафор.
  • Дайте один или два примера диалога, демонстрирующих стиль речи, а не десять.
  • Укажите границы сюжета в начале, например жанр и точку зрения, чтобы модель не отклонялась.

Простой способ тестирования: создайте короткую и длинную версии одного и того же персонажа, отправьте пять одинаковых сообщений в оба варианта, затем сравните ответы и показатели usage. Часто короткая версия работает не хуже.

Контент и ограничения

Модели здесь настроены на ответ без отклонения контента при законном взрослом использовании, например в художественной литературе, ролевой игре и приложениях-компаньонах для взрослых. Однако есть жёсткие ограничения: контент сексуального характера с участием несовершеннолетних запрещён без исключений, независимо от формы подачи сюжета.

Сервис предназначен только для текста. Если карточка персонажа в Janitor AI использует изображения, они не генерируются этим API. Что касается данных, ваши промпты не используются для обучения модели, как описано на странице конфиденциальности.

Дополнительные руководства

Вопросы и ответы

Нужна ли мне карта для тестирования?

Нет. Новые пользователи могут получить тестовый кредит $0,50 одним кликом на странице API-ключа, без карты. Кредит действует 7 дней.

Какое имя модели я должен ввести в Janitor AI?

Введите uncensored, именно так. Есть только одна модель, поэтому в списке нет других вариантов.

Почему появляется ошибка 404 после ввода адреса?

Обычно адрес указан неверно. Используйте https://api.apitanpasensor.com/v1/chat/completions, или попробуйте без части chat/completions, если Janitor AI добавляет её автоматически.

Что означает ошибка 429?

Вы превысили лимит. Код concurrency означает слишком много параллельных запросов, rate_limited означает слишком много в минуту. Подождите немного и попробуйте снова.

Как оплатить после исчерпания тестового кредита?

Пополнение от $20 до $500 с помощью USDT в сети TRC20 или USDC в сети Base. Кредит не сгорает.

Ваш ключ требует одного шага

Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и весь процесс настройки.