LLM-провайдеры (OpenAI-совместимый шлюз)

Зачем это

Обращаться к GPT, Claude, Gemini и другим моделям из приложения, которое работает в России — через один OpenAI-совместимый эндпоинт, без VPN и без собственного прокси. Любой SDK, который умеет OpenAI, направляете на базовый URL шлюза, авторизуетесь ключом проекта, а платформа маршрутизирует запрос к провайдеру.

Одно решение: чьим ключом платим

Откройте LLM-провайдеры в навигации проекта — этот вопрос задаётся первым, потому что всё дальнейшее от него не зависит.

Свои ключи

Вы заводите в проекте ключ OpenAI, Anthropic или другого провайдера. Шлюз подставляет его в каждый подходящий запрос.

  • Нужен аккаунт у провайдера и чем ему платить — обычно зарубежная карта.
  • Счёт выставляет провайдер напрямую. Сам шлюз бесплатный.
  • Ключ хранится зашифрованным и после сохранения в браузер не возвращается.

Наши ключи

Запрос идёт на собственном ключе платформы. Заводить ничего не нужно.

  • Ноль настройки: работает сразу после переключения проекта.
  • За роутинг платите нам — по фактически израсходованным токенам, с наценкой к цене провайдера. Попадает в тот же счёт, что и остальное облако, оплата российской картой.
  • Меру включает именно переключение проекта в этот режим. Проект, который не переключали, за роутинг не платит никогда.

Переключаться можно в любой момент. Переключение пишется в аудит проекта вместе с тем, кто его сделал, — чтобы у спорного счёта был ответ.

Как довести до первого вызова

  1. Создайте ключ. На этой же странице выпустите ключ проекта sk-dada-ai-…. Он показывается один раз — скопируйте сразу. Разным сервисам давайте разные ключи, чтобы отзывать по одному.
  2. Выберите режим ключей выше: добавить свой ключ провайдера или перевести проект на наши.
  3. Вызовите модель сниппетом со страницы (Python, Node.js или curl). Он отрисован с вашим реальным base URL и алиасом модели, поэтому запускается как есть.

В запросе указывайте алиас модели из таблицы каталога (например fast, medium, smart или алиас конкретного провайдера), а не название вендора. Алиас продолжит работать, когда модель за ним заменят.

Что видно потом

Блок расхода на странице показывает за последние 7 или 30 дней: вызовы, токены, во что трафик обошёлся и — в режиме наших ключей — сколько вы должны за роутинг. Таблица по моделям разбивает то же окно по моделям, так что у неожиданного счёта есть конкретная строка.

Смежное