Назад к блогу

CHANNEL / ACTIVE

#llm

Посты с тегом06 / статей
Все теги

Перевод форматов вызова инструментов между LLM-провайдерами

Вызовы инструментов у провайдеров похожи только внешне: различаются сообщения, потоковый режим, состояние рассуждения и кэширование. Практический разбор того, что должен сохранить прокси и когда лучше выбрать другой уровень интеграции.

Обвязка важна не меньше модели

Модель является лишь частью агентной системы. Промпты, инструменты, контекст, восстановление после ошибок, оценка и память образуют обвязку вокруг нее. Что говорят исследования и как измерять влияние на качество и расход токенов.

GonkaGate как OpenAI-совместимый провайдер моделей

Практический способ подключить OpenAI-совместимый API GonkaGate к терминальным агентам. Как создать и защитить API-ключ, проверить соединение, настроить пользовательского провайдера и сверить модели и цены до запуска нагрузки.