Не знаю как давно это появилось в песочнице OpenAI Assistants, но теперь в лога…
👁 838↗ 1💬 2
Очень удобно для тестирования.
Иногда бывает, что загружаешь слишком большую инструкцию и из-за этого каждый запрос тратит большое количество токенов, так как инструкции тоже участвуют в обработке и генерации ответа.
Я ранее смотрел количество использованных токенов проваливаясь внутрь JSON ответа и запроса, а сейчас увидел что вынесли наружу и стало гораздо удобнее анализировать и обучать собственных ассистентов.
5
Комментарии · 2
- Топ тема, держи в курсе подобных обновлений
- 👌