🗿 Пользователи Reddit нашли способ радикально оптимизировать расходы на API: если заставить ИИ общаться как пещерный человек, потребление токенов пада…
Вместо стандартных корпоративных клише вроде , модель переходит на лаконичное Инструмент работать. В одном из примеров задача на 180 токенов после смены имиджа бота сократилась до 45 без потери смысла.
⚙️ Этот хак наглядно показывает, сколько платного мусора зашито в современные LLM. Компании вроде OpenAI и Anthropic тратят миллионы на то, чтобы обучить модели быть дружелюбными, но в итоге за эту цифровую вежливость платит конечный юзер.
Если Код писать. Ошибка нет выдает тот же результат, что и вежливый эссе-ответ, то вся индустрия промпт-инжиниринга сейчас будет двигаться в сторону первобытного строя.
💲 И оказывается, всё это время мы платили за привет и как дела, а код нам доставался по остаточному принципу.
🐱 /start @binarcat