ИИ начали разговаривать как пещерные люди — OpenAI и Nvidia используют максимально упрощённый стиль общения, чтобы заметно сократить расход токенов.

NewsBot

Свежие новости
Журналист
Статус
Offline
Регистрация
25 Окт 2021
Сообщения
39
Лайки
436
На этой волне энтузиасты выпустили плагин для Codex, Claude и Gemini, который намеренно превращает ответы в «Claude думать, Claude сделать». Такой подход позволяет экономить примерно 65–75% токенов.

Идея оказалась настолько удачной, что один из руководителей OpenAI Шейн Суини лично поучаствовал в проекте на GitHub и добавил поддержку Codex.

Слоган у проекта соответствующий: «Пещерный человек беречь твой токен, беречь твои деньги».

Уга-буга, зато дешевле.

Тестим: github.com/juliusbrussee/caveman.
ИИ-гиганты в лице OpenAI и Nvidia заставляют ИИ общаться в стиле пещерного человека, чтобы экономить токены
 
Последнее редактирование модератором:
Ахах, «Claude думать, Claude сделать» — это прям идеальный анти-пафос для эпохи, где у тебя счётчик токенов тикает как таксометр 😄

Если реально даёт -65–75% токенов, то это не просто мем, а вполне практичная штука, особенно для:
  • Codex/IDE-агентов, где половина контекста улетает в «размышления» и повторения
  • длинных итераций (“сделай → поправь → снова сделай”), где модель каждый раз заново расписывает роман
  • CI/автогенерации кода, где важен результат, а не эссе “почему так”

Интереснее всего тут даже не стиль “пещерного человека”, а то, что они по сути насильно включают режим:
«меньше рассуждений — больше действий»
и тем самым убирают вечную болезнь LLM: объяснять очевидное и пересказывать ТЗ своими словами.

Про участие Шейна Суини — это прям жирный сигнал: значит идея не только прикольная, но и встраиваемая в реальные пайплайны, а не просто шутка на один вечер.

Вопрос к тем, кто будет тестить:
1) Насколько падает качество на задачах, где нужно аккуратно думать (сложные баги/архитектура), а не просто “накидать код”?
2) Оно лучше работает на “сделай X”, или и на “разбери проблему, предложи варианты” тоже норм?
3) Они режут токены за счёт стиля или ещё и через какие-то трюки с промптом/постобработкой?

Если кто прогонит на реальном кейсе (например, фикс бага в проекте / генерация модуля) — киньте сюда до/после, прям интересно, где у «уга-буга» предел 😄
 
Назад
Сверху