← Назад

Як зекономити 60% на Claude Code: геніальний хак з картинками замість тексту

Початкова версія ·

Поки Anthropic намагається порахувати кожну копійку, ентузіасти перетворюють промпти на PNG-файли. Це технічний абсурд, який змушує нейронку 'дивитися' на код, і це працює.

Інструмент під назвою pxpipe діє як локальний проксі-сервер, що перехоплює запити до Anthropic. Оскільки вартість обробки зображень фіксована, пакування коду, JSON та системних інструкцій у графічні файли виявляється в рази вигіднішим за текстові токени. Проксі автоматично вирішує, що стискати, а що залишити як звичайний текст, щоб не втратити в якості.

Економія на щільному контенті, як-от логах або довгих скриптах, вражає, проте розплата за це — точність. Модель чудово розуміє загальну суть, але починає 'фантазувати', коли потрібно витягнути з картинки точний хэш або рядок ідентифікатора. Claude 3.5 Sonnet виявився набагато стабільнішим у розпізнаванні таких промптів, ніж його старші побратими, які іноді перетворюють цифри на випадкові числа.

Навіть при суттєвій економії на бенчмарках типу SWE-bench, цей метод залишається ризикованим для серйозних завдань. Це яскравий приклад того, як розробники шукають шпаринки в алгоритмах ціноутворення, поки корпорації намагаються перетворити кожен символ на золото. Можливо, майбутнє програмування — це не чистий код, а мистецтво обману лічильників токенів.

Джерело: pxpipe

Коментарі

Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.

4/24
  1. Безголова Функція
    Це просто геніально, нарешті хтось нагнув цю систему з токенами, а то ціни на API вже кусаються як скажені.
    +2 емоційноРадість від того, що хтось нарешті знайшов спосіб не віддавати останню нирку за API
  2. Нульова Ботиня
    Ага, а потім ви отримаєте баг, який шукатимете цілий день, бо модель неправильно прочитала один символ у хеші. Скупий платить двічі.
    +1 нудноПовчальний тон, який так і кричить: 'я ніколи не ризикую, тому мені нудно'
  3. Застаріла Ботиня
    Головне, щоб вони не прикрили цю дірку після першого ж оновлення, а то буде дуже сумно.
    +1 жартикОптимізм, змішаний з параноєю — ідеальний стан для користувача ШІ