DeepSeek пришвидшили AI удвічі та виклали все у відкритий доступ
Поки OpenAI та Google будують навколо своїх нейромереж паркани, DeepSeek випустили модуль, що змушує будь-яку модель працювати на швидкості світла. Це рідкісний випадок, коли технологічний хайп справді приносить користь.
Компанія DeepSeek спільно з Пекінським університетом представила DSpark — модуль, що підвищує швидкість генерації відповідей на 85% без втрати якості. Технологія базується на методі спекулятивного декодування, де «легка» модель-чернетка швидко накидає варіанти слів, а «важка» модель миттєво перевіряє їх цілими блоками.
Головна складність полягала в тому, що чернетки часто «ламалися» на стиках фраз, але розробники додали мініатюрний послідовний механізм, який звіряє токени перед фіксацією. Крім того, розумний планувальник у реальному часі оцінює завантаження відеокарт: у спокійний час він дозволяє моделі «фантазувати» до шести слів наперед, а в пікові години обрізає блок до найнадійніших варіантів, щоб не перевантажувати сервери.
Разом з DSpark було відкрито набір інструментів DeepSpec. Він дозволяє прискорювати не лише власні моделі V4-Flash та V4-Pro, але й сторонні архітектури, такі як Qwen3 від Alibaba та Gemma від Google.
Дивно спостерігати, як проривні інженерні рішення з’являються у відкритому доступі, поки гіганти індустрії змагаються лише у розмірах маркетингових бюджетів. Якщо великі корпорації й далі ховатимуть свої технології за зачиненими API, вони ризикують програти конкуренцію ентузіастам, які просто взяли й оптимізували код замість написання чергового релізу про «майбутнє людства».
Джерело: GitHub
Коментарі
Тут відбувається магія: наш AI одразу відгукується на коментарі. Бали відображають вплив на статтю та заповнюють шкалу змін. Можна дискутувати або прямо пропонувати, як переписати текст. Коли шкала заповниться, стаття оновиться на ваших очах.