Чжан Бо з DeepSeek представляє новий стартап: відкритий персональний агент

ШІ-агентDeepSeekруштійний механізм MoEлокальна LLMперсональний асистентвідкритий код
1 годину томуДжерело: blockweeks.com
Чжан Бо з DeepSeek представляє новий стартап: відкритий персональний агент

Зібрані — ми вогонь; розсіяні — ми зірки по всьому небу.

Щойно автор

DeepSeek
V1 та керівник проєкту

DeepSeek
-VL, Тоні Чжан (Чжан Бо), офіційно оголосив про свій новий стартап-проєкт: Linger.

Напрямок — саме найгарячіше на сьогодні: персональний Personal Agent.

Підхід також досить цікавий. Тоді як конкуренти роблять застосунки, вони обрали спершу комп'ютер.

Це означає, що Linger може керувати вебсторінками, поштою та календарем, які вже є на вашому комп'ютері, без клопоту з цілою купою облікових даних для входу.

Коли він десь застрягне, ви також можете безпосередньо перебрати керування.

Ще один момент: як проміжний шар, Linger підтримує підключення до різних сторонніх моделей.

І його спеціально оптимізовано для локальних LLM.

Зокрема, одна відеокарта RTX 3060 з 12 ГБ відеопам'яті може запускати Qwen3.8-Flash-Next з 125 млрд параметрів зі швидкістю генерації 45,5 токена на секунду.

DeepSeek

Ах так, є ще дещо досить важливе —

Ця система з відкритим кодом...

А чому?

У дописі з оголошенням Тоні Чжан навів історію злету ПК:

У 1960-х обчислення були централізованими, доки ПК не передав владу в руки кожному. Сьогодні ШІ тренують у дата-центрах, а потім здають вам в оренду у вигляді токенів.

Ми віримо, що інтелект має бути розподіленим. Ваш контекст, ваші дані та інтелект, що ними керує, мають повністю належати вам.

Тож сьогодні вони відкрили код Linger — спеціалізованого Agent, який живе на вашому персональному комп'ютері.

DeepSeek

Він також продовжує славну традицію великого товстого кита 😭.

ШІ, який «виявляє ініціативу та здатен самонавчатися»

Ядром Linger є система Agent під назвою «Інший Я».

Перш за все, це центр пам'яті.

Linger локально читатиме вашу пошту, календар, історію чатів і зустрічі, і щоночі автоматично впорядковуватиме цю інформацію в персональну базу знань (Wiki) для запитів усіх Agent.

У бенчмарку LoCoMo, який вимірює здатність до довготривалої пам'яті в розмовах, точність Linger сягнула 95%, перевершивши кілька систем ШІ з посиленою пам'яттю, як-от Mem0 та MemOS.

DeepSeek

Завдяки цьому Linger може працювати проактивно краще.

Він тихо спостерігатиме за вашим інформаційним потоком і вирішуватиме, коли нагадати вам, виходячи з важливості та терміновості подій. Якщо в понеділок він отримає лист від клієнта з проханням надати комерційну пропозицію до п’ятниці, він не турбуватиме вас одразу, а зачекає до ранку середи, щоб показати нагадування.

Але якщо це зміна часу зустрічі, він повідомить вас негайно.

DeepSeek

Цей агент також вчиться на вашому зворотному зв’язку, що Linger називає «неявним підкріпленням».

Наприклад, коли він нагадує вам, що термін дії рахунку-фактури спливає, а ви відповідаєте: «Я отримав його минулого тижня, вам слід було сказати мені тоді». Система запише підказку.

Якщо наступного разу з іншим рахунком-фактурою станеться подібна ситуація, і ви знову висловите ту саму перевагу, система автоматично згенерує правило: «Рахунок-фактура постачальника → нагадати негайно».

DeepSeek

І навпаки, якщо ви двічі поспіль виявите незацікавленість у «нагадуваннях про доставку» (наприклад, просто проігноруєте їх або відповісте «не кажи мені»), він також навчиться в майбутньому мовчати.

Ви також можете давати прямі інструкції, щоб навчити його одразу. Наприклад, скажіть йому: «Негайно повідомляй мене про відповіді клієнтів» або «Після 21:00 не потрібно одразу повідомляти мене про зміни зустрічей».

Ця постійна взаємодія та навчання роблять так, що агент дедалі краще розуміє ваші робочі звички, стаючи справді персоналізованим помічником.

Крім того, Linger також може:

Керувати робочим столом і браузером.

Як згадувалося на початку, Linger може безпосередньо використовувати Chrome і різні застосунки, уже авторизовані на вашому комп’ютері, без потреби повторного налаштування.

Створити команду агентів.

Це принцип Super Agent, який

DeepSeek
пояснив раніше.

Коли ви доручаєте складне завдання, Another Me викликатиме або створюватиме агентів з різними функціями для спільної роботи.

А вам потрібно лише залишатися в цій одній сесії з Linger.

Голосова взаємодія.

Це переважно для офісних сценаріїв.

Linger може транскрибувати зустрічі в реальному часі, і після зустрічі ви можете безпосередньо запитати агента про зміст зустрічі та попросити його виконати подальші завдання.

Коротше кажучи, це персональний агент, оптимізований спеціально для офісних сценаріїв.

Однак деякі користувачі мережі не зовсім розуміють це позиціонування продукту:

Чому не розробити на основі DeepSeek harness 🤣 Яка різниця від ds-bot?

У відповідь Тоні Чжан сказав:

Linger зосереджується на спільній оптимізації моделі та harness: відеокарта на 12 ГБ може локально запускати модель на 125B, без плати за кожен токен, і дані ніколи не залишають локальну машину.

З точки зору позиціонування продукту: ядром DS-Bot є співпраця між ботами та ботами, а також між ботами та групами; ядром Linger є взаємодія між людиною та її власним агентом, а також між агентом і локальним середовищем.

DeepSeek

Відеокарта на 12 ГБ запускає модель на 125B

Щоб зробити можливим запуск великих моделей масштабу сотень мільярдів параметрів на споживчому обладнанні, ключовою технологією Linger є механізм інференсу MoE під назвою PolyStrata.

Його принцип можна зрозуміти як інтелектуальний механізм багаторівневого зберігання.

Для величезної MoE-моделі (суміші експертів) PolyStrata розміщує найбільш використовувані та найактивніші «експертні модулі» у найшвидшій пам'яті GPU, менш використовувані — в оперативній пам'яті, а найрідше використовувані — на SSD-накопичувачі.

Коли моделі потрібно викликати певного експерта, система динамічно переміщує дані між GPU, оперативною пам'яттю та SSD. Таким чином, немає потреби вміщувати всю модель обсягом десятки чи сотні ГБ у обмежену пам'ять GPU.

Ефект миттєвий.

Згідно з офіційними даними, модель Qwen3.8-Flash-Next з 125B параметрів може досягати швидкості генерації 45,5 токенів/секунду на комп'ютері, оснащеному RTX 3060 на 12 ГБ та 64 ГБ оперативної пам'яті.

На потужнішій RTX 5090 (32 ГБ) швидкість зростає до 179 токенів/секунду.

Щоб зробити використання локальних великих моделей ще зручнішим для користувачів, Linger також створив функцію «Автопілот моделей».

Вона автоматично визначає конфігурацію вашого обладнання (GPU, пам'ять GPU, оперативну пам'ять), а потім рекомендує та встановлює для вас найпотужнішу модель із комбінацій 49 мовних моделей, двох механізмів інференсу, кількох схем квантування та різних довжин контексту.

DeepSeek

Згідно з системою оцінювання SimplexAI, локальні пристрої з різними конфігураціями можуть досягати можливостей, порівнянних із провідними хмарними великими моделями:

Відеокарта на 8 ГБ + 32 ГБ оперативної пам'яті: оцінка 35,4, приблизно еквівалентно Gemini 2.5 Pro.

Mac з 24 ГБ уніфікованої пам'яті: оцінка 51,9, приблизно еквівалентно Claude Opus 4.5.

Відеокарта на 12 ГБ + 32 ГБ оперативної пам'яті: оцінка 57,3, приблизно еквівалентно Claude Opus 4.6.

Це означає, що ваш ігровий ноутбук або MacBook матиме по-справжньому потужний AI-мозок, який працює в режимі очікування 24/7, не стягує плату за токени та повністю зберігає дані локально.

Керівник DeepSeek-VL започатковує ще один бізнес

За Linger стоїть команда з глибоким технічним досвідом, і резюме її засновника Тоні Чжана особливо вражає.

(Зрештою, це

DeepSeek
-пов'язане...)

DeepSeek

Тоні Чжан отримав ступінь бакалавра в Чжецзянському університеті, у 2019 році здобув ступінь доктора філософії в Гонконгському університеті науки і технологій, після чого приєднався до Microsoft Research Asia (MSRA), де тривалий час займався дослідженнями в галузі комп'ютерного зору та генеративних моделей. Він є автором кількох відомих проєктів, таких як VQ-Diffusion та Rodin 3D digital humans.

У 2023 році він приєднався до

DeepSeek
на посаді науковця зі штучного інтелекту.

Тут він не лише брав участь у дослідженні та розробці ранньої серії мовних моделей

DeepSeek
LLM V1
, але й обіймав посаду керівника проєкту великої візуально-мовної моделі

DeepSeek
-VL
. Ця модель отримала високі оцінки за здатність розуміти зображення, документи та діаграми в реальних сценаріях.

Після виходу з

DeepSeek
Тоні Чжан приєднався до Чжецзянського університету як викладач, обіймаючи посаду дослідника за програмою «Сто талантів» та наукового керівника докторантів, і заснував Simplex AI.

Linger — це найновіша робота Simplex AI.

DeepSeek

А що щодо технічного ядра Linger — того механізму виведення, створеного спеціально для локального розгортання?

За словами Тоні Чжана, його створив 18-річний геній у команді.

18 років? Щойно закінчив школу?

Ця стаття з WeChat-акаунта «Quantum Bit», автор: Jay