Underdog запустил локальный ИИ-помощник

Сигил Вэнь, программист-самоучка и участник программы Thiel Fellowship, запустил закрытую бета-версию ИИ-помощника Underdog. По его словам, сервис делает ставку на приватность: модель работает полностью на устройстве пользователя, без отправки данных в дата-центры.

Вэнь рассказал TechCrunch, что в 17 лет переехал в Кремниевую долину и жил в доме для ИИ-разработчиков вместе с исследователем Андреем Карпати. Там он работал рядом с будущими заметными фигурами рынка, включая основателя Perplexity Аравинда Сриниваса и исследователя OpenAI Ноама Брауна, а также тестировал ранние версии инструментов, которые позже стали Claude, Midjourney, GPT-3 и Stable Diffusion.

Сейчас Underdog доступен на Mac и Windows, а версии для Linux, iPhone и Android, по словам Вэня, выйдут позже. Он утверждает, что данные пользователя остаются на уже принадлежащих ему устройствах.

Для проекта Вэнь создал Husky — движок инференса, то есть программу для запуска ИИ-моделей. По его словам, Husky работает быстро, потому что передаёт меньше данных между основным чипом компьютера и графическим процессором по сравнению с другими локальными движками.

В Underdog также добавлены меры защиты, включая шифрование ключей от почты и других аккаунтов, к которым пользователь даёт доступ помощнику.

При этом Underdog использует более компактные модели, чем флагманские системы из дата-центров. Сейчас сервис работает на модели на 27 млрд параметров, дообученной на основе Qwen3.8 27B.

Вэнь утверждает, что по ряду тестов эта модель сопоставима с Claude Opus 4.6, который он называет уровнем лучших результатов примерно полугодовой давности. По его словам, этого достаточно для повседневных задач, например для подбора товаров или ответов на вопросы по математике.

«You don’t need to sacrifice your privacy for the capability because they’re just as capable», — сказал Вэнь. Он добавил, что локальные компактные модели со временем будут становиться сильнее.

Одной из главных особенностей проекта стал его подход к монетизации. На первом этапе приложение будет бесплатным и без рекламы.

Вэнь объясняет это тем, что ИИ работает на компьютерах самих пользователей, поэтому у компании нет крупных расходов на внешних провайдеров вычислений. «I don’t have to charge you a subscription to run this because my costs are so super low», — сказал он.

Вместо подписки Underdog планирует получать небольшую долю от платёжных операций, которые ИИ-помощник будет проводить через инфраструктуру Stripe. В материале говорится, что схема напоминает interchange fee в финтехе. Одним из ангельских инвесторов проекта стал сооснователь Stripe Патрик Коллисон.

По замыслу создателей, такая модель дохода должна снизить стимул к сбору пользовательских данных. Вэнь противопоставляет это политике части других разработчиков ИИ-помощников, чьи правила конфиденциальности допускают сбор данных для рекламы, передачи третьим сторонам или обучения других моделей.

В материале отмечается, что такой обмен особенно чувствителен для ИИ-помощников, которым для работы может требоваться доступ к медицинским, финансовым и семейным данным пользователя.

В своём «манифесте ИИ» Вэнь написал: «Why should using AI require surrendering your private information?» В разговоре с TechCrunch он также сказал: «I honestly want to build Underdog for myself. I’m building a product that I would be proud for my future children to use.»

Стартап, стоящий за Underdog, называется Conway Research. Помимо Коллисона, в него инвестировали Andreessen Horowitz через партнёра Криса Диксона, Khosla Ventures, Hummingbird, SV Angel, фонд Anthology Fund — совместный проект Menlo Ventures и Anthropic — а также ряд ангельских инвесторов, включая основателя Vercel Гильермо Рауха, Ноама Брауна и Диди Даса.

Источник: TechCrunch.

Читать новости ИИ и технологий в Telegram.


Оцените статью
Gimal-Ai