NPU раньше был лишь пустым местом на наклейке ноутбука. Это наконец меняется. Ноутбуки Snapdragon X Elite появились в 2024 году с 45 TOPS NPU, Intel последовал с Lunar Lake, а AMD с Ryzen AI 300. Теперь Copilot+ PC имеет кремний, специально разработанный для локального запуска моделей, быстро и без осушения батареи. Освещение Softonic следующего поколения CPU от Arm, Intel и AMD подтверждает тенденцию: локальный вывод это теперь реальная цель, а не просто маркетинг.
Проблема в том, что пока не так много приложений используют NPU. Windows Studio Effects и Recall используют его. Несколько сторонних приложений уже поддерживают эту функцию. Этот список охватывает восемь приложений для рабочего стола, которые стоит установить на Copilot+ PC, чтобы действительно использовать NPU, за который вы уже платили.
На что обратить внимание в приложениях Copilot+ PC
Не каждое приложение с меткой “ИИ” в Microsoft Store использует NPU. Многие из них поставляются с тем же конвейером на основе GPU или CPU, что и раньше, просто переименовав маркетинг. Вот что имеет значение:
- Нативное выполнение NPU. Приложение явно нацелено на QNN (Qualcomm), OpenVINO (Intel) или DirectML NPU. Иначе вывод откатится на CPU и осушит батарею.
- Нативные сборки Arm64. На оборудовании Snapdragon X эмуляция x64 все еще работает, но с реальным снижением производительности и времени работы батареи. Нативные релизы Arm64 являются обязательными.
- Локальный режим только. Вся суть ускорения NPU в том, чтобы держать конфиденциальные данные на устройстве, без поездок в облачный API.
- Дисциплина размера модели. NPU на текущих Copilot+ PCs достигают около 45 TOPS. Этого достаточно для языковых моделей с параметрами 7B и небольших моделей зрения, но не для чудовищ с 70B.
Краткое сравнение
| Приложение | Лучше всего для | Платформы | Бесплатный тариф | Начальная цена | Ускорение NPU |
|---|---|---|---|---|---|
| LM Studio | Чат с локальными LLM | Windows Arm64, x64, Mac | Полное приложение бесплатно | Бесплатно | Нативно на Snapdragon X |
| Ollama | Запуск LLM из CLI или API | Windows Arm64, x64, Mac, Linux | Бесплатно | Бесплатно | DirectML на выбранном оборудовании |
| Krisp | Очистка голоса в реальном времени | Windows, Mac | 60 мин/день бесплатно | Около $8/мес | Модель NPU голоса на Copilot+ PC |
| Adobe Lightroom | Улучшение фотографий с ИИ | Windows, Mac | 7-дневный пробный период | Около $10/мес план Photography | Enhance использует NPU на Copilot+ PC |
| DaVinci Resolve | ИИ видеомонтаж | Windows, Mac, Linux | Полный бесплатный уровень | $295 одноразово для Studio | Neural Engine на оборудовании с NPU |
| Camo Studio | ИИ эффекты веб-камеры | Windows, Mac | Бесплатный уровень | Около $40/год Pro | Сегментация фона на NPU |
| CapCut | Видеомонтаж на базе ИИ | Windows, Mac | Полный бесплатный уровень | Около $8/мес Pro | На устройстве подписи и удаление |
| Whisper.cpp | Локальное преобразование речи в текст | Windows, Mac, Linux | Бесплатно, открытый исходный код | Бесплатно | Бэкенды Qualcomm QNN и OpenVINO |
Приложения
1. LM Studio -- Лучше всего для чата с локальными LLM
LM Studio это самый быстрый способ получить локальную модель для чата на Copilot+ PC. Сборка Arm64 поставляется с NPU runtime, который использует бэкенд QNN от Qualcomm, поэтому модели с параметрами 7B и 8B, такие как Llama 3, Phi и Mistral, работают с приемлемой скоростью без включения вентилятора. Само приложение это окно чата плюс каталог моделей, никакой конфигурации не требуется.
Где это не срабатывает: бэкенд NPU принимает только модели, которые были преобразованы для QNN. Каталог растет, но все еще меньше, чем библиотека общего GGUF. Если у вас есть конкретная тонкая настройка в виду, проверьте, что она существует в форме, готовой к NPU, прежде чем устанавливать.
Цена:
- Бесплатно: полное приложение, все функции
- Платно: нет
Платформы: Windows Arm64, Windows x64, macOS
Загрузить: LM Studio для Windows/Mac
Итог: самое впечатляющее использование NPU на Copilot+ PC. Установите это в первую очередь.
2. Ollama -- Лучше всего для локальных LLM из командной строки
Ollama это инструмент, который разработчики и scripters используют для запуска моделей из терминала или API. Он предоставляет конечную точку REST на localhost, которую знают все серьезные интеграции IDE и помощники по кодированию. На Copilot+ PCs поддержка DirectML поступает постепенно, поэтому последние сборки используют NPU на поддерживаемом оборудовании вместо отката на CPU.
Где это не срабатывает: дизайн, ориентированный на CLI, не для всех, и путь NPU молче, чем у LM Studio. Ожидайте, что некоторые модели сегодня будут работать на GPU или CPU, а не на NPU, в зависимости от версии runtime.
Цена:
- Бесплатно: приложение и каждая основная функция
- Платно: нет, открытый исходный код
Платформы: Windows Arm64 и x64, macOS, Linux
Загрузить: Ollama для Windows/Mac/Linux
Итог: правильный выбор, если вы хотите работать со скриптом для локальной модели или подключить ее к IDE. LM Studio имеет лучший пользовательский интерфейс, Ollama имеет API.
3. Krisp -- Лучше всего для очистки голоса в реальном времени
Krisp один из первых сторонних приложений, которые переместили свою модель подавления шума на NPU на Copilot+ PCs. Она находится в аудиопути и очищает вход микрофона в реальном времени, поэтому Zoom, Teams, OBS и каждый DAW получают отфильтрованный сигнал без какой-либо конфигурации отдельного приложения. На батарее перемещение модели с CPU имеет реальный, измеримый эффект.
Где это не срабатывает: бесплатный уровень ограничивается 60 минутами подавления шума в день. И Krisp это не редактор, только фильтр.
Цена:
- Бесплатно: 60 минут в день
- Платно: около $8 в месяц без ограничений
Платформы: Windows, Mac
Загрузить: Krisp для Windows/Mac
Итог: включите, забудьте, и ваши звонки звучат чище. На Copilot+ PC стоимость батареи близка к нулю.
4. Adobe Lightroom -- Лучше всего для улучшения фотографий с ИИ
Adobe Lightroom поставляется с набором функций, управляемых ИИ: Enhance (увеличение разрешения), Denoise и маскирование, которые раньше нагружали GPU. На Copilot+ PC последние обновления Lightroom направляют их через NPU, где это возможно, поэтому пакет файлов RAW завершается быстрее и вентилятор остается тихим.
Где это не срабатывает: это все еще Adobe. Только подписка, требуется вход в Creative Cloud, и фотографы, которые негативно относятся к выставлению счетов Adobe, это уже знают. Также только некоторые операции ИИ используют NPU сегодня; другие этапы продолжают работать на GPU.
Цена:
- Бесплатно: 7-дневный пробный период
- Платно: около $10 в месяц по плану Photography, объединенному с Photoshop
Платформы: Windows, Mac
Загрузить: Adobe Lightroom для Windows/Mac
Итог: для фотографов, уже находящихся внутри подписки Adobe, ускорение NPU это бесплатное ускорение. Для кого-то еще это не правильная точка входа.
5. DaVinci Resolve -- Лучше всего для видеомонтажа на ИИ
DaVinci Resolve имеет Neural Engine, который питает преобразование речи в текст, волшебную маску (сегментация объектов), изоляцию голоса и обнаружение сцены. На Copilot+ PCs последние сборки Studio запускают некоторые из них на NPU, и Blackmagic постоянно преобразует больше набора моделей. Базовое приложение бесплатно, и работа NPU происходит автоматически.
Где это не срабатывает: самые крупные функции Neural Engine, лучшее масштабирование AI и специфические режимы маскирования, только для Studio. И Resolve печально известен своей тяжестью, размер установки и аппетит RAM велики.
Цена:
- Бесплатно: полное базовое приложение
- Платно: $295 одноразово для Studio
Платформы: Windows, Mac, Linux
Загрузить: DaVinci Resolve для Windows/Mac/Linux
Итог: для тех, кто редактирует видео на Copilot+ PC, бесплатная версия уже получает выгоду. Studio разблокирует остальное.
6. Camo Studio -- Лучше всего для эффектов веб-камеры на ИИ
Camo Studio превращает телефон или веб-камеру в правильную виртуальную камеру с кадрированием, сегментацией фона и световыми эффектами. На оборудовании Copilot+ PC модель сегментации переходит на NPU, поэтому звонок в Zoom может запустить фон в режиме портрета без скачков CPU или включения вентилятора.
Где это не срабатывает: уровень Pro закрывает хорошие эффекты, и Camo лучше всего работает в паре с iPhone или iPad в качестве источника входа. Случайные пользователи встроенных веб-камер получают меньше преимуществ.
Цена:
- Бесплатно: базовая захват
- Платно: около $40 в год для Pro
Платформы: Windows, Mac
Загрузить: Camo Studio для Windows/Mac
Итог: решение, если ваша веб-камера выглядит ужасно на видеовызовах. На батарее сегментация NPU делает это намного менее дорогостоящим.
7. CapCut -- Лучше всего для видеомонтажа на устройстве
CapCut тихо стал видеоредактором, который создатели действительно используют, и его сборка Windows для рабочего стола перемещает больше своих функций ИИ (автоматические подписи, удаление фона, передача стилей) на NPU на Copilot+ PCs. Это означает, что 20-минутное видео может быть озаглавлено или замаскировано без открытия вкладки облака.
Где это не срабатывает: ByteDance владеет CapCut, что вызывает проблемы с обработкой данных у некоторых редакторов. Бесплатный уровень имеет водяной знак и экспортные ограничения, которые подталкивают пользователей к Pro.
Цена:
- Бесплатно: полный редактор с ограничениями экспорта
- Платно: около $8 в месяц CapCut Pro
Платформы: Windows, Mac
Загрузить: CapCut для Windows/Mac
Итог: выбор для редакторов видео в формате коротких форм и социальных сетей, которые хотят быстрые функции ИИ на устройстве.
8. Whisper.cpp -- Лучше всего для локальной транскрипции
Whisper.cpp это легкий порт C/C++ модели транскрипции Whisper от OpenAI. На Copilot+ PCs он может нацеливаться на бэкенд QNN от Qualcomm или OpenVINO от Intel, который помещает модель на NPU. Результат, полный конвейер транскрипции, который работает полностью автономно, быстрее, чем в реальном времени, на ноутбуке.
Где это не срабатывает: нет отполированного пользовательского интерфейса. Whisper.cpp это набор бинарных файлов и привязок Python. Загрузка моделей и запуск команд это стоимость входа.
Цена:
- Бесплатно: открытый исходный код, все функции
- Платно: нет
Платформы: Windows, Mac, Linux
Загрузить: Whisper.cpp на GitHub
Итог: конвейер транскрипции для тех, кто заботится о конфиденциальности или автономной работе. Оберните его в скрипт и он становится пакетным транскрайбером.
Как выбрать правильный
Если вы только что купили Copilot+ PC и хотите увидеть, как NPU делает что-то впечатляющее прямо сейчас, установите LM Studio. Точка.
Если вы кодируете и хотите локальную модель, которую могут использовать плагины IDE, Ollama является лучшим выбором, чем LM Studio, благодаря его конечной точке REST.
Если ваш ноутбук NPU это рабочая машина и видеовызовы доминируют в течение дня, Krisp и Camo Studio вместе очищают звук и видео практически без стоимости батареи.
Если вы редактируете фотографии, Adobe Lightroom’s Enhance и Denoise это самые большие выигрыши NPU в Creative Cloud Adobe, стоит подписки, если вы уже снимаете в RAW.
Если вы редактируете видео, DaVinci Resolve бесплатный уровень достаточно для большого количества преимуществ NPU, и Studio разблокирует остальное.
Если вы создаете видео в формате социальных сетей, CapCut это более быстрый вход, чем Resolve.
Если вы записываете интервью или длительный звук и хотите получить стенограммы, Whisper.cpp производит лучший автономный результат. Готовый немного программировать.
FAQ
Что такое Copilot+ PC и как узнать, есть ли он у вас? Copilot+ PC это ноутбук Windows 11 с NPU, оцениваемым в 40 TOPS или выше. Snapdragon X Series, Intel Core Ultra 200V (Lunar Lake) и AMD Ryzen AI 300 все квалифицируются. Проверьте Параметры, О программе, на “Copilot+ PC” или посмотрите на наклейку.
Требуют ли эти приложения оборудование Copilot+? Нет, все восемь работают на других ПК Windows и большинство на Mac тоже. Ускорение NPU срабатывает только на оборудовании, которое его имеет. На обычном ноутбуке те же приложения откатываются на GPU или CPU.
Какие приложения используют NPU без каких-либо конфигураций? LM Studio, Krisp, DaVinci Resolve и CapCut обнаруживают NPU автоматически. Ollama и Whisper.cpp нуждаются в выборе правильного бэкенда. Lightroom и Camo Studio направляют выборочно в зависимости от операции.
Такие ли же быстрые приложения Snapdragon X (Arm64), как версии Intel или AMD x86? Нативные сборки Arm64 конкурентны и часто быстрее на NPU. Приложения x64, работающие под эмуляцией, медленнее и используют больше батареи. Приложения в этом списке все поставляются с нативными версиями Arm64.
Могу ли я запустить модели размером более 7B на NPU? На текущих 45-TOPS NPU модели с параметрами 7B и 8B это сладкое пятно. 13B работает, но с меньшей скоростью. 70B это не реально на сегодняшних NPU; GPU с большим количеством VRAM это все еще ответ для этих.
Работают ли приложения NPU без интернета? Да, в этом и суть. LM Studio, Ollama, Whisper.cpp, Neural Engine DaVinci Resolve и Krisp все запускают свои модели локально без какого-либо сетевого трафика.
