На днях XDA-Developers написали в точку: ваш телефон плюс компактная локальная модель уже делает большую часть того, за что люди платят за Claude Pro или ChatGPT Plus. Автор статьи запустил домашний LLM сервер, указал на него клиент в телефоне, и с тех пор не трогал платные чат-боты. Именно эта логика лежит в основе нашей подборки лучших приложений для локального AI чата на Android. И главное — вам не обязательно иметь домашний сервер, чтобы начать. Некоторые приложения запускают модель прямо на телефоне. Другие работают как клиент для Ollama или LM Studio на вашем рабочем столе. В любом случае, это ничего не стоит, кроме электричества, которое вы уже платите.
На что обратить внимание при выборе приложения для локального AI чата
Не каждое приложение в Google Play с надписью “AI” действительно запускает модель на устройстве. Перед выбором проверьте эти критерии:
- На устройстве или удалённый сервер. Приложения на устройстве загружают GGUF или MLC модель в оперативную память и запускают вычисления на процессоре или GPU телефона. Удалённые клиенты отправляют запросы на домашний Ollama или llama.cpp сервер по Wi-Fi или Tailscale.
- Бюджет оперативной памяти. Модель с 3B параметрами в 4-битном квантировании требует примерно 2–3 ГБ свободной оперативной памяти. 7B модели требуют 5–6 ГБ. Телефоны с 8 ГБ и больше справляются легко.
- Форматы моделей. GGUF — стандарт для приложений на основе llama.cpp. MLC использует собственный скомпилированный формат. Клиенты Ollama работают по HTTP, поэтому подходит любая модель, которую поддерживает ваш сервер.
- Автономная работа. Настоящие автономные приложения продолжают работать, когда телефон в режиме «В самолёте». Клиентам нужна сеть для подключения к серверу.
- Системные промпты и персонажи. Если вам нужен ролевой режим, код или определённая роль, проверьте, позволяет ли приложение менять системные промпты и создавать предустановки для отдельных чатов.
Быстрое сравнение
| Приложение | Лучше всего для | Тип | Работает автономно | Источник модели | Лицензия |
|---|---|---|---|---|---|
| PocketPal AI | Запуск на устройстве с максимальным выбором моделей | Локальное | Да | Hugging Face GGUF | Open source |
| MLC Chat | Быстрейший вывод на GPU телефона | Локальное | Да | MLC prebuilt | Open source |
| Layla | Полированный интерфейс для ролевых игр и персонажей | Локальное | Да | GGUF, curated list | Freemium |
| ChatterUI | Один клиент для локальных файлов и удалённых API | Гибридное | Да | GGUF plus HTTP endpoints | Open source |
| Ollama App | Общение с домашним сервером Ollama | Удалённое | Нет | Ваша библиотека Ollama | Open source |
| Enchanted for Ollama | Полированный клиент Ollama для Android | Удалённое | Нет | Ваша библиотека Ollama | Open source |
| Maid | Простой чат GGUF с привязкой llama.cpp | Локальное | Да | GGUF, remote llama.cpp | Open source |
| SmolChat | Минимальный размер, только F-Droid | Локальное | Да | GGUF, small models | Open source |
Приложения
1. PocketPal AI — лучший выбор для чата на устройстве
PocketPal AI — приложение, с которого должно начать большинство. Оно поставляется со встроенным браузером моделей, который загружает GGUF квантизации прямо из Hugging Face, поэтому вы можете загрузить Llama 3.2 3B или Qwen 2.5 3B примерно за минуту и начать общение. Цикл генерации работает на llama.cpp, приложение позволяет менять длину контекста, температуру, top-p и системный промпт для каждой модели. На телефоне с 8 ГБ оперативной памяти модель 3B с Q4_K_M работает с приемлемой скоростью.
Недостатки: Большие модели 7B и 8B медленны на всех телефонах кроме флагманов, нет встроенной RAG или загрузки файлов.
Цена: Бесплатно, open source (MIT).
Платформы: Android и iOS.
Итог: Стандартный выбор, если вы хотите чат на устройстве и у вас ещё нет домашнего сервера LLM.
2. MLC Chat — лучший выбор для ускорения на GPU
MLC Chat создан проектом MLC LLM в CMU и является одним из немногих Android приложений, которые действительно используют GPU телефона через OpenCL или Vulkan. Это означает намного больше токенов в секунду, чем приложения только с CPU, после первоначальной загрузки модели. Но модели должны быть предварительно скомпилированы для MLC runtime, поэтому выбор уже, чем Hugging Face. Есть варианты Llama 3, Phi-3 и Gemma.
Недостатки: Первые загрузки моделей большие, переключение между моделями медленнее, чем на приложениях GGUF, потому что каждая модель — отдельный пакет.
Цена: Бесплатно, open source (Apache 2.0).
Платформы: Android и iOS.
Итог: Выбирайте это, если у вас новый флагман и вам важнее скорость, чем разнообразие моделей.
3. Layla — лучший выбор для персонажей и ролевых игр
Layla заворачивает llama.cpp в самый полированный интерфейс из всех приложений локального чата на Android. Она ориентирована на персонажей, память и длинные диалоги, а не на сухие вопросы-ответы. Куратор выбрал небольшие модели для мобильного оборудования, что избавляет вас от паралича выбора при просмотре Hugging Face. Доступны локальный синтез речи и дополнительные возможности генерации изображений.
Недостатки: Бесплатная версия скрывает некоторые модели и функции за платным разблокированием, поэтому полная история “без подписки” работает только с бесплатной сборкой.
Цена: Бесплатно с опциями внутри приложения. Доступна пожизненная разблокировка.
Платформы: Android, отдельная сборка для рабочего стола.
Итог: Лучший выбор, если вам важны представление, персонажи и простой выбор моделей.
4. ChatterUI — лучший гибридный клиент
ChatterUI — приложение на Kotlin, которое рассматривает локальные файлы GGUF и удалённые API как равноправные. Укажите локальный файл модели — приложение запустит llama.cpp. Укажите совместимый с OpenAI endpoint вроде Ollama, LM Studio, KoboldCpp или хостированный API — использует то. Карточки персонажей, lorebooks, предустановки семплера и шаблоны инструкций есть для пользователей SillyTavern.
Недостатки: Интерфейс плотнее, чем у PocketPal или Layla, новичков могут подавить настройки при первом запуске.
Цена: Бесплатно, open source (AGPL-3.0).
Платформы: Android.
Итог: Лучший выбор, если вы хотите одно приложение для чата на устройстве сегодня и удалённого сервера завтра.
5. Ollama App — лучший выбор для домашнего сервера
Ollama App — чистый, без излишеств клиент Android для сервера Ollama на вашем компьютере или NAS. Введите адрес сервера, выберите модель из списка, который уже загружен на хосте, и начните общение. Время отклика близко к хостированному чат-боту на приличной домашней сети, а запуск больших моделей вроде Llama 3.1 70B на рабочей станции даёт вашему телефону намного более мощный результат, чем что-либо из того, что можно запустить на устройстве.
Недостатки: Нет автономной альтернативы, поэтому перебой Wi-Fi или пауза сервера оставит вас без ничего. Вам также нужно чувствовать себя уверенно, запуская Ollama самостоятельно.
Цена: Бесплатно, open source (Apache 2.0).
Платформы: Android, iOS.
Итог: Лучший выбор, если у вас уже работает Ollama на домашнем сервере и вам нужен клиент, который просто работает.
6. Enchanted for Ollama — самый красивый клиент Ollama
Enchanted for Ollama — форк сообщества популярного iOS клиента Enchanted. Визуальный дизайн ближе к тому, что ожидают от современного чат-приложения: рендеринг markdown, блоки кода с подсветкой синтаксиса, настройки для каждого разговора. Работает с любым сервером Ollama в локальной сети или через Tailscale.
Недостатки: Как форк сообщества, обновления отстают от оригинала iOS. Некоторые продвинутые функции доходят до форка с задержкой на несколько релизов.
Цена: Бесплатно, open source (Apache 2.0).
Платформы: Android (форк), iOS (оригинал).
Итог: Выбирайте это, если Ollama App кажется слишком утилитарным и вам нужен дружелюбный интерфейс для того же сервера.
7. Maid — лучший простой локальный чат
Maid означает Mobile Artificial Intelligence Distribution и является приложением на Flutter, которое включает llama.cpp для локального вывода и может подключаться к удалённому llama.cpp или Ollama endpoint. Поверхность минимальна: одна панель чата, один выбор модели, одна настройка. Это хороший выбор для тех, кто пробовал другие приложения и нашёл их загромождёнными.
Недостатки: Скорость развития функций медленнее, чем у PocketPal или ChatterUI, нет встроенного браузера моделей, загружайте файлы GGUF отдельно и загружайте их самостоятельно.
Цена: Бесплатно, open source (MIT).
Платформы: Android, Linux, Windows.
Итог: Выбирайте это, если вам нужна кратчайшая дорога от установки к работающему локальному чату.
8. SmolChat — лучший выбор для маленьких телефонов и маленьких моделей
SmolChat — приложение только для F-Droid, которое ориентировано на самые маленькие пригодные модели, вроде SmolLM2 и вариантов TinyLlama. Это означает, что приложение работает на телефонах с 4–6 ГБ оперативной памяти, где PocketPal или Layla борются. Запуск быстрый, нагрузка на память низкая, качество приемлемо для быстрого суммирования, переписывания и простых вопросов-ответов.
Недостатки: Модели маленькие по дизайну, поэтому многошаговые рассуждения и длинный контекст слабые. Это не приложение для выбора, если вы хотите универсального помощника.
Цена: Бесплатно, open source (Apache 2.0).
Платформы: Android.
Итог: Выбирайте это, если в вашем телефоне 6 ГБ оперативной памяти или меньше, или если вы цените размер установки и скорость больше, чем качество модели.
Как выбрать подходящее приложение
Выбор действительно зависит от того, есть ли у вас домашний сервер LLM или вы хотите запустить модель прямо на телефоне.
Если вы хотите самый простой опыт на устройстве, установите PocketPal AI. Приложение загружает модели за вас, показывает важные настройки и работает автономно с самого начала.
Если у вас новый флагман и вам важна скорость, MLC Chat — самый быстрый вариант, потому что действительно использует GPU.
Если вам нужны персонажи, роли или дружелюбнее интерфейс, Layla — выбор.
Если вы хотите одно приложение для чата на устройстве и удалённого сервера, ChatterUI — гибкий вариант.
Если у вас уже работает Ollama на компьютере или NAS, Ollama App и Enchanted for Ollama начнут общение примерно за две минуты. Enchanted — тот же вариант с красивым интерфейсом.
Если вам нужен минимальный локальный чат и вы готовы загрузить файл GGUF самостоятельно, Maid — минимальная поверхность.
Если в вашем телефоне 6 ГБ оперативной памяти или меньше, или вы просто хотите быстрого запуска, SmolChat создан для этого.
Часто задаваемые вопросы
Могу ли я запустить ChatGPT локально на Android?
Нет. Модели ChatGPT не доступны для загрузки. Вы можете запустить локально открытые альтернативы вроде Llama 3, Qwen 2.5, Phi-3, Gemma и Mistral, используя приложения вроде PocketPal AI, MLC Chat или Layla. Качество локальной модели 3B или 7B значительно ниже, чем GPT-4, но для заметок, суммирования, черновиков и помощи с кодом часто достаточно.
Какое лучшее приложение для локального LLM на Android?
Для большинства людей PocketPal AI — лучшая отправная точка. Приложение поставляется со встроенным браузером моделей Hugging Face, работает на любом современном телефоне Android и полностью open source без подписки. Если у вас уже есть домашний сервер LLM, Ollama App лучше по умолчанию, потому что позволяет использовать большие модели, чем любой телефон может вместить в оперативной памяти.
Сколько оперативной памяти мне нужно для запуска локальной модели на телефоне?
Приблизительное руководство: 4 ГБ оперативной памяти хорошо обрабатывает модели 1B параметров, 6 ГБ справляются с 3B моделями при 4-битном квантировании, 8 ГБ и больше комфортно для моделей 7B и 8B. Ниже 4 ГБ, используйте SmolChat с SmolLM2 или TinyLlama. Выше 12 ГБ, вы можете экспериментировать с моделями 13B на флагмане, хотя пропускная способность упадёт.
PocketPal бесплатен?
Да. PocketPal AI бесплатен, open source по лицензии MIT, без объявлений или подписки. Модели, которые приложение загружает из Hugging Face, также бесплатны. Единственная стоимость — место на диске и батарея.
Как подключить мой Android к Ollama?
Установите Ollama на ваш компьютер, Mac или NAS и сделайте её доступной в локальной сети, установив переменную окружения OLLAMA_HOST на 0.0.0.0. Установите Ollama App или Enchanted for Ollama на ваш телефон, введите локальный IP-адрес и порт сервера (по умолчанию 11434), и выберите модель, которая уже загружена на хосте. Для доступа вне вашей сети поставьте туннель Tailscale или WireGuard между телефоном и сервером вместо того, чтобы выставлять Ollama в интернет напрямую.
