Локальный ИИ: что можно поручить ноутбукам и телефонам сотрудников

В 2026 году локальный ИИ позволяет составлять краткие резюме, редактировать черновики и обрабатывать речь прямо на устройствах сотрудников. Но решение о передаче данных за их пределы по-прежнему принимает приложение. Начните с одной чётко ограниченной задачи, явно обозначьте любое обращение к облаку и оцените результат на собственных документах, прежде чем расширять внедрение.

Для руководителя, отвечающего за рабочие процессы, главный вопрос — какую часть задачи можно выполнять на ноутбуке или телефоне. Превратить заметку выездного сотрудника в краткую сводку для передачи дел — более подходящий первый шаг, чем поручить помощнику искать информацию, рассуждать и действовать во всех подразделениях компании.

Сверено с актуальной документацией производителей 23 октября 2026 года. Таблица ниже — это анализ заявленных возможностей и требований, а не результаты тестирования производительности.

Что такое локальный ИИ?

Локальный ИИ запускает модель на процессоре самого устройства. Это может быть центральный процессор (CPU), графический процессор (GPU) или нейронный процессор (NPU) — чип, предназначенный для поддерживаемых вычислений ИИ. Работа модели по формированию ответа называется инференсом. Чтобы задействовать NPU, нужно специально рассчитанное на него ПО: само наличие чипа не ускоряет автоматически каждое приложение с ИИ. Руководство Microsoft по NPU для разработчиков

Представьте переводчика, который сидит рядом с вами и работает с документом, а не получает его курьером в другом офисе. При локальном инференсе обработка точно так же происходит рядом. При этом приложение всё ещё может отправить копию куда-то ещё — как и готовый перевод можно потом переслать по электронной почте.

Сам вызов локальной модели не требует передачи данных с устройства. Но приложение, в которое она встроена, может отправлять промпты, синхронизировать документы, обращаться к онлайн-инструментам или выбирать облачную модель. Например, фреймворк Apple позволяет снабдить модель инструментами для запросов как к локальным, так и к онлайн-базам данных. Где выполняются вычисления и куда приложение передаёт данные — два отдельных решения. Документация Apple Foundation Models

Чтобы использовать нейросети без интернета, тоже нужна подготовка. Файлы модели должны быть заранее загружены, а входные данные — доступны приложению без подключения к сети. Локальная модель не сможет составить резюме документа, который хранится только в недоступной удалённой системе.

Какие локальные языковые модели уже доступны бизнесу?

Сначала выберите ПО под рабочую задачу, затем проверьте требования к устройствам. Фреймворки Apple и Google — это компоненты для разработки приложений; в Windows есть конкретные готовые функции; настольные программы для запуска моделей позволяют сотрудникам и разработчикам выбирать модели самостоятельно. Это разные способы внедрения.

Apple Foundation Models: отдельные функции внутри приложения

Фреймворк Apple Foundation Models даёт интерфейс для создания функций на базе моделей на Swift — языке программирования Apple. Его локальная модель умеет, в частности, составлять резюме переданного текста, извлекать сведения и дорабатывать черновики. Управляемая генерация позволяет возвращать заданную структуру данных Swift: это удобно, когда приложению нужны заполненные поля, а не абзац текста. Обзор фреймворка Apple

Для руководителя продукта разумный сценарий — превращать заметку техника в структурированную сводку для передачи дел, которую затем проверит человек. Приложение передаёт исходный материал и задаёт формат результата. Такая задача гораздо уже, чем просьба к модели решить, как ремонтировать оборудование.

В актуальном руководстве Apple по генерации создание кода, базовые математические вычисления и логические рассуждения перечислены среди задач, которых следует избегать при работе с локальной моделью. Расчёты и проверки выполняйте обычным кодом приложения, а сгенерированный контент, от которого зависят значимые решения, обязательно оценивайте. Рекомендации Apple по возможностям модели

Фреймворк доступен начиная с поколения операционных систем iOS 26, iPadOS 26 и macOS 26; у более новых API есть собственные требования к доступности. Устройство должно поддерживать Apple Intelligence: например, iPhone 15 Pro, iPhone 16 и более поздние модели, а также Mac с процессорами M1 или новее. Проверяйте доступность конкретной модели во время работы приложения, включая язык, регион и готовность загруженных файлов. Доступность фреймворка, Требования Apple к устройствам

Явно выбирайте локальную модель при реализации функции. Теперь фреймворк также поддерживает Private Cloud Compute и других серверных провайдеров. Утверждение «приложение использует Foundation Models» уже не позволяет понять, где выполняется конкретный запрос. Поддержка моделей в Apple Foundation Models

Локальный ИИ Google: Android и Chrome

Google Gemini Nano — локальная модель, работающая через системную службу Android AICore. Разработчики получают к ней доступ через ML Kit, где есть API для создания кратких резюме, корректуры, переформулирования текста и других задач. Для приложения выездной службы разумный пилотный сценарий — сокращать заметку, которую передал сотрудник. Обзор Google для Android

Поддержка устройств зависит от API и версии модели. Сверяйтесь со списками совместимых устройств Google и проверяйте доступность: общей версии Android или объёма оперативной памяти недостаточно, чтобы установить совместимость. Есть и ограничение по режиму работы: инференс ML Kit GenAI разрешён только тогда, когда приложение активно на переднем плане; кроме того, действуют квоты на запросы и расход батареи. Поэтому строить на нём очередь фоновой обработки документов без участия пользователя не стоит. Требования и ограничения ML Kit

Более гибкий Prompt API пока остаётся в бета-версии без соглашения об уровне обслуживания и правил прекращения поддержки, поэтому Google может вносить изменения, нарушающие совместимость. Оцените эту зависимость, прежде чем делать API необходимой частью работы сотрудников. Статус Google Prompt API

Google Chrome предоставляет доступ к Gemini Nano через встроенные API браузера на поддерживаемых настольных компьютерах и ноутбуках. Веб-продукт может предложить локальное создание резюме текста, который у него уже есть. Summarizer API доступен в стабильной версии Chrome, но нужно проверять доступность самой функции и модели. Документация Chrome Summarizer

Для работы на CPU нужны как минимум 16 ГБ оперативной памяти и 4 ядра CPU; для работы на GPU — строго больше 4 ГБ VRAM, то есть видеопамяти. Google также требует 22 ГБ свободного места на томе, где расположен профиль Chrome. Это требование к свободному месту, а не утверждение, что сама модель занимает такой объём. Эти API базовых моделей пока не работают в Chrome на Android и iOS. Требования Chrome к оборудованию

Для внутреннего веб-инструмента это означает, что нужно проверить браузеры на устройствах сотрудников, прежде чем обещать доступность для всех. Если локальная модель недоступна, исходный текст и возможность выполнить работу вручную должны оставаться под рукой.

Copilot+ PC: полезные функции Windows с чёткими ограничениями

Компьютеры Microsoft Copilot+ PC предоставляют оборудование для таких функций Windows, как перевод в Live Captions, Windows Studio Effects и улучшенный поиск Windows. У каждой функции свои условия доступности по устройствам, языкам и этапам развёртывания. Руководство Microsoft по функциям для бизнеса

Для этого класса устройств требуются совместимый NPU с производительностью 40+ TOPS, 16 ГБ оперативной памяти и накопитель на 256 ГБ, а также соблюдение требований Windows. TOPS означает триллионы операций в секунду: показатель описывает вычислительную мощность, а не качество ответа модели на ваш рабочий вопрос. Аппаратные требования Microsoft

Live Captions — показательный пример локальной функции: по данным Microsoft, обработка звука и создание субтитров происходят на устройстве. Обычные субтитры уже есть в Windows; Copilot+ добавляет перевод. Однако созданные субтитры не сохраняются, поэтому функция не подходит для архива встреч и не заменяет процесс, в котором нужно хранить расшифровки. Документация Microsoft Live Captions

Перед покупкой определите, какая именно функция оправдывает расходы на оборудование. Покупка NPU не переносит на этот чип облачные возможности Microsoft Copilot или произвольную настольную модель. Требования Windows к ИИ, Требования к ПО для NPU

Ollama и LM Studio: запуск нейросетей на компьютере

Ollama — среда для запуска локальных моделей с API, к которому могут обращаться приложения. Документация отдельно описывает локальное выполнение моделей и необязательные облачные функции. Решение подходит разработчику, который хочет подключить локальную модель к существующему рабочему процессу и проверить, использует ли она ресурсы CPU или GPU. Документация Ollama

Для работы строго локально Ollama предлагает параметр disable_ollama_cloud: true в конфигурации сервера или переменную окружения OLLAMA_NO_CLOUD=1 с последующим перезапуском. Это отключает облачные модели и веб-поиск Ollama, но не управляет сетевым поведением другого приложения, подключённого к Ollama. Настройка Ollama для работы только локально

LM Studio предоставляет настольный интерфейс для скачивания моделей, загрузки их в память и общения с ними, в том числе с моделями семейств Qwen, Mistral и Gemma. Модели называют моделями с открытыми весами, когда разработчик публикует файлы обученной модели; при этом условия лицензий различаются. Введение в LM Studio

После скачивания файлов LM Studio поддерживает чат без интернета, локальную обработку документов и локальный сервер. В актуальной политике конфиденциальности отдельно описаны необязательные облачные модели и веб-поиск. Осознанно выбирайте режим работы с локальной моделью. Работа без интернета, Актуальная политика конфиденциальности LM Studio

LM Studio рекомендует как минимум 16 ГБ оперативной памяти и предъявляет дополнительные требования к платформе. Это отправная точка, а не обещание, что поместится любая модель. Mac с процессорами Intel не поддерживаются, а с Apple Silicon — поддерживаются. Для сборки x64 под Windows нужен процессор с поддержкой AVX2. Системные требования LM Studio

Подобрать модель под устройство поможет руководство по лучшим локальным LLM, а сравнить среды запуска, развёртывание и лицензирование для рабочих задач — материал Ollama и LM Studio: сравнение. Среду запуска и саму модель нужно выбирать отдельно.

Какие задачи стоит выполнять на устройствах сотрудников?

Локальная обработка особенно полезна, когда входные данные уже есть на устройстве, задача чётко ограничена, а результат может проверить человек. Облако остаётся полезным вариантом, если задача выходит за возможности устройства или требует централизованно обслуживаемого сервиса. Последний столбец содержит рекомендации по внедрению, а не рейтинг качества по результатам замеров.

При расшифровке отделяйте распознавание речи от создания краткого резюме. Языковая модель, которая переформулирует текст, не становится от этого средством расшифровки аудио. Режим Google Basic использует традиционную локальную речевую модель, а Advanced — генеративную. Затем приложение должно определить, сохранять ли полученный текст и где именно. Руководство Google Speech Recognition

При расчёте затрат сравнивайте платный вызов облачного API с бесплатным локальным запуском, при котором нет облачной платы за каждый вызов инференса. При этом учитывайте оборудование, электроэнергию и администрирование. Пояснение Google о стоимости локального API

Какие ограничения важнее маркировки чипа?

Первый предел часто связан с объёмом задачи, а не с тем, запускается ли модель вообще. Контекстное окно — рабочее пространство модели, в котором размещаются инструкции, исходный материал, история разговора и ответ.

В актуальном руководстве Apple для локальной модели по умолчанию указано контекстное окно в 4,096 токенов. Токены — это фрагменты текста; входные данные и ответ делят между собой этот объём. В руководстве также описано, как запросить фактическую вместимость конкретной модели. При обработке длинного документа нельзя рассчитывать, что всё окно доступно только для исходного текста. Руководство Apple по контекстному окну

Разбиение документа на фрагменты помогает уложиться в лимит, но приложение должно сохранять связи между ними. Если в одном разделе указан срок, а в другом — исключение из него, набор изолированных резюме может потерять эту связь. Оценивайте выполнение задачи целиком, а не только то, удалось ли получить текст для каждого фрагмента.

Настольным моделям также нужна память для весов и рабочего состояния. Более длинный контекст и одновременные запросы могут увеличить расход памяти. Модель, с которой удобно составлять отдельный ответ, может не подойти для фоновой пакетной обработки, пока открыты другие приложения. Рекомендации Ollama по памяти и параллельным запросам

Поэтому практическую проверку нужно проводить на типичных устройствах сотрудников с запущенными повседневными приложениями. Для своей нагрузки фиксируйте время выполнения, неудачные запросы, объём исправлений и влияние на батарею. Ни один из приведённых выше аппаратных порогов не гарантирует универсальных показателей скорости или качества.

Конфиденциальность и соблюдение требований зависят от всего приложения

Локальная обработка может убрать передачу данных в облако из рабочего процесса, но не подтверждает его соответствие требованиям. Выясните, что выбранная функция отправляет, хранит и делает доступным, а затем передайте эту конфигурацию на оценку ответственным за безопасность и соблюдение требований.

У заявлений производителей есть конкретные границы:

• Apple: локальная модель может работать без подключения к сети, но Foundation Models также поддерживает облачных провайдеров и инструменты, получающие данные из интернета. Зафиксируйте, какие модель и инструменты выбрало приложение. Поддержка моделей в Apple Foundation Models
• Google в Android: согласно документации ML Kit, входные данные и результаты не передаются Google. При этом ML Kit отправляет метрики производительности и использования, а также обращается к серверам за обновлениями. Локальная обработка содержимого не означает отсутствия сетевой активности. Условия конфиденциальности ML Kit
• Google в Chrome: по заявлению Google, при использовании локальной модели данные не отправляются Google или третьим лицам, а сеть нужна для первоначального скачивания модели. Это заявление не мешает сайту, использующему API, передавать данные собственным кодом. Требования Chrome к моделям
• Microsoft: Live Captions выполняет обработку локально, но у других функций границы отличаются. Paint Cocreator генерирует изображения на NPU, одновременно используя облачные службы безопасности; Microsoft сообщает о сборе промптов и идентификаторов для предотвращения злоупотреблений. Локально созданный результат не доказывает, что вся функция работает локально. Пояснение о конфиденциальности Cocreator
• Настольные среды запуска: заявление Ollama о конфиденциальности локальной работы относится именно к локальному запуску. Актуальная политика LM Studio разделяет локальную обработку и необязательные облачные сервисы. Даже если облачный провайдер обещает не сохранять запрос, сам запрос всё равно покидает устройство. Ollama, LM Studio

Прежде чем сотрудники начнут работать с конфиденциальными материалами, опишите, где находятся исходные данные, какая модель выбрана, какие запросы уходят наружу, как устроены локальная история, резервное копирование и удаление. Включите в проверку расширения и подключённые инструменты. Шифрование устройств и управление доступом важны, потому что локальное хранение означает, что копии остаются на устройствах сотрудников.

Какие обещания преувеличены?

Утверждение, что ноутбук может заменить облачный ИИ-сервис, смешивает выполнение вычислений с организацией работы сервиса. Можно перенести инференс на устройство, но по-прежнему понадобятся обновления моделей, поддержка, права доступа, оценка качества и порядок действий при сбоях.

NPU полезен для совместимых задач. Он не даёт общей гарантии совместимости с моделями. Ответ без интернета избавляет от необходимости обмена данными по сети во время инференса, но сам по себе не доказывает, что результат придёт быстрее. А установленная локально модель всё равно может выдумывать детали или выдавать непригодный результат.

Обратное утверждение тоже мало помогает: чтобы приносить пользу, локальным моделям необязательно заменять вашу самую мощную облачную модель. Надёжной правки черновиков или создания кратких резюме уже может быть достаточно для внедрения. Вопрос в том, соответствует ли конкретная функция вашим критериям приёмки на тех устройствах, которыми пользуются сотрудники.

Кому уже стоит использовать ИИ на устройстве?

Тем, кто отвечает за рабочие процессы, стоит уже сейчас тестировать ограниченные задачи с проверяемым результатом; тем, кто закупает оборудование, — дождаться подтверждённой потребности. Следующий шаг зависит от роли.

Если вы отвечаете за рабочий процесс, начните с регулярной задачи, например сокращения внутренних заметок для передачи дел. Подберите исходные материалы с известным ожидаемым результатом и сделайте проверку человеком обязательной. Сохраняйте доступ к оригиналу для сравнения.

Если вы разработчик или руководитель продукта, используйте API платформы, когда он подходит вашим устройствам и функции. Проверку доступности модели, ограничения входных данных и ручной запасной вариант заложите в сам продукт. При разнородном парке телефонов нужно обеспечить рабочий сценарий и для пользователей, чьи устройства не поддерживают функцию.

Если вы отвечаете за закупки или работаете CTO, проведите инвентаризацию имеющихся устройств, прежде чем заказывать замену. Отдельно оценивайте потребность в конкретной функции Windows для NPU и потребность в настольной среде запуска моделей. Согласовывайте расходы на оборудование после того, как выбранный процесс покажет полезный результат на типичных рабочих компьютерах.

Отложите внедрение, если задача предполагает массовую обработку без участия человека через API, запрещающий фоновый инференс, или если локальная модель не обеспечивает нужное качество. Сохраните текущую схему, если согласованный облачный процесс уже решает задачу, а локальная работа не даёт полезных преимуществ в конфиденциальности, доступности без сети или организации работы.

С чего начать в понедельник: проверьте один рабочий процесс

1. 1

   Выберите задачу и определите границы передачи данных

   Задайте конкретные входные данные и результат — например, сокращённый черновик на основе заметки для передачи дел. Прежде чем настраивать запасной вариант, решите, может ли какая-либо часть содержимого покидать устройство.

2. 2

   Проверьте устройства и готовность модели

   Соберите сведения об операционной системе, чипе, памяти и свободном месте. Скачайте нужную модель, подтвердите её доступность и предусмотрите ручное выполнение для неподдерживаемых устройств.

3. 3

   Отдельно оцените результат и сетевое поведение

   Используйте согласованные тестовые материалы. Сравните результат с источником, проверьте исходящий трафик и повторите подготовленный процесс без интернета. Работа без сети — полезное свидетельство о конкретном сценарии, но она не доказывает, что при подключении приложение никогда не отправляет данные.

4. 4

   Решите, стоит ли расширять внедрение

   Наряду со временем выполнения фиксируйте сбои, объём исправлений и нагрузку на поддержку. Расширяйте внедрение, только если задача приносит пользу, а обработка данных соответствует установленным границам. Везде, где доступ к облаку разрешён, делайте его явным.

Больше практических материалов о внедрении ИИ — в рассылке.