Перейти к содержимому

Железо

Snapdragon 8 Elite Gen 6: NPU и возможности локального ИИ

Qualcomm описывает новый Hexagon NPU и функции ИИ на устройстве. Возможность телефона запускать конкретную модель нужно проверять отдельно.

Редакционная иллюстрация к статье: Snapdragon 8 Elite Gen 6 получил новый NPU. Что это говорит о локальном ИИ
Содержание3 разделов

На странице Snapdragon 8 Elite Gen 6 Qualcomm описывает обновлённый Hexagon NPU и сценарии ИИ на устройстве. Старый заголовок нашей статьи обещал запуск моделей на 30 млрд параметров. Одной страницы характеристик недостаточно, чтобы гарантировать это для любого смартфона на таком чипе; утверждение убрано.

Чип, телефон и приложение дают разные ограничения

Производитель платформы описывает её возможности. Производитель телефона выбирает память, охлаждение и программные функции. Приложение определяет, какую модель и каким способом запускать. Для ответа на вопрос «пойдёт ли моя модель» нужны сведения обо всех этих уровнях.

Число параметров само по себе не показывает расход памяти. Влияют представление весов, контекст и дополнительные данные вычисления. Если рекламный пример использует специальную подготовку модели, переносить его на произвольный файл нельзя.

Как проверить обещание продавца

Попросите название приложения, версию и точную модель. Затем уточните, выполняется ли нужная функция на устройстве или обращается к облаку. Для доступной локальной функции можно провести тест с вымышленным текстом без сети и сравнить результат с обычным режимом. Такой тест проверяет только выбранный сценарий.

Отдельно проверьте длительную работу. Первый короткий ответ и несколько минут использования могут иметь разную скорость. Запишите время получения полного результата и нагрев, не ограничиваясь демонстрацией запуска.

Когда характеристики NPU помогут выбрать телефон

Если вы знаете конкретное поддерживаемое приложение, совместимость платформы становится полезным критерием. Если задача пока звучит как «хочу побольше ИИ», цифра в описании чипа мало поможет. Сначала определите действие: распознавание записи, обработка фото или локальный ответ по тексту.

В разборе NPU объясняем, какие части работы могут оставаться на CPU и GPU. И проверяйте характеристики самой модели телефона: название Snapdragon не описывает всю конфигурацию устройства.

Птичка messgo спрашивает, как вам материал

Как вам материал?

Поделиться

Читайте также

Комментарии

Написать комментарий

Без регистрации: имя и почта не нужны, мы подпишем вас случайным именем. Комментарий появится после проверки редакцией.