
Содержание3 разделов
На странице Snapdragon 8 Elite Gen 6 Qualcomm описывает обновлённый Hexagon NPU и сценарии ИИ на устройстве. Старый заголовок нашей статьи обещал запуск моделей на 30 млрд параметров. Одной страницы характеристик недостаточно, чтобы гарантировать это для любого смартфона на таком чипе; утверждение убрано.
Чип, телефон и приложение дают разные ограничения
Производитель платформы описывает её возможности. Производитель телефона выбирает память, охлаждение и программные функции. Приложение определяет, какую модель и каким способом запускать. Для ответа на вопрос «пойдёт ли моя модель» нужны сведения обо всех этих уровнях.
Число параметров само по себе не показывает расход памяти. Влияют представление весов, контекст и дополнительные данные вычисления. Если рекламный пример использует специальную подготовку модели, переносить его на произвольный файл нельзя.
Как проверить обещание продавца
Попросите название приложения, версию и точную модель. Затем уточните, выполняется ли нужная функция на устройстве или обращается к облаку. Для доступной локальной функции можно провести тест с вымышленным текстом без сети и сравнить результат с обычным режимом. Такой тест проверяет только выбранный сценарий.
Отдельно проверьте длительную работу. Первый короткий ответ и несколько минут использования могут иметь разную скорость. Запишите время получения полного результата и нагрев, не ограничиваясь демонстрацией запуска.
Когда характеристики NPU помогут выбрать телефон
Если вы знаете конкретное поддерживаемое приложение, совместимость платформы становится полезным критерием. Если задача пока звучит как «хочу побольше ИИ», цифра в описании чипа мало поможет. Сначала определите действие: распознавание записи, обработка фото или локальный ответ по тексту.
В разборе NPU объясняем, какие части работы могут оставаться на CPU и GPU. И проверяйте характеристики самой модели телефона: название Snapdragon не описывает всю конфигурацию устройства.
Источники

Как вам материал?



Комментарии