Вычисления в памяти и шифрование
Ценность для общества
Презентация iNc
Клавиши ← →, свайп или кнопки для перехода.
На периферии
Более надёжный интеллект в реальном времени
Автоматическое торможение · предупреждение сбоев · контроль жизненных показателей
Быстрые решения, меньше аварий и потерь
Выше энергоэффективность
Доступный ИИ для множества устройств
От нескольких до сотен раз
Повышение эффективности устройств с ограниченным питанием
Меньше зависимости от облака
Конфиденциальность и устойчивость сети
Обрабатывайте данные локально
Передавайте только необходимые результаты
При обучении
Повышение эффективности обучения ИИ
Преодоление стены памяти
Снижение энергии обучения на порядки
Развитие ИИ и экологические цели
Больше согласованности
На уровне общества
Более доступная интеллектуальная инфраструктура
Сокращение цифрового разрыва
Небольшие города · удалённые регионы · традиционные отрасли
Сценарии применения
Интернет вещей (IoT)
Интеллект рядом с датчиком
Передача только результатов: меньше сетевых и облачных затрат
Умные очки и носимые устройства
Локальное понимание изображений
Навигация · помощь при чтении · перевод в реальном времени
Автомобили и транспорт
Периферийный инференс ADAS и автономного вождения
Меньше задержка, быстрее реакция
Робототехника
Восприятие и планирование на устройстве
Более плавное движение и высокая безопасность
Смартфоны
Ускорение ИИ на устройстве
Улучшение изображений · распознавание речи · перевод
Компьютеры и планшеты
Локальный инференс больших моделей
Офисные помощники · помощь в программировании · творческие инструменты
Умные часы
Мониторинг здоровья в реальном времени
Ношение весь день и непрерывное наблюдение
Вот как
Применяются вычисления в памяти
Пользователь спрашивает:
Сколько TOPS даёт вычисляющий SSD?
У него нет TOPS
И нет GOPS
Потому что
TOPS = (2 × MAC × частота) / 10¹²
Число блоков MAC × рабочая частота
1 MAC = 1 умножение + 1 сложение
Вычисления в памяти устроены иначе
Четыре вычислительных процесса за один шаг
Нет блоков MAC
Нет тактовой частоты
Формула TOPS неприменима
Можно лишь оценить
Эквивалентную производительность
Сравнение поиска сходства векторов
Традиционные CPU/GPU
20 секунд / 100 Дж
Решение iNc
0,5 секунды / 2,5 Дж
Энергоэффективность выше в 43 раза
Задержка ниже в 47 раз
Устранение ограничения пропускной способности
Возможно, вы не знаете
О суровой реальности
Системы L4 оснащаются
500+ TOPS
Фактическая загрузка — лишь
20–40%
Перемещение данных поглощает энергию
63,7%
Мощности расходуется на передачу DRAM ↔ NPU
Вычисления в памяти
Аналоговые вычисления внутри массива
Устранение перемещения данных в самом источнике
Для технических специалистов
Перейдите к белым книгам
Давайте вместе
Использовать новые технологии
1 / 36