Coral M.2 Accelerator with Dual Edge TPU

Coral M.2 Accelerator with Dual Edge TPU — это небольшой ASIC (специализированный вычислительный модуль), разработанный Google, который включает в себя два ускорителя Edge TPU ML, каждый с собственным интерфейсом PCIe Gen2 x1, предназначенные для ускорения выполнения расчётов моделей TensorFlow Lite с низким энергопотреблением. Каждый из них способен выполнять 4 триллиона операций в секунду (4 TOPS), используя 2 Вт мощности - это 2 TOPS на 1 Ватт. Например, один Edge TPU может производить вычисления для самых современных моделей мобильного зрения, таких как MobileNet v2, обрабатывая почти 400 кадров в секунду.

Обработка алгоритма машинного обучения на устройстве снижает задержку, повышает конфиденциальность данных и устраняет необходимость в постоянном подключении к интернету.

С двумя Edge TPU в этом модуле вы можете удвоить количество выводов в секунду (8 TOPS) несколькими способами, например, параллельное выполнение заданий на двух ускорителях или конвейерная обработка одной модели на обоих Edge TPU.

Примечание. Поскольку этот модуль использует два соединения PCIe x1, он не совместим со всеми слотами для карт M.2 E-key. Двойной Edge TPU также требует особых требований к питанию, которые необходимо тщательно проверять.

Основные особенности:

● 2 ускорителя Google Edge TPU ML
    ○ Общая пиковая производительность 8 TOPS (int8)
    ○ 2 TOPS на Ватт
● Интегрированное управление питанием
● 2 интерфейса PCIe Gen2 x1 (по одному на каждый Edge TPU)
● Модуль M.2-2230-D3-E
● Размер: 22,0 x 30,0 x 2,8 мм.
● Рабочая температура: от -40 до +85 ° C

Мощность, потребляемая модулем карты, зависит от модели машинного обучения, количества выводов в секунду и рабочей частоты каждого Edge TPU. Максимальный ток, потребляемый каждым Edge TPU, обычно намного выше среднего тока. Это связано с тем, что, когда Edge TPU выполняет модель машинного обучения, он многократно активирует большое количество арифметико-логических устройств (ALU) одновременно, что приводит к модели коротких, но больших переходных процессов тока. Каждая архитектура модели также активирует разный набор и разное количество ALU, что означает, что величина и форма переходного тока очень сильно зависят от модели.

Хотя средний ток, потребляемый от источника питания 3,3 В каждым пограничным TPU, обычно составляет менее 500 мА, кратковременные переходные процессы, возникающие во время логического вывода, могут достигать примерно 3 А. Эти выбросы также возникают внезапно: даже простая модель может генерировать чрезмерные переходные процессы. 1 А / мкс от одного Edge TPU. Однако эти числа являются репрезентативными только для моделей, протестированных в Google, и ваши числа могут отличаться. Чтобы определить фактический пиковый ток питания, вы должны наблюдать за током при запуске моделей, которые вы будете развертывать в производстве, и сравнивать токи при параллельном запуске одного Edge TPU или обоих Edge TPU.

Поддержка TensorFlow Lite
Coral M.2 Accelerator with Dual Edge TPU поддерживает работу с TensorFlow Lite, поэтому вам не обязательно строить модели с нуля. Модели TensorFlow Lite можно скомпилировать для работы на Edge TPU.

Габаритные размеры:  30мм х 22мм х 2,8мм

Требования к программному обеспечению:

Ускоритель M.2 с Dual Edge TPU должен управляться средой выполнения Edge TPU runtime  и драйвером Coral PCIe, который совместим со следующими системами:
● Linux:
    ○ 64-разрядная версия Debian 10 или Ubuntu 16.04 (или новее)
    ○ системная архитектура x86-64 или ARMv8
● Windows:
    ○ 64-битная версия Windows 10
    ○ системная архитектура x86-64
● Все системы требуют поддержки MSI-X в соответствии со спецификацией PCI 3.0.

Температурные ограничения:
Температура перехода каждого Edge TPU T j должна оставаться ниже максимальной рабочей: 
● Максимальная температура перехода Edge TPU T j: 115°C.

Предупреждение: Превышение максимальной температуры может привести к необратимому повреждению Edge TPU и окружающих компонентов, а также может вызвать пожар.