Ученые Массачусетского технологического института протестировали чип для нейросетевых вычислений, который сократит энергопотребление смартфона на 95%.
Ученые из Массачусетского технологического института (MIT) разработали чип для нейросетевых вычислений, с помощью которого энергопотребление сократится на 95%. Это позволит дольше использовать нейросетевые программы на устройствах с аккумуляторным питанием, таких как смартфоны и планшеты, и даже на умной бытовой технике, сообщается на сайте института.
«Согласно стандартной схеме, память находится в одной части чипа, процессор — в другой, и в ходе вычислений данные перемещаются между ними. Поскольку для алгоритмов машинного вычисления требуется огромное количество вычислений, большая часть энергии тратится именно на передачу данных туда-обратно», — объясняет руководитель проекта Авишек Бисвас, аспирант MIT по электротехнике и информатике.
Чтобы уменьшить энергопотребление, учёные из MIT решили создать чип, множество вычислений в котором упрощаются до одной операции. Эту операцию учёные назвали точечным продуктом. Новый чип может вычислять точечные продукты сразу для 16 узлов нейросети за один шаг, вместо перемещения результатов каждого вычисления между процессором и памятью.
Сейчас смартфонные приложения на основе нейронных сетей обрабатывают поступающие команды на облачных серверах, и это сказывается на скорости работы. В MIT обещают, что использование нового процессора решит эту проблему и увеличит скорость нейросетевых вычислений в 3-7 раз. «Это, несомненно, позволит использовать более сложные сверхточные нейронные сети для классификации изображений и видео в небольших устройствах интернета вещей», — прокомментировал разработку Дарио Гил, вице-президент компании IBM по искусственному интеллекту.