Новости из мира высоких технологий

Чип MIT сократил энергопотребление нейросети на 95%

Нейронные сети — мощные штуки, но очень прожорливые. Инженерам из Массачусетского технологического института (MIT) удалось разработать новый чип, который сокращает энергопотребление нейронной сети на 95%, что может в теории позволить им работать даже на мобильных устройствах с батареями. Смартфоны в наши дни становятся все умнее и умнее, предлагают все больше услуг, подпитанных искусственным интеллектом, вроде виртуальных ассистентов и переводов в реальном времени. Но обычно нейронные сети обрабатывают данные для этих сервисов в облаке, а смартфоны лишь передают данные туда и обратно.

Это не идеально, потому что требует толстый коммуникационный канал и предполагает, что чувствительные данные передаются и хранятся за пределами досягаемости пользователя. Но колоссальные объемы энергии, которая необходима для питания нейросетей, работающих на графических процессорах, невозможно обеспечить в устройстве, работающем на небольшом аккумуляторе.

Инженеры MIT разработали чип, снижающий это энергопотребление на 95%. Чип радикально сокращает потребность в передаче данных туда и обратно между памятью чипа и процессорами.

Нейронные сети состоят из тысяч взаимосвязанных искусственных нейронов, расположенных слоями. Каждый нейрон получает вводные данные от нескольких нейронов в нижележащем слое, и если комбинированный ввод проходит определенный порог, он передает результат нескольким нейронам выше. Сила связи между нейронами определяется весом, который устанавливается в процессе обучения.

Это означает, что для каждого нейрона чип должен извлечь вводные данные для определенного соединения и вес соединения из памяти, умножить их, сохранить результат, а затем повторить процесс для каждого ввода. Много данных передвигаются туда и сюда, тратится много энергии.

Новый чип MIT устраняет это, высчитывая все вводы параллельно в памяти с использованием аналоговых схем. Это значительно уменьшает объем данных, которые необходимо перегнать, и приводит к значительной экономии энергии.

Такой подход требует, чтобы вес соединений был бинарным, а не диапазонным значением, но предыдущие теоретические работы показали, что это не сильно повлияет на точность, и ученые обнаружили, что результаты работы чипа расходились на 2-3% от обычного варианта нейронной сети, работающей на стандартном компьютере.

Уже не в первый раз ученые создают чипы, которые обрабатывают процессы в памяти, снижая энергопотребление нейросети, но в первый раз этот подход был использован для работы мощной нейросети, известной своими обработками изображений.

«Результаты показывают впечатляющие спецификации энергоэффективного внедрения свертки операций в пределах массива памяти», говорит Дарио Джил, вице-президент по искусственному интеллекту в IBM.

«Это определенно открывает возможности использования более сложных сверточных нейронных сетей для классификации изображений и видео в Интернете вещей в будущем».

И это интересно не только группам R&D. Желание устроить ИИ на устройства вроде смартфонов, бытовой техники и всевозможные IoT-устройства толкают многих из Кремниевой долины в сторону чипов с низким энергопотреблением.

Apple уже интегрировала свой Neural Engine в iPhone X, чтобы запитать, например, технологию распознавания лиц, да и Amazon, по слухам, разрабатывает собственные чипы ИИ для следующего поколения цифровых ассистентов Echo.

Крупные компании, производители чипов также все больше начинают полагаться на машинное обучение, что вынуждает их делать свои устройства еще более энергоэффективными. В начале этого года ARM представила два новых чипа: процессор Arm Machine Learning, работающий с задачами общего ИИ, от перевода до распознавания лиц, и процессор Arm Object Detection, определяющий, например, лица на снимках.

Новейший мобильный чип Qualcomm, Snapdragon 845, имеет графический процессор и в значительной степени ориентирован на ИИ. Компания также представила Snapdragon 820E, который должен работать в беспилотниках, роботах и в промышленных устройствах.

Забегая вперед, IBM и Intel разрабатывают нейроморфные чипы, архитектура которых вдохновлена человеческим мозгом и невероятной энергоэффективностью. Это теоретически могло бы позволить TrueNorth (IBM) и Loihi (Intel) проводить мощное машинное обучение, пользуясь лишь небольшой долей энергии обычных чипов, но эти проекты еще сугубо экспериментальны.

Заставить чипы, которые дают жизнь нейросетям, экономить энергию батарей будет очень сложно. Но при нынешних темпах инноваций это «очень сложно» выглядит вполне посильным.


Источник: Чип MIT сократил энергопотребление нейросети на 95%
Автор:
Теги: исследования MIT нейронные сети нейросеть Amazon apple arm

Комментарии (0)

Сортировка: Рейтинг | Дата
Пока комментариев к статье нет, но вы можете стать первым.
Написать комментарий:
Напишите ответ :
Как помочь севшему смартфону дотянуть до подзарядки: способы, которые почти забыты
Как помочь севшему смартфону дотянуть до подзарядки: способы, которые почти забыты
2
Человек познаёт мир 01:30 11 фев 2024
С помощью нейросети, фотограф представил, как бы выглядели знаменитости, если бы не покинули мир слишком рано
С помощью нейросети, фотограф представил, как бы выглядели знаменитости, если бы не покинули мир слишком рано
1
Страничка добра и сплошного жизненного позитива! 00:09 18 мар 2023
"Центробувь" сократил количество магазинов в Петербурге с 30 до 3
"Центробувь" сократил количество магазинов в Петербурге с 30 до 3
0
Розничная торговля 14:35 08 апр 2016
Нейросети чудеса творят
Нейросети чудеса творят
0
Человек познаёт мир 09:45 16 фев 2023
Доказательства того, что даже в лютую жару можно комфортно находиться дома
Доказательства того, что даже в лютую жару можно комфортно находиться дома
6
Человек познаёт мир 10:10 17 июл 2023
Советы, которые помогут перераспределить бытовые расходы и накопить на что-то нужное
Советы, которые помогут перераспределить бытовые расходы и накопить на что-то нужное
8
Человек познаёт мир 08:38 18 май 2022
Как выбрать посудомоечную машину. Тонкости
Как выбрать посудомоечную машину. Тонкости
0
Женский развлекательный и поучительный сайт. 22:24 19 июн 2021
Как бы выглядели популярные блюда, будь они людьми по версии нейромастера
Как бы выглядели популярные блюда, будь они людьми по версии нейромастера
0
Страничка добра и сплошного жизненного позитива! 16:06 27 апр 2023
Нейросеть снова проиллюстрировала известные крылатые слова и фразы
Нейросеть снова проиллюстрировала известные крылатые слова и фразы
1
Страничка добра и сплошного жизненного позитива! 12:38 30 янв 2023
Нейросеть научилась прятать от начальства открытые на рабочем столе окна
Нейросеть научилась прятать от начальства открытые на рабочем столе окна
0
Новости высоких технологий 07:30 30 дек 2016
«По-настоящему»: как могли выглядеть известные люди прошлого
«По-настоящему»: как могли выглядеть известные люди прошлого
0
Здесь только хорошие новости! 22:39 07 июл 2020
Ваши шансы на свидание с Дорном: Нейросеть оценивает по фотографии
Ваши шансы на свидание с Дорном: Нейросеть оценивает по фотографии
0
Интересный мир 23:00 01 апр 2017

Выберете причину обращения:

Выберите действие

Укажите ваш емейл:

Укажите емейл

Такого емейла у нас нет.

Проверьте ваш емейл:

Укажите емейл

Почему-то мы не можем найти ваши данные. Напишите, пожалуйста, в специальный раздел обратной связи: Не смогли найти емейл. Наш менеджер разберется в сложившейся ситуации.

Ваши данные удалены

Просим прощения за доставленные неудобства