Мозг на чипе: мемристоры помогут нейросетям учиться быстрее и дешевле
А ещё предугадывать человеческую речь.
Сотрудники Мичиганского университета разработали новый метод тренировки нейросетей с использованием мемристоров (производное слов memory — память, и resistor — электрическое сопротивление). Мемристоры одновременно и хранят информацию, и выполняют логические операции. В современных компьютерах эти функции по раздельности берут на себя накопители данных и процессоры.
Новая вычислительная система загружает массив данных в резервуарную вычислительную систему. Она не нуждается в тренировке благодаря мемристорам, определяет главные свойства информации и передаёт их следующей программе в упрощённом виде. Это сокращает время и стоимость обучения нейросетей. Так, система из 88 мемристоров научилась распознавать рукописные цифры с точностью 91%. Для решения такой задачи стандартными методами специалистам нужно создать нейросеть с тысячами логических узлов.
Резервуарные системы хорошо показали себя в обработке изменяющихся данных — потоков чисел, функций и слов. Команда разработчиков планирует использовать новый подход для предикативной аналитики и распознавания речи.
«[Благодаря этому методу] мы можем прогнозировать естественный разговорный язык — вам не нужно будет договаривать слова. Фактически мы сможем предугадывать, что вы хотите сказать», — говорит профессор электротехники и информатики Мичиганского университета Вэй Лу (Wei Lu).
Материалы по теме:
Хотите подсказать новость или поделиться экспертным мнением? Пишите: news@cossa.ru
IT-конференция МТС True Tech Day 17 мая
Что будет:
- 5 тематических треков: Main, Development, AI/ML, Cloud, Science;
- 50 спикеров с докладами про архитектуру, облачные платформы, NLP4Code, вероятностное программирование, безопасность контейнеров и другое;
- 10 часов нетворкинга;
- Цифровые зоны и digital-интеграции;
- А ещё вечеринка со звездой.