12 мая 2018, 16:11

Исследователи доказали, что голосовые ассистенты слышат скрытые команды. А вы — нет

Смарт-колонки могут совершить онлайн-покупку, разблокировать дверь и вывести деньги со счёта.

Учёные из Китая и США продемонстрировали, что могут управлять Siri, Alexa и Google Assistant с помощью скрытых команд, которые недоступны человеческому уху. Учёные смогли активировать системы искусственного интеллекта, чтобы заставить их набирать номера телефонов или открывать сайты. В неправильных руках эта технология может быть использована для разблокировки дверей, перевода денег или покупки товаров в интернете.

В 2016 году студенты из Беркли и Джорджтаунского университета также заставили смарт-устройства по команде, скрытой в белом шуме, открывать сайты и отключаться от сети. Кроме того, учёные из Беркли опубликовали статью, в которой описали способ зашифровки команд в музыку и другие аудиозаписи.

Системы распознавания речи обычно переводят каждый звук в букву, затем компилируя их в слова и фразы. Чтобы перехватить управление устройством, исследователи точечно заменили некоторые звуки, который воспринимаются машинами как команды, будучи почти незаметным для человеческого уха.

Не вдаваясь в подробности, Amazon заявил, что уже предпринял шаги для обеспечения безопасности пользователей Echo. Google подчеркнул, что безопасность — это постоянный фокус, и у его помощника есть функции для подавления скрытых звуковых команд. Специалисты обеих компаний используют технологию распознавания голоса, чтобы запретить устройствам выполнять команды, если они не распознают голос пользователя.

Apple сказала, что их HomePod сконструирован так, чтобы устройство не могло разблокировать двери самостоятельно. iPhone и iPad должны быть разблокированы до того, как Siri начнёт действовать по командам, связанные с конфиденциальными данными пользователя.

Но факт остаётся фактом: пока системы распознавания голоса можно обмануть как с помощью неслышимых для человека команд, так и более прямолинейными способами.