23 июня 2021, 15:15

GDPR для ИИ: Евросоюз готовит полный запрет на использование ИИ для распознавания лиц и других способов идентификации людей в общественных местах

Штрафы за нарушение правил составят до 20 млн евро или до 4% оборота компании.

Два ведомства Евросоюза, отвечающих за защиту персональных данных, призвали полностью запретить применение искусственного интеллекта для распознавания лиц и других способов идентификации людей в общественных местах:

«Если мы хотим сохранить наши свободы и создать ориентированное на человека законодательство об ИИ, то начать следует с общего запрета на системы распознавания лиц в общественных местах. Использование биометрической идентификации на расстоянии в общественных местах будет означать конец анонимности людей в подобных пространствах. Программы распознавания лиц и им подобные настолько серьёзно вторгаются в сферу основополагающих прав и свобод, что ставят под вопрос саму их суть», — объясняют свою позицию главы Европейского совета по защите данных и Европейского надзорного органа по защите данных.

Они призывают запретить в общественных местах программы идентификации людей и по лицу, и по походке, по голосу, отпечаткам пальцев, ДНК и прочим биометрическим и поведенческим признакам.

Кроме того, главы EDPB и EDPS считают, что ЕС должен запретить и системы ИИ, которые классифицируют людей по этническому происхождению, полу, политическим взглядам или сексуальной ориентации. Применение систем, распознающих эмоции человека, они предлагают разрешить только в очень ограниченном наборе случаев — например, в медицине.

Напоминаем, что на прошлой неделе Еврокомиссия подготовила пакет регуляций, которые должны обеспечить «человекоцентрический подход» к ИИ. Под запрет могут попасть «высокорисковые» применения ИИ:

алгоритмы социального скоринга (наподобие китайской системы);
системы ИИ, которые могут манипулировать поведением, мнениями и решениями людей, использовать их уязвимости;
системы ИИ для массовой слежки.

Штрафы за нарушение правил составят до 20 млн евро или до 4% оборота компании. Предусмотрены исключения для властей на случай серьезных преступлений: к примеру, ограниченное во времени и географии распознавание лиц для поиска террористов.

По мнению автора Telegram-канала «Технологии, медиа и общество» Андрея Бродецкого, «регуляции важные и нужные, вопрос в том, как это всё будет имплементироваться, зная европейскую бюрократию (спросите у IT-юристов, как там дела с реализацией GDPR). Также можно ожидать, что эти регуляции усилят отставание европейских инноваций в сфере ИИ от Китая и США. Зато граждане ЕС будут защищены от плохих алгоритмов ИИ».

Источник: Telegram-канал «Технологии, медиа и общество»