Новое китайское приложение за неделю признали опасным

Приложение на основе искусственного интеллекта Zao была выпущена в Китае 29 августа и быстро оказалась в топе скачиваний. Пользователь мог наложить свое изображение на лицо киногероев фильмов, передает Русская служба Би-би-си.

Издателю Momo пришлось извиняться из-за пользовательского соглашения, в котором пользователи лишались прав на свои фотографии. Приложение стало пользоваться бешеной популярностью, что серверы перестали справляться с наплывом трафика.

Из-за активного распространения приложения платежной системе Alipay, входящей в Alibaba Group и насчитывающей 870 млн пользователей, пришлось заверять клиентов, что фейковые видео, созданные с помощью программы, не смогут обмануть систему распознавания лиц Smile to Pay ("улыбнись, чтобы заплатить"). Для аутентификации платежа пользователю нужно просто посмотреть в камеру.

Компания Alibaba утверждает, что использует сложные алгоритмы, которые защищают систему от фотографий или фейковых видео. Как сообщили в компании, еще до начала процедуры распознавания лица система определяет, не является ли изображение фотографией, видеозаписью или программной симуляцией.

Пользователи обратили внимание, что по условиям соглашения разработчики получали бессрочное право на бесплатное использование изображений, созданных с помощью программы и разработчики тем самым могли передать фотографию любой третьей стороне без дополнительного разрешения пользователя. А это нарушает китайские законы.

Momo в итоге пришлось изъять из пользовательского соглашения это условие и извиниться.

Популярная соцсеть WeChat все же запретила своим пользователям загружать видео из Zao на свою платформу из-за рисков безопасности.

Global Times заявила, что это очередной пример того, как приложение под управлением искусственного интеллекта может быть использовано во вред. Издание отметило, что Китай уже ужесточает законодательство об использовании искусственного интеллекта для "пересадки лиц" другим людям.