Расследование журналистов Svenska Dagbladet и Göteborgs-Posten вскрыло теневую сторону работы умных очков Ray-Ban Meta*. Выяснилось, что за «машинным обучением» ИИ-помощника стоят тысячи низкооплачиваемых рабочих в Кении, которые вручную размечают видеоматериалы, зачастую содержащие крайне интимные сцены из жизни пользователей.
Кенийские модераторы, работающие на субподрядчика Meta — компанию Sama, признались, что их рабочие будни напоминают подглядывание в замочную скважину. На экраны аннотаторов попадают кадры из спален и ванных комнат, сцены секса, процесс переодевания и даже конфиденциальные данные, такие как номера банковских карт. По словам сотрудников, пользователи часто даже не подозревают, что их очки ведут запись в такие моменты.
«Мы видим все — от гостиных до обнаженных тел. Люди могут записывать себя в неподходящих ситуациях, даже не зная об этом. Это реальные люди, такие же, как мы с вами», — рассказал один из кенийских рабочих на условиях анонимности.
Система анонимизации, призванная скрывать лица и личные данные, регулярно дает сбои. Алгоритмы часто «теряют» лица при плохом освещении, оставляя их полностью видимыми для модераторов в Найроби. При этом сотрудники связаны жесткими соглашениями о конфиденциальности и боятся задавать вопросы, чтобы не лишиться работы и не оказаться в трущобах.
«Некоторые снимают секс с помощью очков. Поэтому все очень чувствительно. Но у нас в офисе везде камеры, а телефоны приносить нельзя», — уверяет кенийский работяга.
Ситуация осложняется тем, что ритейлеры в Европе зачастую дезинформируют покупателей. В ходе проверки магазинов в Стокгольме и Гетеборге продавцы уверяли, что данные остаются локально на смартфоне. Однако технический анализ показал, что для работы ИИ-функций очки обязаны передавать изображения и звук на серверы Meta. Хотя в настройках можно запретить хранение записей «для улучшения продуктов», автоматическая обработка данных нейросетью, которая включает в себя и ручной просмотр людьми, является обязательным условием использования девайса.
Юристы по защите данных указывают на серьезные нарушения. Поскольку Кения не входит в список стран с адекватным уровнем защиты данных, передача туда личного контента европейцев может быть незаконной. В Meta на прямые вопросы о фильтрации интимного контента и аудите субподрядчиков отвечать отказались, сославшись на общую политику конфиденциальности. А что это означает, вы и сами понимаете.
*Meta — запрещенная в России организация, признанная экстремистской.
