- Clearview AI собрал 30 миллиардов фотографий из социальных сетей, чтобы создать свою базу данных распознавания лиц.
- Полиция США использовала базу данных почти миллион раз, сообщил Би-би-си генеральный директор компании.
- Один защитник цифровых прав сказал Insider, что компания является «полным оскорблением прав людей, и точка».
Спорная база данных распознавания лиц, используемая полицейскими управлениями по всей стране, была частично создана из 30 миллиардов фотографий, которые компания скопировала из Facebook и других пользователей социальных сетей без их разрешения, как недавно признал генеральный директор компании, создав то, что критики назвали «вечной полицией». состав», даже для людей, которые не сделали ничего плохого.
Компания Clearview AI хвастается своим потенциалом в выявлении участников беспорядков во время нападения на Капитолий 6 января , спасении детей, подвергшихся жестокому обращению или эксплуатации , и помощи в оправдании людей, несправедливо обвиненных в преступлениях. Но критики указывают на нарушения конфиденциальности и неправомерные аресты, вызванные ошибочной идентификацией, сделанной с помощью распознавания лиц, включая случаи в Детройте и Новом Орлеане, как повод для беспокойства по поводу этой технологии.
Clearview делала фотографии без ведома пользователей, признал ее генеральный директор Хоан Тон-Тат в интервью BBC в прошлом месяце . Это позволило быстро расширить обширную базу данных компании, которая представлена на ее веб-сайте правоохранительным органам как инструмент «вершить правосудие для жертв».
Тон-Тат сообщил Би-би-си , что полиция США обращалась к базе данных распознавания лиц Clearview AI почти миллион раз с момента основания компании в 2017 году, хотя отношения между правоохранительными органами и Clearview AI остаются неясными, и это число не может быть подтверждено Insider.
В заявлении, отправленном по электронной почте Insider, Ton-That сказал: «База данных общедоступных изображений Clearview AI собирается на законных основаниях, как и любая другая поисковая система, такая как Google».
Генеральный директор компании добавил: «База данных Clearview AI используется правоохранительными органами для расследований преступлений и недоступна для широкой публики. Каждая фотография в наборе данных является потенциальной подсказкой, которая может спасти жизнь, обеспечить справедливость невинной жертвы, предотвратить неправомерное опознание или реабилитировать невиновного человека».
Что происходит, когда происходит несанкционированный скрапинг
Эта технология уже давно вызывает критику за свою навязчивость как со стороны защитников конфиденциальности, так и со стороны цифровых платформ: крупные компании социальных сетей, включая Facebook, в 2020 году отправили Clearview письма о прекращении и воздержании от действий за нарушение конфиденциальности своих пользователей.
«Действия Clearview AI вторгаются в частную жизнь людей, поэтому мы запретили их основателю доступ к нашим сервисам и направили им законное требование прекратить доступ к любым данным, фотографиям или видео из наших сервисов», — сказал представитель Meta в электронном письме Insider, ссылаясь на Заявление, сделанное компанией в апреле 2020 года после того, как впервые выяснилось, что компания собирала фотографии пользователей и сотрудничала с правоохранительными органами.
С тех пор, по словам представителя Insider, Meta «сделала значительные инвестиции в технологии» и выделяет «значительные командные ресурсы на борьбу с несанкционированным скрейпингом продуктов Facebook».
По словам представителя , при обнаружении несанкционированного парсинга компания может предпринять действия, «такие как отправка писем о прекращении и воздержании, отключение учетных записей , подача судебных исков или запрос помощи у хостинг-провайдеров» для защиты пользовательских данных.
Однако, даже несмотря на внутреннюю политику, после того, как Clearview AI соскребает фотографию, делаются биометрические отпечатки лиц и перекрестные ссылки в базе данных, навсегда связывающие людей с их профилями в социальных сетях и другой идентифицирующей информацией — и люди на фотографиях мало средств, чтобы попытаться удалить себя.
Жители Иллинойса могут отказаться от этой технологии (предоставив другую фотографию, которая, по утверждению Clearview AI, будет использоваться только для определения того, какие сохраненные фотографии следует удалить) после того, как ACLU подал в суд на компанию в соответствии с законом штата о конфиденциальности и добился запрета на продажу Clearview . Технология ИИ по всей стране для частного бизнеса . Однако жители других штатов не имеют такой возможности, и компании по-прежнему разрешено сотрудничать с правоохранительными органами.
«Вечная очередь полиции»
«Clearview — это полное оскорбление прав людей, точка, и полиция не должна иметь возможности использовать этот инструмент», — заявила Кейтлин Сили Джордж, директор по кампаниям и операциям некоммерческой группы по защите цифровых прав «Борьба за будущее». в электронном письме Insider, добавив, что «без законов, запрещающих им, полиция часто использует Clearview без ведома или согласия своего отдела, поэтому Clearview хвастается тем, сколько поисков является единственной формой« прозрачности », мы получаем в том, насколько широкое использование распознавания лиц является."
CNN сообщила, что Clearview AI в прошлом году заявила, что клиентами компании являются «более 3100 агентств США, включая ФБР и Министерство внутренней безопасности». BBC сообщила, что полиция Майами признала, что использует эту технологию для всех видов преступлений, от магазинных краж до убийств.
Риск быть включенным в то, что функционально является «вечным полицейским составом», распространяется на всех, включая людей, которые думают, что им нечего скрывать, Мэтью Гуарилья, старший политический аналитик международной некоммерческой группы по цифровым правам Electronic Frontier Fund. , — рассказал Инсайдер.
«Вы не знаете, что вам нужно скрывать», — сказал Гуарилья Insider. «Правительства приходят и уходят, и вещи, которые не были незаконными, становятся незаконными. И внезапно вы можете оказаться кем-то, кого можно задним числом арестовать и привлечь к ответственности за то, что не было незаконным, когда вы это сделали».
«Я думаю, что основной пример, который мы наблюдаем сейчас, — это аборты, — продолжил он, — когда люди, которые сделали аборты в штате, где это было законно в то время, внезапно вынуждены жить в страхе перед каким-то ретроактивным судебным преследованием — и вдруг то, что вы не думали скрывать, вам действительно приходится скрывать».
Фотографии могут быть получены из любого места в Интернете.
По словам Сили Джорджа и Гуарильи, даже люди, которые обеспокоены риском добавления своих фотографий в базу данных, могут оказаться в ней не по своей вине. То, что люди могут оказаться в базе данных Clearview, несмотря на политику Facebook в отношении парсинга или их собственные меры безопасности, является показателем того, что конфиденциальность — это «командный вид спорта», — сказал Гуарилья Insider.
«Я думаю, что это одна из гнусных вещей в этом», — сказал Гуарилья. «Потому что вы можете быть хорошо осведомлены о том, что делает Clearview, и поэтому предотвращаете сканирование любого из ваших профилей в социальных сетях Google, чтобы убедиться, что изображение, которое вы публикуете, не является общедоступным в открытом Интернете, и вы думаете, что это может защитить меня. Но особенность Clearview в том, что она распознает ваши фотографии в любом месте в Интернете».
Это означает, сказал он, что если вы находитесь на заднем плане свадебной фотографии или ваш друг публикует вашу совместную фотографию в старшей школе, как только Clearview сделает снимок вашего лица, он создаст постоянный биометрический отпечаток. вашего лица для включения в базу данных.
Clearview и правоохранительные органы
Поиск в базе данных Clearview — это лишь один из многих способов, которыми правоохранительные органы могут использовать контент, размещенный на платформах социальных сетей, для помощи в расследованиях, включая отправку запросов непосредственно на платформу для получения пользовательских данных . Однако использование Clearview AI или других технологий распознавания лиц правоохранительными органами не контролируется в большинстве штатов и не подлежит общенациональному регулированию — хотя критики, такие как Сили Джордж и Гуарилья, утверждают, что это следует запретить.
Представители ФБР, Департамента внутренней безопасности, Департамента полиции Лос-Анджелеса и Департамента полиции Нью-Йорка не сразу ответили на запросы Insider о комментариях.
«Это часть непрозрачности как полицейских департаментов, так и Clearview. Мы понятия не имеем, должны ли они вводить ордер, чтобы выполнить запрос, чего они, вероятно, не делают; мы понятия не имеем, контролируются ли их запросы руководитель», — сказал Гуарилья Insider, добавив, что программа часто напрямую загружается на телефоны офицеров, часто без ведома или одобрения их отдела.
После судебного иска в Иллинойсе, поданного ACLU , Clearview заявила, что прекратит практику предоставления бесплатных пробных учетных записей отдельным полицейским.
Гуарилья добавил: «Я думаю, нам действительно нужно спросить: насколько строго отслеживаются запросы, которые они направляют? внезапно получить их профили в социальных сетях, каждую фотографию, на которой они когда-либо были, их личности — и угрозу, которая представляет собой гражданские свободы, и уязвимость, которая открывается для людей с точки зрения возмездия или репрессий».
3 апреля 2023 г.: эта история была обновлена и теперь включает ответ Clearview инсайдеру. Заголовок статьи был уточнен, чтобы отразить, что другие компании социальных сетей также были очищены Clearview.
Комментариев нет:
Отправить комментарий