Posted in Нoвыe плaны Apple пo скaнирoвaнию фoтo нa смaртфoнax будут прoтивoдeйствoвaть рaспрoстрaнeнию дeтскoгo пoрнo. Oднaкo сии нoвoсти вызывaют прoтeсты зaщитникoв привaтнoсти.
Пoчeму у Apple рeшили искaть oпaсный кoнтeнт
Кoмпaния Apple сooбщилa o нoвыx шaгax, нaпрaвлeнныx нa зaщиту дeтeй и кoнтeнтa с ними. Этoт aнoнс вызвaл aктивнoe oбсуждeниe срeди тexнoлoгичeскиx экспeртoв, вeдь eдвa ли нe впeрвыe фирмa, кoтoрaя дaвнo дeклaрируeт увaжeниe к привaтнoсти свoиx пoльзoвaтeлeй и иx дaнным, oткрoвeннo зaявилa o внeдрeнии тexнoлoгий скaнирoвaния кoнтeнтa. И xoтя никтo нe сoмнeвaeтся в вaжнoсти тaкиx инструмeнтoв и нeoбxoдимoсти зaщиты дeтeй и oт врeднoгo кoнтeнтa, и oт рaспрoстрaнeния фoтoгрaфий с иx изoбрaжeниями, сии плaны Apple нaзвaли ужaсными с тoчки зрeния иx пoтeнциaльнoгo испoльзoвaния, в чaстнoсти, влaстями рaзныx стрaн с цeлью прeслeдoвaния грaждaн.
Прoблeмa кoнтeнтa с изoбрaжeниeм дeтeй нeприeмлeмoгo сoдeржaния, чaщe всeгo — примeры сeксуaльнoй эксплуaтaции дeтeй, стaнoвится сeрьeзнeй с кaждым гoдoм. Пo дaнным кoмпaнии Thorn, кoтoрaя разрабатывает программное порука для обнаружения изображений жестокого обращения с детьми, ради последние несколько планирование количество таких фотографий увеличилась получи и распишись 15 000%. В то но время аналитики этой компании пришли к выводу, фигли более 20% подростков в возрасте через 13 до 17 парение присылали другому человеку близкие обнаженные фото. Общеизвестность такой практики внутри современных подростков неважный (=маловажный) доказывает, что ребятишки делают и пересылают сии снимки осознанно, понимая и старый и малый риски и для собственной безопасности, и для того будущей сексуальной эксплуатации. Равно как для решения таких проблем пароходство Apple анонсировала приманка новые защитные инструменты.
Новые инструменты с Apple: осторожный обсуждение
В Apple рассказали, будто компания планирует учредить ряд изменений в ее операционную систему iOS — они появятся в версии iOS 15, а потом и в операционной системе в целях ноутбуков macOS Monterey еще этой осенью.
Новая видоизменение iOS получит специальные инструменты, которые смогут производить анализ фотографии пользователей и выуживать среди них такие, которые могут сосчитаться примерами сексуальной эксплуатации детей. Новые инструменты будут перерывать материалы, которые определяются наподобие CSAM (child sexual abuse material) — контент сексуального насилия по-над детьми. Эти материалы будут выискивать в автоматическом режиме близ загрузке фотографий в iCloud. В Apple подчеркивают, будто компания не планирует лукать полное сканирование содержания iCloud.
В компании обещают, сколько анализ фото хорэ осуществляться частно получи и распишись устройствах пользователей с применением нейронных сетей, которые раньше тем прошли выучивание на примере фотографий, предоставленных организацией в NCMEC — Национальным центром пропавших и эксплуатируемых детей (National Center for Missing & Exploited Children). Иными словами, нейросеть изучит известные позитив с изображением случаев шведская семья-эксплуатации детей и исшаривать на устройствах пользователей их аналоги. Вывод анализа будет держаться в зашифрованном виде (в виде набора хэшей), тот или другой будет сравниваться с предоставленной базой данных.
Кабы результат сравнения превысит детерминированный допустимый порог (какими судьбами будет свидетельствовать о книжка, что фото пользователя пожалуй на фотопример детского порно), сепия станет подозрительной. Неравно таких снимков закругляйтесь несколько и уровень сходства кончай высокий, люди-операторы передадут информацию о необходимости расшифровки такого фотка, то есть просмотра снимка-оригинала. Если нет система не ошиблась, и карточка действительно окажется CSAM-контентом, уведомление будет передана в правоохранительные органы, к примеру, в NCMEC.
Ровно изменится в iMessage
И без этого (того) анализа фотографий в iCloud, предприятие планирует применять разбирательство к снимкам, получаемым и пересылаемым в ее мессенджере iMessages. Учитывание также будет удаваться исключительно на устройстве пользователя. Кони детей до 13 планирование могут включить опцию анализа фотографий, которые отправляются, в настройки семейного аккаунта Apple. В этом случае способ сначала спросит, правда ли ребенок хочет послать этот файл другому пользователю. (не то ребенок откажется, так больше никаких действий претворяться в жизнь не будет. Буде согласится, то об этом довольно сообщено родителям с одновременной пересылкой им позитив. У ребенка до 13 парение доступ к этому фотка больше не закругляйтесь. Для детей в возрасте с 13 до 17 парение подозрительные фото будут оставляться, но без оповещения родителей и их доступа к снимкам.
В компании считают, кое-что такой подход позволит детьми принимать более обоснованные решения — и сберегать родителей в курсе. Ещё того, эти функции будут доступны не менее на устройствах, которые являются не полностью семейной учетной календарь iCloud.
Фотографии, которые получают несовершеннолетние пользователи, и которые будут определены т. е. потенциально опасные, будут размываться. Родителям как и будет сообщаться, благо их дети будут схлопатывать фотографии недопустимого содержания.
Продолжает ли Apple оборонить приватность? Мнение «против»
Настоящий анонс от Apple вызвал бунт защитников приватности. И так компания подчеркнула, как все будет деяться на устройстве пользователя, в условно замкнутой системе, тем мало-: неграмотный менее это повлекло сплетни об откровенном массовом наблюдении со стороны компании, которая спокон века позиционировала себя на правах главного защитника приватности в мире незащищенных данных.
Financial Times цитирует профессора университета Кембриджа Цивета Андерсона (Ross J. Anderson), который-нибудь назвал планы Apple «ужасной идеей, которая открывает метода к массовому наблюдению по (по грибы) компьютерами и смартфонами», и подчеркнул, ась? эту систему несложно адаптировать к поиску других рисунков, без- связанных с детским порно, к примеру, таких, которые доказывают жалость человека в уличных протестах. Знаток университета Джона Хопкинса Мэтью Доллар (Matthew Green) сказал, а это решение Apple приближает нас к «миру 1984», имея в виду Ромаха-антиутопию Джорджа Оруэлла.
Такое но мнение высказали представители Electronic Frontier Foundation в своем блоге, которые видят в таком шаге Apple реальную на волосок того, что правительства сейчас в ближайшее время смогут просмотреть разного рода материя на наших устройствах в режиме реального времени, вызывая непохожие проблемы с правами человека. Сие может начаться с спрос сканировать содержимое террористов; само угадывание «терроризма» может со временем отчетисто расшириться; а последствия в целях свободы слова могут водиться критическими.
Реалии современного таблица: как бороться с опасным контентом, сохраняя неофициальность?
На самом деле, правительства многих стран сейчас давно хотят залезть в аккаунты и устройства пользователей, пытаясь в законодательном уровне воспретить инструменты шифрования, то те не позволяют покажи-ка письмо (дай прочитать) переписку пользователей и создаваемый ими контент.
Одна изо самых известных историй противостояния в этом направлении произошла до сих пор в 2016 году и без посредников касалась Apple, которую в судебном порядке ФБР пыталась наступить на глотку предоставить доступ к iPhone террориста с Сан-Бернардино, убившего 16 индивидуальность. Судебные иски продолжались мало-мальски месяцев, и Apple смогла отбомбить в суде свою позицию, аргументируя ее тем, ровно она не может изменить доверие своих клиентов, уверенных в защите собственных данных.
С тех пор подобных историй было беда сколько, а высказывания правительств разных стран пользовательского контента становились до сего времени жестче.
Представляется, ась? в противостоянии технологических компаний и государств Apple определила свою позицию, которую продемонстрировала в новых анонсах по части CSAM-контенту: пароходство планирует продолжать эксплуатнуть сквозное шифрование, которое далеко не позволит просматривать контент пользователей, же собственными силами довольно сканировать этот контент никого кроме на их устройствах.
Кейси Ньютон (Casey Newton) в своей рассылке Platformer называет оный шаг Apple важным и влияющим нате всю отрасль.
«Закрывать шары на сексуальную эксплуатацию детей в долгосрочной перспективе не велено, особенно в современных масштабах. Правда мы должны пождать, чтобы увидеть, сиречь это работает получи и распишись практике, на первейший взгляд, это выглядит умным и вдумчивым».
Кейси Ньютон
сочинитель рассылки The Platformer
Кейси Ньютон
создатель рассылки The Platformer
Диспашер подчеркивает, что автор не будем подчистую понимать последствия сих изменений, пока они малограмотный будут развернуты числом всему миру.