Ажурирање: Аппле је поменуо другу инспекцију сервера, а компанија за професионалну компјутерску визију навела је могућност шта би то могло да се опише у одељку „Како би друга инспекција могла да функционише“ у наставку.
Након што су програмери преокренули његове делове, рана верзија Аппле ЦСАМ система је ефикасно преварена да означи невину слику.Међутим, Аппле је навео да има додатне мере заштите да спречи да се то догоди у стварном животу.
Најновији развој догодио се након што је НеуралХасх алгоритам објављен на веб локацији за програмере отвореног кода ГитХуб, свако може да експериментише са њим…
Сви ЦСАМ системи функционишу тако што увозе базу података познатих материјала о сексуалном злостављању деце из организација као што је Национални центар за несталу и експлоатисану децу (НЦМЕЦ).База података је обезбеђена у облику хешева или дигиталних отисака прстију са слика.
Иако већина технолошких гиганата скенира фотографије отпремљене у облак, Аппле користи НеуралХасх алгоритам на иПхоне-у корисника да генерише хеш вредност сачуване фотографије, а затим је упоређује са преузетом копијом хеш вредности ЦСАМ.
Јуче је програмер тврдио да је обрнути инжењеринг Аппле-ов алгоритам и објавио код на ГитХуб-у - ову тврдњу је ефективно потврдио Аппле.
У року од неколико сати након што је ГитХиб објављен, истраживачи су успешно користили алгоритам да креирају намерно лажно позитивно – две потпуно различите слике које су генерисале исту хеш вредност.Ово се зове судар.
За такве системе увек постоји ризик од колизије, јер је хеш наравно умногоме поједностављен приказ слике, али је изненађујуће да неко може тако брзо да генерише слику.
Намерни судар овде је само доказ концепта.Програмери немају приступ ЦСАМ хеш бази података, што би захтевало креирање лажних позитивних резултата у систему у реалном времену, али то доказује да су напади колизије релативно лаки у принципу.
Аппле је ефективно потврдио да је алгоритам основа сопственог система, али је рекао матичној плочи да ово није коначна верзија.Компанија је такође изјавила да никада није намеравала да то задржи у тајности.
Аппле је рекао матичној плочи у е-поруци да је верзија коју је анализирао корисник на ГитХуб-у генеричка верзија, а не коначна верзија која се користи за иЦлоуд Пхото ЦСАМ детекцију.Аппле је рекао да је такође открио алгоритам.
„НеуралХасх алгоритам [...] је део потписаног кода оперативног система [и] истраживачи безбедности могу да провере да ли је његово понашање у складу са описом“, написао је Аппле документ.
Компанија је даље рекла да постоје још два корака: покретање секундарног (тајног) система подударања на сопственом серверу и ручни преглед.
Аппле је такође навео да након што корисници пређу праг од 30 утакмица, други нејавни алгоритам који ради на Аппле-овим серверима ће проверити резултате.
„Овај независни хеш је изабран да одбаци могућност да се погрешни НеуралХасх подудара са шифрованом ЦСАМ базом података на уређају због супротстављеног сметњи не-ЦСАМ слика и премашује праг подударања.
Бред Двајер из Робофлов-а пронашао је начин да лако разликује две слике објављене као доказ концепта за напад судара.
Занима ме како ове слике изгледају у ЦЛИП-у сличног, али другачијег екстрактора неуронских карактеристика ОпенАИ.ЦЛИП ради слично као НеуралХасх;узима слику и користи неуронску мрежу за генерисање скупа вектора обележја који мапирају садржај слике.
Али мрежа ОпенАИ је другачија.То је општи модел који може мапирати слике и текст.То значи да га можемо користити за издвајање информација о слици које су разумљиве људима.
Прошао сам две горње слике судара кроз ЦЛИП да видим да ли је и она преварена.Кратак одговор је: не.То значи да би Аппле требало да буде у могућности да примени другу мрежу екстрактора карактеристика (као што је ЦЛИП) на откривене ЦСАМ слике како би утврдио да ли су стварне или лажне.Много је теже генерисати слике које варају две мреже истовремено.
Коначно, као што је раније поменуто, слике се ручно прегледају да би се потврдило да су ЦСАМ.
Истраживач безбедности је рекао да је једини прави ризик то што би свако ко жели да изнервира Аппле могао да пружи лажне позитивне резултате људским рецензентима.
„Аппле је заправо дизајнирао овај систем, тако да хеш функција не мора да буде тајна, јер једина ствар коју можете да урадите са 'не-ЦСАМ као ЦСАМ' је да нервирате Аппле-ов тим за одговор са неким нежељеним сликама док не имплементирају филтере за елиминацију анализа То смеће у цевоводу је лажно позитивно“, рекао је Ницхолас Веавер, виши истраживач на Институту за међународне рачунарске науке на Универзитету Калифорније у Берклију, за Мотхербоард у онлајн ћаскању.
Приватност је питање које све више брине у данашњем свету.Пратите све извештаје који се односе на приватност, безбедност итд. у нашим смерницама.
Бен Лавџој је британски технички писац и уредник за ЕУ за 9то5Мац.Познат је по својим колумнама и дневничким чланцима, истражујући своје искуство са Аппле производима током времена како би добио свеобухватније критике.Пише и романе, постоје два техничка трилера, неколико кратких научнофантастичних филмова и ром-цом!
Време објаве: 20.08.2021