Tonic app bruker differensial personvern for å levere tilpasset lesing uten å utsette din data til en tredjepart.Foto: Kalesje
I disse dager personvern på nettet føles som en uoppnåelig drøm. Alt du gjør blir data for bedrifter som selger det du data til samarbeidspartnere, som deretter selger data tilbake til dere i form av målrettede annonser og personlig tilpassede anbefalinger. Det er bare hvordan ting er. Men hva om det ikke trenger å være?
I forrige uke møtte jeg et team fra Kalesjen, en tech oppstart som er opprettet et software developer kit som det håper vil gjøre det mulig for bedrifter å lage personlige erfaringer uten å kompromittere ditt personvern. Som et proof of concept, tidligere denne uken lanserte selskapet sin første app, Tonic.
Ideen bak Tonic er ikke akkurat ny. Det er en av de kuratert å lese opplevelser—du få vist en haug av artikler, må du velge de du liker, og neste dag kan du få nye materialet til å lese basert på dine preferanser. Den viktigste forskjellen er at du ikke trenger å registrere deg for en konto eller oppgir i din personlige data, som for eksempel alder, kjønn, e-post, telefonnummer eller sted. I stedet, det trekker data på en måte som er ment å ikke svikte ditt personvern mens du fortsatt tillater appen å gjøre intelligente spådommer om historier du kanskje lyst til å lese.
Teoretisk sett, hvis Kalesjen var å lisensiere programvaren til, si, Spotify, ville det bety at du vil fortsatt få en ganske nøyaktig Oppdage Ukentlig spilleliste, men verken Tak eller Spotify, ville vite nøyaktig hva du lytter til, eller når, ifølge selskapet. Det kunne ha noen vesentlige konsekvenser hvis du var å bruke den slags personvern-beskytte tech beliggenhet data, for eksempel.
Er Apples Nye Retningslinjer for Funksjonen som er Trygg?
Apple annonserte i dag en rekke nye funksjoner for iOS, inkludert mer intelligent programvare som…
Les mer Les
Nøkkelen er noe som kalles differensiell privacy, et rammeverk som har sitt grunnlag i matematikk. Det er en måte å dele informasjon om en gruppe og sin atferd samtidig beskytte personvernet til enkeltpersoner innen gruppen ved å skjule data som avslører din identitet.
“Differensial personvern er et rammeverk som gjør det mulig for deg å foreta avveininger mellom personvern og nøyaktighet,” Bennett Cypher, en stab teknolog i Electronic Frontier Foundation, fortalte meg over telefonen. Mer spesifikt, Cypher fortalte meg, er det grunnleggende prinsippet er du angi et Epilson parameter (matematikk!) som genererer støy eller forvirring til å skjule et datasett. Det er som å gi et omtrentlig estimat—du får en følelse av noe, men du vet ikke den eksakte opplysninger. Jo høyere parameteren, mindre støy og mer nøyaktig informasjon. En lavere parameter betyr mer støy og bedre personvern.
Før din øyne cross, en real-life eksempel Cyphers ga meg er folke-og boligtellingen. Regjeringen har en rekke aggregerte data om sine borgere—og det er sannsynligvis ønsker å dele demografisk informasjon fra det stille, uten å avsløre noe om en bestemt person. La oss si at du bor i en liten census blokk med bare én eller to personer. Det ville ikke ta et geni for å finne ut personlig informasjon om deg, gitt de riktige parametere. Differensial personvern ville være en måte å oppsummere at data uten å sette en person i fare.
Så, hvordan gjør at oversett til privat ennå personlige opplevelser på nettet? Kalesjen er leder av produktet, Matteus Ogle, fortalte Gizmodo den hemmelige saus som er i telefonen. I stedet for å opprette en atferd modell for hver bruker på en server, som mange programmer som gjør det, Kalesjen gjør at lokalt på telefonen din. Når appen gjør en forespørsel på Kalesjen server for innhold, hva det sender en kryptert, differentially egen versjon av din oppførsel. Så i stedet for en modell bygget på individuelle preferanser, du er en sømløs del av en samling av brukere som liker de samme tingene som du gjør.
For de fleste av oss aldri trenger å registrere deg for en annen tjeneste for å høste fordelene av å gjøre det lyder ideelt. Vi gjør det nå fordi perks av en personlig kuratert erfaring ser ut til å oppveie kostnadene ved å gi opp ditt privatliv. Det er mye lettere å føle fordelene med en automatisk generert spilleliste enn vage brudd på personvernet som du kanskje ikke engang vet skjer. Som sagt, det virker som en no-brainer å gjøre dette for alt. Så hvorfor er ikke dette mer på en ting?
En grunn er differensial personvern har ikke vært rundt for så lenge. “Det er liksom nytt,” sier Cyphers. “Det er ikke mye av enighet om hva en god parameter—folk er liksom noe som gjør det opp som de går. Det er viktig for bedrifter å være åpen med hvilke parametre de bruker.”
Som for Kalesjen er Tonic app, innsatsen er lav. Lesing anbefalinger ikke kan ha samme risiko som finansielle transaksjoner eller posisjonsdata, men Kalesjen team gjorde tyder på at du bruker den til de typer data som var en mulig langsiktig mål hvis ting går bra. Likevel, det er begrensninger med hensyn til hvor langt differensial personvern kan gå i øyeblikket.
“Et problem er at for å få det kompromisset mellom personvern og nøyaktighet, for en rekke programmer det er ikke fornuftig,” Cyphers sier. For å få et mye av personvernet, må du legge til en mye støy, slik at det blir en slags ubrukelig. Det fungerer bare i svært spesielle programmer.”
For startere, differensial personvern er ikke som kryptering, hvor du kan bare sleng det på ulik teknologi og kaller det en dag. Du kan ikke sende en differentially privat e-post. En differentially eget bilde vil se ut som statisk. Det fungerer i Tonic er tilfellet fordi tech blir brukt til loven av funn.
“Personvern og nøyaktighet kompromisset er ekte,” Canopy grunnlegger og administrerende DIREKTØR Brian Whitman sa via e-post. Han bemerket at mens differensial personvern er ikke godt egnet til å generalisert maskinlæring oppgaver—tenk å forutsi noe om en unik persons atferd—fordi nøyaktighet ville ta en betydelig rammet. Som sagt, når det kommer til å oppdage liker og preferanser, ingenting om at det må være om den enkelte på backend.
“Poenget er at vi prøver ikke å finne en eneste ting om en enkelt person,” Hvit sa. “Det er fortsatt vanskelig med differensial personvern og samlet læring. Vi er forståelse større bestander og gjør en god jobb med det. Vi har aldri burde ha bygget recommenders forstått at folk individuelt uansett.”
I utgangspunktet, noe som Tonic er en baby skritt i riktig retning. Differensial personvern har blitt brukt andre steder er Apple—produkter, for eksempel, sa det bruker det i å forbedre funksjoner som QuickType og Emoji forslag, samt noen Safari funksjoner, og offentliggjort Epsilon parameterne som brukes. (Som sagt, det er noe uenighet om hvor godt Apple implementert tech, som fører tilbake til behovet for selskapene til å være åpne om sine parametere.) Likevel, selv med differensial personvern er begrensninger, gitt den truende muligheten for federal personvern lovgivning og kresne brukere, det ville ikke være overraskende om det begynner å dukke opp oftere i apper og tjenester som vi alle bruk—og det er trolig en god ting.
Deler Denne Historien