De Tonic app maakt gebruik van differentiële privacy in te leveren op maat gemaakte lezen zonder dat uw gegevens aan derden.Foto: De Luifel
Deze dagen online privacy, voelt als een onbereikbare droom. Alles wat je doet wordt de gegevens van bedrijven die verkopen die gegevens aan partners, die vervolgens verkoopt uw gegevens terug in de vorm van gerichte advertenties en persoonlijke aanbevelingen. Dat is gewoon hoe de dingen zijn. Maar wat als het niet hoefde te worden?
Vorige week had ik een ontmoeting met een team van Luifel, een tech startup die is gemaakt van een software developer kit), waarmee het hoopt, zal het voor bedrijven mogelijk om een gepersonaliseerde ervaring, zonder afbreuk te doen aan uw privacy. Als een proof of concept, eerder deze week lanceerde het bedrijf haar eerste app, Tonic.
Het idee achter Tonic is niet echt nieuw. Het is een van die curator van het lezen van ervaringen—u wordt getoond een bos van artikelen, kunt u kiezen welke u wilt, en de volgende dag krijg je nieuwe materiaal te lezen op basis van uw voorkeuren. Het belangrijkste verschil is dat je niet aan te melden voor een account of voer uw persoonlijke gegevens, zoals leeftijd, geslacht, e-mail, telefoon nummer, of locatie. In plaats daarvan trekt de gegevens op een manier die bedoeld is om niet te verraden uw privacy, terwijl nog het toestaan van de app voor intelligente voorspellingen te doen over de verhalen die je wilt lezen.
Theoretisch gesproken, als Luifel waren om een licentie voor de software, zeggen, Spotify, het zou betekenen dat je zou nog steeds een vrij accuraat te Ontdekken Wekelijkse playlist, maar noch de Luifel, noch Spotify zou precies weet wat u aan het luisteren was of wanneer, volgens het bedrijf. Dat zou kunnen hebben een aantal belangrijke implicaties als u dat soort privacy-bescherming van de tech locatie gegevens, bijvoorbeeld.
Is Apple ‘ s Nieuwe Privacy-Functie Veilig?
Vandaag kondigde Apple een groot aantal nieuwe functies voor iOS, met inbegrip van meer voorspellende software, zoals…
Lees meer Lees
De toets is iets genaamd differential privacy, een kader dat heeft zijn basis in de wiskunde. Het is een manier om informatie te delen over een groep en zijn gedrag, terwijl de bescherming van de privacy van individuen binnen die groep door verduistert gegevens waarmee uw identiteit.
“Differential privacy is een framework waarmee u te maken afweging tussen privacy en nauwkeurigheid,” Bennett Cypher, een personeel-technoloog bij de Electronic Frontier Foundation, vertelde me over de telefoon. Meer specifiek, Cypher zei tegen mij, het uitgangspunt is u definieert een Epilson parameter (wiskunde!) dat genereert ruis of verwarring te verhullen van een set gegevens. Het is als het geven van een ruwe schatting—je krijgt een gevoel van iets, maar weet u niet de exacte gegevens. Hoe hoger de parameter, des te minder ruis en meer nauwkeurige uw informatie. Een lagere parameter betekent meer lawaai en meer privacy.
Voor uw ogen kruis, een real-life voorbeeld Cyphers gaf mij de volkstelling. De overheid heeft veel van geaggregeerde gegevens over haar burgers, en waarschijnlijk wil delen demografische informatie uit die set zonder het onthullen niets over een een bepaald individu. Laten we zeggen dat je woont in een kleine census blok met slechts één of twee mensen. Het zou niet een genie te zijn om erachter te komen persoonlijke informatie over u, met de juiste parameters. Differential privacy zou een manier zijn om samen te vatten dat gegevens zonder dat één individu in gevaar.
Dus, hoe verhoudt zich dat tot de particuliere nog persoonlijke ervaringen online? Kap van het hoofd van de product, Matthew Ogle, vertelde Gizmodo de geheime saus is in uw telefoon. In plaats van het creëren van een probleem model van elke gebruiker op een server, zoals veel apps doen, Luifel doet dat lokaal op uw telefoon. Wanneer de app doet een verzoek van de Luifel met de server voor de inhoud, wat het verzendt, is een versleutelde, differentieel eigen versie van uw gedrag. Dus in plaats van een model dat is gebouwd op uw individuele voorkeuren, je bent een te onderscheiden onderdeel van een collectief van gebruikers die graag dezelfde dingen die je doet.
Voor de meesten van ons nooit hoeven te melden voor een andere dienst te kunnen profiteren van de voordelen van het doen van zo klinkt ideaal. Dat doen We nu, omdat de voordelen van een persoonlijk samengesteld ervaring lijkt op te wegen tegen de kosten van het opgeven van je privacy. Het is veel eenvoudiger om de voordelen van een automatisch gegenereerd afspeellijst dan vage privacy schendingen die u misschien niet eens weet dat het gebeurt. Dat gezegd hebbende, het lijkt een no-brainer om dit te doen voor alles. Dus waarom is dit niet meer van een ding?
Een van de redenen is differential privacy nog niet rond voor zo lang. “Het is een soort van nieuwe,” zegt Cyphers. “Er is niet veel overeenstemming over wat een goede parameter is—personen zijn een soort van making it up als ze gaan. Het is belangrijk voor bedrijven om duidelijk te zijn met wat parameters die ze gebruiken.”
Als voor de Canopy Tonic app, de inzetten zijn laag. Het lezen van de aanbevelingen niet dragen dezelfde risico ‘s als financiële transacties of locatiegegevens, hoewel Luifel’ s team heeft aangeven die toe te passen in dit type van gegevens was een haalbaar doel voor de lange termijn als de dingen goed gaan. Toch zijn er beperkingen aan hoe ver differential privacy kan gaan op het moment.
“Een probleem is om die afweging tussen privacy en juistheid, voor veel toepassingen is het niet zinvol,” Cyphers zegt. Om een heleboel van de persoonlijke levenssfeer, hebt u een heleboel lawaai, dus het wordt een soort van nutteloos. Het werkt alleen in zeer specifieke toepassingen.”
Voor starters, differential privacy is niet zoals encryptie, waar u gewoon kunt klap op verschillende technologieën en noemen het een dag. Je kunt het niet sturen van een differentieel privé e-mail. Een differentieel eigen foto eruit zou zien statisch. Het werkt in Tonic is het geval omdat de technologie wordt toegepast om het handelen van de ontdekking.
“De privacy en de juistheid nadeel is reëel”, Luifel oprichter en CEO Brian Whitman zei via e-mail. Hij merkte op dat, hoewel differential privacy is niet goed geschikt voor gegeneraliseerde machine learning taken—denk voorspellen iets over een uniek persoon en zijn gedrag—omdat juistheid zou een aanzienlijke hit. Dat gezegd hebbende, als het gaat om het ontdekken van houdt en voorkeuren, niets over dat moet worden over de persoon op de backend.
“Het punt is dat we niet proberen te achterhalen van een enkel ding over één persoon,” White zei. “Dat is het nog steeds moeilijk met differential privacy en federatieve leren. We inzicht krijgen in het grotere populaties en doet een groot werk van het. We hebben nooit moeten hebben gebouwd recommenders dat begrepen de mensen individueel toch.”
In principe, iets als Tonic is een baby stap in de goede richting. Differential privacy is elders gebruikt—Appel, bijvoorbeeld, zei dat het gebruik maakt van het in het verbeteren van functies, zoals QuickType en Emoji suggesties, evenals een aantal Safari functies, en vermeld de Epsilon-parameters gebruikt. (Dat gezegd hebbende, is er wat onenigheid over hoe goed Apple geïmplementeerd tech, leidt terug naar de noodzaak voor bedrijven om transparant te zijn over hun parameters.) Nog steeds, zelfs met differential privacy beperkingen, gezien de dreigende mogelijkheid van de federal privacy wetgeving en veeleisende gebruikers, het zou niet verrassend zijn als het begint opduiken vaker in de apps en diensten die we gebruiken—en dat is waarschijnlijk een goede zaak.
Deel Dit Verhaal