“Oblak misli”: kako izgraditi sjećanje korisnika koje spaja ljude i ne gubi privatnost

Ukratko o glavnom (BLUF)

Pamtiti korisnika zadatak je dvostrukog dna: povezivanje ljudi s njihovim mislima je korisno, ali jedno curenje zauvijek ubija povjerenje u proizvod. Pokazujemo kako su raspoređeni slojevi "Oblaka misli", zašto je fail-closed važniji nego što se čini i koji su kanali otkrivanja stroži od ostalih.

O samom proizvodu -"Oblak misli" u NeuralSpaceu— već smo vam rekli: sustav prikuplja ono što zna o vama i sporazumno okuplja one koji imaju iste interese (“Tražim 3D modelara” ↔ “Izrađujem 3D”). Ovdje - otprilikeinženjerska strana: Kako spriječiti curenje korisne korisničke memorije. Ovo se pokazalo zanimljivijim od same značajke.

Problem dvostrukog dna

Želim dvije stvari u isto vrijeme, a one su kontradiktorne jedna drugoj:

1. Bogat profil.Da biste okupili ljude, morate znati činjenice: što on radi, što traži, što nudi.
2. Privatnost prema zadanim postavkama.Nitko nije pristao da njegova korespondencija postane javna. Curenje = gubitak povjerenja i kršenje 152-FZ.

Naivna implementacija ("sakupimo sve i započnemo utakmicu") trenutno prekida točku 2. Oko toga se gradi dobra arhitekturafail-closed: Zatvoreno prema zadanim postavkama, otkriveno samo izričitim pristankom i potvrđeno na razini koda, a ne "obećavamo".

Slojevi

1. Prikupljanje činjenica.Dva izvora: strukturne činjenice (vrste generiranja, aktivnost - neosobna) i izvadak iz chat korespondencije. Drugi je najosjetljiviji, pa je zatvorenzasebni prekidač memorije za razgovorkod korisnika. Isključio - izvlačenje iz korespondencije se uopće ne događa. Važno: ova vrataNevezan uz pretplatu na plaćene značajke - privatnost se ne smije prodavati.

2. Kategorije su zabranjene.Zahtjev za prikupljanje sustavaisključujeosjetljive kategorije prema 152-FZ (zdravlje, politički i vjerski stavovi itd.) - ne padaju u oblak, čak i ako se pojave u razgovoru. Ovo nije naknadni filter, već pravilo tijekom faze ekstrakcije.

3. Utakmica dvostrukog pristanka.Dvije osobe imaju iste interese – sustavNeautomatski prikazuje kontakte. Ona nudi uvod objema stranama; kontakt se otvara samo kadaobadogovoreno. Ovo štiti od scenarija "moj zahtjev za chat iskočio je strancu zajedno s mojim telefonskim brojem".

4. Iznimka za eksplicitne deklaracije.Suptilna točka. Ako osoba sama, javno, u chatu kaže "Prodajem uslugu, kome treba neka napiše @nick" - tražiti privolu drugi put je apsurdno, već ju je dao. Takav javno dopušteni kontakt se posebno priznaje i odmah otkriva zainteresiranoj strani. Kontakt je široko prepoznat (telegram sa i bez @, telefon u bilo kojem formatu, poveznice), aliuvjet razotkrivanja- upravo izričito javno dopuštenje, a ne samo prisutnost kontakta u tekstu.

Zašto fail-closed je važnije nego što se čini

Napast je napraviti zaštitu s oznakom "prikaži/ne prikazuj" na razini sučelja. Ovo je netočno: svaka greška u logici korisničkog sučelja = curenje. Mi smo to učinili drugačije -činjenice za koje nema pristanka nisu fizički uključene u profilu fazi njegove montaže. Nema dogovora - tekstovi zahtjeva i referenci u pismu i podudaranjene udaraj uopće, a ne "dođu tamo, ali ih mi sakrijemo". Razlika je fundamentalna: u prvom slučaju, zaboravljena provjera = curenje, u drugom - jednostavno nedostatak podataka.

Pravilo koje bismo dali svakome tko gradi ovakav sustav je:zadano - zatvoreno, otkrivanje - pozitivna radnja korisnika, verifikacija - što bliže izvoru podataka, a ne ekranu.

Kanali otkrivanja - različite težine

• U chatu, na zahtjev samog korisnika - lakše su dostupne neosobne činjenice i već javni tragovi: osoba je sama pitala.
• Proaktivna pošta(sam sustav piše "postoji podudaranje") - strože, samo pretplatom i dvostrukim pristankom.

Logika je jednostavna: što manje korisnik očekuje otkrivanje, to je viša letvica za pristanak.

Zaključak

Najteža stvar ovdje nije strojno učenje, većdisciplina protoka podataka. Ako dajete preporuke ili podudarate korisničke podatke, zanimljivo je razgovarati o tome gdje postavljate provjeru pristanka. U odjeljku možete vidjeti što sustav zna o vamaprivatnost.

Često postavljana pitanja (FAQ)

Pitanje: Kako dobiti najbolji rezultat od neuronske mreže?
Odgovor: Koristite detaljne upute (opise) na engleskom jeziku, postavite stil i detalje scene.

Pitanje: Mogu li se ti materijali koristiti u komercijalne svrhe?
Odgovor: Da, generirani sadržaj je u potpunosti vaš.