„Norul de gânduri”: cum să construiești o memorie a utilizatorului care să reunească oamenii și să nu piardă confidențialitatea

Pe scurt despre principalul lucru (BLUF)

A-ți aminti utilizatorul este o sarcină cu dublu fund: conectarea oamenilor cu gândurile lor este utilă, dar o scurgere distruge încrederea în produs pentru totdeauna. Arătăm cum sunt aranjate straturile „Norului de gânduri”, de ce închiderea eșuată este mai importantă decât pare și care canale de divulgare sunt mai stricte decât altele.

Despre produsul în sine - „Norul de gânduri” în NeuralSpace — ți-am spus deja: sistemul colectează ceea ce știe despre tine și, de comun acord, îi reunește pe cei care au aceleași interese („Caut un modelator 3D” ↔ „Fac 3D”). Aici - despre partea de inginerie: Cum să preveniți ca memoria utilă a utilizatorului să devină o scurgere. Acest lucru s-a dovedit a fi mai interesant decât caracteristica în sine.

Problema dublu fund

Îmi doresc două lucruri în același timp și se contrazic:

1. Profil bogat. Pentru a aduce oamenii împreună, trebuie să cunoașteți faptele: ce face, ce caută, ce oferă.
2. Confidențialitate în mod implicit. Nimeni nu a fost de acord ca corespondența lui să devină publică. Scurgere = pierderea încrederii și încălcarea 152-FZ.

O implementare naivă („să colectăm totul și să începem un meci”) sparge punctul 2 instantaneu. Arhitectura bună este construită în jur fail-închis: închis implicit, dezvăluit numai prin consimțământ explicit și verificat la nivel de cod, nu un „promitem”.

Straturi

1. Culegerea faptelor. Două surse: fapte structurale (tipuri de generație, activitate - impersonală) și extragerea din corespondența de chat. Al doilea este cel mai sensibil, deci este gated comutator separat al memoriei de chat la utilizator. L-am oprit - extragerea din corespondență nu are loc deloc. Important: această poartă Nu legat de un abonament la funcții plătite - confidențialitatea nu ar trebui vândută.

2. Categoriile sunt interzise. Cerere de colectare a sistemului exclude categorii sensibile sub 152-FZ (sănătate, opinii politice și religioase etc.) - nu cad în nor, chiar dacă apar într-o conversație. Acesta nu este un post filtru, ci o regulă în timpul etapei de extracție.

3. Potrivire dublu consimțământ. Doi oameni au aceleași interese - sistem Nu afișează automat contactele. Ea oferă o introducere ambelor părți; contactul se deschide numai când ambele a fost de acord. Acest lucru protejează împotriva scenariului „cererea mea de chat a apărut la un străin împreună cu numărul meu de telefon”.

4. Excepție pentru declarațiile explicite. Punct subtil. Dacă o persoană însuși, public, într-un chat spune „Vând un serviciu, oricine are nevoie de el, scrie @nick” - a cere a doua oară consimțământul este absurd, l-a dat deja. Un astfel de contact permis public este recunoscut separat și imediat dezvăluit părții interesate. Contactul este recunoscut pe scară largă (telegramă cu și fără @, telefon în orice format, linkuri), dar condiția de dezvăluire - permisiunea publică precis explicită, și nu doar prezența contactului în text.

De ce fail-closed este mai important decât pare

Tentația este să faci protecție cu un steag „afișează/nu arată” la nivel de interfață. Acest lucru este fals: orice eroare în logica UI = scurgere. Am făcut-o altfel - faptele pentru care nu există consimțământ nu sunt incluse fizic în profil la etapa asamblarii acestuia. Fără acord - textele cererilor și referințele din scrisoare și potrivire nu lovi deloc, și nu „ei ajung acolo, ci îi ascundem”. Diferența este fundamentală: în primul caz, un control uitat = o scurgere, în al doilea - pur și simplu o lipsă de date.

Regula pe care am da-o oricui construiește un sistem ca acesta este: implicit - închis, divulgare - acțiune pozitivă a utilizatorului, verificare - cât mai aproape posibil de sursa de date, nu de ecran.

Canale de divulgare - de severitate diferită

• În chat, la cererea utilizatorului însuși - faptele impersonale și pistele deja publice sunt mai ușor accesibile: a întrebat persoana însuși.
• E-mail proactiv (sistemul în sine scrie „există o potrivire”) - mai strict, doar prin abonament și dublu consimțământ.

Logica este simplă: cu cât utilizatorul se așteaptă mai puțin la dezvăluire, cu atât bara pentru consimțământ este mai mare.

Concluzie

Cel mai dificil lucru aici nu este învățarea automată, ci disciplina fluxului de date. Dacă faceți recomandări sau potriviți datele utilizatorului, este interesant să discutați unde plasați verificarea consimțământului. Puteți vedea ce știe sistemul despre dvs. în secțiune intimitate.

Întrebări frecvente (FAQ)

Întrebare: Cum să obțineți cel mai bun rezultat dintr-o rețea neuronală?
Răspuns: Folosiți instrucțiuni detaliate (descrieri) în engleză, setați stilul și detaliile scenei.

Întrebare: Aceste materiale pot fi utilizate în scopuri comerciale?
Răspuns: Da, conținutul generat este în întregime al tău.