„Oblak myšlenek“: jak vytvořit paměť uživatele, která spojuje lidi a neztrácí soukromí
Krátce o hlavní věci (BLUF)
Zapamatovat si uživatele je úkol s dvojím dnem: propojit lidi s jejich myšlenkami je užitečné, ale jeden únik důvěry v produkt navždy zabije. Ukazujeme, jak jsou uspořádány vrstvy „Oblaku myšlenek“, proč je uzavření při selhání důležitější, než se zdá, a které kanály zveřejňování jsou přísnější než jiné.
O produktu samotném -"Oblak myšlenek" v NeuralSpace— již jsme vám řekli: systém shromažďuje, co o vás ví, a po vzájemné dohodě sdružuje ty, kteří mají stejné zájmy („Hledám 3D modeláře“ ↔ „Dělám 3D“). Tady - asiinženýrská stránka: Jak zabránit úniku užitečné uživatelské paměti. To se ukázalo být zajímavější než funkce samotná.
Problém s dvojitým dnem
Chci dvě věci zároveň a ty si odporují:
- Bohatý profil.Abyste lidi spojili, musíte znát fakta: co dělá, co hledá, co nabízí.
- Soukromí ve výchozím nastavení.Nikdo nesouhlasil s tím, aby se jeho korespondence dostala na veřejnost. Únik = ztráta důvěry a porušení 152-FZ.
Naivní implementace („shromážděme vše a začněme zápas“) okamžitě zlomí bod 2. Dobrá architektura je postavena kolemselhání-zavřeno: Ve výchozím nastavení uzavřeno, zveřejněno pouze s výslovným souhlasem a ověřeno na úrovni kódu, nikoli jako „slibujeme“.
Vrstvy
1. Shromažďování faktů.Dva zdroje: strukturální fakta (typy generování, činnost - neosobní) a vytěžení z chatové korespondence. Druhý je nejcitlivější, takže je hradlovanýsamostatný přepínač paměti chatuu uživatele. Vypnuto – k extrakci z korespondence vůbec nedochází. Důležité: tato bránaNevázáno na předplatné placených funkcí – soukromí by se nemělo prodávat.
2. Kategorie jsou zakázány.Požadavek na sběr systémuvylučujecitlivé kategorie pod 152-FZ (zdraví, politické a náboženské názory atd.) - nespadají do cloudu, i když se objeví v rozhovoru. Toto není postfiltr, ale pravidlo během fáze extrakce.
3. Dvojitý souhlas.Dva lidé mají stejné zájmy – systémNeautomaticky zobrazí kontakty. Nabízí úvod oběma stranám; kontakt se otevře pouze tehdyoběsouhlasil. To chrání před scénářem „moje žádost o chat se objevila na cizím člověku spolu s mým telefonním číslem“.
4. Výjimka pro výslovná prohlášení.Jemná pointa. Pokud člověk sám veřejně v chatu řekne „prodávám službu, kdo ji potřebuje, napište @nick“ – žádat podruhé o souhlas je absurdní, už ho dal. Takový veřejně povolený kontakt je rozpoznán samostatně a okamžitě sdělen zainteresované straně. Kontakt je široce rozpoznán (telegram s a bez @, telefon v jakémkoli formátu, odkazy), alepodmínka zveřejnění- přesně výslovné veřejné povolení, a ne pouze přítomnost kontaktu v textu.
Proč fail-closed je důležitější, než se zdá
Pokušením je vytvořit ochranu pomocí příznaku „zobrazit/nezobrazit“ na úrovni rozhraní. To je nepravda: jakákoliv chyba v logice uživatelského rozhraní = únik. Udělali jsme to jinak -skutečnosti, ke kterým není souhlas, nejsou v profilu fyzicky zahrnutyve fázi jeho sestavování. Bez dohody - texty žádostí a reference v dopise a párovánívůbec netrefita ne „oni se tam dostanou, ale my je schováme“. Rozdíl je zásadní: v prvním případě zapomenutá kontrola = únik, ve druhém prostě nedostatek dat.
Pravidlo, které bychom dali každému, kdo vytváří takový systém, je:výchozí - uzavřeno, zveřejnění - pozitivní akce uživatele, ověření - co nejblíže ke zdroji dat, ne k obrazovce.
Zveřejňovací kanály – různé závažnosti
- V chatu, na žádost samotného uživatele - neosobní fakta a již veřejná vodítka jsou snadněji dostupná: zeptal se sám člověk.
- Proaktivní pošta(systém sám píše „existuje shoda“) - přísnější, pouze přihlášením a dvojím souhlasem.
Logika je jednoduchá: čím méně uživatel očekává zveřejnění, tím vyšší je laťka pro souhlas.
Sečteno a podtrženo
Nejtěžší zde není strojové učení, aledisciplína toku dat. Pokud dáváte doporučení nebo srovnáváte uživatelská data, je zajímavé prodiskutovat, kam umístíte kontrolu souhlasu. Co o vás systém ví, se můžete podívat v sekcisoukromí.
Často kladené otázky (FAQ)
Otázka: Jak získat nejlepší výsledek z neuronové sítě?
Odpověď: Použijte podrobné výzvy (popisy) v angličtině, nastavte styl a detaily scény.
Otázka: Mohou být tyto materiály použity pro komerční účely?
Odpověď: Ano, vygenerovaný obsah je zcela váš.