Slack trénuje vlastní AI na vašich soukromých konverzacích

Slušnou nevoli mezi uživateli spustilo zjištění, že i privátní konverzace slouží pro trénink umělé inteligence.

Kontroverze se týká praxe Slacku analyzovat data zákazníků pro trénink systémů strojového učení (ML) a umělé inteligence (AI). Tato politika se týká všech instancí Slacku, nejen těch, které se přihlásily k doplňkům Slack AI.

Podle zásad ochrany soukromí Slack používá tato data k vylepšení funkcí jako jsou výsledky vyhledávání, návrhy při psaní, doporučení kanálů a dokonce i návrhy emoji. Mnozí uživatelé však považují používání jejich konverzací pro tyto účely za invazivní a zbytečné.

Na platformách jako Mastodon, Threads a Hacker News už bylo vidět rostoucí znepokojení. Hlavním problémem je nedostatek transparentnosti a přístup opt-in, což mnozí vnímají jako temnou praktiku navrženou k tomu, aby bylo obtížné se odhlásit. Odhlašovací proces totiž vyžaduje, aby administrátor pracovní skupiny poslal e-mail týmu zákaznické podpory Slacku, což mnozí považují za záměrnou překážku k odrazení uživatelů od odhlášení.

Reakce Slacku

V reakci na odpor Slack objasnil, že zatímco používá data zákazníků pro modely strojového učení na úrovni platformy, netrénuje generativní modely Slack AI na datech zákazníků. Slack AI, který je samostatně zakoupeným doplňkem, používá velké jazykové modely (LLM) hostované v rámci infrastruktury AWS Slacku. To zajišťuje, že data zákazníků zůstávají pod kontrolou Slacku a nejsou přístupná poskytovatelům LLM.

Salesforce, mateřská společnost Slacku, slíbila aktualizace zásad ochrany osobních údajů, aby lépe vysvětlila vztah mezi daty zákazníků a generativní AI ve Slacku. Rovněž uvedli, že data zákazníků používaná k tréninku těchto modelů neopouštějí důvěryhodné prostředí Slacku, což zajišťuje, že poskytovatelé LLM nemají přístup k těmto datům.

Důsledky a budoucí směřování

Tento incident zvýrazňuje rostoucí obavy ohledně ochrany soukromí a používání osobních informací pro trénink AI bez výslovného souhlasu. Jak se technologie AI nadále vyvíjí, firmy budou muset upřednostňovat transparentnost a kontrolu uživatelů nad používáním dat, aby si udržely důvěru a dodržovaly standardy ochrany soukromí.

Kde berou data ostatní?

Přístup k trénovacím datům je v současnosti velké téma. Například Google uzavřel smlouvu s Redditem, aby měl možnost trénovat své modely nad diskusemi této populární platformy. Podobně se s diskusní platformou před pár dny dohodlo i OpenAI, které stojí za ChatGPT.

Zdroje:

• https://arstechnica.com/tech-policy/2024/05/slack-defends-default-opt-in-for-ai-training-on-chats-amid-user-outrage/
• https://techcrunch.com/2024/05/17/slack-under-attack-over-sneaky-ai-training-policy
• https://lifehacker.com/tech/slacks-ai-features-analyze-private-conversations