Sistemas de recomendação e aprendizado de máquina: mapeando a experiência do usuário

O artigo, que tem a participação do integrante do <labiia_lab> Luiz Agner (Faculdades Integradas Hélio Alonso/IBGE), discute a eficácia e a comunicabilidade dos sistemas de recomendação de streaming baseados em machine learning, sob a ótica do modelo mental dos usuários. Os autores examinaram as práticas de consumo de conteúdo na Netflix, investigando aspectos sensíveis da interação com os algoritmos de recomendação. O método foi exploratório, com entrevistas semiestruturadas individuais aplicadas a uma pequena amostra de estudantes de design e comunicação de três universidades do Rio de Janeiro (UFF, ESDI e Facha), com idades entre 19 e 34 anos, assinantes pagantes da Netflix há mais de cinco anos.

Principais pontos

• Fundamentação sobre sistemas de recomendação: o artigo revisa os conceitos de filtragem colaborativa (baseada em interações passadas entre usuários e itens), filtragem baseada em conteúdo (que exige informações descritivas sobre itens e usuários) e sistemas híbridos — categoria na qual a Netflix é apresentada como exemplo, por combinar ambas as abordagens. Também são discutidos fatores de sucesso como diversidade, privacidade, explicabilidade, serendipidade e o problema do cold start.
• UX e machine learning: com base em autores como Budiu, Harley e Lovejoy e Holbrook, o texto destaca o problema do modelo de “caixa-preta” (black box), em que os usuários não compreendem quais ações o algoritmo considera nem como mudar os resultados. São listadas diretrizes de design, como transparência, controles fáceis sobre o output e clareza sobre a origem dos dados rastreados.
• Algoritmos da Netflix: o artigo detalha os diversos algoritmos usados em conjunto pela plataforma, como o Personalized Video Ranker (PVR), Top-N Video Ranker, Trending Now, Video-Video Similarity (“Because You Watched”), Continue Watching, Evidence (que escolhe sinopses e capas), Page Generation e a busca. Cita que cerca de 2.000 “comunidades de gosto” orientam as recomendações e que mais de 80% do que os usuários veem vem de recomendações.
• Resultados das entrevistas: os entrevistados frequentemente preferiam recomendações de outras fontes (amigos, redes sociais, canais do YouTube); não sabiam identificar com clareza onde estavam suas recomendações personalizadas na tela; não tinham um modelo mental adequado de como o algoritmo funciona (sensação de “caixa-preta”); e não sabiam como interagir para melhorar as recomendações. Sobre privacidade, manifestaram desconfiança e teorias conspiratórias, estendendo as suspeitas a outros serviços além da Netflix, incluindo medos de manipulação política e venda de dados.

Conclusão

Os autores concluem que os entrevistados não compreenderam corretamente como o sistema funciona nem formaram um modelo mental adequado sobre os dados rastreados e seu processamento. Isso sugere falhas de comunicação, e os designers de UX deveriam tornar visível como o sistema rastreia e processa os dados de interação, ajudando a desconstruir a sensação de “caixa-preta” e a construir confiança via explicabilidade. A questão da privacidade apareceu como preocupação relevante, com suspeitas que os autores associam às “teorias conspiratórias” descritas por Lovejoy e Holbrook. Além disso, os usuários desconheciam como interferir no sistema para gerar recomendações mais alinhadas a seus objetivos. Apesar da amostra limitada, o estudo aponta que a interação humano-algoritmo é a nova fronteira do design de interação e da ergonomia, e que os designers de UX ainda têm muito a contribuir para reforçar o controle do usuário sobre a tecnologia.