CTRL, o filme que o algoritmo quase escondeu de mim (e o que isso diz sobre nós?)

Eu assisti CTRL, o filme na Netflix, ontem. E a primeira coisa que pensei quando os créditos subiram não foi sobre o enredo. Foi: como é que esse filme nunca apareceu para mim antes?

Não é normal. Eu não fico presa ao circuito hollywoodiano. Assisto produção finlandesa, chinesa, coreana, japonesa, inglesa, o que aparecer de interessante fora do óbvio. E ainda assim, um suspense cibernético sobre Inteligência Artificial, lançado em outubro de 2024, ficou invisível para mim por quase dois anos.

A ironia é grande demais para ignorar. Um filme sobre como entregamos, aos poucos e sem perceber, o controle da nossa vida para um algoritmo quase não chegou até mim por causa de um algoritmo de recomendação. Se isso não é matéria-prima para reflexão, eu não sei o que é.

Ficha técnica de CTRL, o filme que você “deve” assistir!

CTRL, o filme, está disponível no catálogo da Netflix, é uma produção indiana, falada em hindi (e inglês, em vários momentos), dirigida por Vikramaditya Motwane (o mesmo nome por trás de Sacred Games e AK vs AK) em parceria com Avinash Sampath no roteiro. A produção estreou no catálogo em 4 de outubro de 2024, com Ananya Panday e Vihaan Samat nos papéis principais. Você pode conferir a ficha completa direto na página oficial do título na Netflix.

Um detalhe técnico que muda a experiência: o filme é feito em formato screenlife, ou seja, praticamente tudo acontece através de telas de celular, do computador e por chamadas de vídeo. Motwane comentou que o que quis capturar como “tempo de tela” virou, na prática, “vida na tela”. Não é só um recurso estético. É o argumento do filme embutido na própria forma de contar a história.

Vale reparar também que o catálogo indiano costuma ficar isolado em fileiras próprias na Netflix, tipo “filmes de Bollywood”, separado das fileiras de suspense ou ficção científica internacional. Se seu histórico de visualização nunca passou por lá, o algoritmo simplesmente não te apresenta essas produções, mesmo quando o tema bateria perfeitamente com seu gosto. Foi provavelmente isso que aconteceu comigo.

O enredo de CTRL, sem entregar demais

#spoileralert modo off!

Nella e Joe são o casal perfeito de influenciadores digitais. Vlogs, esquetes de comédia, parcerias com marcas, a vida inteira como casal documentada e monetizada online. Até que, durante uma live no aniversário de namoro (e/ou do canal), Nella descobre Joe beijando outra mulher.

Na dor da traição, ela recebe uma proposta sedutora: um aplicativo chamado CTRL promete apagar completamente o ex da vida dela, digitalmente falando. Um assistente de Inteligência Artificial chamado Allen (com aquele jeito flertador e uma tela de carregamento que incomoda mais do que deveria) assume a tarefa de limpar a presença de Joe da internet de Nella.

O problema é que o que começa como alívio emocional vira, aos poucos, outra coisa. E é aí que o filme para de ser “dramalhão clichê” de casal e vira suspense muito interessante.

As camadas do suspense (ainda sem spoiler pesado)

O que eleva CTRL de “drama de traição com IA” para suspense de verdade é a revelação de que Joe não estava apenas magoado ou sumido por vergonha. Ele fazia parte de um grupo que investigava, por dentro, a empresa que está por trás do próprio aplicativo CTRL, a Mantra Unlimited, uma gigante que domina praticamente todo o mercado de consumo digital do país.

O nome do esquema interno é Project Unicorn, e a ironia é cruel: a mesma empresa que criou um app para “ajudar” pessoas como Nella a recuperar o controle emocional é a que planeja, em escala industrial, controlar e monetizar a vida digital de todos os seus usuários. O aplicativo que promete alívio pessoal é, na verdade, a porta de entrada de um projeto corporativo muito maior.

Não vou entregar o que Joe descobre exatamente nem como a trama se resolve, mas dá pra adiantar a pergunta que fica pairando: e se o “Allen” particular de cada um de nós já existir, só que em escala corporativa, com nomes bem mais familiares? A pergunta não é gratuita. Mantra, no filme, é fácil de enxergar como um espelho de muitas big tech que já opera exatamente assim na vida real, coletando dados, prevendo comportamento, vendendo previsibilidade para quem paga mais.

Ação e reação: o que o filme realmente está dizendo (e o que isso diz sobre nós)

Tirando o melodrama romântico entre os dois protagonistas, que é só a superfície, o que sustenta CTRL, o filme, é bem mais sofisticado do que “IA malvada destrói vida de influenciadora”.

O ponto central é este: ninguém entrega o controle da própria vida de uma vez só. Ninguém clica em “sim, pode assumir minha vida digital” conscientemente. O consentimento acontece em camadas pequenas, razoáveis, quase invisíveis. Um termo de uso aqui, uma permissão ali, um “aceitar todos os cookies” sem nem ler. Cada passo parece pequeno demais para importar. A soma deles é que pesa. Eu costumava usar essa frase nos meus conteúdos de sustentabilidade, “pequenas ações somadas tornam-se grandes”, mas ela encaixa aqui como luva, só que para o lado ruim da equação.

CTRL, o filme, também é inteligente ao mostrar como interface bonita esconde poder real. Allen  —  que não por acaso é Nella ao contrário (o nome escolhido pela própria protagonista no momento em que cria seu avatar de assistente de IA), não é ameaçador na aparência. É simpático, até charmoso. A inquietação vem de detalhes sutis, o jeito como ele se move, a tela de carregamento que nunca parece terminar de verdade. É um lembrete de que design e experiência do usuário não são neutros. São ferramentas de persuasão, construídas para reduzir sua resistência, não para te proteger.

E é aqui que o filme para de falar só de Nella e passa a falar de nós. Porque a Mantra do filme não precisa existir de verdade para o alerta valer. A gente já entrega localização, histórico de compras, padrão de sono, estado emocional (sim, aplicativos de humor e bem-estar registram isso) para empresas que, assim como a Mantra, têm todo interesse em prever e moldar nosso comportamento antes que a gente perceba que está sendo moldado. A diferença entre o enredo e a nossa rotina é só uma questão de nome de empresa e de quanto tempo até a gente reparar.

E aqui entra o pé no chão que prometi lá no início: isso não é ficção científica distante. Aplicativos de “companhia por IA” já existem e crescem em popularidade. Empresas de tecnologia já monetizam dados emocionais, não só comportamentais. A diferença entre CTRL e a vida real não é tão grande quanto a gente gostaria que fosse.

Prova disso é que a China passou a exigir regras rígidas para esse tipo de aplicativo, forçando plataformas de companhia por IA a monitorar sinais de dependência emocional nos usuários e a intervir quando o uso passa do saudável. Pequim não está proibindo a tecnologia em si, mas reconhecendo, de forma oficial, o mesmo risco que CTRL dramatiza na tela: interfaces desenhadas para criar apego, não para cuidar de quem está do outro lado da conversa.

Não é alarmismo dizer isso. É reconhecer que toda conveniência tem um preço, e que raramente pagamos esse preço no momento em que aceitamos a oferta.

Vale assistir CTRL?

Vale, e vale principalmente pela parte que menos parece ser o assunto principal: o pano de fundo tecnológico. Quem assiste CTRL, o filme, esperando só um drama de traição, sai com uma pergunta bem mais incômoda na cabeça. O romance entre Nella e Joe é o gancho emocional que puxa você para dentro da história, mas o que fica depois dos créditos é quanto controle a gente já entregou sem perceber, e quanto ainda estamos dispostos a entregar em nome de conveniência, alívio ou curiosidade.

CTRL, o filme na Netflix, quase escapou de mim. Ainda bem que o algoritmo, dessa vez, errou a conta a meu favor.

---

Conteúdo desenvolvido com Inteligência Artificial (IA) e Inteligência Orgânica (IO): Claude 🤝 Nice de Paula
Fonte de imagem: Martin Cid Magazine