Captura de tela do Smart Government Innovation LAB de Hong Kong. Uso justo. Este post faz parte do Global Voices. Abril 2026 Série Spotlight, ї Perspectivas humanas sobre IA.. Esta série oferecerá uma visão de como a IA está sendo usada em países da maioria global, como seu uso e implementação estão afetando comunidades individuais, o que este experimento de IA pode significar para gerações futuras, e muito mais. Você pode suportar esta cobertura doando aqui.

Eu ensino e vivo em um campus público universitário em Hong Kong. No início de cada ano letivo, há um fluxo constante de avisos de fraude: cartazes no campus, e- mails, avisos de estudantes, lembretes da instituição, cartazes espalhados por estações MTR e manchetes de jornal. Tenha cuidado com links suspeitos, chamadas fraudulentas, pedidos de pagamento falsos, identidades manipuladas, mensagens que soam urgentes e plausível o suficiente para fazer você verificar de novo. Especialmente depois do incidente de titularização em que um empregado foi enganado por uma chamada de vídeo falsa com o chefe financeiro da sua empresa para transferir milhões, houve aumento e repetidas mensagens de que a IA está aqui para ficar e que não estamos preparados para isso. Acho irônico que um dos grupos demográficos mais alvo desta mensagem de potencial esquema baseado em IA seja estudantes jovens, que são frequentemente descritos como nativos digitais, instintivamente alfabetizados nos idiomas de plataformas, dispositivos e vida online. Algo mudou em nossas práticas digitais onde a cautela se tornou a última palavra-chave, porque não podemos mais confiar se o que vemos é o que recebemos, e não acho que seja apenas sobre a proliferação e persistência de notícias falsas e desinformações. Trata- se das condições de confiança: não só a nossa capacidade de confiar nas informações digitais que encontramos, mas a nossa capacidade de confiar em nosso próprio julgamento nas interações diárias com a IA.

Um poster anti- escama que visa estudantes em Hong Kong. Captura de tela do Centro de Coordenação Anti- Engano. Uso justo. Os debates anteriores sobre desinformação digital frequentemente focavam na circulação: um rumor se espalhando muito rapidamente, uma imagem manipulada viral, uma falsa alegação que se apoderava antes de poder ser corrigida. Esses foram problemas sérios, mas eles ainda assumiram que a falsidade era algo inserido em um ambiente de leitura diferente. Com a IA gerativa, entramos num espaço onde a plausibilidade, não a falsidade, tornou- se barata, escalable, ambiental e normal. Ele inunda o digital com coisas que não são obviamente falsas, mas também não são fidedignamente verdadeiras, produzindo um tipo de fadiga cognitiva e rendição.

Os coletivos humanos podem sobreviver ao desacordo, mas ainda não descobrimos como viver com distorção contínua. O que está sendo erodido não é apenas confiar nas informações que encontramos, mas confiar em nossa própria capacidade para lidar com e negociar essas plausibilidades geradoras de IA. A ênfase recente em medidas antifraude em Hong Kong mostra que fraudes deepfake e outras formas de decepção mediada digitalmente tornaram- se suficientemente graves para que a resposta agora inclua sistemas técnicos, como scameter+, projetados para identificá- los ou interrompê- los. As autoridades financeiras descreveram abertamente este como um novo terreno em que a IA deve ser usada para combater a IA. Significa que a confiança não é mais restaurada pelo reconhecimento humano, mas depende cada vez mais da verificação técnica em camadas, além da produção técnica. Este é o paradoxo cívico no centro do momento atual. Quanto mais plausibilidade sintética e artificial sobrepõe o julgamento diário, mais verificação se torna um serviço especializado. As instituições de confiabilidade, ou pessoas de confiança conhecidas por nós através da proximidade e da relacionalidade, estão sendo substituídas por uma pilha de sistemas que afirmam nos dizer o que é autêntico. Quando uma voz precisa de verificação forense, uma mensagem precisa de um sinal de plataforma, e uma interação pública tem que passar por um chatbot, um filtro, uma camada de detecção, e só então retorna como algo que devemos aceitar como confiável, a confiança cívica começa a migrar para longe de processos sociais compartilhados e para infraestruturas técnicas gerenciadas.

Embora grande parte disto seja tratado no nível de detecção e prevenção de fraudes, as consequências são muito mais amplas. Considere o que acontece quando a IA se integra nas interfaces comuns da vida pública: sistemas de pesquisa, quiosques de serviços, processos de aplicação de governança, ferramentas de tradução, gateways de pagamento, assistência automatizada e um maior lançamento da IA em todos os fluxos de trabalho da gestão diária da cidade. A presença de IA é justificada por uma reorganização em torno da velocidade, legibilidade e eficiência, coisas que Hong Kong caracterizadamente se dobra em sua imagem como uma cidade densa, de alta velocidade e hiper- conectada, de otimização de teto de neon. No entanto, neste novo cenário, onde os sistemas de IA têm o poder de verificar e gerenciar nossas interações entre si e a cidade, os encontros cívicos tornam- se cada vez mais processuais e processuais. O cidadão torna- se um usuário. A pergunta pública se torna uma consulta. E na direcção de política atual para construir uma cidade inteligente, AI se torna central para um sistema de entrega de serviços públicos acelerado e expandido. Mas a eficiência, por si só, não cria confiança cívica. Uma instituição pública não se torna mais cívica apenas porque se torna mais automatizada.

Como está se tornando evidente nas audiências públicas que investigam o desastre do incêndio em um estabelecimento residencial em Tai Po, a confiança cívica exige que as pessoas entendam como as decisões são tomadas, onde os erros podem ser desafiados e como a responsabilidade é distribuída quando algo der errado. O desafio da confiança cívica diante da IA será temporal tanto quanto técnico. Chama por alfabetização, fluência e cautela em IA só serão eficazes se também mudarmos nossos vocabulários públicos para descrever o que esses sistemas fazem: Por exemplo, se começarmos a chamar sistemas de IA para tomar decisões em vez de sistemas de automação, ou pensar em entrada como captura, ele muda como nos relacionamos com essas tecnologias. Porque quando um dano é visível, o sistema já parece ter se movido. No trabalho em torno de gênero e violência sexual facilitados pela tecnologia, sabemos que quando uma imagem sintética é desacreditada, o efeito social já viajou. Quando as salvaguardas forem escritas, a interface já foi normalizada. Estamos sempre alcançando. E este alcanço produz uma desconfiança coletiva em nossa própria capacidade de reconhecer o que está acontecendo enquanto está acontecendo. A verificação é frequentemente oferecida como solução necessária para estas questões, mas é insuficiente. Se a vida cívica for reduzida a um ciclo interminável de detecção, correção e resposta, então a confiança pública se torna permanentemente defensiva. Paramos de perguntar que tipos de tecnologia de relações devem tornar possível, e, em vez disso, nos conformamos com o controle de danos.

O que significaria pensar de forma diferente? No Estúdio de Narrativas Digitais, que eu dirijo, começamos com uma mudança modesta, mas importante: passando de perguntar como a IA pode melhorar os serviços cívicos para perguntar que tipos de relações cívicas esses serviços devem manter. A eficiência e segurança são necessárias, mas também são hesitação, explicação e a possibilidade de permanecermos responsáveis uns pelos outros, mesmo quando nossos encontros são cada vez mais moldados por sistemas sintéticos.

Nós chamamos isso de infraestruturação relacional. Se a confiança está sendo deslocada de processos sociais compartilhados para sistemas técnicos de plausibilidade sintética e verificação, então a resposta não pode ser simplesmente melhor detecção ou avisos mais alto. Também não detenho um desejo nostálgico de voltar a um tempo antes das mediações tecnológicas, como se isso fosse real. Temos que ficar com as tecnologias que agora organizam a vida cívica, mas recusamos aceitar as narrativas de tomada de decisão e confiança que elas oferecem. Para nós, significa criar processos compartilhados e encarnados através dos quais as pessoas podem nomear o que estão encontrando, comparar experiências, compartilhar interpretações, testar juízo juntos e construir um vocabulário coletivo para as novas condições que a IA normalizou.

Em nosso trabalho, isto toma a forma de pequenos experimentos em linguagem, relação e possibilidade. Através de reuniões informais e semiestruturadas, sempre sobre comida, criamos espaços onde as pessoas podem descrever como os sistemas impulsionados por IA entram em suas vidas cotidianas, e onde novos vocabulários cívicos podem surgir de experiência vivida em vez de prescrições técnicas. Não quero prescrever um idioma como se houvesse um estabelecido, mas tente pensar em como você entenderia o futuro da IA, as histórias que eles consolidam, e a experiência que eles desaconchegam se você tivesse que incorporar termos como o inabalável, enredo, espelho sujo, intimidade tóxica, dor e companhia como parte da descrição da IA em sua vida diária. Estenderemos isso a práticas de modelagem de linguagem relacional — uma prática que não imita correlações de máquinas, mas a construção de relações humanas como forma de moldar e interpretar o conjunto de dados, onde a intenção humana, o contexto social, a responsabilização mútua e a ansiedade compartilhada podem ser nomeados, e se tornar centrais para como imaginamos o engajamento cívico com IA. E combinamos isso com uma possibilidade de compromisso: insistir que a IA ainda está insatisfeita, ainda aberta para ser moldada de outra forma, e que o idioma e o vocabulário que vem com, não é algo que aceitamos.

Esta abordagem ascendente não é escalonável ou fácil, mas está baseada na ideia de que vivemos com e através de tecnologias e não fiquemos apenas fora e criticá-las. Pensamos através da reconstrução das condições relacionais em que as tecnologias são encontradas, interpretadas e tornadas responsáveis para que não estejamos apenas procurando verificar o que é real, mas criar públicos capazes de fazer sentido juntos.