Imagem de Ibrahim Kizza para APC. Usado com permissão. Este artigo faz parte da série. Não pergunte IA, pergunte a um par, uma colaboração entre Global Voices, a Associação para a Comunicação Progressiva e GenderIT. A série tem como objetivo reenfatizar a importância da partilha de conhecimentos entre as pessoas, como tem sido feito por décadas. Você pode seguir a série no APC.org, GenderIT.org, e globalvoices.org. Também faz parte do Global Voices. Abril 2026 Série de Luzes,. Perspectivas humanas na IA.. Você pode suportar esta cobertura doando aqui. Como um dos países mais infames por usar AI para vigilância e restringir a liberdade dos cidadãos, a China não pode oferecer uma resposta direta para como desenvolver uma abordagem de direitos humanos para AI. No entanto, seu abraço aberto da tecnologia da IA e suas ambições para dominar no mercado global da IA podem servir como um estudo de caso para a relação crescente entre o setor privado e o estado, a máquina e a sociedade.

Em fevereiro 2026, um engenheiro espanhol, Sammy Azdoufal, descobriu que ele poderia tomar o controle de 7,000 aspiradores inteligentes, ver imagens em tempo real de casas de pessoas, e ouvir o som ao redor através das câmeras ao vivo das máquinas, e identificar a localização exata dos domicílios através dos seus endereços IP simplesmente através da engenharia reversa a conexão entre o vácuo DJI Romo recém adquirido e o seu gamepad PlayStation. Enquanto a empresa chinesa consertou a falha de segurança em pouco tempo, o incidente destaca como a tecnologia de vigilância com AI pode penetrar facilmente em nossas vidas diárias e nos riscos que ela representa.

Ameaças universais acompanham a vigilância da IA e a tecnologia de guerra. O vácuo inteligente acima mencionado não está disponível no mercado dos EUA porque seu fabricante, DJI, foi designado uma empresa militar chinesa. 2022 e foi adicionado à lista negra do Pentágono devido a preocupações de segurança nacional. Neste contexto, as discussões sobre a tecnologia de vigilância com AI e as ameaças que a acompanham foram limitadas à China, mas esta tecnologia é universal, afetando pessoas em todo o mundo.

A China é, de fato, um precursor na mobilização de tecnologias sofisticadas de vigilância para reforçar a sua governança repressiva, e tem mesmo exportado o conjunto de ferramentas para outros estados autoritários, como tem sido amplamente documentado pelos meios de comunicação internacionais. A experiência chinesa, tanto na chamada gestão social de Uyghurs em Xinjiang, China, como na COVID- 19 sistema de controle, mostra ao mundo que o monitoramento humano em nome da gestão de grade e da aplicação da tecnologia de vigilância — reconhecimento facial, um sistema de crédito social, geolocalização e rastreamento de dados online — trabalha em conjunto para manter um ambiente de polícia de base que antecipe com sucesso possíveis atos de desestabilização. A realidade Orwellian mostra que quando equipado com um poderoso motor IA, o estado pode consolidar seu poder em detrimento da liberdade individual de montagem, expressão e movimento. O mercado global de tecnologia represiva. Tal tecnologia repressiva avançada tem um alcance de mercado além da imaginação. Na China, sistemas de reconhecimento facial com AI têm sido usados para emitir bilhetes de estacionamento ilegais e de caminhada de jaywalk, processar pagamentos on-line e off-line e monitorar o desempenho de sala de aula dos alunos, entre outros.

Enquanto os estados democráticos são céticos com o aplicativo chinês de vigilância da IA, tais visualizações apenas os empurram para comprar ferramentas de IA semelhantes de fontes não chinesas. A polícia do Reino Unido, por exemplo, comprou recentemente a tecnologia de reconhecimento facial com AI usada pela inteligência israelense para identificar e rastrear civis palestinos que passam por Gaza. O 50 Máquinas de reconhecimento facial IA serão implementadas em todo o país para identificar e rastrear indivíduos na lista de vigilância da polícia do Reino Unido. Nos EUA, a tecnologia da IA também foi usada na vigilância e prisão maciças de imigrantes sem documentos e na recente guerra contra o Irão. Na frente digital, o impacto da AIÕs sobre os meios de comunicação e o ecossistema de informação tem sido devastador. A censura integrada e o viés político da IA gerativa feita pela China, DeepSeek, na divulgação de uma narrativa pró-China tem sido amplamente relatado.

Ao mesmo tempo, as IA gerativas ocidentais também são úteis para divulgar propaganda pela internet. Como revelado pelos relatórios de transparência da OpenAI, os operadores de informação russos e chineses usaram o ChatGPT para analisar a opinião pública e adaptar o conteúdo ao público alvo. Recentemente, em meio à guerra EUA-Israel contra o Irão, a propaganda de guerra, sob a forma de vídeos deepfake gerados por IA, também inundou as principais plataformas de mídia social. Uma minoria de operadores de desinformação agora pode manipular a percepção da realidade da maioria graças aos seus assistentes de IA.

A necessidade de reequilibrar o poder. A China também tem uma lição vital para o mundo sobre a governança da IA. Desde então 2022, ele lançou uma série de leis e regulamentos, incluindo as Disposições de Recomendação Algorítmica ( 2022 ), Provisões de Gerenciamento de Síntese Profunda ( 2023 ), Medidas interinais de AI gerativas ( 2023 ), e medidas de etiquetagem da AI ( 2025 ) para evitar o uso ilegal e malicioso da IA e garantir que o conteúdo gerado por máquina se alinha com os valores centrais socialistas da China. Os direitos do usuário em relação à proteção de dados pessoais, consentimento e acesso foram abordados de forma justa, com requisitos adicionais para a responsabilidade corporativa para melhorar a transparência algorítmica e medidas não discriminatórias e não addictivas. No entanto, como o objetivo das leis é proteger a segurança nacional, a ordem pública e a ideologia política, não há restrição no poder do Estado. Nas redes sociais chinesas, não é incomum ver usuários reclamando que a polícia bateu às portas simplesmente porque compraram algo suspeito, como um drone para tirar fotos. O sistema de crédito social, juntamente com censura online, um sistema de gestão de grades e outro sistema de controle social, rastreia os registros de atividades online dos usuários, incluindo transações financeiras, conexões sociais e fala, e restringe o acesso aos serviços digitais e públicos, como sistemas de pagamento online e compras de viagens, quando os seus resultados de crédito são baixos e posteriormente listados nos tribunais chineses&# 8217; &# 8220;juízo de pessoas desonestas lista&# 8221;.

Os deveres impostos pelas leis no setor corporativo parecem sólidos e justos. No entanto, há muito poucas organizações independentes da sociedade civil para monitorar o setor privado e garantir que as empresas tecnológicas realmente implementaram as medidas de proteção exigidas pela lei. Como resultado, falhas de segurança e vazamentos de dados pessoais devido a produtos de IA mal projetados, como o Vazio DJI Romo, têm persistido nos últimos anos. Em 2025, uma grande violação de dados expôs os registros de bilhões de usuários chineses, incluindo nomes, números de ID, senhas e detalhes financeiros e bancários ligados às suas contas de mídia social. Estes registros podem ser explorados pelos scammers para tramar contra os indivíduos envolvidos. Apesar de todos os riscos de segurança, os cidadãos chineses do continente foram rápidos em aceitar tecnologia emergente, especialmente AI. O último exemplo, que ocorreu no início de março em todas as principais cidades chinesas, é a pressa de instalar OpenClaw, um bot de IA codificado pelo programador austríaco Peter Steinberger que se integra com outros LLMs, como DeepSeek e Claude, executa em um computador local, e armazena dados localmente. Saltando na tendência, outras empresas chinesas, incluindo Tencent, ByteDance e Xiaomi, lançaram produtos similares. Tal fanatismo tecnológico, impulsionado tanto pela política do governo chinês de integrar tecnologia avançada na economia e a ansiedade das pessoas sobre ser deixadas para trás em meio à inovação tecnológica rápida, transforma as pessoas em fãs e seguidores de um Leviatã, para o qual as pessoas alimentam seu tempo, energia, desejos, idéias e dados sem idéia sobre quem controla e onde pode levá- las.

Embora a transparência e a proteção dos direitos do consumidor tenham sido escritas nas leis chinesas da IA, a proteção dos direitos humanos continua plana, pois as pessoas não estão conscientes dos seus direitos e dos potenciais danos que vêm com o uso abusivo e malicioso da tecnologia. Em vez disso, a maioria dos cidadãos chineses do continente, na ausência de escolha, aceitou a tecnologia de vigilância, como a onipresência de câmeras de segurança de reconhecimento facial, como uma característica normal e conveniente da vida pública. O mecanismo de mudança está bloqueado. Podemos ver na distopia chinesa da AI que as pessoas não estão no controle da tecnologia, mas estão sujeitas a um regime que vê a tecnologia como um meio de expandir e consolidar o poder político e econômico do Estado. Ele nos mostra que o núcleo da abordagem dos direitos humanos à IA deve visar a reequilibrar o poder entre o estado corporativo, a máquina e as pessoas através de um quadro de tomada de decisões que coloca as pessoas de volta ao centro, e descontinuar o fanatismo tecnológico através de pesquisas orientadas para o homem e deliberação pública, práticas culturais reflexivas e educação da humanidade.

Oiwan Lam é um editor regional na Global Voices que cobre notícias sobre a Ásia Oriental. Ibrahim Kizza é um artista visual, designer e ilustrador cujo trabalho explora a conexão humana, a identidade e a cultura. Suas ilustrações são definidas por composições em negrito, cor expressiva e um forte foco narrativo, muitas vezes centrando a vida preta e a experiência vivida. Trabalhando em espaços editoriais e digitais, ele cria arte e ilustrações que equilibram a simplicidade com a profundidade emocional, usando contraste e simbolismo para comunicar ideias complexas com clareza. Para este projeto, o Ibrahim desenvolve uma resposta visual à tensão entre conexão artificial e humana, reforçando o valor da experiência vivida e criatividade coletiva num mundo cada vez mais automatizado. Além da ilustração, seus interesses abrangem design, esporte e filme, que continuam a informar sua linguagem visual e narração de histórias.