Documentário "Ghost in the Machine" liga IA generativa a raízes eugênicas da Silicon Valley
O documentário "Ghost in the Machine", da diretora Valerie Veatch, lança um olhar crítico sobre as origens históricas da inteligência artificial generativa, conectando-a a correntes pseudocientíficas do século XIX, como a eugenia. O filme argumenta que os vieses racistas e sexistas arraigados nos modelos atuais não são meros acidentes técnicos, mas herdeiros diretos de ideais de "aperfeiçoamento humano" que permeiam a cultura da Silicon Valley. A obra desafia a narrativa de neutralidade tecnológica e expõe a opacidade das empresas de IA na correção de outputs discriminatórios.
A herança eugênica na tecnologia
Veatch traça uma linha desde os movimentos eugênicos que influenciaram a fundação da Califórnia como estado até a ideologia de meritocracia tecnocrática atual. A noção de que alguns seres humanos são "superiores" e que a tecnologia pode otimizar a espécie ressurge em algoritmos que classificam, selecionam e excluem com base em dados históricos enviesados. O documentário mostra como pioneiros da computação, como os fundadores da Hewlett-Packackard, foram influenciados por essas correntes, criando um substrato cultural que persiste nas salas de reunião das gigantes de IA.
Viés algorítmico como feature, não bug
Uma tese central do filme é que os vieses nos modelos de linguagem e imagem são sistemáticos porque refletem a sociedade da qual os dados foram extraídos. No entanto, em vez de tratá-los como problemas a serem corrigidos, as empresas muitas vezes os normalizam como "reflexo da realidade". Veatch entrevista especialistas que demonstram como sistemas de geração de texto reproduzem estereótipos de gênero e raça, e como ferramentas de reconhecimento facial têm taxas de erro desproporcionalmente altas para mulheres e pessoas negras. Essa internalização de preconceitos ameaça perpetuar desigualdades em escala industrial.
Opacidade e falta de prestação de contas
O documentário critica a falta de transparência nas arquiteturas de modelos e nos conjuntos de dados de treinamento. Empresas como OpenAI, Google e Meta operam como caixas-pretas, dificultando auditorias independentes. Quando vieses são descobertos, as respostas geralmente se limitam a "ajustes de fine-tuning" superficiais, sem reformular as premissas fundamentais. Veatch argumenta que essa opacidade é intencional, protegendo interesses comerciais e evitando escrutínio regulatório. O filme posiciona-se como um contraponto necessário ao hype em torno da IA generativa, lembrando que a tecnologia nunca é neutra.
Implicações éticas e regulatórias
"Ghost in the Machine" surge em um momento de debates globais sobre governança de IA. Sua abordagem histórica sugere que regulamentações devem ir além de riscos de segurança e incluir auditorias de viés obrigatórias, diversidade nas equipes de desenvolvimento e transparência radical. O documentário alerta que, sem uma intervenção crítica, a IA generativa pode se tornar a mais sofisticada ferramenta de discriminação em massa já criada, automatizando e amplificando preconceitos seculares sob uma camada de objetividade algorítmica falsa.