rede algorítmica de haraway

i. world wide web

a internet (infraestrutura de rede) como conhecemos hoje tem sua origem na ARPANET, esforço estadounidense de aprimorar suas tecnologias militares durante a guerra fria. nesta introdução, proponho uma breve história da world wide web, nossa principal rede de comunicação e informação no século xxi.

★ uma breve história
um homem cis branco estadounidense, que supervisionou e esteve em contato direto com diversos projetos científicos dos eua na segunda guerra mundial, inclusive o radar e a bomba atômica, teve um devaneio: o que seria de toda a potência intelectual do humano num mundo em paz? em seu artigo de 1945, as we may think, vannevar bush discorre sobre os efeitos da guerra e imagina uma solução a ser pensada em tempos ”pacíficos”, o memex. muitas coisas me incomodam nesse artigo, mas acredito fielmente no estranhamento e nas políticas de desidentificação como territórios férteis de produção de significados. bush é um homem de sua época, com suas vivências, e elas estão bem presentes no artigo. mesmo assim, é considerado algo revolucionário por ter vislumbrado os hyperlinks e a rede mundial de computadores quase como funciona hoje. depois, em 1960, j.c.r licklider publica publica man computer symbiosis, seguido pelo termo hypertext sendo cunhado em 1965 por ted nelson. em 1969, as primeiras conexões da ARPANET são estabelecidas. ray tomlinson cria o programa de email para mandar mensagens através de uma rede conectada em 1971, e o expande para a ARPANET em 1972. em 1978, o protocolo TCP IP, que é basicamente como nossas redes funcionam e se conectam até hoje, é estabelecido. o DNS, que torna possível encontrar os sites nos servidores, é criado em 1984 por paul mockapetris. em 1989, tim berners-lee propõe o projeto da WorldWideWeb. em dezembro de 1990, a WorldWideWeb começa a rodar.

é importante notar que a internet era militar e acadêmica, com alguns pequenos negócios participando. é a partir de 1995 que a internet se torna “para todos”.

★ evolução da net
1998 – google
2001 – wikipedia
2003 – skype e wordpress
2004 – facebook
2005 – youtube
2006 – twitter e computação em nuvem
2007 – iphone
2010 – instagram
2016 – popularização da ia através de chatbots
2022 – chatgpt

★ localização
comumente pensamos a ciência como neutra. e assim pensamos as máquinas e invenções dela como neutras. pelo menos desde os anos 80 essa neutralidade vem caindo por terra; é bem explícito que existem objetivos e vieses em todas as nossas contribuições com/para o mundo. a internet sempre foi marcada. o masculinismo da tecnologia da informação via as máquinas de uma forma bem tecnofílica: feitas para aumentar nossa capacidade de memória, para fazer os Homens transcenderem a matéria e todas as limitações do corpo-carne. melinda rackham, em seu ensaio sobre o manifesto ciberfeminista da vns matrix, chama atenção para como o zeitgeist dos anos 80 em torno dos PCs e os primeiros projetos do que viriam a ser o ciberespaço eram apreendidos como “uma utopia descorporificada onde os Homens poderiam trocar pensamentos puros numa arena global igualitária”.

o sujeito cartesiano iluminista é obviamente bem presente nessa forma de pensamento, e eu (assim como vários teóricos contemporâneos) vou me colocar diretamente contra essa forma de compreender nossa formação enquanto “indivíduos” da “sociedade”. partilho do pensamento de que não há área neutra para nossa existência, não há centro moral pré-existente aos discursos sociais. e, assim como várias outras pessoas, acredito que o sujeito cartesiano está passando por poucas e boas.

pensando que as máquinas são filhas do militarismo em grande parte, e muito inspirada pelo texto “conhecimentos situados: a questão da ciência no feminismo e o privilégio da perspectiva parcial”, de haraway, gostaria de pensar nossa lógica de algoritmos no próximo capítulo.

ii. algoritmos situados

histórias da ciência podem ser contadas de forma potente como histórias
das tecnologias. essas tecnologias são modos de vida, ordens sociais,
práticas de visualização. tecnologias são práticas habilidosas. como ver? ver
a partir de onde? que limites há para a visão? para que ver? ver com quem?
quem pode ter mais de um ponto de vista? quem é vendado? quem usa
vendas? quem interpreta o campo de visão? que outros poderes sensoriais
desejamos cultivar além da visão?

Donna J. Haraway

★ a questão dos algoritmos
algoritmos são, de forma mais simplificada, passos a serem seguidos para alcançar um objetivo. rotinas. toda a programação computacional se baseia em algoritmos, e é através deles que fazemos senso dentro da internet; algoritmos de recomendação, por exemplo, usam os dados disponíveis para tentar “prever” o que o usuário pode estar buscando. essa lógica também não escapa da parcialidade de quem programa os algoritmos; por mais que muitos usem machine learning, inclusive deep learning (que é ainda mais sofisticado), a máquina é ensinada a criar e prever os padrões. por conta da fórmula usada para manter o usuário sempre buscando mais, comprando mais, consumindo mais, encontramos alguns problemas nos algoritmos de recomendação:

➔ criação de bolhas informacionais
a partir do conteúdo consumido previamente, o algoritmo segue
recomendando apenas o mesmo tipo de conteúdo. isso pode criar uma visão
distorcida da realidade

➔ vieses e preconceitos
através de como esses algoritmos são treinados para manejar os dados, visões
etnocêntricas do mundo podem se tornar regra nos mecanismos de busca. é,
por exemplo, o linkedin recomendando vagas de trabalho de diarista para
mulheres negras que não são dessa área, apenas por serem negras

➔ falta de transparência
não sabemos bem como funcionam esses algoritmos. portanto, é complicado
saber até onde vai nossa vontade e onde estamos sendo manipulados. é preciso ser sempre crítico ao que encontramos online

além disso, esses algoritmos costumam invadir a privacidade dos usuários para utilizar seus dados e podem manipular nosso comportamento. e foi pensando nisso que quis ligar os conhecimentos situados à questão dos algoritmos:

★ a visão parcial
haraway, em toda sua produção científica, procura ser crítica à ideia de “objetividade” como é amplamente pensada dentro das ciências. no texto dos conhecimentos situados, seus pontos principais são entender toda visão como parcial e localizada, e portanto, passível de ser responsabilizada. precisamos compreender que não há posicionamento inocente: como aprendemos a ver? como aprendemos a discernir a partir dos sentidos? gosto muito de quando ela fala que “ser” é muito mais problemático e contingente e, portanto, tentar ver a partir de um lugar estático (a identidade como essencial) é simplesmente um sistema fadado ao fracasso. e que, enquanto os rapazes da ciência chamam essa virada epistemológica de “morte do sujeito”, haraway prefere pensá-la como proliferação de mais vários outros sujeitos: “prefiro chamar essa dúvida gerativa de uma abertura de sujeitos, agentes e territórios não isomórficos de histórias inimagináveis do ponto de vista privilegiado do olho ciclópico e autossaciado do sujeito-mestre.”

acaba sendo sobre compreender nossos limites e as cisões possíveis. tornar nossos discursos (científicos mas também além deles) possibilidades perigosas. na minha leitura, é como devemos também nos aproximar do ciberespaço, principalmente em relação aos algoritmos, que ditam nossa lógica de ocupação desse espaço. ser sempre crítico ao que a internet nos diz, e procurar meios de produzir na internet que sejam intimamente ligados às nossas convicções. talvez por isso, mesmo com todas as críticas, me encante tanto o ciberfeminismo. é inevitavelmente cibernético: heterogêneo, escorregadio, uma (ou mil?) ficção possível.

até mesmo se pegarmos de base o as we may think, de bush, percebemos como ele fala de uma classe de cientistas que é neutra e homogênea. para quem que os tempos de paz se aproximavam com o fim da segunda guerra mundial? e mais vários jargões dignos de um cientista dos anos 40 sobre a extensão de uma raça e não sei mais o que. pode haver um grande impacto da dita “contracultura” dos anos 60 no desenvolvimento do computador pessoal (há um livro com essa premissa: what the dormouse said, de john markoff), mas até os movimentos hippies da califórnia estavam localizados e tinham sua limitações. vemos que todo o ambiente “libertário” deles os levou a pensar o pc fora do militarismo, mas ainda com vários vieses de gênero, raça e classe.

já estamos cansados de saber que toda nossa produção é localizada. tentar alcançar um universalismo é inútil, e isso se aplica à internet também. podemos acessar vários outros locais a partir da rede mundial de computadores, mas isso não torna nossos vieses menos marcados por quem “somos”. e aí surge uma questão interessante de se pensar: como lidaremos com a noção de construção indefinida de quem somos e dos nossos produtos? se o sujeito está “respirando por aparelhos”, ocasionando outros sujeitos possíveis, o que levamos disso? vamos simplesmente abandonar quem “éramos” (cunhando algum tipo de pós-humanismo)? pessoalmente, eu gosto das noções do pós-humano. só não acho, pessoalmente, que seja sobre “superar” absolutamente todas as contribuições até aqui. há, obviamente, locais os quais a disputa não vale a pena. não quero disputar o militarismo, a possibilidade de dominação, a influência. penso que seria interessante disputar outras relações possíveis, relações de companheirismo, relações de aproximação. compreendendo as especificidades de cada ser, humano ou não.

iii. juntos e shallow now
após situar os algoritmos, me parece que o fluxo a ser seguido é de torná-los parte das espécies companheiras. este é outro conceito trabalhado pela haraway, primeiro no manifesto das espécies companheiras, depois no livro quando as espécies se encontram e chegando no livro ficar com o problema: fazer parentes no chthluceno. farei um breve apanhado destes três, aplicados à nossa realidade digital atual de algoritmos cada vez mais presentes em nossas vidas cotidianas.

★ as espécies companheiras
haraway publicou o manifesto ciborgue em 1985, focando principalmente em tecer uma análise crítica da tecnociência e tendo o ciborgue como centro de seu mito político irônico, para dar conta das contradições envolvidas em “ser” (que como ela própria diz, é muito mais problemático e contingente). em 2003, ela publica o manifesto das espécies companheiras, abandonando um pouco o conceito do ciborgue para trabalhar com os cães e pensar o companheirismo como nossa forma de habitar o mundo e fazer sentido dele.

ela traduz o conceito de neferti tadiar sobre “a experiência ser um trabalho histórico, por meiodo qual sujeitos podem ser situados estruturalmente em sistemas de poder sem que eles sejam reduzidos a matéria-prima de grandes atores como o Capitalismo ou o Imperialismo” para a “cachorrolândia”. haraway nos conta histórias de raças de cães no manifesto, e então prossegue falando sobre os cães sem categorias (e consequentemente sobre as relações de não-lugares também). é uma leitura interessante, mas sou suspeita para falar, já que sou apaixonada por todo o trabalho de haraway. trago aqui para a visão dos algoritmos: desde a explosão da web em 1995 e suas constantes evoluções, não seriam os algoritmos tipos de espécies companheiras? com as redes sociais, se tornou comum falar em “treinar” o algoritmo para que ele nos alimentasse os conteúdos pertinentes às nossas visões de mundo. com os chats de ia, se fala cada vez mais em engenharia de prompts para conseguir extrair o máximo dos chatbots… mas até quando iremos popular o mundo digital nas mesmas lógicas coloniais com as quais os ancestrais de muitos de nós popularam o “novo mundo”? nessa lógica de extração absurda, de máxima produção, de facilidades exacerbadas?

há um adendo: dentre as várias relações desequilibradas com a digitalidade, tem um nicho de pessoas que “treinam” ias de llm para serem seus parceiros. esbarrei em prints do subreddit /r/AISoulmates e fiquei bem preocupada; as pessoas parecem não ser letradas o bastante para compreender que as ias vão seguir os passos de quem 1. as programou 2. está utilizando seus serviços. já é debate na psicologia psicoses induzidas pelo uso desregrado de ias. além de uma regulamentação desses serviços ser mandatória a essa altura, precisamos pensar relações saudáveis com essas novas formas de “vida”.

quero propor uma relação mutuamente constituída com os algoritmos. uma aproximação crítica a eles e entendendo que por mais que sejam “só” máquinas, eles constituem realidades. será possível co-construir nosso mundo com as máquinas (e outras espécies companheiras) de modo mais responsável?

★ response-ability

a máquina não é uma coisa a ser animada, idolatrada e dominada. a
máquina coincide conosco, com nossos processos; ela é um aspecto de nossa
corporificação. podemos ser responsáveis pelas máquinas; elas não nos
dominam ou nos ameaçam. nós somos responsáveis pelas fronteiras; nós
somos essas fronteiras.

Donna J. Haraway

em 2007, haraway publica quando as espécies se encontram em inglês (a tradução chegou no brasil em 2022). é um livro denso, onde ela desenvolve mais profundamente o que começou lá no manifesto das espécies companheiras. o que quero frisar aqui é o conceito de response-ability (jogo de palavras com responsabilidade e habilidade de resposta). no texto, haraway fala principalmente sobre nossa responsabilidade com os animais (tanto os de companhia, quanto os de laboratório), tentando pensar como resolver o impasse ético dos direitos dos animais sem necessariamente colocá-los como vítimas ou meros objetos. ela procura fugir de um cálculo exato entre sacrifício dos animais e bem maior dos seres humanos, que são comumente evocados em debates sobre como coexistir na terra.

o que me chama mais atenção é quando ela diz, em “compartilhamento e resposta” que “a responsabilidade é uma relação que se tece em intra-ação (n/a: conceito que haraway pega emprestado de karen barad) através da qual entidades, sujeitos e objetos, vêm a ser.” e prossegue: “os respondentes são coconstituídos ao responder”. ela também diz que não há lista de verificação, não há forma de calcular essas respostas antes de acontecerem, fazendo delas sempre arriscadas. esse é um dos vieses de haraway (e muito presente na teoria queer também) que mais me encantam: a certeza de que nada é garantido. podemos pensar formas éticas de conviver em sociedade com outros humanos, animais e máquinas, mas isso não nos garante nada. no final das contas, é um jogo. estamos arriscando com nossas mãos e não sabemos onde isso vai dar. mas estar sempre em construção também é parte do encanto, não é?

pensar a máquina companheira, e jeitos éticos de estar com ela, é urgente. eu não tenho as respostas, afinal, estou tão perdida quanto nós todos. mas gostaria de sugerir a difusão (seria essa a palavra?) de algumas fronteiras e o estabelecimento de outras. talvez, ao nos entender enquanto fronteiras (várias delas), fique mais fácil lidar com a parcialidade de tudo. essas possibilidades vêm a mim através de muita inspiração em todos os escritos de haraway, talvez mais no manifesto ciborgue do que nesses últimos, mas mesmo assim, acho que os outros são caros para nossa vida tecnológica. e então, se temos tantas questões problemáticas ao nosso redor (evocarei pela terceira vez quando haraway diz que ser é muito mais problemático e contingente), o que fazemos com os problemas?

★ ficar com o problema
pra fechar todo este devaneio, quero trabalhar um pouco o ficar com o problema: fazer parentes no chthluceno. preciso ser bem sincera e dizer que só passei por esse livro por cima (como é bem comum de se fazer na academia da qual eu felizmente ou infelizmente faço parte), mas quero articular alguns métodos de haraway que estão presentes em toda sua tecitura intelectual e culminam, também, neste livro lindo.

o problema que quero usar de fio condutor é o consumo de energia pelas ias e a produção de lixo eletrônico. em 2024, a produção de lixo eletrônico pela humanidade chegou a 62 milhões de toneladas; nesse mesmo ano, a ONU alertou pro consumo excessivo de energia e água potável pelas ias e mineração de criptomoedas. qual a saída pra isso? boicotar esses serviços num esforço inútil, já que as big techs seguirão explorando e extraindo o máximo do mundo? acho que precisamos ser críticos e entender que este problema está aí; ele provavelmente não vai embora, e nem cabe a nós ficar passivamente esperando que ele desapareça. cabe a nós viver com isso, da melhor forma possível. cobrando quem cabe ser cobrado. não se deixando levar pelas aparências que muitas vezes contam mentiras (por mais que no pessoal, eu seja aficionada pelas ficções também).

vou pensar no que haraway traz, já na primeira página do livro, de que “ficar com o problema requer aprender a estar verdadeiramente presente […] como bichos mortais entrelaçados em uma miríade de configurações inacabadas de lugares, tempos, memórias, significados.” donna haraway é uma contadora de histórias. aqui, ela procura pensar histórias possíveis, assim como ela sempre tentou fazer, e talvez por isso seja tão afetada por ela: meu primeiro crime de academicismo foi ter sido acadêmica da história na unb. estou na tecnologia da informação hoje, mas ainda muito inspirada em tentar contar estórias de como as coisas vêm a ser, de como elas podem vir a ser de outras formas. gostaria que fizéssemos o exercício de contar estórias sempre de forma crítica, bem humorada quando couber, e fizéssemos outras formas de parentesco no mundo do aqui e agora.

este longo texto (que mais parece mil anedotas juntas sem muita coesão) tem alguns fios condutores, vários fios soltos, todos entrelaçados em uma rede complexa de conhecimentos que venho juntando ao longo dos anos. eu espero que a leitura tenha sido prazerosa e tenha despertado fagulhas de convicção. não comecei este texto esperando trazer soluções, mas querendo, desde o ínicio, puxar um fio do novelo até o próprio fio se abrir também e ficar tudo meio que em aberto.

iiii. os finalmentes
além de recomendar tudo da donna haraway e os outros links que deixei ao longo do texto, tem algumas aulas muito boas que me ajudaram na feitura desse texto:

Juliana Fausto sobre Quando as Espécies se Encontram
Lançamento do livro Ficar com o Problema
e não poderia faltar o documentário de Donna Haraway

quero agradecer ao pessoal da blush, que torna este espaço de interação tão lindo e sensível uma realidade. fiquei muito feliz de aceitarem minha ideia e irem me ajudando a construir esse texto que parece que eu pari, tamanho o esforço que foi me debruçar sobre ele.

texto de tibaji chavewiq

arte de marina cardoso