Um algoritmo feito para decidir as notas dos estudantes no Reino Unido depois que exames nacionais - a versão britânica do Enem - foram cancelados provocou um escândalo.
Muitos estudantes sentiram que os resultados que eles tiveram nos exames eram injustos e que eles perderiam a chance de entrar na universidade.
Isso levou a acusações de que estudantes mais pobres estariam sendo prejudicados.
O governo britânico deixou um algoritmo destruir as esperanças e sonhos de toda uma geração de jovens?
Caítlín sempre foi fascinada pelo corpo humano, mesmo quando criança. Ela recebia notas máximas e depois de receber uma oferta para estudar medicina na Queen's University de Belfast este ano ela estava a caminho de virar médica.
Tudo que ela precisava era conquistar mais duas notas "A" nos exames finais que tinha pela frente.
Mas quando os exames nacionais, conhecidos como A-levels, foram cancelados, ela ficou preocupada. Os resultados destes exames são usados para as universidades decidirem quais estudantes serão admitidos na faculdade.
Ela sabia que seus professores estariam examinando seu trabalho para decidir qual nota ela deveria receber, e lembrava com ansiedade de todos os trabalhos escolares que havia entregue, todos os exames do passado — e o peso que isso teria no seu futuro.
Quando Caítlín recebeu o e-mail confirmando sua nota nos A-level, ela não poderia imaginar que nada disso fez diferença.
Ela recebeu um B e um C, nem perto dos As que ela precisava para entrar em medicina. Esses resultados, ela descobriu depois, haviam sido calculados por um algoritmo.
Rebaixamento
"Eu estava arrasada", ela conta. "Catorze anos em educação formal e a única instituição que deveria me recompensar por todo meu esforço no fim roubou o meu futuro de me tornar médica."
Ela foi direto para a escola para tentar entender o que havia acontecido, mas o pessoal da escola estava tão confuso quanto ela. Os seus professores haviam previsto duas notas "A" no exame dela, mas suas previsões foram rebaixadas pelo algoritmo.
Caítlín é apenas uma de milhares de estudantes que podem perder uma vaga na universidade este ano por causa do algoritmo criado pelo governo.
O Reino Unido é um dos primeiros países a cancelar exames escolares nacionais depois da pandemia de coronavírus, e o governo inventou um jeito único de avaliar os alunos.
Eles pediram para que os professores dessem uma previsão de qual nota seus alunos tirariam, caso o exame tivesse sido realizado. E eles criaram um sistema baseado em um algoritmo, que deveria garantir que essas previsões não seriam distorcidas em prol dos alunos — dada a relação próxima entre alunos e professores.
No entanto, o algoritmo parece ter ignorado completamente a sugestão dos professores. Cerca de 40% das notas dadas pelos professores foram rebaixadas em pelo menos um grau (de "A" para "B"). Em alguns casos, como no de Caítlín, o rebaixamento foi de dois graus.
"O fato de que tudo foi computadorizado fez com que a minha nota fosse completamente aleatória", diz Caítlín.
As autoridades dizem que programaram o algoritmo para se certificar que os estudantes receberiam notas alinhadas com a performance dos últimos anos, e que os resultados deste ano não seriam inflados.
Você viu?
Mas o sistema ignorou talentos individuais e o trabalho duro dos alunos. Estudantes excepcionais em escolas de baixo desempenho tiveram suas notas rebaixadas. E escolas que trabalharam para melhorar as notas de seus alunos os últimos anos foram julgadas por desempenhos passados.
Recorte de classe
A coisa ainda piorou. Alunos em escolas que tinham turmas menores também tiveram notas mais parecidas com as dadas por seus professores — uma clara vantagem para escolas mais ricas e mais bem estruturadas.
Houve um aumento de 5% no número de estudantes de escolas privadas ou com matrículas pagas que receberam notas máximas.
Isso foi relatado em um documento que explica como funciona o algoritmo. O relatório de 130 páginas foi publicado no mesmo dia do exame.
"O governo está implementando estes algoritmos sem explicar a seus cidadãos ou perguntando se eles querem isso", diz Martha Dark, fudadora da Foxglove, uma entidade que trabalha com justiça tecnológica. "Primeiro eles computam, depois eles perguntam."
A Foxglove tem sido ativa no combate ao algoritmo e também está envolvida em outra disputa sobre o algoritmo usado pelo Reino Unido para definir sobre vistos de imigração.
O governo britânico recuou e disse que vai abandonar o algoritmo.
No dia dos resultados, Anna Kaminska ficou acordada até 6 da manhã, sem conseguir dormir. Ela estava pronta para cursar bioquímica na Universidade de Manchester.
Ela estava trabalhando duro para decorar os vários termos de biologia, uma das aulas com a qual ela tinha maior dificuldade. Seus professores previram que ela receberia "A" e "B" nos exames nacionais.
Mas quando ela abriu o e-mail, descobriu que recebera "C" e "E" — e que ficaria sem vaga na faculdade.
Na segunda-feira, o governo reverteu sua decisão e optou por aceitar as notas sugeridas pelos professores.
Mas pode ser tarde para Caítlín e Anna. A Queen's University disse para Caítlín que eles não poderiam honrar sua promessa, porque sua vaga já foi repassada a outra pessoa. Já Anna não teve chance de receber uma proposta, porque o recuo do governo veio tarde demais.
Tudo isso desencadeou revolta entre os jovens britânicos e expôs uma distorção do sistema educacional britânico.
O Reino Unido tem algumas das escolas privadas mais caras do mundo. Só 6% dos estudantes britânicos estão em educação privada, mas eles representam cerca de 30% do corpo estudantil nas 15 universidades mais prestigiadas.
Mas nem todas as escolas de alta performance são privadas. Caítlín vem de uma escola pública boa, com bom histórico de notas. E ainda assim ela teve notas rebaixadas.
Alguns alunos na escola dela receberam "A" como previsto. "Eles têm o mesmo perfil acadêmico que eu. Eu não entendo. Todos passamos pelo mesmo algoritmo", diz ela.
O que assusta sobre algoritmos é que eles são cada vez mais usados no nosso cotidiano, ajudando a escolher o noticiário que lemos ou as coisas que compramos. Agora também são usados para examinar currículos e decidir sobre empréstimos e seguros.
Outro problema é que muitos algoritmos são desenvolvidos em sigilo — já que eles valem muito dinheiro — e isso impede maior transparência sobre seus processos.
No caso de Anna e Caítlín, o algoritmo terá impacto no resto das suas vidas.