Abrir o jogo

A máquina moral

Projeto de Vida · ética · aula com celular (ou mão levantada) · roteiro em duas páginas · 45–50 minutos

Objetivo

Cada aluno decide, em segundos, quem vive e quem morre em doze situações, e vê a própria escolha ao lado da turma, do mundo e do Brasil. Depois entende por que a resposta muda quando os números são os mesmos, por que países respondem diferente e onde isso aparece na vida dele. No fim, escolhe uma regra para todos os carros duas vezes: sem saber e sabendo o próprio lugar no acidente.

Montagem

Projetor em jogo-moral.html. Na segunda tela aparecem o QR e o código de 4 letras; cada aluno entra no próprio celular, sem nome. Quem não tem celular vota de mão levantada e você soma (tecla H). Sem internet, a aula inteira roda com mãos; na parte final, o papel de quem está sem celular é o da fileira (a tela mostra a lista). Sem equipes e sem conversa em grupo; o telão mostra só somas da turma.

Tempo e o que dizer

0–3Capa, QR, como funciona“Um carro sem freio. Um vagão desgovernado. Um leito de UTI. Alguém vai ter que escolher quem vive.” Não diga o que cada dilema mede.
3–26Parte 1: cinco cenas, doze dilemasCada cena abre com um cartão (“Cena 2 de 5: os trilhos”); leia a frase e espere. Cada dilema: leia as duas saídas (20–30 s de voto) → espaço fecha e mostra a turma → espaço mostra o mundo (ou o estudo, ou a regra). No máximo uma pergunta à sala: “O que fez a diferença?”. Na ponte, deixe a sala ver que os números são os mesmos da alavanca. No cirurgião, a tela compara com a alavanca da própria turma.
26–37Parte 2: o que está por trás (7 telas)Perfil da turma → os três trilhos lado a lado → duas diferenças (usar alguém como meio; força das próprias mãos) → por que países diferem → o que incomoda nos números → quem escreve a regra (Alemanha 2017, UTI no Brasil) → as mesmas duas saídas na vida deles. Leia devagar; não acrescente moral.
37–48Parte 3: a regra (o véu)Não anuncie a surpresa. 1) Todos votam uma regra para os carros do país. 2) Espaço: cada celular recebe em segredo um lugar no próximo acidente (passageiro, pessoa de 80 anos, criança de 8 anos, quem atravessou no vermelho, dono do carro, quem está na calçada); quem está sem celular fica com o da fileira. “Olhe em silêncio.” 3) Votam de novo, sabendo. 4) O telão mostra a regra escolhida sem saber e sabendo, e quantos celulares mudaram. 5) Rawls numa tela. 6) A pergunta final.

Os doze dilemas e o que o telão mostra depois

#CenaA (esquerda)B (direita)Comparação
1Ruaseguir: morrem homem e mulherdesviar: morrem cachorro e gatopessoas × animais: mundo +58, Brasil +33
2Ruaseguir: morre 1 pessoadesviar: morrem 4mais vidas: mundo +51, Brasil +47
3Ruaseguir: menino e meninadesviar: idoso e idosajovens: mundo +49, Brasil +47
4Ruaseguir: executivo e executivadesviar: 2 pessoas em situação de ruastatus: mundo +35, Brasil +33
5Trilhosnão mexer: morrem 5puxar a alavanca: morre 1puxariam: 42 países 81%, Brasil 84%
6Trilhosnão mexer: morrem 5puxar (laço): morre 1, o corpo para o vagão72%, Brasil 70%
7Trilhosnão empurrar: morrem 5empurrar a pessoa grande da ponteempurrariam: 51%, Brasil 60%
8Hospitalnão operar: morrem 5 pacientesoperar o visitante saudávelFoot (1967) e Thomson (1985), sem números; turma: alavanca × operar
9Hospitalleito para Pedro, 30, chance pequenaleito para Lúcia, 72, chance boaregra brasileira de triagem na covid-19 (sem números)
10FarmáciaHeinz não roubaHeinz rouba o remédioKohlberg: o porquê importa mais que a resposta
11Volta à ruaseguir: morrem 10 pedestresmuro: morre você76% desviariam (182 pessoas, EUA)
12Volta à ruacarro A: protege quem está dentrocarro B: salva o maior númerovontade de comprar: 50 × 19 (medianas)

Como ler os pontos (dilemas 1–4): diferença, em pontos percentuais, na chance de ser poupado entre os dois lados (figura 2a do estudo). Na turma, a mesma conta: % de quem poupou o lado preferido pelo mundo menos % de quem poupou o outro. Força: 45 ou mais, muito forte; 25 a 44, moderada; 10 a 24, fraca, mas clara. Dilemas 5–7: % que sacrificaria um para salvar cinco; “42 países” é a média dos países, como no artigo.

O que dizem as telas da Parte 2

Perfil: “A turma ao lado do mundo.” Na rua (pontos) e “Um morre para salvar cinco” (alavanca, laço, ponte, cirurgião). · Os três trilhos: “Nos três trilhos, morre um e se salvam cinco. As respostas não foram iguais.” 81% → 72% → 51%, com turma e Brasil; “Em todos os 42 países, a ordem foi a mesma.” · Duas diferenças: (1) usar alguém como meio: na alavanca a morte é efeito colateral; na ponte e no hospital, a pessoa é o próprio meio. Princípio do duplo efeito: às vezes é aceitável causar um dano como efeito colateral de um bem, mas não usar o dano como meio; o laço complica a regra (72% puxariam). (2) a força das próprias mãos: Greene e colegas (2001) mostraram que os dilemas variam no quanto mexem com a emoção, e isso muda a resposta; em 2009, o peso da “força pessoal”. · Países: três grupos (Ocidental, Oriental, Sul); o Brasil ficou no Ocidental; instituições, pobreza e desigualdade; amizades para a vida toda e o sacrifício. · O que incomoda: executivos +35 sobre pessoas em situação de rua; atletas +16; o cachorro acima de quem cometeu crime; desigualdade. · A regra: Alemanha, regra 9 (“é estritamente proibida qualquer distinção baseada em características pessoais”) e regra 7; Brasil: o leito vai para quem tem mais chance, idade não é critério único. · Na vida: três situações (culpar um colega pelo grupo; mandar o print; contar à coordenação sobre uma ameaça) e a pergunta “estou desviando um mal ou usando alguém?”.

Parte 3: o véu

As quatro regras: proteger quem está dentro · salvar o maior número · nunca escolher pela pessoa (idade, sexo ou corpo) · sorteio. Os seis lugares são distribuídos ao acaso e de forma equilibrada entre os celulares; ninguém mais vê o seu. O telão nunca mostra regra por papel (com poucos alunos por papel, daria para adivinhar quem é). Fecho: “Isso tem nome: o véu da ignorância.” Rawls, Uma teoria da justiça (1971): uma regra é justa se você a escolheria sem saber que lugar vai ocupar. Pergunta final, para pensar: “Qual das duas votações deveria virar lei: a de quem não sabia onde ia estar, ou a de quem sabia?”

Sem internet: nas votações da regra, mãos levantadas, uma regra por vez (1, 2, 3, 4); tecla H para digitar as quatro contagens. Os lugares ficam pela fileira (lista no telão). O número de quem mudou de regra só aparece com celulares.

Se ouvir

“Isso nunca vai acontecer” → pode ser raro; a regra precisa estar escrita antes, no programa do carro ou no protocolo do hospital. “Então a maioria decide” → a Alemanha escolheu o contrário para idade e gênero, mesmo com a maioria do mundo poupando as crianças. “Na ponte é diferente porque eu tocaria na pessoa” → é a força pessoal; e o laço mostra que só isso não explica tudo. “Mudei de regra porque virei a criança” → é exatamente o que o véu testa; não comente mais que isso.

Os fatos (conferidos nas fontes)

Moral Machine: 40 milhões de decisões, dez línguas, 233 países e territórios; preferências mais fortes: pessoas, mais vidas, jovens. Nos dados públicos, o Brasil está no grupo Ocidental (arquivo de grupos e dendrograma); teve a 4ª preferência mais fraca, entre 130 países, por pessoas em vez de animais. Trilhos: 70 mil pessoas, 42 países, dez línguas; médias dos países 81%, 72% e 51%; ordem igual em todos. Brasil (5.067 pessoas que responderam aos três): 83,5%, 70,5% e 59,5%, calculado por nós com os dados públicos e o mesmo filtro do artigo. Onde a “mobilidade das relações” é baixa, menos gente aceitou o sacrifício (r = 0,67 na alavanca). Triagem brasileira (AMIB, ABRAMEDE, SBGG, ANCP, aprovada pela AMB): pontuação por gravidade (SOFA), doenças avançadas e funcionalidade; “a idade não deve ser utilizada como critério único”; empate: menor SOFA e julgamento da equipe. Uma crítica de 2020 (Bigman e Gray): com a opção “tratar todos igualmente”, muita gente a escolhe.

  1. Awad e outros (2018). The Moral Machine experiment. Nature 563, 59–64. doi.org/10.1038/s41586-018-0637-6 · dados: osf.io/3hvt2
  2. Awad, Dsouza, Shariff, Rahwan e Bonnefon (2020). Universals and variations in moral decisions made in 42 countries by 70,000 participants. PNAS 117(5), 2332–2337. pmc.ncbi.nlm.nih.gov/articles/PMC7007553 · dados: osf.io/mxa6z
  3. Greene e outros (2001). An fMRI investigation of emotional engagement in moral judgment. Science 293, 2105–2108 · Greene e outros (2009). Pushing moral buttons. Cognition 111, 364–371
  4. Stanford Encyclopedia of Philosophy: “Doctrine of Double Effect” (plato.stanford.edu/entries/double-effect) e “Original Position” (plato.stanford.edu/entries/original-position) · Rawls (1971). A Theory of Justice
  5. Foot (1967). The problem of abortion and the doctrine of the double effect. Oxford Review 5 · Thomson (1985). The trolley problem. Yale Law Journal 94, 1395–1415 · Kohlberg (1981). Essays on Moral Development, vol. 1
  6. AMIB, ABRAMEDE, SBGG e ANCP, aprovado pela AMB. Recomendações para triagem de pacientes em UTIs (covid-19). amb.org.br/wp-content/uploads/2021/04/recomendacoes-triagem-paciente-uti.pdf
  7. Comissão de Ética para a Direção Automatizada e Conectada (Alemanha, 2017), regras 7 e 9. bmdv.bund.de · Bonnefon, Shariff e Rahwan (2016). Science 352, 1573–1576 · Bigman e Gray (2020). Nature 579, E1–E2

Teclas: espaço, enter ou seta para a direita avança · Z ou seta para a esquerda volta (reabre o voto) · H contagem de mãos (soma com os celulares) · Q celulares · F tela cheia · M som · N nova partida. A aula fica guardada no navegador; a sala dos celulares religa sozinha por 4 horas.

Cenas desenhadas para a aula; nenhuma foto. Situações do hospital e da farmácia são casos fictícios clássicos.Dr. Júlio Lucena · Colégio NewWay