Nossa burrice coletiva

Você tem um lado na discussão recente sobre o governo do PT, um lado que você crê fortemente que deva ser defendido? Considera o outro lado uma mistura que contém apenas burros e gente defendendo o próprio interesse? Seja o seu lado contra ou a favor, algo que você precisa saber é que, no momento em que você escolheu defender um dos lados e se identificar com ele, você, infelizmente e sem saber, comprometeu seriamente sua capacidade de analisar corretamente o problema. E, se você for uma pessoa inteligente, esse comprometimento pode até ser ainda mais sério. É um fenômeno observado em experimentos de Psicologia Cognitiva, não é sua culpa, é uma consequência de como nós, humanos, somos. Mas é algo que você realmente deveria saber.

Infelizmente, uma explicação completa com os detalhes de como raciocinamos em geral, de como argumentamos e de como isso deveria ser feito é bastante longa. Do tamanho de um livro. As partes da discussão existem em lugares diferentes, mas não sei de um lugar já publicado que inclua todas estas questões. Também por isso, no começo desse ano, eu terminei de escrever um livro sobre conhecimento e crenças. Ele só existe na versão rascunho e está submetido para publicação no momento, enquanto alguns amigos leem essa versão rascunho. Às vezes comento algo sobre o que está ali em uma rede social, mas acho que, como ele ainda não está acessível, tenho usado informações que estão lá em discussões menos do que eu poderia ou deveria. Não que a maior parte do que está lá seja original. Em termos de páginas, a maior parte é um longo contar de resultados, alguns bastante recentes, outros não, em áreas tão distintas quanto Psicologia Cognitica, Lógica, Indução Probabilística, Filosofia da Ciência e efeitos de interações em sistemas sociais complexos. O que torna o livro significativo é que, após juntar tudo, algumas conclusões se tornaram óbvias para mim e, espero que tenha feito um bom trabalho ali de mostrar o como de fato são óbvias. Mas, enquanto essas conclusões são frequentemente mencionadas em uma versão fraca, nunca as vi na versão mais forte a que cheguei, o que é a contribuição central do livro (e o motivo pelo que penso ele venha a ser uma obra importante em qualquer discussão sobre o pensamento e o que sabemos). Em particular, ele traz algumas conclusões importantes que são de aplicação óbvia na política. Com toda a palhaçada atual e a incompetência generalizada do debate, causada pelo sermos humanos frequentemente apesar e não por causa da incompetência do debatedor, acabei concluindo ser melhor fazer minha parte e comentar o que der. Ainda que seja só para desabafar sobre toda a burrice do debate, induzida pelas crenças e o tomar partido de gente que é, na verdade, inteligente.

O livro foi escrito em inglês pois julgo importante demais para terminar restrito a um país não muito relevante (e trazer para uma tradução, mais tarde, é muito mais fácil que fazer o caminho inverso). No blog, há um pouco mais de um capítulo dele, mas a versão final ainda vai passar por revisões. Ele começa assim:

“Nós todos temos nossas crenças. Nós discordamos sobre elas, mas até hoje sempre pensamos que seria certo defendê-las. Defendemos não apenas nossas preferências, as formas como gostaríamos que nossas vidas e sociedades se organizassem, as coisas que representam o que preferimos e que não tem outro padrão para serem avaliadas além dos nossos padrões individuais. Nós também aprendemos a defender nossas ideias de como o mundo realmente é. Frequentemente, temos opiniões em assuntos sobre os quais sabemos pouco ou nada. Espera-se frequentemente que defendamos essas opiniões também. E elas podem ser opiniões bem fortes. Organizamos partes da nossa sociedade ao redor daqueles que defendem as mesmas ideias. Criamos argumentos para defender nossas ideologias, nossas religiões, nossos grupos sociais. Certeza é considerada uma qualidade, dedicação às descrições pessoais que temos do mundo real, uma coisa boa. Respeitamos aqueles que parecem ter certeza e duvidamos de quem mostra dúvida. Nós pensamos que sabemos.

E estivemos errados o tempo todo.”, André Martins, The Stupidity of Beliefs, unpublished

Uma das conclusões centrais é que ter certeza sobre qualquer afirmação sobre como o mundo é (ao contrário de como você gostaria que ele fosse, seus gostos são seus, afinal e você sabe quais eles são) não apenas é errado. É também desastroso. É errado porque analisando por completo o problema do conhecimento, o que não dá para fazer aqui, não há como obter provas sobre o mundo real. Apenas avaliações das probabilidades de cada ideia e cada teoria são possíveis. Sim, várias vezes algumas ideias tem uma chance tão absurdamente pequena de serem verdadeiras que eu poderia encher uma ou várias folhas com os zeros necessários para representar o número. Mas, em muitas perguntas específicas, a incerteza que sobra é expressiva e nem como primeira aproximação daria para ignorar várias alternativas existentes.

Mas há um outro problema. Esses resultados mais recentes deixam claro nossos erros de argumentação. Outros nem tão recentes mostram como nosso raciocínio intuitivo, que leva as coisas que sentimos que são verdade sobre o mundo e problemas em geral, falha com frequência. Analisamos bem problemas cujas respostas certas são bem conhecidas por todos e fáceis. Mesmo quando elas ainda são fáceis, nossos cérebros, sem um bom tanto de treinamento que não recebemos na escola em lugar nenhum do mundo, erram e com frequência em problemas novos.

Quando juntamos as evidências sobre como somos e comparamos com o como deveríamos ser, é possível ver que nós organizamos nossa sociedade e nossas discussões de forma completamente errônea, reforçando as situações que nos induzem a não raciocinar corretamente. Algo que os experimentos e observações mostram é que nossa capacidade de argumentação não existe para nos ajudar a encontrar as respostas certas. Ao menos essa não é a causa principal da existência de nossa capacidade de argumentação ou, mesmo, sua aplicação mais comum. Até podemos usar argumentos de forma correta e podemos aprender a fazê-lo. Em geral, infelizmente, não é o que acontece. Se isso é uma consequência da evolução ou fomos educados para usar a argumentação dessa forma, ou se a causa é uma provável mistura das duas coisas, não sabemos ainda. O que tem ficado claro – e é engraçado pensar o quão óbvio isso é e o quão pouco ou nada se diz sobre – é que argumentamos para reforçar nossos grupos, para convencer nossos aliados. Ou conseguimos liderar nosso grupo ou preferimos nos ajustar ao grupo, quando alguma ideia nossa não é aceita. Estar certo é quase irrelevante nesse contexto. Continuar a pertencer a um grupo que você usa como identificação pessoal é praticamente tudo que importa. Os argumentos que concordam com sua conclusão, você (e todo mundo) aceita sem pensar. Os que discordam, você analisa até achar algum problema. Mesmo que o problema seja irrelevante, que você precise atacar o proponente ao invés de responder o argumento.

E há mais. Pessoas mais inteligentes, assim como pessoas mais treinadas, nós esperaríamos, deveriam ser capazes de chegar mais facilmente a respostas corretas. Mas, quando elas tem uma crença que defendem, o que se observa é que essa capacidade adicional significa uma maior capacidade não de análise, mas de defesa. De achar argumentos que seu grupo aceite, ou que, no máximo, pessoas indecisas não treinados em Lógica considerem bons. Raciocinar e argumentar sobre crenças que você defende é sobre pertencer ao grupo, liderando-o quando der, mas sempre pertencendo. Não é sobre estar certo, não é sobre o que é melhor para todos, não é sobre competência. E isso inclui não apenas o grupo que você acha estar errado e aqueles que pertencem àquele grupo. Isso inclui o seu grupo e inclui o seu raciocínio.

No caso do debate atual, as evidências de se você se tornou vítima desse fenômeno são claras. Se você classifica quem defende o outro lado como sendo burro ou vendido, você é uma vítima do seu cérebro e sua necessidade de ser aceito pelo seu lado. Isso não quer dizer que não existam burros e vendidos, eles existem dos dois lados e talvez até sejam comuns. É facílimo achar manifestações incompetentes de ambos os lados, o que, para o lado oposto parece apoiar suas ideias. Não apoia, não é nos incompetentes que você deveria prestar atenção, a menos que queira se igualar a eles.

Mas há também argumentos sérios em ambos os lados, que deveriam ser pensados sem paixão. Sem desqualificar o proponente, mesmo se você sente que a pessoa merece ser criticada. Há ideias do outro lado que você deveria sim ouvir e considerar e, algumas, aceitar. O seu lado não está certo em sua totalidade. A pergunta, no caso, deveria ser sobre o futuro, sobre o que é melhor para o país, para a sociedade, para você. Como cada fator (sociedade ou você) conta, é decisão sua, mas apenas o futuro pode ser mudado pelo que você fizer hoje então decisões são sobre o futuro. E análises erradas, mesmo que o erro seja humano e nada que deva deixar você com vergonha (afinal somos todos humanos e erramos igual, se não aprendermos a identificar e corrigir nossos erros), não vão ajudar você a mudar de decisão. Ouvir o outro lado quando ele apresenta argumentos bem construídos e aprender com ele seria um pequeno começo.

Mas o melhor, para evitar o quanto o ser cérebro engana você, é não ter lados. Pensar no que é melhor para o futuro, considerando todos os argumentos e pontos de vista mais sólidos, se esforçar fortemente para não se identificar com um lado ou outro. Ou você pode simplesmente ser manipulado pelo lado que escolheu, ser um escravo desse lado, em vez de realmente pensar.

Durante o segundo turno das eleições, houve um dia em que decidi distribuir ais para argumentos sem conteúdo a favor da Dilma ou a favor do Aécio. Não havia um único argumento a favor que não merecesse um ai. Mesmo gente que deveria saber melhor passava raciocínios incrivelmente burros desde que defendesse seu lado. Eu sonho com o dia em que qualquer raciocínio burro seja ridicularizado e não repetido ou compartilhado.

Do Not Go Gentle into that Good Night ..... Dylan Thomas

Group reasoning: Stereotypes, hatred, and all that

Belonging to a group is a powerful motivator in people actions and also in how they understand the world they live in.  Our social tendencies, our desire to live among equals are very obvious and have some positive consequences. But they also help the drawing of many of the arbitrary lines that divide us, like nation or race.


In his 'The Lucifer Principle , Howard Bloom presents two interesting examples of creating enemies as a way to gain support and power. He tells how Orville Faubus created a bogeyman, inventing a story where he claimed the black population in Little Fork was getting ready for violence when the schools would open, finally forced to integrate black and white students by a Supreme Court decision. Meanwhile, Faubus incited the violence and, by blaming in on the black people, he was able to be elected and re-elected until he decided to retire. A similar strategy was used by Fidel Castro, in order to get the Cuban people to follow his rule. In more recent examples, it is not even necessary to look hard to see how both sides in the Western versus Muslim societies "conflict'' gain the hearts and minds of the people inside each group simply by pointing at the other group as outsiders, as them, basically not granting the same humanity that the group "we'' belong to has.


Dave Grossman's 'On Killing analyses the question of how soldiers deal with the killing they are forced to inflict. While the book has serious problems in his analysis of historical cases (extending the morality of present time to the past and using too few information sources), it points to some interesting, if incomplete, data about the behavioral  of soldiers in our more recent wars. Typically, it seems that, in our modern society, most soldiers would naturally avoid firing their weapons and, when they do, they prefer to aim higher than the heads of their opponents. But this tendency can be trained away and techniques of dehumanizing the enemy already exist. Among them, simply attacking from far in a way where soldiers can aim at objects (tanks, for example) instead of human beings, can make it much easier to avoid the horrible feelings many of us would have from taking someone else's life.


Hatred is indeed a powerful element in how we deal differently with ingroup relations as opposed to outgroup ones. Eran Halperin et al, while studying Israeli-Jewish adults, have observed that hatred is indeed even more important to establishing of political intolerance than other strong inducers of intolerance, such as perceived threat.


Sullivan and Transue, in a review of previous research on political tolerance, observed some rather troublesome effects. For example, a previous study conducted during the McCarthy era by Samuel Stouffer, in  Communism, Conformity and Liberties, observed that an overwhelming majority of the Americans interviewed in the study were in favor of denying the political rights of free speech or participating in the political process to groups they considered a threat, such as communists or atheists. Interestingly, in this study, this tendency to deny political rights was weaker among community leaders. In a later study, James Prothro and Charles Grigg verirfied that, while their respondents actually agreed with general democratic principles such the protection of minorities, this consensus in favor of democratic practices disappeared when applied to controversial issues. The strength of tendency of not accepting divergent opinions was observed to depend on several factors, such as perceived threat, educational background, psychological attitudes and values and so on.

Group Thinking - Argumentative Theory of Reasoning II

Even though we can use our mental skills to try to find correct answers, it seems argumentation, for power and for bonding, is indeed a very important aspect to consider. But this does not mean we aim to win every discussion. The very purpose of winning a discussion is to have others agreeing with us. Therefore, argumentation only makes sense in a context where people try to arrive at some kind of consensus.

Asch experiment points exactly at that. When the group exerted its pressure over people, they were not observed to argument, but to accept the view of the others. The pressure to conform was strong enough that even a trivial task could end in an erroneous answer. It is worth, at this point, to remember the effect known as irrational consistency. In this case, when people hold a specific belief, they tend to also believe in a complete set of logically independent assumptions in a way that they all support their main belief.  While this makes no sense if one's objective is only to hold beliefs as close to the truth as possible (the best action or policy or choice is usually the best one for a set of reasons but also despite a number of problems it might be associated with), it makes perfect sense if the objective is defend a point of view and to conform with a group of people with similar ideas.

It seems we are not really so much interested in truth as we are at confirming our beliefs. We can see people using strategies on a daily basis built to avoid cognitive dissonance, to avoid finding ideas that they disagree with. Recently, my wife shared a post in a social media where a number of Brazilian religious leaders were mocked. These individuals openly request money from their followers (usually poor people who could really have better uses for the money) in exchange for the goodwill of their god. They claim that they could cure diseases easily. Since at the time she posted it, an outbreak of ebola was (and still is, as I write it) treatening  several countries in Africa, it would be only logical for someone who cared about the welfare of people and who genuinely possessed healing powers to use those powers at serious diseases we still don't have the cure for. The post, therefore, suggested three known religious leaders should head to the ebola region to treat the disease.

The tone was one of irony but, if the belief those individuals claim were true and they actually believed that, the suggestion was indeed not more than the logical consequence of those beliefs. The fact that there is something is fishy in this situation, however, is perceived by everyone. And a friend of my wife, who follows the same denomination, complained about the generalization of the post, where all leaders were basically described as liars. I couldn't help myself from joining the discussion. What is interesting is that, as soon as I just entered it with a joking remark, before I could actually reason about the problem, she decided to stop the discussion, to prevent possible damages to our relationship (we never met in person) and deleted her entries to the discussion. Including the post where she told she was leaving the discussion, I was only able to read the post because the comment was sent to my email account. When I actually logged to the site, planning to point out the proposal was actually the logical conclusion for her own beliefs, I could no longer see anything from her.

This refusal to debate things that make us uncomfortable is a very common effect. As a matter of fact, it is commonplace to even advise people to avoid discussions about politics, religion, or sports. When, obviously, if you were interested on finding out the truth instead of winning arguments, talking about those issues and, far more importantly, finding out about the facts and the competent analysis in those subjects, albeit how rare they might be, should be on your list of priorities. But we take disagreements as personal attacks (if I had to guess, I'd say that taking disagreement as personal offense is a problem that is even more serious among supposedly well educated people, such as lecturers in academic positions), and we use faulty reasoning whenever the conclusion feels like it would support us and we can get away with it.

It seems we indeed need something much better than our reasoning natural talents if we ever aim to find the best, correct answers.

Groupthinking - Teoria Argumentativa do Raciocínio (Portuguese version of the post on Argumentative Theory of Reasoning)

Nota: Depois de ter sobrevivido a quantidade de argumentos sem conteúdo que caracterizou a eleição no Brasil, achei melhor traduzir ao menos esse e os próximos posts. Há sempre uma pequena esperança de que alguém leia, se identifique e aprenda algo. Segue a tradução do último post, que é a primeira parte do que vou escrever sobre o tópico:

 ------------------

Nós somos capazes de criar coisas incríveis, seja nas Ciências, em Tecnologia, ou como Arte. Nós fomos mais longe que qualquer outro ser vivo no nosso planeta e a escala de nossas conquistar não tem rival. No entanto, como temos visto, nossa capacidade de raciocinar, ainda que bem adaptada para o meio ambiente onde nossos ancestrais viveram, tem falhas graves e, ainda que sejamos capazes de realizar muito mais quando muitos de nós se juntam para isso, comunidades também são capazes de criar novos tipos de problemas quando tentamos descobrir a verdade.

Isso sugere a pegunta: por que somos exatamente como somos? Regras lógicas não são realmente complicadas e poderiam existir dentro dos nossos cérebros com um baixíssimo custo. Por outro lado, a Lógica Clássica (que discutirei em entradas futuras) assume que algumas afirmações sejam verdadeiras e, no mundo real, nós simplesmente não podemos assumir de início que certas premissas sejam a verdade. Dessa forma, é possível que a Lógica não tem sido facilmente aplicável nas circunstâncias de nossos antepassados. Ainda assim, resta o problema de quais forças teriam guiado a evolução de nosso intelecto até o ponto atual.

Hugo Mercier e Dan Sperber  propuseram recentemente uma ideia que parece capturar ao menos um aspecto essencial da resposta. Eles observaram que nossas habilidades mentais e verbais, o que dizemos uns aos outros, não evolui para a procura da verdade. Eles sugeriram que, sendo seres sociais, nosso raciocínio evoluiu num ambiente em que, se os demais acreditassem em você, você teria mais poder e uma melhor chance de se reproduzir. Isso teria significado uma pressão evolutiva no sentido de sermos capazes de argumentar e convencer os demais, independentemente de nosso ponto de vista estar correto. Sua Teoria Argumentativa do Raciocínio (Argumentative Theory of Reasoning) afirma que nosso raciocínio existe com o propósito de nos tornar competentes em debater e convencer. O que é frequentemente bastante diferente de se chegar à resposta correta.

De fato, Mercier observou que a ideia de que raciocinamos para tornar nossos argumentos convincentes (argumentos que podem ou não ser verdadeiros) para se aplicar também a  crianças e a outras culturas.  Isso não quer dizer que não sejamos capazes de utilizar nossos intelectos na busca de soluções corretas para os problemas que encontrarmos. Quando comparamos, em uma entrada anterior, nossas habilidades de resolver os problemas lógicos formamelmente idênticos das cartas e do consumo de álcool, vimos que, nas situações que são familiares, nós éramos capazes de raciocinar de forma competente. Achar respostas melhores pode também ter contribuído para moldar nosso raciocínio. Mas a evidência de que boa parte dele evoluiu apenas para nos permitir convencer os demais é bastante convincente.

Group Thinking - Argumentative Theory of Reasoning

We can create amazing things, be it in Science, Technology, or Art. We have gone further than any other living being in our planet, the scale of our accomplishments is unparalleled, we have made changes, for better and for worse, in the whole surface of our planet. And yet, as we have seen, our reasoning, while well adapted to the environment of our ancestors, has serious flaws and, while we can sometimes achieve much more when several of us are involved, communities can also create a whole new level of problems for the problem of pursuing the truth.

So, why are we exactly the way we are? Logical rules are not really complicated and could work inside our brains almost without any cost. On the other hand, Classical Logic (we will talk about different logics in future posts) assumes some statements to be true and, in the real world, we can not simply choose some premises to be true. In that sense, it might not have been easily applicable in many circumstances. Still the question remains, what were the forces that drove the evolution of our intellect to the point we are today?

Hugo Mercier and Dan Sperber recently proposed an idea that seems to capture at least one essential aspect of the answer to that question. What they observed is that our mental and verbal skills, what we say to each other, might not have evolved for the pursuit of truth. What they have proposed is that, as social beings, our reasoning evolved in an environment where, if you were believed, you would have more power and a better chance at surviving. And that meant a pressure to be able to argument well and convince people, regardless of the correctness of the underlying reasoning. Their Argumentative Theory of Reasoning states that our reasoning exists for the purpose of making us competent at debating and convincing others. And that is often not the same as arriving at the right answer.

And, as a matter of fact, Mercier observed that the idea that we reason in order to make convincing arguments (that might turn out to be true or not) seems to be applicable also for children and other cultures. All of this does not mean that we can not use our intellects to pursue correct answers to the problems we face. When comparing our abilities in the formally identical logical problems of the cards and of alcohol consumption, we have seen that, for situations we are used to, we actually reason in competent ways. Finding better answers must also have contributed to shaping our reasoning. But the evidence that a good part of it evolved simply to allow us to win arguments is quite compelling.

Group Thinking VI

Social influence, in the previous examples, was limited to the case where all participants in the group were initially treated as equals (even when the suggestion was to listen only to the most confident people, that was a characteristic determined a posteriori.). But it is not always the case. It often happens that, when we have to make a decision in a social context, one or more individuals hold a special position, for example, as bosses or as authorities in the subject.


In a very famous (and also infamous) experiment, Stanley Milgram decided to investigate how it was possible that nazism could dominate Germany, when most Germans were actually not murderous psychopaths. The setting of the experiment was simple. One scientist was at the room controlling the situation while two people, being tested, were assigned to two different roles. One of them was tied to a chair connected to a machine that could be turned on to administer electric shocks to the sitting person. The task of the second individual was to switch the button that caused the shock, when instructed.


Questions were asked to the first subject and when those questions were answered correctly, no shock was administered. However, each error was to be punished with a shock, starting at the small voltage of 15V. Each error made the shock 15V stronger than the previous one, up to a final shock of 450V.


What the second subject, who inflicted the shocks, didn't know was that no real shock was been applied and that the person tied to the chair was an actor instructed to act as if the shock was real. The actor would get some answers right and some wrong, showing just some discomfort at first. Eventually, the actor would beg for the experiment to stop, showing very clear signs of distress and pain. And the scientist would instruct the second subject to keep on with the shocks, despite those pleas.


Milgram reported that, despite many people showing signs of extreme stress while hearing the cries of pain from the actor, 65% of them kept obeying the scientist up to the maximum voltage. The experiment had several problems and can be criticized in many ways, including the serious ethical problem of the horrible psychological pain it caused to the people who kept pressing the button despite their own begging for the scientist to stop. Comparisons with nazism are indeed not exact for a series of factors and the 65% figure is actually the percentage of the experiment where most people agreed with the scientist, while other problems were reported on how well the experiment script was followed (see, per example, Behind the Shock Machine: The Untold Story of the Notorious Milgram Psychology Experiments ).


Despite all those problems, and remembering that the 65% figure is almost certainly an inflated one, the experiment shows how one authority figure that we trust (a scientist conducting an experiment where we were assured nobody would actually be harmed) can make us even do actions we are viscerally opposed to. In this case, no change of opinion was actually observed, but actions were not what we would expect from normal, thinking human beings.