por Scott O. Lilienfeld (Emory University) (Traducción: Ezequiel Benito)

“Profesor Schlockenmeister, sé que vamos a aprender sobre percepción visual en la cursada, ¿pero no vamos a aprender nada sobre percepción extrasensorial? Mi profesor de psicología de la secundaria nos dijo tenía realmente buena evidencia científica”
“Dr. Glopelstein, nos enseñó mucho sobre inteligencia en su clase. ¿Pero cuándo vamos a hablar sobre las investigaciones que mostraron que los niños que escuchan Mozart aumentan sus puntuaciones de IQ?
“Señor Fleikenzugle, nos sigue hablando sobre escuelas de psicoterapia, como el psicoanálisis, terapia de la conducta y terapia centrada en la persona. ¿Pero cómo es que nunca dijo una palabra sobre la terapia de integración sensorio-motora? Mi madre, que es terapeuta ocupacional, me dice que constituye una cura milagrosa para el trastorno por déficit atencional.”

La pseudociencia de la psicología popular

Si es como la mayoría de los profesores de cursos de introducción a la psicología, este tipo de preguntas probablemente le deben sonar terriblemente familiares. Hay una buena razón: mucho del “conocimiento” popular de psicología que nuestros estudiantes traen a sus clases consiste en poco más que pseudociencia. También, nuestros estudiantes, están a menudo fascinados por inciertas afirmaciones sobre los márgenes del conocimiento científico: percepción extrasensorial, psicokinesis, canalizamiento, locura lunar, regresión hipnótica, trastorno de personalidad múltiple, reportes de abducciones extraterrestres, análisis de la escritura, terapia de renacimiento y remedios herbales para la depresión no testeados, para mencionar algunas. Desde luego, a causa de algunas de estas afirmaciones podrían eventualmente demostrar tener un núcleo de verdad, no debemos desecharlas del todo. Sin embargo, lo que es problemático sobre ellas es la garrafal discrepancia entre las creencias de las personas que creen en ellas y la escasa evidencia científica que las soporta.
Los profesores de introducción a la psicología disponen una mínima atención para los temas potencialmente pseudocientíficos en sus clases, quizás porque creen que estos temas son, cuando mucho, de relevancia marginal para la ciencia psicológica. Incluso, muchos libros de introducción a la psicología apenas mencionan estos tópicos. Después de todo, ya hay más que suficiente para cubrir en los cursos de psicología, ¿para qué abordar material de dudoso estatus científico? Asimismo, algunos profesores pueden temer que al darle atención a estas cuestionables afirmaciones acabarán dando un mensaje no intencional de que son científicamente creíbles.

Beneficios de enseñarles a los estudiantes a distinguir entre ciencia y pseudociencia

¿Entonces, por qué debemos enseñar a los estudiantes a distinguir ciencia de pseudociencia? Como el teórico de la personalidad George Nelly (1955) señaló, una comprensión efectiva de un constructo requiere la apreciación de sus dos polos. Por ejemplo, no podemos captar completamente el concepto de “frío” a no ser que hayamos experimentado calor. Similarmente, los estudiantes pueden no captar completamente el concepto de pensamiento científico sin una comprensión de las creencias pseudocientíficas, a saber, aquellas que a primera vista parecen científicas pero no lo son.
Así también, desarrollando estos temas, los profesores pueden capitalizar una valiosa oportunidad para impartir habilidades de pensamiento crítico, como distinguir entre correlación y causa y reconocer la necesidad de grupos control, desafiando las concepciones erróneas de los estudiantes sobre la psicología popular. A pesar de que muchos estudiantes encuentran estas habilidades “infecundas” o terriblemente aburridas cuando son presentadas en abstracto, a menudo disfrutan su adquisición en el contexto de temas novedosos y controversiales (por ejemplo, la percepción extrasensorial) que estimulan su interés. Los estudiantes a menudo aprenden sobre esos temas por varias fuentes de psicología popular que buscan en la vida diaria, como artículos de revistas, sitios de Internet y programas de televisión.
En efecto, para muchos estudiantes iniciales, “psicología” es virtualmente sinónimo de psicología popular. Sin embargo, debido a que tanto de la psicología popular consiste en mitos y leyendas urbanas, como que la gente usa sólo el 10 por ciento de su cerebro, que la expresión de la ira es generalmente mejor que su represión, que los opuestos se atraen en las relaciones interpersonales, que el alto autoestima es necesario para la salud psicológica, que la gente con esquizofrenia tiene más de una personalidad, entre una plétora de otros, muchos estudiantes probablemente salgan de los cursos de psicología con los mismos errores conceptuales con lo que ingresaron. Como consecuencia, frecuentemente salen de la universidad incapaces de distinguir el grano de la paja en la psicología popular.
Enseñarles a los estudiantes a distinguir la ciencia de la pseudociencia puede ser inmensamente gratificante. La más importante de estas gratificaciones es la producción de consumidores con criterio de la literatura de psicología popular. En efecto, la evidencia de las investigaciones apoya la eficacia de la inclusión de cursos de psicología sobre pseudociencia y lo paranormal. Por ejemplo, Morier y Keeports (1994) informaron que los estudiantes de grado que se matricularon en un seminario de “Ciencia y pseudociencia” demostraron un reducción estadísticamente significativa en las creencias paranormales en comparación con un grupo cuasi-control de estudiantes matriculados en un curso de psicología y leyes durante el mismo periodo de tiempo (ver también Dougherty, 2004). Replicaron este efecto luego de un periodo de 2 años con dos partes del curso. Wesp y Montgomery (1998) encontraron que un curso sobre la examen objetivo de las afirmaciones paranormales resultó en una mejoría estadísticamente significativa en la evaluación de errores de razonamiento en artículos científicos. Especialmente, los estudiantes en este curso fueron capaces de identificar errores lógicos en artículos y proveer hipótesis rivales para los hallazgos de la investigación.

Los 10 mandamientos

Sin embargo, enseñarles a los estudiantes a distinguir entre ciencia y pseudociencia acarrea muchos desafíos y dificultades potenciales. En mi curso introductoria de psicología (en el que enfatizo fuertemente la distinción entre ciencia y pseudociencia en psicología) y en mis seminarios avanzados “Ciencia y pseudociencia en psicología”, he aprendido una cantidad importante de lecciones (cometiendo primero cada uno de los errores sobre los que voy a advertirles)
En la siguiente sección voy a resumir estos consejos de enseñanza, a los que me refiero como los “10 Mandamientos” de la enseñanza a estudiantes de psicología a distinguir entre ciencia y pseudociencia. Para evitar ser acusado de no separar la Iglesia del Estado, he expresado todos estos mandamientos en una forma positiva en lugar de negativa para diferenciarlos de los (apenas un poco más conocidos) 10 Mandamientos bíblicos. Les pido a los lectores de esta columna que graben estos mandamientos en tablas
de piedra imponentes para que sean dispuestas afuera de todos los departamentos de psicología.

Primer mandamiento

Definirás características que distingan a la ciencia de la pseudociencia. Es importante comunicar a los estudiantes que las diferencias entre la ciencia y la pseudociencia, a pesar de no ser absolutas y claramente definidas, no son ni arbitrarias ni subjetivas. De hecho, los filósofos de la ciencia (por ejemplo, Bunge, 1984) han identificado una constelación de características o “signos de alerta” que caracterizan a la mayoría de las disciplinas pseudocientíficas. Entre estos signos de alerta están:

• Tendencia a invocar hipótesis ad hoc, que pueden ser pensadas como “escotillas de escape” o lagunas legales, como medios para inmunizar las afirmaciones de la falsación.
• Ausencia de auto corrección y un consecuente estancamiento intelectual
• Énfasis en la confirmación en lugar de la refutación
• La tendencia a ubicar la carga de la prueba a los escépticos, oponentes, de sus afirmaciones
• Excesiva apoyatura en evidencia anecdótica y testimonial para sostener las afirmaciones
• Evasión del examen implicado en la evaluación por pares
• Ausencia de “conectividad” (Stanovich, 1997), es decir, fracaso de construir sobre el conocimiento científico existente
• Utilización de jerga que apariencia imponente cuyo principal propósito es darle a las afirmaciones una fachada de respetabilidad científica
• Ausencia de condiciones límite (Hines, 2003), es decir, fracaso en la especificación de configuración bajo las cuales las afirmaciones no se mantienen

Los profesores deberían explicar a los estudiantes que ninguna de estos signos de alerta por sí mismos es suficiente para indicar que una disciplina es pseudocientífica. Sin embargo, cuantos más de estos signos de alerta exhiba una disciplina, más debemos sospechar de ella.

Segundo mandamiento

Distinguirás entre escepticismo y cinismo. Un peligro de enseñarles a los estudiantes a distinguir entre ciencia y pseudociencia es que podemos inadvertidamente producir estudiantes que son reflexivamente rechazantes de cualquier afirmación que parezca poco plausible. El escepticismo, que es la disposición mental apropiada para el científico, implica dos actitudes aparentemente contradictorias (Sagan, 1995): una apertura a las afirmaciones combinada con un deseo de someterlas a un examen incisivo. Como el ingeniero espacial James Oberg (ver Sagan, 1995) nos recordó, debemos mantener nuestra mente abierta, pero no tanto como para que se nos caiga el cerebro. En contraste, el cinismo implica clausura mental. Recuerdo ser castigado por un escéptico prominente por alentar a los investigadores a mantener una mente abierta sobre la eficacia de nuevas psicoterapias cuya base le parecía incierta. Sin embargo, si liquidamos la posibilidad de que nuestras creencias preexistentes sean erróneas, nos estamos comportando acientíficamente. El escepticismo involucra el deseo de recibir nuevas afirmaciones; el cinismo no.

Tercer mandamiento

Distinguirás el escepticismo metodológico del escepticismo filosófico. Cuando alentamos a los estudiantes a pensar críticamente, debemos distinguir entre dos formas de escepticismo: (1) una aproximación que somete todas las afirmaciones de conocimiento a examen con el objetivo de separar afirmaciones verdades de las falsas, llamado escepticismo (científico) metodológico y (2) una aproximación que niega la posibilidad de conocimiento, llamada escepticismo filosófico. Cuando se les explica a los estudiantes que el conocimiento científico es inherentemente tentativo y abierto a revisión, algunos estudiantes pueden concluir erróneamente que el conocimiento genuino es imposible. Esta visión, que es popular en algunos círculos posmodernos, no distingue entre afirmaciones de conocimiento que son más seguras de otras que son menos seguras. A pesar de que la seguridad absoluta es probablemente inalcanzable en ciencia, algunas afirmaciones científicas, como la teoría de Darwin de la selección natural, han sido extremadamente bien corroboradas, mientras que otras como la teoría que sostiene los horóscopos astrológicos, han sido convincentemente refutadas. Todavía otras, como la teoría de la disonancia cognitiva son científicamente controversiales. Por lo tanto, hay un continuo de confianza en las afirmaciones científicas; algunas han logrado el estado virtual de hechos, mientras que otras han sido rotundamente falseadas. El hecho de que el escepticismo metodológico no da respuestas completamente seguras a cuestiones científicas y que esas respuestas puedan ser en principio revocadas por nueva evidencia no implica que el conocimiento es imposible, sólo que este conocimiento es provisional. Tampoco implica que las nuevas respuestas provistas por la investigación científica controlada no sea mejor que otras respuestas, como las provistas por la intuición (ver Myers, 2002)

Cuarto mandamiento

Distinguirás afirmaciones pseudocientíficas de afirmaciones que son simplemente falsas. Todos los científicos, incluso los mejores cometen errores. Sir Isaac Newton, por ejemplo, se entretuvo con bizarras hipótesis alquimistas a lo largo de mucho de su por otro lado reconocida carrera científica (Gleick, 2003). Los estudiantes deben entender que la diferencia clave entre ciencia y pseudociencia es no reside en su contenido (por ejemplo, sean las afirmaciones efectivamente correctas o incorrectas) sino en su aproximación a la evidencia. La ciencia, al menos cuando opera correctamente, busca información contradictoria y -asumiendo que esta evidencia es replicable y de alta calidad- eventualmente la incorpora a su cuerpo de conocimiento. En contraste, la pseudociencia tiende a evitar la información contradictoria (o se las arregla para encontrar una manera de reinterpretar esta información para hacerla consistente con sus afirmaciones) y allí falla en promover la auto corrección que es esencial al progreso científico. Por ejemplo, la astrología ha cambiado notablemente poco en los últimos 2.500 años a pesar de la abrumadora evidencia negativa (Hines, 2003).

Quinto mandamiento

Distinguirás a la ciencia de los científicos. A pesar de que el método científico es una receta para evitar el sesgo confirmatorio (Lilienfeld, 2002), esto no implica que los científicos están libres de sesgos. Tampoco implica que todo o la mayoría de los científicos sean abiertos a la evidencia que desafía sus apreciadas creencias. Los científicos pueden ser tan tercos y dogmáticos en sus creencias como cualquier persona. En efecto, este punto implica que los buenos científicos se esfuerzan por tomar conciencia de sus sesgos para contrarrestarlos lo más posible implementando resguardos contra el error (por ejemplo, grupos control doble ciego) impuestos por el método científico. Los estudiantes deben entender que el método científico es una caja de herramientas de habilidades que los científicos han desarrollado para prevenirse de confirmar sus propios sesgos.

Sexto mandamiento

Explicarás los fundamentos cognitivos de las creencias pseudocientíficas. Los profesores deberían enfatizar que todos somos propensos a las ilusiones cognitivas (Piatelli-Palmarini, 1994), y que esas ilusiones pueden ser subjetivamente convincentes y difíciles de resistir. Por ejemplo, demostraciones en clase ilustrando que muchos o la mayoría de nosotros pueden ser presa de falsas memorias (por ejemplo, Roediger & McDermott, 1995) puede ayudar a los estudiantes a ver que los procesos psicológicos que llevan a creencias erróneas son dominantes. También es importante señalar a los estudiantes que la heurística (atajos mentales) puede producir creencias falsas, como la representatividad, disponibilidad y el anclaje (Tversky & Kahneman, 1974), es básicamente adaptativa y nos ayuda a darle sentido al complejo y confuso mundo. Por lo tanto, la mayoría de las creencias pseudocientíficas están hechas de lo mismo que las creencias correctas. Al realizar estas puntualizaciones, los profesores pueden minimizar las posibilidades de que los estudiantes que tienen creencias pseudocientíficas se sientan engañados cuando de enfrenten con evidencia que contradiga sus creencias.

Séptimo mandamiento

Recordarás que las creencias pseudocientíficas tienen importantes funciones motivacionales. Muchas afirmaciones paranormales, como aquellas sobre percepción extrasensorial, experiencias fuera del cuerpo y astrología, son atractivas para los creyentes con profundas necesidades de esperanza y milagros, así como para su necesidad de sensación de control sobre la frecuentemente incontrolable realidad de la vida y la muerte. La mayoría de los creyentes en lo paranormal están buscando respuestas para profundas preguntas existenciales, como ¿hay un alma? Y ¿hay vida después de la muerte? Como el psicólogo Barry Beyerstein (1999) señaló (en un juego con P.T. Barnum) “nace un buscador por minuto” (p.60). Por lo tanto, al presentarles a los estudiantes evidencia científica que desafía sus creencias paranormales no debemos sorprendernos cuando muchos puedan ponerse a la defensiva. Al contrario, la defensividad puede engendrar una falta de disposición para considerar la evidencia contraria.
Uno de los dos mejores medios para disminuir esta defensividad (el segundo es el Octavo mandamiento a continuación) es desafiar las creencias de los estudiantes amablemente con simpatía y compasión, y con el entendimiento de que los estudiantes que están emocionalmente comprometidos con las creencias paranormales las hallarán difíciles de cuestionar, o renunciar a ellas. Ridiculizar esas creencias puede producir renuencia (Brehm, 1966) y reforzar los estereotipos de los estudiantes sobre los profesores de ciencia como poco abiertos de mente y rechazantes. En algunos casos, los profesores que tienen una relación muy buena con su clase pueden hacer progresos desafiando a sus estudiantes con buen humor (por ejemplo, “Me gustaría que aquellos que crean en la psicokinesis levanten mi mano”). Sin embargo, los profesores deben asegurarse que tal muestra de humor no sea percibida como degradante o condescendiente.

Octavo mandamiento

Expondrás a los estudiantes a ejemplos de buena ciencia así como a ejemplos de pseudociencia. En nuestras clases, es crítico que no simplemente desacreditemos las afirmaciones inexactas sino que expongamos a los estudiantes a afirmaciones correctas. Debemos ser cuidadosos para no simplemente quitarles a los estudiantes conocimiento cuestionable sino para ofrecerles conocimiento legítimo a cambio. Al hacer eso, facilitamos que los estudiantes traguen la amarga píldora de abandonar sus apreciadas creencias en lo paranormal. Los estudiantes deben entender que muchos hallazgos científicos genuinos son al menos tan fascinantes como muchas científicamente dudosas afirmaciones paranormales. En mi propia experiencia, he encontrado útil intercalar información pseudocientífica con información que es igualmente sorprendente pero cierta, como los sueños lúcidos, la imaginería eidética, la percepción subliminal (como opuesta a la persuasión subliminal, que es mucho más científicamente dudosa), las hazañas extraordinarias de la memoria humana (Neisser & Hyman, 2000), y el uso clínico apropiado de la hipnosis (como opuesto del uso no sustentado científicamente de la hipnosis para recuperación de recuerdos; ver Lyn, Lock, Myers & Payne, 1997). Adicionalmente, debemos tener presente el señalamiento del paleontólogo Stephen Jay Gould (1996) acerca de que exponer la falsedad necesariamente afirma la verdad. Como consecuencia, es esencial no sólo señalar la información falsa a los estudiantes, sino también dirigirlos a información certera. Por ejemplo, cuando se les explica que las afirmaciones sobre biorritmos están infundadas (ver Hines, 2003), es útil introducir las afirmaciones sobre los ritmos circadianos, que, a pesar de ser a menudo confundidos con los biorritmos, están apoyados en rigurosa investigación científica.

Noveno mandamiento

Serás consistente en los estándares intelectuales propios. Un error que a veces he observado entre los escépticos, incluyendo a los profesores de psicología que dan cursos de pensamiento crítico, es que adoptan dos tipos de estándares intelectuales: uno para las afirmaciones que hallan plausibles y un segundo para las afirmaciones que no. El psicólogo Paul Meehl (1973) señaló que esta inconsistencia equivale a “cambiar los estándares del rigor de la evidencia dependiendo de quien es el buey que está siendo corneado” (p.264). Por ejemplo, conozco un docente que es uno de los propulsores del movimiento que desarrolla listados de terapias con apoyo empírico, es decir, tratamientos psicológicos que han demostrado ser efectivos en estudios controlados. En su dominio, es cuidadoso de recurrir a literatura de investigación que apoye sus afirmaciones sobre qué psicoterapias son efectivas y cuáles no. Sin embargo, rechaza la evidencia de investigación para la terapia electro convulsiva (ECT) para la depresión, incluso a pesar de que su evidencia deriva de estudios controlados que son tan rigurosos como los que se realizaron para las psicoterapias por las que él propugna. Cuando le señalé esta inconsistencia, negó enfáticamente que estuviese adhiriendo a un doble estándar. Eventualmente se hizo aparente para mí que estaba dejando de lado la evidencia de la eficacia de la ECT simplemente porque este tratamiento le parecía terriblemente improbable. ¿Por qué -se debe haber preguntado- debería la provocación de una crisis epiléptica por la administración de electricidad al cerebro aliviar la depresión? Pero debido a que la plausibilidad superficial es un barómetro altamente falible de la validez de las afirmaciones correctas, debemos mantenernos abiertos a la evidencia que desafíe nuestras preconcepciones intuitivas y alentar a nuestros estudiantes a hacer lo mismo.

Décimo mandamiento

Distinguirás las afirmaciones pseudocientíficas de las afirmaciones metafísicas religiosas puras. Mi último mandamiento es probablemente el más controversial, especialmente para los escépticos que sostienen que tanto las creencias pseudocientíficas como religiosas son irracionales. Para apreciar la diferencia entre estos dos conjuntos de creencias, debemos distinguir pseudociencia de metafísica. A diferencia de las afirmaciones científicas, las metafísicas (Popper, 1959) no pueden ser testeadas empíricamente y por lo tanto permanecen fuera de los límites de la ciencia. En el dominio de la religión, esto incluye afirmaciones sobre la existencia de un Dios, del alma, de la otra vida, ninguna de las cuales puede ser refutada por algún cuerpo concebible de evidencia científica. Sin embargo, algunas creencias religiosas o cuasi-religiosas, como aquellas que involucran la teoría del “diseño inteligente”, que es la más reciente encarnación del creacionismo (ver Millar, 2000), el Sudario de Turín, y las estatuas de la Virgen María que lloran, son en efecto comprobables y por tanto, pasibles de análisis crítico junto con otras cuestionables creencias naturalistas. Reunir a las creencias pseudocientíficas con las creencias religiosas que son estrictamente metafísicas, los docentes arriesgan (a) distanciar innecesariamente una considerable proporción de sus estudiantes, muchos de los cuales pueden ser profundamente religiosos y (b) (paradójicamente) minar las habilidades de pensamiento crítico de los estudiantes, que requieren una clara comprensión de la diferencia entre afirmaciones comprobables y no comprobables.

Conclusión

La adherencia a los Diez Mandamientos puede darles la posibilidad a los educadores de ayudar a los estudiantes con la crucial tarea de distinguir ciencia de pseudociencia. Si se realiza una aproximación con cuidado, sensibilidad y con un claro entendimiento de las diferencias entre escepticismo y cinismo, escepticismo metodológico y filosófico, el método científico y los científicos que lo usan, y pseudociencia y metafísica, incorporando a la pseudociencia y a la ciencia fringe dentro de las materias de psicología puede ser altamente gratificante tanto para profesores y como para estudiantes. En un mundo en el que los medios de comunicación, la industria de la auto-ayuda, e Internet están difundiendo pseudociencia psicológica a un ritmo cada vez mayor, las habilidades de pensamiento crítico necesarias para distinguir a la ciencia de la pseudociencia deberían ser consideradas obligatorias para todos los estudiantes de psicología.

Referencias

• Beyerstein, B. L. (1999). Pseudoscience and the brain: Tuners and tonics for aspiring superhumans. In S. D.Sala (Ed.), Mind myths: Exploring popular assumptions about the mind and brain (pp. 59-82). Chichester, England: John Wiley.
• Brehm, J. (1966). A theory of psychological reactance. New York: Academic Press.
• Bunge, M. (1984, Fall). What is pseudoscience? Skeptical Inquirer, 9, 36-46.
• Dougherty, M. J. (2004). Educating believers: Research demonstrates that courses in skepticism can effectively decrease belief in the paranormal. Skeptic, 10(4), 31-35. 5
• Gilovich, T. (1991). How we know what isn't so: The fallibility of human reason in everyday life. New York: Free Press.
• Gleick, J. (2003). Isaac Newton. New York: Pantheon Books.
• Gould, S. J. (1996, May). Keynote address, "Science in the age of (mis)information)." Talk presented at the Convention of the Committee for the Scientific Investigation of Claims of the Paranormal, Buffalo, New York.
• Hines, T. (2003). Pseudoscience and the paranormal: A critical examination of the evidence. Buffalo, NY:Prometheus.
• Kelly, G. A. (1955). The psychology of personal constructs, Vols. 1 and 2. New York:Norton.
• Lilienfeld, S. O. (2002). When worlds collide: Social science, politics, and the Rind et al. child sexual abuse meta-analysis. American Psychologist, 57, 176-188.
• Lilienfeld, S. O., Lohr, M., & Morier, D. (2001). The teaching of courses in the science and pseudoscience of psychology. Teaching of Psychology, 28, 182-191.
• Lilienfeld, S. O., Lynn, S. J., & Lohr, J. M. (2003). Science and pseudoscience in clinical psychology. New York: Guilford.
• Lynn, S. J., Lock, T. G., Myers, B., & Payne, D. G. (1997). Recalling the unrecallable: Should hypnosis be used to recover memories in psychotherapy? Current Directions in Psychological Science, 6, 79-83.
• Meehl, P.E. (1973). Psychodiagnosis: Selected papers. Minneapolis, MN: University of Minnesota Press.
• Miller, K. (2000). Finding Darwin's God: A scientist's search for common ground between God and evolution. New York: Cliff Street Books.
• Morier, D., & Keeports, D. (1994). Normal science and the paranormal: The effect of a scientific method course on students' beliefs in the paranormal. Research in Higher Education, 35, 443-453.
• Myers, D.G. (2002). Intuition: Its powers and perils. New Haven: Yale University Press.
• Neisser, U. & Hyman, I.E. (2000). Memory observed: Remembering in natural contexts. New York: Worth Publishers.
• Piatelli-Palmarini, M. (1994). Inevitable illusions: How mistakes of reason rule our minds. New York: John Wiley & Sons.
• Popper, K. R. (1959). The logic of scientific discovery. New York: Basic Books.
• Roediger, H. L., & McDermott, K. B. (1995). Creating false memories: Remembering words not presented in lists. Journal of Experimental Psychology: Learning, Memory, and Cognition, 21, 803-814.
• Ruscio, J. (2002). Clear thinking with psychology: Separating sense from nonsense. Pacific Grove, CA: Wadsworth.
• Sagan, C. (1995). The demon-haunted world: Science as a candle in the dark. New York: Random House.
• Shermer, M. (2002). Why people believe weird things: Pseudoscience, superstition, and other confusions of our time. New York: Owl Books.
• Stanovich, K. (1997). How to think straight about psychology (4th ed.). New York: HarperCollins.
• Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. Science, 185,1124-1131.
• Wesp, R., & Montgomery, K. (1998). Developing critical thinking through the study of paranormal phenomena. Teaching of Psychology, 25, 275-278.