Raul Barral Tamayo's Blog

Pasen Y Vean [R]

El error humano de James Reason – Apuntes Breves

Posted by Raul Barral Tamayo en Jueves, 2 de marzo, 2017


Título original: Human Error.
© Cambridge University Press, 1990.
Editorial: Editorial Modus Laborandi.

El desarrollo de la tecnología ha llegado a tal punto que no se puede mejorar la seguridad sin conocer en profundidad los mecanismos del error. La investigación de James Reason muestra la distancia que separa las teorías psicológicas de las prácticas reales en las industrias y actividades de alto riesgo (transportes, energía, medicina, etc …).

Este libro es, sin ningún tipo de duda, la referencia internacional en la materia, sistemáticamente referenciado en bibliografías universitarias y en artículos científicos de todo el mundo. No existía, hasta el momento, ningún libro que explicara con tanta claridad la problemática del error humano.

James Reason es Catedrático Emérito de Psicología en las Universidades de Manchester y Leicester, Reino Unido. Es especialista en error médico, riesgo y organización, los mecanismos de la distracción, los factores humanos en el transporte. Ha trabajado para el Royal Airforce Institute of Aviation Medicine y es fellow de la Aeronautical Society y de la British Academy.

Algunas de las cosillas que aprendí leyendo este libro que no tienen porque ser ni ciertas ni falsas ni todo lo contrario:

  • Ernst Mach (1905): “El conocimiento y el error surgen de las mismas fuentes mentales; sólo el éxito puede diferenciarlos”.
  • Una de las tesis centrales de este libro es que el número relativamente limitado de maneras en que se manifiestan los errores está inextricablemente relacionado con las reglas computacionales por las que se seleccionan y recuperan las estructuras de conocimiento almacenadas, en respuesta a lo que demanda cada situación.
  • El error humano no es tan abundante ni tan variado como su vasto potencial parece indicar.
  • La precisión en la predicción del error depende muy fundamentalmente del nivel de comprensión de los factores que lo provocan.
  • El concepto de intención consta de dos elementos: a) una expresión del estado final que se persigue alcanzar, y b) una indicación de los medios por los que habrá de alcanzarse dicho estado.
  • Searle (1980) ofrece dos supuestos de acciones intencionales sin intención previa: las espontáneas y las subsidiarias.
  • Todo delito tiene dos elementos: el acto rea y el mens rea. Para demonstrar la existencia de responsabilidad penal debe probarse no sólo que las consecuencias del acto delictivo eran intencionadas, sino que el propio acto se realizó voluntariamente.
  • Los deslices y lapsus son errores derivados de algún fallo en la fase de ejecución y/o almacenamiento de una secuencia de acciones, independientemente de que el plan que las guió sea adecuado o no para alcanzar su objetivo.
  • Las equivocaciones se pueden definir como deficiencias o fallos en los procesos críticos y/o inferenciales implicados en la selección de un objetivo o en la especificación de los medios para alcanzarlo, independientemente de que las acciones realizadas en virtud de este esquema de decisiones funcione conforme a lo planeado.
  • Los desastres muy rara vez son producto de un único error monumental, sino que implican habitualmente una concatenación de varios errores, frecuentemente poco importantes, cometidos por una sola persona o, más comúnmente, por varias.
  • Los errores que contribuyen a los desastres provocados por los seres humanos pertenecen al familar campo de los deslices, los lapsus y las equivocaciones, a los que todos somos propensos en el normal devenir de la vida diaria.
  • La capacidad retrospectiva, como ha demostrado Fishchoff (1975), no equivale a la capacidad prospectiva. El simple conocimiento de cómo se produjeron los desastres del pasado, en sí mismo, no sirve para prevenir los desastres futuros.
  • Las variedades más predecibles de la falibilidad humana tiene su raíz en las principales características adaptativas de la cognición humana. Son el precio que debemos pagar por nuestra notable capacidad de modelar las regularidades del mundo y emplear posteriormente las representaciones alamacenadas para simplificar complejas tareas de gestión de la información.
  • La rapidísima  gestión de la información característica de la cognición humana es posible debido a que las regularidades del mundo, así como nuestro trato rutinario con ellas, han sido representadas internamente como esquemas. El precio que pagamos por este procesamiento en gran medida automático de la información es que las percepciones, recuerdos, pensamientos y acciones tienden a desviarse en la dirección de lo familiar y lo previsto.
  • Sigue habiendo diversas aberraciones humanas bien documentadas que no pueden explicarse fácilmente en función de sesgos cognitivos solamente. Por ejemplo, la descripción realizada por Janis (1972) del síndrome del pensamiento grupal muestra claramente que la dinámica de grupo puede introducir auténtica irracionalidad en el proceso de planificación.
  • El sistema cognitivo es extremadamente eficaz a la hora de moderar e internalizar las regularidades útiles del pasado y reaplicarlas siempre que la actividad intencional o el entorno proporcionen las “condiciones de activación” necesarias.
  • Determinados errores bien documentados se sitúan en un punto intermedio entre el desliz y la equivocación, pues poseen propiedades comunes a ambos.
  • La afirmación de que las equivocaciones son más difíciles de detectar que los deslices recibe un claro apoyo de estudios en los que se expuso a experimentados operadores de plantas de emergía nuclear a diversos fallos simulados.
  • Un número significativo de deslices en la acción es provocado también por el exceso de atención, al realizarse una comprobación atencional en un punto inadecuado dentro de una secuencia automatizada de acciones.
  • A los seres humanos nos encanta buscar correspondencias entre patrones. Somos claramente partidarios de explotar las operaciones paralelas y automáticas de unidades de procesamiento especializadas predeterminadas.
  • La dificultad de detectar contraseñales se complica por la abundancia de información a la que se enfrenta la persona encargada de resolver el problema en las mayoría de las situaciones de la vida real. Las indicaciones del estado local casi siempre superan la capacidad del sistema cognitivo para aprehenderlas, por lo que sólo un número limitado recibirá el adecuado procesamiento.
  • Se sabe desde hace mucho que la adquisición de habilidades humanas depende crucialmente de la gradual apreciación de la redundancia presente en la información entrante.
  • El sesgo de confirmación tiene sus raíces en lo que Barlett (1932) denominó el esfuerzo de buscar el significado. Ante una ambigüedad, favorece rápidamente una interpretación ya existente y se resiste posteriormente a desprenderse de ella.
  • Los responsables de resolver problemas y los planificadores son proprensos a mostrar un exceso de confianza al evaluar la correción de sus conocimiento. Tienden a justificar las acciones elegidas centrándose en las pruebas que las favorecen y desechando las señales que las contradicen; y esta tendencia es exacerbada por el sesgo de confirmación ejercido por un plan de acción completado.
  • Esta resistencia del plan a ser modificado o abandonado tiende a manifestarse con mayor fuerza bajo las condiciones siguientes:
    • Cuando el plan es muy elaborado e implica la combinación detallada de varias secuencias diferentes de acciones.
    • Cuando el plan ha sido producto de una considerable inversión laboral y emocional y cuando su finalización ha estado asociada con una notable reducción de la tensión o la ansiedad.
    • Cuando el plan ha sido elaborado por varias personas, particulamente si se trata de pequeños grupos de élite.
    • Cuando el plan ha ocultado objetivos, es decir, cuando está concebido, sea consciente o inconscientemente, para satisfacer diversas necesidades o motivaciones.
  • Todo responsable de solucionar un problema tiende a simplificar en exceso las relaciones de causalidad. Al basar su planteamiento principalmente en las repeticiones almacenadas del pasado, tenderá a subestimar las irregularidades del futuro y, en consecuencia, planificará para un número menor de contingencias que las que se producirán realmente.
  • Las dificultades surgen no del hecho de que las personas carezcan de la creatividad necesaria para generar escenarios, cosa de la que son perfectamente capaces, sino de que no aplican un pensamiento estrictamente lógico ni a los hechos iniciales ni a los productos de la generación de escenarios.
  • Los tipos de errores pueden ser diferenciados de diversas formas en función de varias dimensiones: el tipo de actividad, el foco de atención, el modo de control predominante, la previsibilidad, la abundancia relativa, la influencia de factores situacionales, la detectabilidad, el modo de detección del error y la relación con el cambio.
  • Cuando las operaciones cognitivas no están complemente especificadas, tienden a completarse de forma predeterminada con respuestas de alta frecuencia contextualmente adecuadas.
  • Los estudios de diarios de deslices en la acción en entornos naturales revelan que dichos deslices tienden a cometerse fundamentalmente durante la realización de tareas altamente automatizadas en entornos muy familiares mientras se experimenta algún tipo de “captación” de la atención (preocupación o distracción).
  • Nuestro sistema cognitivo nos hace prisioneros del pasado, y éste ofrece sólo directrices aproximadas acerca del futuro.
  • El principal logro de la cognición humana es su extraordinaria capacidad para internalizar las repeticiones del mundo en la memoria a largo plazo (como esquemas, guiones, marcos, reglas, etc.) y poner posteriormente en juego los productos de estas estructuras de conocimiento almacenadas, siempre que las condiciones de activación de la situación así lo requieran.
  • El espacio de trabajo sólo puede dirigir la recuperación del conocimiento a través de la manipulación inferencial de las condiciones de activación. La búsqueda real dentro de la base de conocimiento siempre se realiza mediante los mecanismos de similitud y frecuencia.
  • Errar es humano. Independientemente de nuestra comprensión de los antecedentes psicológicos del error o de la sofisticación de las “prótesis cognitivas” (dispositivos encaminados a ayudar a la memoria o la toma de decisiones) que ofrezcamos a aquellos que realizan trabajos de alto riesgo, los errores siguen produciéndose.
  • Si resulta imposible garantizar la eliminación de los errores, debemos entonces descubrir formas eficaces de mitigar sus consecuencias en situaciones en las que son inevitables.
  • Las personas probablemente descubren sus errores solamente de tres maneras: en primer lugar, pueden hacerlo directamente a través de varias tipos de autoobservación; en segundo lugar, debido a la existencia, en el entorno, de algo que indica muy claramente la presencia del error; o, en tercer lugar, como consecuencia del descubrimiento del error por una tercera persona, que se lo comunica.
  • Los cambios más profundos se produjeron con el advenimiento de la informática a bajo precio. Ahora entre los operadores y el proceso puede haber al menos dos componentes del sistema de control. En el nivel inferior, hay sistemas que interactúan con la tarea y controlan los diversos detalles de la operación. Y situado entre los sistemas interactivos especializados y los operadores está la interfaz hombre-sistema, por la que el sistema de control presenta diversas informaciones seleccionadas a los operadores. Esta interfaz permite generalmente sólo un grado muy determinado de interacción entre el ser humano y los procesos ahora remotos.
  • Los sistemas complejos, fuertemente compactos y altamente defendidos se han hecho cada vez más opacos para las personas que los gestionan. Esta opacidad tiene dos aspectos: la falta de conocimiento de lo que está pasando y la falta de comprensión de lo que pueden hacer los sistemas.
  • En una planta automatizada, se encarga a los operadores que controlen que el sistema automatizado está funcionando adecuadamente. Pero es bien conocido que incluso los operadores altamente motivados no son capaces de mantener una vigilancia eficaz más allá de periodos cortos; por lo tanto, no están preparados para llevar a cabo esta labor residual consistente en vigilar la aparición de hechos raros o anormales. Para ayudarles, los diseñadores necesitan ofrecer señales de alarma automáticas. Pero, ¿quién decide cuándo han fallado o han sido desconectadas estas alarmas automáticas?
  • Otra labor de los operadores es asumir el control manual cuando falla el sistema de control automático. El control manual es una actividad que requiere habilidades de alto nivel, que deben ser practicadas continuamente para mantenerlas. Sin embargo, un sistema de control que rara vez falla niega a los operadores la oportunidad de practicar estas habilidades de control básicas.
  • Las infracciones pueden ser cometidas por múltiples razones. Una manera de identificar los extremos de esta gama de posibilidades es atender a la intencionalidad. El primer paso consiste en preguntar: ¿existió una intención previsa de cometer esta infracción concreta? Si la respuesta es no, podmeos describir la infracción como errónea o no deliberada. Si fue deliberada, debemos conocer si existió una intención previa de causa daño en el sistema.
  • Criticar a posteriori es muy fácil.
  • ¿Cómo podemos simular hechos que nunca han sucedido pero podrían sucede? Peor aún, ¿cómo podemos simular hechos que todavía no han sido previstos? Una limitación muy clara es que cualquier intento de simulación debe recrear la naturaleza dinámica e interactiva de la secuencia de un accidente. Las simulaciones estáticas no pueden captar los problemas que experimentan los operadores al “rastrear” el estado de la planta.
  • En un estudio en torno a la formación sobre tratamiento de textos, aquellos sujetos a quienes se negó la oportunidad de cometer errores ofrecieron un redimiento inferior a los que sí podían cometerlos.
  • Los errores pueden espolear el hallazgo de soluciones creativas a los problemas y nuevas estrategias exploratorias.
  • Quizá lo más importante es que buena parte de la aversión al error en las interacciones entre seres humanos y ordenadores deriva del hecho de que los deslices y equivocaciones frecuentemente dejan al sujeto en una situación en la que le resulta imposible tanto retroceder como avanzar.
  • La formación sobre el error debería formar parte esencial del proceso de formación general. Debería concederse al sujeto en formación la oportunidad tanto de cometer errores como de recuperarse de ellos.
  • Los hechos generan modas, particularmente en el estudio de la falibilidad humana.
  • Gracias a la eficacia de los sistemas de seguridad elaborados por los ingenieros, las tecnologías complejas tienen ahora una seguridad prácticamente absoluta contra los fallos individuales, sean humanos o de los componentes. Sin embargo, deja estos sistemas al socaire de un peligro para el que no existe un remedio tecnológico: la insidiosa concatenación de los fallos humanos latentes que forman una parte inevitable de cualquier gran organización.
  • Estamos comenzando a comprender las bases cognitivas del error humano; pero todavía sabemos muy poco acerca de cómo estas tendencias individuales interactúan dentro de los complejos grupos de personas que trabajan con tecnologías de alto riesgo. Son precisamente estos factores sociales e institucionales los que plantean ahora la mayor amenaza para nuestra seguridad. Pero quizá fue siempre así.

Enlaces relacionados:

Otros libros relacionados:

raul

Anuncios

Una respuesta to “El error humano de James Reason – Apuntes Breves”

  1. […] El error humano de James Reason. […]

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s

 
A %d blogueros les gusta esto: