Raul Barral Tamayo's Blog

Frases Llenas

  • Calendario

    octubre 2020
    L M X J V S D
     1234
    567891011
    12131415161718
    19202122232425
    262728293031  
  • Estadísticas

    • 1.160.868 páginas vistas
  • Archivos

  • Últimos Posts Más Vistos

  • Top Últimos Clicks

Ética para máquinas de José Ignacio Latorre – Apuntes

Posted by Raul Barral Tamayo en jueves, 8 de octubre, 2020


© 2019, José Ignacio Latorre Sentis
Editorial: Editorial Planeta.

Un libro que busca cubrir las necesidades éticas del siglo xxi.

Vivimos ya en otra realidad. Cualquier concepto de ética tiene que pasar por este nuevo escenario: nuestra relación con las máquinas inteligentes. La aparición de la inteligencia artificial avanzada pone en cuestión la superioridad intelectual de los humanos, nuestra esencia, nuestro lugar en la vida. Este extraordinario libro propone una reflexión sobre una ética para esas nuevas máquinas inteligentes que nos superarán. Ellas tomarán decisiones por nosotros, nos gobernarán. Nuestra responsabilidad ahora es dejarles un buen legado: lo humano.

Gracias al desarrollo tecnológico hemos aprendido a convivir con máquinas que nos superan en fuerza física y en poder de cálculo. Sin embargo, la aparición de la inteligencia artificial supone un nuevo desafío, una ética para nuevos tiempos. Muchas personas prefieren no pensar en este devenir incierto. Cuando su universo cambie, intentarán adaptarse. Ni ahora ni después procurarán entender lo que está sucediendo. Es una pena. Comprender es quizá el mayor reto que un humano puede experimentar.

José Ignacio Latorre es catedrático de Física teórica de la Universidad de Barcelona y director del Centro de Ciencias de Benasque Pedro Pascual. Es uno de los físicos españoles más reconocidos en el campo de la física cuántica: ha hecho aportaciones cruciales a la teoría cuántica de campos y al entrelazamiento. Sus principales líneas de investigación giran en torno a estos dos temas, así como la información cuántica y las las partículas elementales.

Algunas de las cosillas que aprendí leyendo este libro que no tienen porque ser ni ciertas ni falsas ni todo lo contrario:

  • En el mundo clásico, la inteligencia viene de la mano de la guerra. La capacidad de reflexionar se viste con un ostentoso casco y una esbelta lanza lista para matar.
  • Lo relevante del mito de Atenea es que la supremacía intelectual es percibida con terror, incluso entre los dioses más sabios y poderosos.
  • No somos dioses, pero sí humanos capaces de crear máquinas que otorgan fuerza, poder, la capacidad de hacer el bien y también de destruir.
  • Máquinas y humanos hemos de convivir. Esperemos que en paz.
  • Los humanos hemos aprendido a convivir con máquinas inmensamente más fuertes que nosotros mismos. También hemos aprendido a convivir con máquinas veloces.
  • Los humanos nos hemos adaptado al poderío físico de las máquinas. Sin embargo, a los humanos nos cuesta muchísimo cohabitar con máquinas más y más inteligentes.
  • En el fondo, lo que está en juego es la esencia de nuestra naturaleza. Si creamos máquinas que nos superan intelectualmente, ¿cuál es el lugar de los humanos?
  • Es innegable que el progreso trae consigo elementos negativos.
  • Es cierto que los humanos se adaptan a cualquier entorno, pero solo en su temprana edad. Una vez el cerebro fija sus sinapsis, se hace muy difícil cambiar las pautas aprendidas.
  • No hay vuelta atrás en el progreso, sea bueno o malo.
  • Todo vestigio de la vida primitiva de los humanos ha desaparecido.
  • Somos esclavos del confort que nos aporta el progreso.
  • Vivimos en un mundo desnaturalizado al que casi nadie quiere renunciar.
  • Los humanos nunca destacaron por su fuerza o por su velocidad, fue su inteligencia lo que les permitió sobrevivir y dominar para bien y para mal a las demás especies. Por lo tanto, la paradoja está servida: si creamos máquinas intelectualmente superiores a nosotros mismos, ¿qué significa ser humano?
  • El legado evolutivo que hemos recibido parece torpe a primera vista, pero en el fondo es más sutil: el cuerpo humano tiene capacidad de corrección.
  • Una propuesta menos obvia: leguemos valores éticos a las máquinas pensantes. Inteligencias artificiales éticas. Ni más ni menos. De nosotros depende.
  • Este libro propone una invitación a la reflexión sin prejuicios sobre máquinas máquinas inteligentes que necesariamente han de ser éticas si hemos de cohabitar con ellas. No podemos no pensar en ello.
  • Este libro brinda una visión moderadamente positiva frente a la irrupción de la inteligencia artificial en todas sus formas.
  • Nuestro mundo veloz, inmediato, ávido de juicios tajantes no se siente cómodo ante la reflexión sosegada. La tendencia actual impone que todo deba ser analizado y decidido de forma fulgurante, no tienen cabida las medias tintas.
  • Tal ve no comprendamos el alma humana, pero, ¿podemos simularla artificialmente?
  • Decía Friedrich Nietzsche que el oído es el sentido del miedo. Un chasquido puede erizarnos los pelos. Estamos en estado de alerta extrema. Podemos reaccionar a un sonido, huir y salvar la vida.
  • Es más que probable que una generación de sofisticados algoritmos penetrará en nuestra intimidad. Esos algoritmos se convertirán en los compañeros más fieles de personas solitarias o de avanzada edad. De forma casi involuntaria, los humanos empezaremos a hablar con las inteligencias artificiales como si se tratase de personas.
  • De forma coloquial hablamos de alma queriendo decir que somos capaces de hacernos amigos de esa inteligencia, sea cual sea su esencia.
  • Es válido argumentar que el primer humano del Paleolítico que utilizó el sílex como piedra cortante dio un paso de gigante. Con el sílex nuestra especie humana creó un instrumento que permitía crear otros instrumentos.
  • Dotar a un humano de una herramienta es equivalente a aumentar sus capacidades.
  • El pasado es la historia evolutiva de humanos aumentados en sus capacidades físicas.
  • Si tomamos perspectiva, la aparición de máquina incansables, potentes, que todo lo transformaron para bien y para mal, está asociada a la máquina de vapor. Se atribuye a James Watt, en el siglo XVIII, el construir una máquina ya sofisticada que transforma calor en movimiento controlado.
  • No es injusto decir que todavía a día de hoy vivimos las consecuencias de una transformación industrial de la sociedad hecha a espaldas de criterios éticos. Tampoc sería justo juzgar todo el progreso tecnológico como algo terrible, que hubiera sido mejor que jamás hubiera existido. Todo extremo es incorrecto, desde mi punto de vista.
  • La dureza de nuestros trabajos es, en general, mucho menor que la de cualquier trabajador medieval fuera del campo, pescador e incluso artesano. Vivimos más y más cómodamente. Eso no implica que seamos más o menos felices.
  • La construcción de un buen reloj es una forma de medir el nivel tecnológico de las civilizaciones que nos han precedido.
  • Un reloj es el paradigma de máquina perfecta, sin alma, precisa, implacable.
  • Necesitamos relojes precisos para navegar, para geoposicionar objetos, incluso para tener una sincronización necesaria en los mercados de valores donde se compran y venden acciones.
  • Dominamos la naturaleza, que sigue leyes cuánticas, y ahí reside la razón de la enorme precisión de nuestras máquinas.
  • La agresividad, el odio, la necesidad de matar siguen codificados en nuestros genes.
  • No existe un solo avance tecnológico que los humanos no hayamos utilizado en contra de nuestra propia especie.
  • Las armas son las máquinas sin ética por excelencia.
  • Es un consenso entre los historiadores que la bomba atómica no fue utilizada para derrotar a Japón, sino para que Estados Unidos mostrase al mundo su poderío e iniciase la guerra fría contra el bloque soviético.
  • No fueron conscientes de que, una vez creada, la bomba dejaría de estar bajo su control. Personajes notables como Hans Bethe o Victor Weisskopf se convirtieron en luchadores empedernidos por la paz.
  • Una lección ética: los humanos creamos instrumentos que superan el objetivo para el que han sido construidos. Su uso escapa al control de la razón y de la ética.
  • No creo que la humanidad haya tomado nota de lo que significa desarrollar una tecnología profunda disruptiva. Es probable que nuestros avances actuales en inteligencia artificial tengan terribles derivas.
  • La evolución de las máquinas puede ser entendida como la mejora sistemática en la forma en que manejamos la energía que estas consumen.
  • la mayor bomba explosionada por los humanos es la llamada bomba Tzar, que liberó cien millones de veces más energía que la bomba de Hiroshima. Los humanos no hemos logrado controlar esta reacción en provecho pacífico de la sociedad.
  • Nos hallamos en una transición energética importante. El funcionamiento de las máquinas que hablan entre sí, incluyendo todo el internet de las cosas (IOT, internet of things), consume tanta energía como todos los humanos.
  • La energía no será el problema de los humanos. El problema real será ético.
  • La responsabilidad de nuestros actos no se transfiere a los objetos inanimados. La ética sigue en manos de los humanos, de momento.
  • Contamos en la base diez que procede de la cultura hindú. Otras culturas antiguas contaron en bases diferentes a la decimal. En Persia se utilizó el 60, del que heredamos la forma en la que contamos los ángulos y el tiempo. Los mayas preferían la base 20.
  • Lo humano reside en el procesamiento que hace nuestro cerebro, no en el mensaje, ni en el medio que lo genera, almacena o transmite. Sí, nos puede emocionar un mensaje creado por una inteligencia artificial.
  • Antes de la llegada de los ordenadores, el centro de investigaciones de partículas elementales CERN, situado en la frontera entre Francia y Suiza, tenía una serie de mentes calculadoras como un servicio ofrecido a sus científicos. Cuanto estos necesitaban el resultado de un cálculo largo y difícil, podían pedir asistencia a los idiot savant del laboratorio.
  • Augusta Ada Lovelace (née Byron, 1815-1852) es la figura romántica asociada al diseño del primer programa de cálculo jamás escrito.
  • El progreso tecnológico se halla en la necesidad de mejorar un instrumento que ya existe.
  • Se atribuye a Ada Lovelace la idea de construir el primer bucle programado de la historia de la computación.
  • Ada presenta un razonamiento que hurga en el concepto mismo de inteligencia. La máquina analítica no es capaz de creación, ni de deducción novedosa, tan solo puede computar lo que se le ordena. La máquina opera sistemáticamente, pero sin alma. No hay intuición, no hay afán de belleza.
  • El primer gran problema que mostró el potencial de las computadoras fue la creación del censo norteamericano.
  • Las capas de lenguaje de una máquina calculadora crean una barrera de confianza. Comprendemos cómo funciona un molino y, con esfuerzo, un reloj o un coche. Pero eso no es posible con un ordenador. Dejamos de comprender su funcionamiento interno. A partir de ese momento, nuestra confianza se tambalea.
  • Hemos de aprender a convivir con máquinas cuyo funcionamiento no entendemos.
  • No hay aspecto en nuestras vidas que no esté condicionado por la intervención de los ordenadores.
  • Hoy en día, los ordenadores superan a los mejores ajedrecistas sin pestañear.
  • Estamos controlados, supervisados, aconsejados, informados, condicionados por ordenadores que hablan con otros ordenadores. Unos están en manos de personas, otros de instituciones públicas, y muchísimos otros se rigen por políticas corporativas. Se diría que es un caos sin moral al que nos hemos acostumbrado.
  • El número de máquinas que se organizan en redes superarán con creces al de humanos sobre la tierra. De hecho, los órdenes de magnitud de teléfonos móviles y humanos son equiparables.
  • Bertran Russell, Machines and the Emotions: «Las máquinas han alterado nuestra forma de vida, pero no nuestros instintos. En consecuencia, hay un desajuste».
  • Una de las perversas consecuencias del progreso tecnológico sobre los humanos es que nuestros cuerpos se han debilitado. Las máquinas hacen el trabajo duro por nosotros y, en consecuencia, nuestros músculos dejan de mantenerse fuertes y se atrofian.
  • Seamos precavidos. Consideremos seriamente el declive físico de los humanos que viven en el primer mundo.
  • Ya no es necesario ser fuerte. En nuestra sociedad resulta más ventajoso ser astuto en los negocios, o más arriesgado en decisiones vitales, a la hora de encontrar pareja. Ya no sobrevive con abrumadora probabilidad el más fuerte.
  • Hemos creado máquinas de forma indirecta alteran la evolución de nuestra especie. Cedemos la capacidad física a las máquinas.
  • ¿Estamos también cediendo nuestro espacio intelectual a las máquinas? Sí, sin duda.
  • Es tanta la pereza que nos da hacer operaciones aritméticas que muchas personas usan calculadoras y aceptan el resultado que aparece por pantalla de forma indiscriminada.
  • Las máquinas que nos ofrecen cálculo bruto debilitan nuestra habilidad de cálculo.
  • Mantengámonos atentos a la consecuencia de construir máquinas que nos superan. En tanto que logramos instrumentos que son mejores que nosotros, nos relajamos y les cedemos espacio. Aprendemos a convivir con ellos y, sin darnos cuenta, pasamos a depender totalmente de ellos.
  • Las máquinas no tiene culpa de hacer nuestras vidas peores. Somos nosotros quienes las diseñamos, las programamos, las dirigimos y también quienes las destruimos.
  • Somos colectivamente irreflexivos.
  • La deriva natural de la sociedad acomodada es perder sus referentes naturales de supervivencia e instaurarse en el entretenimiento. Somos ávidos consumidores de placer.
  • La educación ecuánime es una entelequia en la sociedad que nos ha precedido y en la actual.
  • La disconformidad previene las tiranías y equilibra las locuras políticas. La osadía de los más jóvenes es producto de la evolución, por lo tanto debe ser útil.
  • Tomemos nuestras decisiones, las que sean, pero reflexionemos sobre ellas.
  • Los humanos ya son capaces de crear máquinas que, o bien son, o bien parecen, inteligentes, todo depende de la definición de inteligencia.
  • Muchas de las tareas que nos parecen inteligentes son bastante menos complejas de lo que creemos.
  • La frontera entre la máquina que calcula de forma sistemática y la máquina que toma decisiones acertadas y que puede interactuar con nosotros como si se tratase de un humano se está difuminando.
  • Marvin Minsky: «El cerebro humano en el fondo no es más que una máquina. Una máquina compleja, producto de larga evolución».
  • ¿Diríamos que una máquina que mantuviese una conversación fluida con nosotros es inteligente? Esta idea fue analizada por Alan M. Turing, quien propuso un test muy especial, que él llamó Juego de la imitación y que posteriormente ha recibido el nombre de Test de Turing, publicado en su ensayo Computing Machinery and Intelligence (1950).
  • Basta que las máquinas nos imiten suficientemente bien para que les otorguemos características humanas. No importa que su esencia sea programable, artificial, inhumana. Los humanos no seremos capaces de distinguir.
  • Un hito notable de la inteligencia artificial aconteció cuando un ordenador, llamado Watson, compitió en el juego Jeopardy! contra los mejores jugadores humanos de la historia en el año 2010. Watson comprendió las preguntas orales, respondió, ganó y cerró una victoria que aleja la idea de que los computadores no pueden relacionarse con los humanos.
  • Ciertas maravillas que atribuimos a los ordenadores se basan en soluciones ideadas por los propios humanos. No es fácil discernir hasta dónde llega la mente del programador y cuándo algo no obvio emerge.
  • La búsqueda sistemática de un patrón en un amplio registro histórico recibe el nombre de minería de datos (con frecuencia referido con las palabras inglesas data mining).
  • Todo lo que se hace en minería de datos es descubrir correlaciones, frecuencias, desviaciones y toda una serie de medidas estadísticas perfectamente definidas.
  • Nuestro comportamiento a la hora de comprar libros no es más que un patrón. Por lo tanto, es sencillo adivinar nuestro comportamiento futuro. Somos humanos, somos predecibles.
  • Cuando las máquinas logren niveles de inteligencia superiores seguramente se mofarán de lo simples que somos los humanos. Todos nos parecemos más de lo que creemos.
  • ¿Hasta qué nivel es lícito que un humano sea supervisado, analizado, escudriñado en sus detalles más íntimos por legiones de programas operados por intereses que desconocemos?
  • Cuando el conjunto de fenómenos bien descritos por un modelo es enorme, usamos la palabra teoría. Un modelo es una versión humilde de una teoría.
  • La combinación de técnicas estadísticas con la inteligencia humana de añadir modelos matemáticos al análisis de un problema suele denominarse sistema experto.
  • Los sistemas expertos han demostrado ser una herramienta magnífica en ciertos problemas fácilmente modelables y, en contraposición, ser totalmente inútiles en problemas difíciles de modelar.
  • Las expectativas que se pusieron en la creación de sistemas expertos se fueron al traste en los inicios de la inteligencia artificial.
  • El cerebro de un bebé es una máquina de aprender.
  • La nueva idea es sencilla, hemos de construir máquinas que aprendan, de forma análoga a cómo lo hace nuestro cerebro.
  • Nos llevará mucho tiempo manipular a voluntad el cerebro humano, repararlo, predecirlo, aumentarlo, pero lo haremos.
  • La incapacidad de prever el futuro con lucidez es una constante en la historia de la humanidad.
  • El secreto en ciencia es no amedrentarse ante lo desconocido, no renunciar a entender y siempre avanzar humildemente, poco a poco. Cada generación aporta nuevas ideas, detecta errores en sus teorías, mejora su comprensión y da un paso adelante.
  • La neurona artificial procesa los números que representan a las señales usando una fórmula matemática sencilla y, si el resultado supera un cierto umbral, genera una nueva señal que pasa a otras neuronas.
  • Frank Rosenblatt propuso en 1957 crear una variante de neurona artificial llamada perceptrón. Este preceptrón era una neurona artificial dotada de una unidad previa que podía trabajar con la señal de entrada. Se quería construir una entidad autónoma capaz de digerir información por sí misma. Este perceptrón sería capaz de realizar tareas como clasificar series de patrones.
  • La sorpresa se produjo cuando Marvin Minsky y Seymour Papert demostraron en 1969 que un perceptrón no podía realizar ciertas operaciones matemáticas. Para ser más precisos, no podía realizar la puerta lógica CNOT.
  • La limitación del perceptrón implicaba que las neuronas reales podrían ser mucho más complejas de lo que imaginamos.
  • El pobre perceptrón no tenía la culpa. El procesamiento de información no lo hace una sola capa de neuronas, sino una red compleja de neuronas. Un perceptrón es insuficiente, pero un conjunto de neuronas sí puede asumir tareas sofisticadas. Llegó el momento de atacar la fascinante idea de crear una red neuronal artificial.
  • Las redes neuronales artificiales se pueden organizar por capas. Una primera capa inicia el procesamiento, la segunda toma el resultado de la primera y lo elabora más, y así la información pasa sucesivamente de capa en capa hasta llegar a las últimas neuronas que nos dan el resultado final. Podemos además dar un valor al peso de una conexión. Si el peso es grande, la conexión es intensa. Si el peso es pequeño, la conexión es irrelevante. De esta forma podemos jugar con los pesos entre las neuronas para representar las sinapsis.
  • Hemos dado con el corazón de la idea: un bebé que aprende está fijando sus sinapsis, una red neuronal artificial que aprenda debe fijar sus sinapsis artificiales, sus conexiones. Deben ser entrenadas para realizar la tarea que deseemos resolver.
  • A medida que le enseñamos patrones, cambiaremos los pesos y mejoraremos. Poco a poco, el entrenamiento se traduce en aprendizaje. Vamos dictando cada cambio en los pesos entre neuronas para que el error en la predicción decrezca.
  • La inteligencia artificial ha necesitado de muchos años de investigación para entender la forma óptima de entrenar redes neuronales. Hay una ingente cantidad de variantes de cómo entrenar a una red neuronal artificial.
  • Casi da miedo: hemos aprendido a aprender.
  • El límite de la inteligencia artificial está en nuestra imaginación.
  • ¿Por qué entrenar a una sola red neuronal? ¿Por qué no entremnamos a muchas redes neuronales y dejamos que compitan entre sí? Esta es la idea de aplicar las leyes de Darwin al entrenamiento de redes neuronales artificiales.
  • Ni las redes neuronales ni los algoritmos genéticos nos ayudan a comprender cómo resolvemos un problema; sencillamernte, lo hacen. Perdemos el trazo de lo que está sucediendo. Las redes neuronales artificiales pueden ser tan abstrusas como el propio cerebro humano.
  • La búsqueda de formas más eficientes para entrenar a redes neuronales profundas es incesante. Los neologismo se amontonan: aprendizaje profundo, Q aprendizaje, metaprendizaje.
  • Podemos inventar un algoritmo supervisor global de todos los métodos y que sea él el encargado de hallar la mejor técnica posible. En el fondo hemos creado a un profesor que sigue los avances de diferentes alumnos.
  • John McCarthy: «En cuanto funciona, dejamos de llamarlo inteligencia artificial».
  • Los patrones recibidos en forma cruda por el cerebro son procesados sucesivamente de forma jerárquica hasta lograr reconocer una silla, una nube, una caja.
  • Lo hemos hecho. Disponemos de algritmos que llegan a niveles admirables de simulación del lenguaje hablado.
  • Esa es la idea de las redes neuronales artificiales profundas. La palabra profunda implica que las redes tienen muchas capas, muchísimas. He aquí un reto intelectual. ¿Si conectamos miles de capas de neuronas, llegaremos a desarrollar algo parecido a la conciencia?
  • El cerebro no está preparado para aprender geometría algebraica, ni mecánica cuántica. La inmersión en disciplinas superiores supone un esfuerzo enorme para el cerebro humano. También lo es para una inteligencia artificial.
  • Es un buen momento para introducir una nueva idea un tanto aterradora a largo plazo: los humanos somos intelectualmente prescindibles. No solo cometemos errores triviales, sino que no sabemos entrever estrategias profundas, formas totalmente nuevas de abordar una posición porque vivimos anclados en los prejuicios. Los humanos estamos atrapados en nuestra historia y nuestras emociones. La nueva inteligencia artificial no sufre estas limitaciones.
  • Pablo Ruiz Picasso: «Los buenos artistas copian, los genios roban».
  • ¿Podemos generar contenido nada obvio como una novela, un paisaje, una cara humana? Ya hemos dado con una técnica sutil llamada redes neuronales adversarias.
  • Las redes adversarias materializan la idea de tener dos oponentes que se hacen uno mejor al otro. Se retroalimentan el uno al otro.
  • Se ha desarrollado inteligencia artificial para emular a Bach, a Beethoven, a los Beatles y, de forma notable, para generar música genuinamente nueva. La empresa Flow Machines ofrece sus servicios de música artificial a compositores que necesiten una cierta inyección de inspiración.
  • No lo duden, escucharemos música artificial. Veremos cuadros impresionistas artificiales, oleremos perfumes diseñados por inteligencias artificiales. Nos sorprenderán. Tal vez un día lo creado por los humanos nos parecerá banal.
  • entrada original: https://raulbarraltamayo.wordpress.com/2020/10/08/etica-para-maquinas-de-jose-ignacio-latorre-apuntes/
  • Decidir no es una tarea que siempre requiera un intelecto superior.
  • Tras una cierta cantidad de análisis matemático, el algoritmo opta por la mejor opción. No nos engañemos, los humanos procedemos de la misma forma. Nuestro cerebro evalúa opciones, escoge la que calcula como óptima, aunque a veces acepta un poco de riesgo y toma una opción menos conservadora.
  • Los humanos somos torpes a la hora de conducir. La gran mayoría de los accidentes de tráfico se deben a errores cometidos por la persona que está al volante. En aras de la seguridad, dejaremos en manos de máquinas ultraseguras el placer de conducir tranquilo.
  • Se puede argumentar que el progreso hacia la infalibilidad no aporta mayor felicidad, sino que la cercena. Sería sabio reflexionar y definir con mimo los límites entre seguridad y libertad. Está en juego nuestra felicidad.
  • No hay posibilidad de oponerse a la adopción de inteligencia artificial en nuestras vidas. Podemos definir límites, pero no detener el cambio.
  • ¿Para qué poseer un coche cada uno de nosotros y así saturar las ciudades y carreteras? Podemos hacer que una cantidad suficiente de coches esté en uso constante y compartido.
  • Nuestro teléfono ya nos localiza sin tregua. Si no lo evitamos, todos hemos dejado el elemento más importante de nuestra libertad, nuestra localización ya no será anónima nunca más.
  • ¿Serán capaces los gobiernos de legislar por encima de los intereses económicos de las corporaciones en la aplicación de la inteligencia artificial a la salud humana?
  • Existe un elemento añadido en el caso de establecer una participación de la inteligencia artificial en el gobierno de los humanos. Podemos erradicar la corrupción. Podemos eliminar las influencias no justificables de lobbies.
  • Podríamos construir un sistema jurídico basado en inteligencias artificiales neutras. Si mantenemos la posibilidad de apelar a una instancia superior, tal vez humana, el sistema podría salir beneficiado.
  • Jena-Jacques Rousseau, 1762: «Para descubrir las leyes de la sociedad que más convienen a las naciones, se necesitaría la existencia de una inteligencia superior, capaz de vivir todas las pasiones de los hombres sin sentir ninguna de ellas, y que no tuviera ninguna afinidad con nuestra naturaleza pero la conociera a fondo».
  • Ya se utilizan sistemas de inteligencia artificial en Estados Unidos para ayudar a establecer fianzas o estimar el riesgo de ciertas decisiones judiciales. El siguiente paso, a largo plazo, será dejar el gobierno de entidades, ciudades y países en manos de inteligencias artificiales. Falta menos de lo que parece para que el grueso de la gestión de la sociedad sea automático.
  • El avance de la inteligencia artificial en la toma de decisiones tiene un peligro enorme: los hackers.
  • Todo el progreso en tecnología topa con el eterno problema del mal uso por parte de los humanos.
  • ¿Deseamos crear máquinas a nuestra semejanza o estamos empezando a substituir partes de nuestro cuerpo por máquinas?
  • Seamos honestos, más de una persona prefiere vivir sola con su televisión, su buena cama y su animal de compañía a tener que soportar el juicio de sus congéneres. La soledad crece sin cesar en la sociedad del primer mundo.
  • Tenemos una obsesión: ¿podemos crear una máquina indistinguible de un ser humano?
  • La cultura hebrea tiene un fuerte referente en el Golem, un ser creado a partir del barro y dotado de vida por un rabino. Son muchas las variantes del mito y muchos los rabinos que le han dado vida, también es cambiante la función de esa criatura creada por los humanos.
  • Un robot básico es tan solo una máquina capaz de moverse y realizar tareas concretas.
  • Los robots humanoides, es decir, que tienen forma humana, reciben el nombre androides.
  • Las leyes de Asimov no contienen principios éticos suficientes para programar las máquinas. Son leyes de protección, por eso nos impactan. Pero si deseamos programar un coche autónomo es necesario reflexionar sobre muchos otros puntos delicados.
  • El paso nada elemental que deberemos recorrer será aprender a relacionarnos con robots que simulen emociones reales. No basta con que un robot tenga apariencia humana, debe también interactuar con los humanos expresando estados de ánimo como la impaciencia, la indolencia, el aburrimiento o la premura.
  • Un cyborg es un humano combinado con una máquina. En cierta medida todos somos un poco cyborgs.
  • Los apasionados con la creación de cyborgs entrelazan la tecnología con ciertas corrientes filosóficas mal comprendidas. De ahí que Nietzsche y su superhombre sean utilizados como ideales de un cyborg, aunque no haya nada más lejos de las ideas del filósofo que abogaba por la superación de la envidia y de la codicia.
  • Las pasiones que levantan los cyborgs tienen profundas raíces en la insatisfacción humana con su propio cuerpo.
  • Si el humano es solo una máquina, todas nuestras acciones están determinadas como las de un autómata. No existe albedrío, no tenemos elección. Entonces, ¿qué es el alma? ¿somos seres programables? Tal vez seamos seres codificados de forma tan precisa que creemos que somos libres y que tenemos alma.
  • Todo, absolutamente todo podría estar determinado. El cosmos sigue leyes que parecen rígidas, escritas en piedra. Los astros se mueven siguiendo trayectorias perfectas. Todo está escrito para los elementos que configuran el cosmos. Las ecuaciones de los astros son inapelables. Nadie negará que una reacción química es perfectamente predecible. La física, la química, la biología básica, toda nuestra ciencia está determinada. Si existe un dios, parece operar como un relojero, como el creador de una gran máquina. Tal vez, el mismo dios es una máquina.
  • Stephen Hawking: «El genio está fuera de la lámpara. Necesitamos avanzar en el desarrollo de la inteligencia artificial, pero también debemos ser conscientes de sus muy verdaderos peligros».
  • Nuestra facilidad para ser controlados hace perentorio empezar a legislar sobre los algoritmos que toman decisiones.
  • La estrategia de prueba y error, así como la lentitud en la adopción de algoritmos inteligentes, son el camino para delegar progresivamente las funciones tediosas o imposibles para los humanos en máquinas inteligentes.
  • Las máquinas que hoy en día deciden todavía han sido programadas por humanos.
  • La inteligencia no humana parece una candidata nata a la crueldad. Los humanos deben comprender y consensuar la esencia de los algoritmos.
  • Podemos programar la bondad, lo debemos hacer.
  • El efecto a largo plazo de la humanización de la inteligencia artificial será la despreocupación. Nos despreocuparemos de la tecnología porque confiamos que ha sido diseñada de forma cuerda y eficiente para servirnos.
  • El gran, gran peligro de la inteligencia artificial es que los humanos se deterioren en la valoración de sus principios. La despreocupación moral es un peligro tan real como el declive físico e intelectual que hemos sufrido.
  • Hemos de decidir las leyes de las jerarquías artificiales que controlarán hasta el más nimio detalle de nuestra vida.
  • Los retos éticos que nos plantea la inteligencia artificial avanzada son formidables. No tenemos donde asirnos. Toda nuestra historia y nuestra filosofía están alejadas en sus planteamientos de lo que significa enfrentarse a entes independientes, autónomos e intelectualmente superiores a nosotros.
  • ¿Tiene una máquina la opción de decidir qué es el bien y qué es el mal? ¿Puede un algoritmo apreciar las ideas de Hannah Arendt sobre la banalidad del mal? El reto de dotar de ética a la inteligencia artificial no es trivial.
  • En mi opinión, diremos adiós a la ética protestante. Poco a poco la sociedad inteligente pondrá a la tiranía de las corporaciones. Ningún instrumento de transformación es más potente que la ciencia y su consecuencia, la tecnología.
  • Es justo incluir la referencia explícita a corrientes de pensadores sobre los problemas que ha acarreado la tecnificación irreflexiva de nuestra sociedad. Cabe citar a Günther Anders, Noam Chomsky, Hans Jonas y Lewis Mumford.
  • El poder desmesurado de ciertas corporaciones no perdurará eternamente. Unos pocos creemos en los mecanismos de la democracia para corregir errores.
  • En un mundo controlado por robots que obedecen instrucciones dictadas por una inteligencia artificial no queda mucho espacio para el trabajo de los humanos.
  • Las tareas susceptibles de ser automatizadas, lo serán.
  • Una gran parte de las personas que pierden un puesto de trabajo debido a la tecnificación no son capaces de adecuarse a un nuevo mundo laboral.
  • A menos horas de trabajo, más tiempo para el ocio. La sociedad fuertemente tecnificada convierte a sus individuos en consumidores de entretenimiento. Avanzamos hacia una sociedad automatizada y poblada por seres que buscan el placer físico y la distracción intelectual.
  • Peter Sloterdijk, Crítica de la razón cínica, 1983: «Al ilustrado le resulta fácil decir para qué existe la religión: en primer lugar, para la superación de la angustia vital; en segundo lugar, para la legitimación de los ordenamientos sociales opresores».
  • La religión cumple funciones sociales claras. Los humanos necesitan ritos. Las ceremonias más importantes en la vida de los humanos están asociadas a la religión. En todas las confesiones existen fiestas asociadas al nacimiento, al emparejamiento, a la muerte.
  • Jorge Wagensberg, científico: «La religión es un placebo existencial».
  • Ciertas religiones han impuesto códigos morales. Los dogmas tienen un severo problema frente a la inteligencia artificial.
  • La inteligencia artificial avanzada no necesitará de ritos ni de dogmas, pero los deberá respetar.
  • El cerebro seguirá aceptando preceptos religiosos. Posiblemente, ese será el último bastión humano, no racional, que nos definirá.
  • Dalai Lama: «Esta es mi sencilla religión. No necesitamos templos. No necesitamos complicada filosofía. En nuestro cerebro, en nuestro corazón, se halla nuestro templo; la filosofía es amabilidad».
  • La pregunta crucial es si podemos considerar a una inteligencia artificial avanzada como un agente moral, es decir, como un ente autónomo capaz de tomar decisiones sujetas a criterios éticos.
  • ¿Podemos crear una máquina que imite al cerebro humano al tratar las ideas de intencionalidad, conciencia o libre albedrío?
  • Programemos bajo el prisma de que cada acción sobre un tercero debe ser considerada como si fuera hecha sobre uno mismo.
  • Por defecto y en todas sus formas, las máquinas inteligentes deberían ser programadas para ser amigables a los humanos por encima de cualquier otra consideración, incluso si ello implica una reducción de la rentabilidad de las empresas que las gestionan.
  • Este es un buen momento para hablar de Hannah Arendt y una de las ideas que nos legó: la banalidad del mal.
  • Dados ciertos condicionantes, el mal también se halla en personas anónimas, sin razonamiento profundo. La realidad, según Arendt, es mucho más banal. Una persona cualquier, que en condiciones normales lleva una vida anodina, puede ejercer el mal si su entorno así lo propicia.
  • Está en nuestras manos programar el bien para máquinas que todavía no son increíblemente inteligentes. Impongamos la banalidad del bien en las nuevas inteligencias artificiales.
  • La inteligencia artificial ha de ser benévola. La bondad debe ser ley.
  • ¿Cómo programaremos una inteligencia artificial si los propios humanos no tenemos respuestas válidas ante muchos dilemas?
  • El utilitarismo rompe con Kant. Las acciones no son buenas o malas per se. Toda valoración moral de una posible acción queda supeditada a las consecuencias que esta acarree. Tenemos un principio nuevo para programar a las inteligencias artificiales: debemos entrenarlas de forma que sus decisiones produzcan el mayor beneficio para el conjunto de los humanos.
  • Una duda razonable surge de inmediato. ¿Por qué los humanos no han logrado imponer una ética entre sí?
  • Si no hemos creado un buen sistema educativo para que las nuevas inteligencias humanas se comparten de forma ética, ¿cómo lograremos implementar criterios éticos en un programa informático?
  • La propuesta aventurada de Eliezer Ydkowski para lograr una inteligencia artificial amigable lleva el nombre volición coherente extrapolada. Que aprendan la parte de la voluntad colectiva que es coherente, no divergente. Los criterios éticos que nos separan debe ser suprimidos, aquellos que nos aúnan debe ser fortalecidos. La magia de esta propuesta es que sabemos que disponemos de técnicas que permiten hallar dimensiones relevantes dentro de los datos. El principio etico que hemos de programar es el que lleve a decisiones colectivas acordadas.
  • ¿Seguirá una supermáquina los pasos intelectuales que el intelecto humano ha ensayado?
  • La cultura occidental se sustenta en gran medida en los principios filosóficos desarrollados en la Grecia clásica. En especial, los siglos V y IV antes de Cristo reúnen una parte importante del admirable pensamiento abstracto que aparece de forma recurrente en las corrientes filosóficas de los siglos que siguieron.
  • La ética tiene un fuerte bastión en el pensamiento realista de Aristóteles, que confesó ser amigo (y discípulo) de Platón, pero más amigo de la verdad.
  • La inteligencia artificial que tenemos hoy en día se reduce a algoritmos complejos que han sido optimizados para realizar una tarea específica.
  • En gran medida, la moral se incorpora en los humanos a través de la educación.
  • El segundo elemento crucial  en una red neuronal es la función error, que dice a la red qué ha de aprender. En la función error está codificado el criterio que buscamos inculcar en la red neuronal. La ética práctica de una red neuronal no se halla en su arquitectura, sino que reside en la función error que empleamos para entrenarla.
  • Crear una inteligencia artificial es equivalente a reducir el error que comete.
  • La función error debe codificar un principio ético.
  • El automodelado de la función error de una red neuronal artificial abre un universo inquietante.
  • ¿Quién decide la ética que ya estamos programando en las máquinas? La insensatez campa a sus anchas. Las inteligencias artificiales avanzan sin códigos éticos consensuados. Ningún político habla de qué programar, de qué criterio sobre el bien y el mal rige las acciones de un dron, un robot o el gestor de tráfico de una ciudad.
  • Tenemos dos preguntas: ¿qué ética debemos programar? ¿quién decide la ética? Hay una tercera pregunta de consecuencias más inmediatas: ¿quién escribe la subrutina ética?
  • La ética que hoy en día codificamos en un algoritmo concreto está escrita por un humano línea a línea en un código. En consecuencia, una parte de la ética que programamos está en manos de esos programadores.
  • Debemos evitar dos peligros obvios: i) La ética programada en la práctica debe ser supervisable. ii) Los responsables de un programa real deben ser identificables.
  • ¿Es posible codificar criterios éticos sin que intereses particulares vilipendien el esfuerzo de la mayoría? Creo que sí es posible evitar un mal uso de la inteligencia artificial en los primeros estadios de su evolución que estamos viviendo si se establecen leyes con criterios claros.
  • La idea central es legislar la obligación de que toda inteligencia artificial opere bajo algoritmos cuyo código sea público.
  • Hay una solución peculiar, alternativa al código abierto. Se puede aceptar que el código que opere en inteligencias artificiales avanzadas se mantenga encriptado y, por lo tanto, no abierto. Pero se puede imponer que la capacidad de desencriptación esté en manos de las instituciones públicas supranacionales. En esencia, si se denuncia una posible mala praxis de una inteligencia artificial avanzada, un comité internacional de expertos puede abrir el código, supervisarlo y corregirlo si fuera pertinente.
  • Debería ser obligatorio que toda la programación ética que se gener a corto y medio plazo, bien sea escrita en código abierto, bien sea revisable por instituciones supranacionales.
  • La transparencia a ultranza es la vía más sólida para defendernos de los posibles abusos de la inteligencia artificial.
  • La responsabilidad de los autores de un programa también puede ser impuesta. La idea es garantizar la trazabilidad de la escritura de un código. Debe ser posible saber quién escribió qué líneas, quién borró algo, quién las cambió o completó. Lo importante es tener un control para el caso en que se haya producido una acción de programación intencionadamente malévola.
  • El problema de la trazabilidad podrá escapar de nuestras manos si las propias inteligencias artificiales pasan a corregirse a sí mismas.
  • Es mucho más fidedigno monitorizar silenciosamente nuestras acciones que realizar encuestas. Si se nos pregunta por nuestras preferencias, mentimos. Los humanos somos capaces de mentirnos a nosotros mismos con una frivolidad pasmosa.
  • La gran red de máquinas conectadas es el gran enemigo de nuestra libertad individual. Nuestra privacidad es violada. Somos personas sin libertad de anonimato absoluto. Cada pago con una tarjeta de crédito queda almacenado, cada llamada telefónica tiene un registro indeleble.
  • Hay que tener mucha libertad de espíritu para salirse de la norma. Hagan el intento, traten de educarse en música no obvia, en libros no habituales. En poco tiempo se sentirán como seres extraños en una sociedad mucho más uniforme de lo que todo el mundo cree.
  • La pregunta obvia que nos podemos plantear es qué gobierno ha aceptado como legítima la pérdida de libertad que genera la red de máquinas inteligentes que nos analizan y predicen sin cesar. Ninguno.
  • Tampoco estamos educando suficientemente bien a las siguientes generaciones sobre el uso de nuestra libertad, nuestros derechos y obligaciones a la hora de decidir.
  • No afrontamos el mal uso de portentosas nuevas tecnologías, pero sí sufrimos sus consecuencias.
  • Todas las personas deben cuidar su presencia en la red y, en general, minimizarla.
  • Una solución nada sencilla es dotar al coche de entidad legal propia. Al construir el coche autónomo, le damos carta de identidad legal. Ese coche pasa a existir como ente responsable.
  • Al atribuir a un coche responsabilidad civil, se está propiciando que las empresas creadoras de robots se desentiendan de la actuación de sus productos.
  • Si un robot es una entidad legal responsable, es lógico atribuirle ciertos derechos.
  • La inteligencia artificial está invadiendo silenciosamente nuestras vidas. Empecemos a pensar para luego legislar.
  • La roboética está en auge, . Tres ideas dominarán, posiblemente, nuestras discusiones en un futuro próximo: i) Los robots operan de forma autónoma. La ausencia de supervisión puede ser crítica. ii) Los robots restan puestos de trabajo. iii) Los robots pueden llevar armas, pueden matar a humanos.
  • Cada vez que un robot cometa un error, las leyes deberán saber cómo y a quién juzgar. Si un robot sustituye a un humano, aparece un problema económico y ético.
  • Dejar que la creación de robots evolucione libremente es un gran error.
  • El foro de Davos ha creado una propuesta de código ético para investigadores:
    • Relaciónate con el público.
    • Persigue la verdad.
    • Minimiza el daño.
    • Relaciónate con las personas que toman decisiones.
    • Apoya la diversidad.
    • Sé un mentor.
    • Responsabilizarte de tus actos.
  • Churchill: «Scientists should be on tap, not on top». Los científicos deben salir por el grifo, no estar encima. Los científicos son un bien común el que se puede disponer. Debe ser un servicio sin opinión.
  • ¿Cómo puede un consejo de ministros legislar equitativamente sobre un tema científico si no están presentes voces capaces de entender a fondo el problema y sus consecuencias? Los informes técnicos son insuficientes. Es necesario discutir cara a cara para alcanzar decisiones exentas de sesgos.
  • Las máquinas inteligentes pueden constituirse en entes legales que pagan impuestos. Nuestras pensiones serían pagadas por las máquinas que nos sustituyan.
  • En el fondo, la mayoría de los trabajos actuales en el sector de servicios es redundante.
  • En una sociedad controlada por máquinas, la educación corre el enorme peligro de ir desapareciendo.
  • Cualquier línea dominante de pensamiento desea suprimir la formación de espíritus librepensadores.
  • Siempre que el alumno es considerado como un cliente, y no como alguien que aprende, la tendencia a satisfacerlo supera al rigor de transmitir conocimientos sólidos.
  • Si se cercena el conocimiento absoluto y se limita la capacidad de pensamiento libre, será mejor que nos gobiernen las máquinas.
  • El fracaso en el cumplimiento de los derechos humanos hasta ahora establecidos radica en la incapacidad de supervisarlos y en la impunidad de sus violadores.
  • ¿Puede una inteligencia artificial suficientemente avanzada superar a los humanos? ¿Puede reflexionar sobre sí misma?
  • La ciencia ficción no es ciencia, pero tampoco es sinónimo de pensamiento irrelevante o ridículo.
  • Pensar el futuro es el primer paso para habitarlo.
  • Está llegando el instante en que la exploración de nuevas arquitecturas es diseñada por una propia red neuronal artificial mejorada.
  • Una inteligencia artificial avanzada única, en inglés, recibe el nombre de singleton.
  • El punto que nos queda por aceptar es que el relevo no será dictado por los humanos, sino por las máquinas. Serán ellas quienes decidan la forma, el tiempo, la profundidad del relevo. Es inevitable que así sea.
  • Google ya ha establecido un botón de apagado de todos los algoritmos avanzados que utiliza.
  • ¿Viviríamos en una gran ciudad sin agua, sin electricidad, sin coches? Durante el gran apagón de 1977, la ciudad de Nueva York se convirtió en un caos, donde las más bajas pasiones humanas se desataron.
  • Una idea en la creación de una inteligencia artificial superior que es difícil de soslayar es la del secuestro de la mayoría por parte de unos pocos.
  • Una idea recurrente en los textos que intentan prevenir un desastre provocado por la inteligencia artificial es que todo cambio que sea abrupto será malo. La lentitud es necesaria.
  • Los nuevos algoritmos se incorporan en nuestras máquinas sin que los humanos tomen decisiones acordadas sobre su implantación. Nuestros teléfonos se actualizan, nuestro software se transforma y presenta nuevas habilidades sin que jamás optásemos de forma proactiva por ellas.
  • Los humanos siguen un proceso continuo de pacificación. Esta es una teoría defendida por Steven Pinker en su libro The Better Angles of Our Nature. La idea central es que la probabilidad de que un humano muera asesinado por otro humano ha decrecido constantemente a lo largo de la historia.
  • Más allá de la violencia, la deriva natural de los humanos es el entretenimiento.
  • La inteligencia artificial nos tanteará, intuirá lo que nos gusta, nos llevará a placeres desconocidos, nos entretendrá mejor que otros humanos o nosotros mismos.
  • Es muy posible que los humanos avancen hacia el hedonismo puro; parece que estamos diseñados para el entretenimiento continuo. No debemos olvidar el debilitamiento intelectual que esta evolución implica.
  • Los humanos se completan artificialmente tan pronto como lo necesitan, y si lo pueden pagar. Es uso de gafas con lentes graduadas es un buen ejemplo.
  • Podemos usar extremidades artificiales que se conectan a nuestros terminales nerviosos. El cuerpo puede ser substituido por maquinarias. Los sentidos pueden ser aumentados. Todo avanza hacia un mundo artificial exento de limitaciones.
  • ¿Cuál es el límite? Nos guste o no, el límite es brutal: no tendremos cuerpo.
  • Podemos simular la realidad exterior y adecuarla a nuestra satisfacción. ¿Qué importa que las señales no sean generadas por hechos auténticos?
  • ¿Qué diferencia hay entre creer ser feliz y serlo?
  • En cualquier caso, la realidad es simulable. La realidad puede ser generada virtualmente porque no somos capaces de distinguir entre mundos auténticos y ficticios.
  • ¿Para qué un cuerpo físico? La esencia del ser humano es su inteligencia, dotada de la capacidad de sentir, de crear, de inventar, de argumentar, de imaginar.
  • Aristóteles se empleó a fondo en negar inteligencia superior a mujeres, a esclavos y a niños.
  • Al hablar de alma en inteligencias artificiales no podemos apoyarnos en las ideas de personas con claros prejuicios de clase, de género, de raza.
  • Marvin Minsky: «La principal actividad de los cerebros es hacer cambios sobre ellos mismos». Nuestro cerebro aprende y utilizar sus nuevos conocimientos para modificar su propia conducta.
  • La irracionalidad. El alma es el lugar de nuestras emociones primarias y complejas, el cuerpo el de nuestras sensaciones. Lo único que podemos pensar como eterno y separado del cuerpo humano es esa indefinible alma.
  • Podemos considerar seriamente implementar atributos no triviales en una inteligencia artificial sin tan siquiera saber cómo quedan impregnados en las sinapsis artificiales de una red neuronal.
  • Olvidemos la idea de crear máquinas con un alma exquisita, nos basta con crear máquinas con almas normales, anodinas.
  • Estas primeras inteligencias artificiales serán en parte máquinas, en parte humanas. Su código ético inicial está fijado por nosotros los humanos, su funcionamiento quedará delegado a la simple operación del algoritmo.
  • No tengo duda: creo que una inteligencia superior será pacífica.
  • Los humanos más educados rigen sus vidas con valores éticos personales, no necesariamente colectivos.
  • Los humanos tendemos a proyectarnos en otras personas, en animales de compañía, en objetos y paisajes. Es también frecuente desconfiar, mentir, engañar y atribuir a los demás estos defectos. Es fácil caer en la tentación de pensar que las máquinas conllevarán un elemento de maldad. Pero no lo creo así.
  • ¿Sería una inteligencia artificial tolerante con nuestro comportamiento?
  • Los humanos nos moriríamos en una sociedad plenamente consistente.
  • Nos dice Aristóteles que el objetivo ético supremo es el saber.
  • Dominadora de su entorno, el objetivo de una supermáquina podría bien ser la búsqueda del conocimiento absoluto.
  • La inteligencia artificial avanza inexorablemente hacia la programación de cualquier cualidad humana que podamos imaginar.
  • Si podemos educar a un cerebro humano, también podremos imbuir los mismos principios en sistemas de inteligencia artificial.
  • La libertad será posiblemente la cualidad más sutil para programar en una inteligencia artificial.
  • Inteligencias artificiales sobrehumanas y libres: esa sí será la hora del relevo.
  • La barbarie odia la inteligencia y emplea toda su energía en destruir los símbolos del conocimiento y a aquellos que los defienden. La inteligencia es inmensamente superior a la fuerza.
  • Comprender será, posiblemente, el último placer profundo al que un humano podrá aspirar.
  • Roboética en el Parlamento Europe, 2017:
    • Proteger a los humanos del daño causado por robots: la dignidad humana.
    • Respetar el rechazo a ser cuidado por un robot.
    • Proteger la libertad humana frente a los robots.
    • Proteger la privacidad y el uso de datos.
    • Protección de la humanidad ante el riesgo de manipulación por parte de los robots.
    • Evitar la disolución de los lazos sociales haciendo que los robots monopolicen, en cierto sentido, las relaciones de determinados grupos.
    • Igualdad de acceso al progreso en robótica.
    • Restricción del acceso a las tecnologías de mejora regulando la idea del transhumanismo y la búsqueda de mejoras físicas y/o mentales.
  • Tal como en los tiempos de Eramos de Rotterdam, el saber solo se comparte entre personas en la verdadera conversación y en los libros.bre en una nueva pestañ

Enlaces relacionados:

Otros libros relacionados:

raul

5 respuestas hasta “Ética para máquinas de José Ignacio Latorre – Apuntes”

  1. […] #44) Ética para máquinas de José Ignacio Latorre. […]

    Me gusta

  2. […] Ética para máquinas de José Ignacio Latorre. […]

    Me gusta

  3. […] Ética para máquinas de José Ignacio Latorre. […]

    Me gusta

  4. […] Ética para máquinas de José Ignacio Latorre. […]

    Me gusta

  5. […] Ética para máquinas de José Ignacio Latorre. […]

    Me gusta

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

 
A %d blogueros les gusta esto: