Patricia Galiana Abrimos nuevo debate en IEBS. Esta vez enfocado a nuestros propios límites, a los límites de la tecnología, a cómo hacemos uso de ella y cómo ella puede automatizar prácticas de nuestra vida diaria. ¿Acabará la tecnología controlando nuestras vidas si es que no lo ha hecho ya? Hablaremos de cómo los coches autónomos pueden decidir sobre la vida de sus conductores y de los peatones.
En torno a este tema, te invitamos a que participes a través de Twitter con el hashtag #DebateIEBS y poder así expresar tu opinión. Dentro de un mes, recopilaremos las mejores opiniones y publicaremos un artículo enfocado a las diferentes soluciones y opiniones que planteáis tras la lectura de este artículo.
Imagina que tienes un coche inteligente, que decide por ti. Sois tres personas viajando en el mismo vehículo que, te recuerdo, decide por ti. En la siguiente curva, hay un grupo de diez personas que cruza repentinamente y va a producirse un accidente. ¿Qué ocurre? Efectivamente, el coche decide por ti. ¿Qué decide? Atropellar al menor número de personas. ¿Por qué? Porque está programado para salvar el mayor número de vidas aunque no decida salvarte a ti, el conductor del automóvil.
Índice de contenidos
¿Debería existir un coche que decide a quién matar?
En torno a una tecnología que envuelve a este tipo de coche autónomo decisorio para salvar vidas, surge un tema moral que hace que nos surjan muchas cuestiones. ¿Tendría yo este tipo de coche? ¿Es ético que un coche esté programado para decidir quién muere y quién no?
Si se trata de debatir sobre la ética en el uso tecnológico, la seguridad es un asunto que nos concierne a todos pero ¿las reacciones vienen acompañadas de la proximidad? Si nos ocurre a nosotros, quizás queramos hablar más del tema, pero también debemos tratar la ética en lo ajeno. Seguramente prefieras no tener ese coche, tal y como lo muestra un estudio publicado por Science pero, ¿querrías que ese coche lo tuvieran los demás?
El estudio descubre grandes contradicciones morales que pueden retrasar los coches autónomos o los llamados coches de nivel 5. Tras la encuesta, el resultado refleja que “aunque los encuestados sí aprueban los vehículos autónomos que podrían sacrificar a los pasajeros para salvar a los otros, prefieren no conducirlos. Además, tampoco aprobarían regulaciones de autosacrificio ”.
Este razonamiento fruto de cuestiones éticas hace que las personas no estén por la labor de comprar un coche autónomo y prefieren ser ellos los que tomen las decisiones. ¿Quién quiere un coche que pueda elegir sacrificarte? Esta decisión, según genera la encuesta, podría retrasar la aplicación de una tecnología más segura.
Quién aplica de forma autónoma su propio criterio moral, es otro de los temas a tratar. El coche, tú o la compañía automovilística. Corporaciones como Uber, Volvo o Ford se han conglomerado como lobby y tienen influencia en las políticas venideras del sector.
Master online
Con el master entenderás como funciona una empresa digitalizada y serás capaz de gestionarla y organizarla para diseñar estrategias de crecimiento
¡Quiero apuntarme!Pero para llegar al nivel 5, ese nivel automovilístico en el que el ser humano no tendrá que hacer nada al montarse en el coche, la sociedad tendrá que pasar por el nivel 3 (los coches más avanzados de hoy) y el nivel 4 o “alta automatización” (para el que tenemos que esperar, por lo menos, cuatro años). De momento ya se han lanzado las primeras previsiones, el confundador de Lyft predice la muerte del coche tradicional en 2025.
Ética en tecnología: muerte al piloto automático
La compañía estadounidense de coches eléctricos Tesla utiliza una tecnología basada en cámaras, radares y utrasonidos para reconocer el entorno en el que se mueven los vehículos. Una realidad que ya parece estar superando la ficción: la compañía ha anunciado que sus modelos de nueva producción serán autónomos, rompiendo los esquemas de las predicciones.
Tesla se vio envuelta hace unos meses en polémica cuando un hombre de 40 años falleció mientras conducía un Tesla Model S al colisionar con un camión. La compañía declaró que es la primera muerte en más de 209 millones de kilómetros con el piloto automático activado, frente una media de una muerte por cada 96 millones de kilómetros cuando conduce un humano. Sin duda, un caso con implicaciones éticas sobre la toma de decisiones y de la responsabilidad en caso de accidente.
Aunque todavía no nos hemos topado con el gran salto de inteligencia artificial en las carreteras, diferentes personalidades del mundo de la tecnología ya han opinado y se han visto respuestas de todo tipo planteando soluciones, todas con una base ética. Por ejemplo, la adopción de un sistema más seguro que permite que todos los coches inteligentes se comuniquen entre ellos.
Y tú, ¿qué crees? Es momento de que muestres tu opinión respondiendo a las preguntas
- ¿Crees que la automatización podría llevarnos a una pérdida de la ética y la moral?
- ¿Dejarías que tu coche decidiera si te mata o no?
- ¿Deberían existir estos coches?
- ¿Qué alternativas plantearías?
Ante la revolución tecnológica y de Internet, las empresas digitales buscan profesionales con una formación específica y multidisciplinar , capaces de adaptarse a cambios en entornos líquidos y muy veloces. Si quieres convertirte en un profesional , adaptarte a las características del mundo digital, liderar la innovación y el cambio en la empresa tradicional y dirigir empresas digitales , descubre el Master online.
Master online
Con el master entenderás como funciona una empresa digitalizada y serás capaz de gestionarla y organizarla para diseñar estrategias de crecimiento
Es un debate muy interesante, sobre todo porque formamos parte de una sociedad que más temprano que tarde va a poner en esa tesitura a los ciudadanos de a pie, o sea, que ya no será un debate meramente digital, sino que nos veremos frente a este tipo de decisiones en la vida diaria, constantemente. Es cierto, además que tanto el género literario como el cinematográfico han abordado este tipo de cuestiones en infinitud de ocasiones. Me viene a la mente la película «Yo, robot», con Will Smith.
Personalmente, considero que una máquina puede estar perfectamente programada para actuar en distintas situaciones. Sin embargo, ¿qué nos asegura que la inteligencia artificial alcance a la inteligencia humana? Es decir, cuando yo me encuentro en una situación de riesgo, en un microsegundo todo mi ‘yo’ valora la situación y todos sus elementos desde el raciocinio y también desde el corazón. Para que nos entendamos, una máquina no decidiría salvar a 1 en vez de a 10, solo porque ese 1 sea mi hijo.
Yo, como humana, puedo valorar todos los factores que acompañan una situación. Si que es cierto que no tengo tanta precisión con el manejo de los datos, pero es que precisamente por eso creamos las máquinas. Por su precisión. Porque son capaces de procesar lo técnico con mayor rapidez y veracidad que nosotros (no se cansan, no tienen las hormonas alteradas, no sufren, no enferman… Todos factores que limitan al hombre). Pero no utilizarán el corazón, los sentimientos, el alma. Eso es intrínsecamente propio del hombre, y es lo que nos permite tener sentido de la ética. Por eso creo que no deberíamos dejar estas decisiones exclusivamente en manos de la tecnología, debería ser tan solo una ayuda, un apoyo.
Pongamos el caso de que soy yo la que va conduciendo y se me cruza un grupo de peatones repentinamente. No creo que la pregunta que me plantee en ese momento sea ¿los mato a ellos o me mato yo?, entre otras cosas porque no se suele contar con mucho tiempo para pensar en este tipo de situaciones, pero supongo que mi instinto me llevará a tomar la decisión que considere más acertada procurando causar el menor daño posible. Evidentemente la maniobra que efectúe puede no salir como esperaba, pero será consecuencia de una decisión humana en una situación extrema, no una decisión programada a través de un algoritmo.
Creo que los avances tecnológicos generan multitud de ventajas y nos facilitan la vida en la mayoría de los casos, pero considero que aún no estamos preparados para asumir la pérdida el control a la hora de tomar decisiones éticas o morales, es más, creo que no deberíamos perder nunca ese control.
Hola a todos,
creo que la educación en valores tiene gran relevancia en la ética y comportamientos de las personas tanto en el ámbito personal como profesional.
Con respecto al caso de los coches autónomos, considero que el límite estaría en la capacidad de toma de decisiones en función de la situación que se plantee.
Saludos,
Cómo entender el futuro con la mentalidad del pasado?
Mark Prensky ya definió el concepto de inmigrante y nativo digital, igual que nos pasó con los móviles, nos pasará con la movilidad, no con los coches, con la movilidad.
Llegará un modelo, un killer model que arrasará con todo, el ejemplo del móvil, es brutal, no solo ha matado el teléfono de cable de casa, las cabinas de la plaza, ha matado todo!!, las cámaras de fotos, las agendas, los gps, los chats, las consolas…
No podemos predecir el futuro, es más fácil si lo creamos, y ahora todo parece encaminado hacia el coche autónomo, pero quien sabe, quizá algún accidente importante, se cargue el proyecto a nivel mundial, quizá aparezcan nuevos requerimientos legales y nuevos tipos de permisos de conducir este tipo de vehículos, normativas restrictivas… por ejemplo si el coche conduce solo, puede ir en él un conductor ebrio!!!.
Quizá no haya que tener respuesta para todas las preguntas, solo la determinación y constancia de cambiar el futuro y responder a las preguntas y a los problemas según vayan apareciendo.
Considero que las personas siempre debería estar por encima de las máquinas, aunque da un poco de miedo el tema de la inteligencia artificial. Si se continúa con esta investigación sin un control del poder, podríamos llegar a tener coches de este tipo. Yo desde luego no compraría ni me gustaría que se pusieran a la venta este tipo de productos con IA.
No sé si la implantación de coches autónomos nos llevaría a una pérdida de la ética y la moral. Más bien creo que durante la conducción dejaríamos de ejercer nuestra ética y moral para dejarnos llevar por la del frabricante del vehículo. Lo que puede suponer incluso que la ética y la moral a aplicar en caso de accidente sean distintas en funcion de la marca de cada coche autónomo.
Si lo pienso fríamente no me gustaría nada que el coche decidiera matarme para salvar a otro. Probablemente, en muchos accidentes actuales los conductores fallezcan al intentar evitar una colisión con otra persona pero creo que es algo tan instantáneo y tan humano que es asumible cuando te pones al volante. En cambio, no me provoca la misma sensación saber que el coche está programado para provocar mi fallecimiento en un caso similar.
Tampoco sé si deberían existir los coches autónomos. Puedo hacerme a la idea de muchas de sus ventajas pero no estoy muy segura de que realmente sean vitales y fundamentales. La tecnología avanza tan rápidamente que muchas veces perdemos el sentido de la utilidad real en favor solo del supuesto progreso.
No sé que alternativa se podría proponer pero sí se me ocurre otra pregunta: ¿quién pagaría el seguro? Entiendo que el conductor y propietario tuviese la obligación de contratar un seguro como los actuales, que cubriría cualquier accidente que él provocara.
Pero si fuese el coche quien lo provocara ¿quién pagaría?, ¿la empresa fabricante? Ellos son los que han programado sus decisiones. Se puede sobreentender que el propietario asume la programación del coche al comprarlo pero, en ese caso, habría que conocerla completamente porque puede que el coche tome una decisión que yo desconozco y con la que no estoy de acuerdo. ¿Y por qué iba a tener que ser responsable de algo que ha decidido el coche autónomamente, que no comparto y que yo no habría hecho?
Este tema me ha recordado de la película Sully, que cuenta la historia de la hazaña de un piloto que tuvo que acuatizar en el río Hudson. Una de las frases del piloto fue: “Los dos motores perdidos a 850 metros de altura seguidos de un acuatizaje con 155 almas a bordo. No entrenan a nadie para algo así.” Todos las simulaciones computadorizadas decían una solución y la mano humana dijo otra. Tal vez el computador tendría matado las personas. Por eso creo que estas decisiones no se pueden dejar para un computador. La tecnología hay que evolucionar para interactuar con el hombre con velocidad para que esta toma de decisiones sea humana.
En mi opinión, creo que ya han decidido por nosotros. Los aviones, trenes, barcos, semáforos, red de aguas, presas, centrales nucleares, silos nucleares ; por nombrar unos cuantos aparatos y redes de comunicación que pueden matar bastantes humanos; ya están decidiendo por nosotros , y si vemos el resultado , …son bastante seguros¿no?.
Para mí , la solución seria coches inteligentes comunicados con una red global; tipo la de los semáforos, una red como la que cada día decide por nosotros si frenas o aceleras ( teniendo en cuenta que si se equivoca y aceleras en rojo 🙁 estas muerto)
Y sí , un botón de pánico para devolvernos el control del vehículo, no vendría mal. Saludos
Definitivamente no estoy ni estaría dispuesta a que un coche tome las decisiones al momento de conducir. Vivo en Quito-Ecuador y aquí, por ejemplo, hay que tener los cinco sentidos alertas al momento de conducir, más aún si vas con niños en el auto como es mi caso. No podría dejar en manos de una computadora la vida de mi familia al momento de conducir. Creo que los seres humanos podemos hacer uso de la tecnología de mejor manera, para cosas que realmente sean necesarias y útiles, que ayuden a hacer un mundo mejor. Llevamos tal vez 165 000 años como humanidad, como homo sapiens y solo en los últimos 60 o tal vez 100 años nos hemos inventado cosas como éstas del coche.
Muy de acuerdo con todos. El avance de la tecnología traerá muchos beneficios a las personas y ayudará a construir un mundo más eficiente y cómodo para todos. Pero también deberíamos preguntarnos si, en el caso de los vehículos, la automatización provocará que se dejen de hacer esfuerzos por educar y concienciar a las personas en temas como educación vial. A pesar de que utilicemos coches completamente autónomos, que seguramente traerán beneficios considerables , es muy importante que no decaigamos en ética y moral ya que, si eso sucediera, sí podría llegar el momento en el que las máquinas se impongan a los humanos.
Hola, pues creo que cuanquier avance en tecnologia siempre trae dudas morales o éticas, pero en el caso de los coches autónomos creo que serán muchos mas benefícios los que recibiremos de esta tecnologia que problemas, para empezar una conducción dentro de la velocidad límite de la via, cosa que hoy en dia solo se va a la velocidad reglamentaria cuando hay cerca un radar, por otro lado el uso de los carriles adecuado, gran parte de los conductores que deben ser accionistas del carril central ya que no lo sueltan aunque estén formando cola detras. Otro beneficio puede ser el carsharing, el coche te va a buscar a casa, te lleva al trabajo y luego se va a buscar otra persona cerca que le haga falta transporte, y a la hora de plegar que lo tengas en la puerta esperando, todo esto haria un mundo mas eficiente, muchos menos accidentes (ya que los coches están atentos a lo que tienen delante y no al whatsapp), menor polución y mejora en la fluidez del tráfico. Es imposible que no haya accidentes, todavia hay gente que es atropellada por trenes, asi que…
Muy de acuerdo Oscar, creo que en proporción será más beneficios que negativo para la sociedad. ¿Pero crees que siempre si o si ha de existir el control máximo del humano sobre las máquinas? Que en caso de fallo, el humano tenga total libertad para no provocar un desastre, por ejemplo: si te das cuenta que un coche está conduciendo mal y vas dentro de él, puedas anticiparte a cualquier accidente de manera rápida y exitosa. ¿Qué opinas? Y por otro lado, crees que la sociedad está verdaderamente preparada para estos cambios de tanta magnitud? Un saludo!
Es interesante el nivel de autonomía que se ha venido aplicando a los vehículos, muy apropiado para mejorar la movilidad de personas con capacidad de mivilidad reducida que necesiten de ayudas para desplazamientos, sería interesante como esos aportes se pudiesen adecuar para casos especiales en que una persona no tiene el 100% de capacidad para controlar el vehículo, que funcione como un complemento, pero de ahí a que la máquina sea la que tome la decisión final no creo que sea tan viable, por muchos algoritmos que se desarrollen para la automoción considero necesaria la intervención humana en decisiones de ese nivel.
debe habe run razonamiente racional y coherente de las tecnologías y su proporcional razonable. El humano y la máquina (humanización y como soporte de ayuda) y no al revés como primero las máquinas y luger el ser humano y desumanización) todo a su debido respeto y proporcional, además de razonamiento.
Me parece que la decisión final debería ser siempre de un humano. Aunque luego pienso en el accidente de GermanWings y me hace dudar otra vez. ¿Se está levantando Skynet?
Hola,
personalmente creo que nunca la tecnología controlará a las personas, ya que son los humanos quién a configurado a las máquinas. En el caso de Tesla, me parece muy interesante también lo que Volvo está probando con sus coches por Suecia http://www.volvocars.com/pe/m%C3%A1s-volvo/nuestas-marcas-innovadoras/intellisafe/piloto-autom%C3%A1tico Y lo más importante, reducirá mucho el consumo de combustible, algo que no podemos olvidarnos por la importancia que tiene. ¿Que pensáis? ¿Conviene o no?