El dilema del Trolebus
Un auto autónomo se acerca a cierta velocidad hacia un grupo de personas, por lo que activa el sistema de frenado de modo de detenerse antes de embestirlas, sin embargo este sistema falla y el coche sigue a la misma velocidad en dirección al grupo.
El sistema reactivo de emergencia se inicia y revisa las dos posible acciones evasivas:
- Giro hacia la izquierda, que implica que se invadirá la pista que fluye en sentido contrario, con lo que se embestiría a los autos que transiten por ésta chocándolos con el consiguiente daño para los pasajeros que traen.
- Giro hacia la derecha, con lo que se invadirá la vereda en la que se encuentra un transeúnte solitario quien sería el único en salir dañado.
¿Qué opción debe tomar la Inteligencia Artificial que controla el auto?
Dilemas como el que precede, llevan un tiempo rondando por nuestras mentes. Isaac Asimov, en varios de sus cuentos, publicó numerosas paradojas de este tipo.
Sin embargo, ¿pueden llegar a presentarse realmente?
Para la respuesta definitiva a esto, habrá que esperar a que la tecnología llegue finalmente al punto en que las premisas que se plantean efectivamente sean una realidad. Mientras, podemos realizar el ejercicio de analizarlas y debatirlas, teniendo en cuenta que lo haremos con las limitaciones que nuestros propios sesgos.
Por ejemplo, el problema planteado se puede resumir a un problema de «mal menor» y tal como está planteado pretende que se abra un juicio valórico acerca de lo que una Inteligencia Artificial podría decidir llegado a ese punto.
Sin embargo, estamos dejando fuera algunas variables que en el momento de enunciarlo no estaban claras. Por ejemplo, los dispositivos inteligentes no solamente pueden monitorear lo que pasa alrededor de ellos, sino que pueden tener la capacidad de comunicarse entre sí, con lo que estarían capacitados para compartir información y coordinar sus actividades. En el caso que estamos revisando, el automóvil con desperfecto puede informar de su situación a los dispositivos cercanos, los que a su vez evaluarán el evento y se coordinarán para en conjunto tomar la mejor opción, que en este caso puede ser frenar o acelerar un poco para dejarle espacio para pasar. eso sin tomar en cuenta que una vez que los autos autónomos sean la regla, tecnologías como el mantenimiento predictivo van a estar a disposición y generalizadas de modo que una falla como la que se describe tendría una probabilidad de ocurrencia muy remota.
También, se puede complicar el escenario inicial, poniendo pasajeros en el auto por ejemplo o acotando el espacio de maniobra, y siempre podremos encontrar salidas coordinadas o tecnológicas. De cualquier forma, ¿tiene algún sentido seguir en ésta línea?
¿Quién tiene la culpa?
Otro tema que he visto con cierta frecuencia en los artículos que «se ocupan de la tecnología», es el tema de a quién hay que demandar por la culpa en un accidente. Lo cierto es que acá incluso se mezclan tecnologías como autos autónomos y autos de conducción asistida.
En los segundos, claramente hay un riesgo que es alto, y es el factor del error humano.
Hay que considerar que, si hay cierta automatización, la mayoría de las personas actúan en forma confiada como si no hubiera nada de que preocuparse y con una falsa sensación de seguridad que no es para nada conveniente, tal como lo he revisado en «A prueba de conductores» hace ya más de un año.
Y es que, en el afán de demostrar que la tecnología entraña peligros de los que tenemos que cuidarnos, estos analistas no dudan en mezclar situaciones y alcances tecnológicos completamente separados: no es lo mismo Coches autoconducidos que Coches asistidos por computadoras. Los primeros son sin duda infinitamente más seguros al eliminar el riesgo del error humano por lo que difícilmente nos enfrentaremos a esa pregunta, y en el segundo caso, ya sabemos quién la tiene.
¿Y los hackers?
Donde sí tenemos un riesgo latente y que aumentará a medida que los aparatos se incorporen en una interconexión global son los llamados ciberataques.
No es el dilema ilusorio que he revisado en la primera parte de este artículo. O el error humano del que hablamos en la segunda parte. Lo que en realidad debe preocuparnos es la posibilidad de un cibersecuestro o un ciberataque de este tipo de vehículos.
En este caso un humano (o grupo de humanos) utilizando algún medio tecnológico puede acceder al dispositivo móvil y hacer de inicio lo mismo que ahora hacen con los equipos conectados a las redes tradicionales: inutilizarlo, secuestrarlo o controlarlo. En cada uno de estos casos tenemos consecuencias mucho mayores que las que tenemos actualmente, ya que al ser dispositivos que tienen la capacidad de moverse en el espacio físico, tienen el potencial de causar daño en este también.
Volviendo al caso con que arrancamos este artículo…. si un atacante toma el control del automóvil en cuestión y deliberadamente lo dirige a una velocidad mayor a la que normalmente se usaría, hacia el grupo de personas y lo embiste, ¿Es la tecnología la peligrosa o es un humano el peligroso?
A pesar de todos los peligros , imaginarios o reales, que podemos preveer en el uso de esta nueva tecnología, lo cierto es que esta se va a imponer de cualquier forma. Es lo que nos debería haber enseñado ya la experiencia con otros cambios tecnológicos anteriores.
Así que hay que evolucionar, ya que no sólo los estos casos que he descrito se nos avecinan, la autonomía de los vehículos nos empuja hacia toda una evolución en nuestra manera de hacer las cosas y de relacionarnos con nuestras distintas actividades tal como lo expone José Lamas (http://www.cromo.com.uy/el-futuro-piloto-automatico-n1130129).
El cambio está en curso, nadie lo detiene a menos que un humano lo embista a toda velocidad.
Así que:
- Deje la discusión de las paradojas como la presentada, para cuando esté en una fiesta con sus amigos.
- No le eche la culpa a la Tecnología, lo más probable es que el culpable sea Ud.
- Sea consciente que detrás de cualquier aparato conectado puede haber un atacante esperando un descuido, así que úselo con cuidado.
La verdadera paradoja está en que creamos tecnología para nosotros…. a pesar de nosotros mismos.
This blog has been verified by Rise: Rce83668a34c6255ab6cb5824380acce1
Al igual que el año pasado, el 9 y 10 de Noviembre se realizó el summit anual que realiza Marcus Evans y que reúne a CIO’s de latino américa para que podamos intercambiar experiencias, compartir con proveedores y generar lazos que van más allá de relaciones profesionales o comerciales.
El tener a nuestros colegas financieros realizando sus presentaciones en la sala contigua a la de nosotros y compartiendo todos juntos en el área del café, nos ha proporcionado un espacio en la que podamos compartir nuestros puntos de vista, más que contrastarlo, como en el ámbito laboral comúnmente se hace. Sin duda cada quién nos llevamos un enfoque diferente acerca del otro que nos permitirá llegar al nivel de colaboración necesario para generar todas las soluciones que nuestros distintos negocios necesitan. El muro de los prejuicios ha empezado a caer.
Más allá de TI 
Comentarios recientes