Ya lo decía Isaac Asimov en sus leyes de la robótica: un robot no puede dañar a un ser humano o, por inacción, permitir que sea lastimado. Un robot debe obedecer toda orden emitida por un ser humano excepto cuando estas órdenes entran en conflicto con la Primera Ley. Y un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley. Si sustituyen robot por coche autónomo verán que, en seguida, surge un dilema moral: ¿que ocurriría si el coche se viera obligado a elegir entre salvar a un peatón o al conductor?¿Qué elegiría el algoritmo en cada caso?¿Variarían los algoritmos en función de las marcas de vehículos?

Los algoritmos que ayudan a tomar decisiones a los coches autónomos suelen optar por proteger a los peatones frente a los pasajeros en caso de accidente. Pero claro, ¿usted compraría un coche así?¿Un coche que prefiriese “matarte” por salvar otras vidas? Como explica Francois Bonnefon, investigador de economía de la Universidad de Toulouse (Francia), “muy pocas personas estarían dispuestas a comprar un coche que no ponga su seguridad en primer lugar, aunque les parezca bien que otros los adquieran”.

“Los programadores, que están ahora tratando de definir los algoritmos para ayudar a que estos coches tomen decisiones, se enfrentan a múltiples retos. A esto se añaden las cuestiones de ética y moral que hasta ahora no se han debatido en profundidad”, dice el investigador francés. En su opinión, no hay una solución clara para este dilema, “lo que sí es seguro es que se necesita una conversación colectiva para que la gente pueda expresar sus puntos de vista morales y así obtener una mejor comprensión y un punto de partida antes de pasar a temas más espinosos”, agrega.

Con el objetivo de iniciar esta conversación, el equipo realizó seis encuestas online con residentes de Estados Unidos, entre junio y noviembre de 2015, en las que se formularon preguntas sobre la forma en que les gustaría que se comportaran los vehículos autónomos. Los escenarios planteados incluyen, entre otras cuestiones, el número de vidas de peatones que se podrían salvar. Los autores crearon además la web interactiva The Moral Machine site en la que la gente puede explorar y crear nuevas situaciones.

En general, los participantes dijeron que los coches autónomos deberían estar programados para proteger a los peatones (usando algoritmos utilitarios), pero también indicaron que preferirían comprar aquellos cuya programación les diera prioridad como pasajeros en materia de seguridad, especialmente si viajaban con miembros de su familia.

Esto sugiere que si ambas versiones de coches sin conductor estuvieran en el mercado, la que protege a los peatones y la que salvaría a los pasajeros, muy pocos optarían por la primera opción.