¿Muerte por algoritmo?

Nuestra época geológica en la que la humanidad, el Antropoceno, está dando forma al destino del planeta y se caracteriza por estar plagada de amenazas existenciales. Algunas de ellas se abordan en planes de acción como los Objetivos de Desarrollo Sostenible de las Naciones Unidas. Sin embargo, aparentemente estamos atrapados al medio: entre el saber que deberíamos cambiar nuestro comportamiento y nuestros hábitos arraigados.

En un mundo sobrepoblado, muchos se han preguntado: “¿Cuál es el valor de la vida humana?” La pandemia COVID-19 ha planteado este tema una vez más, enmarcando la interrogante en términos crudos: ¿Quién debería morir primero si no hay suficientes recursos para salvar a todos?

Muchas novelas de ciencia ficción, como TheTyranny of the Butterfly de Frank Schätzing, abordan preocupaciones similares y con frecuencia “resuelven” el problema del desarrollo sostenible en formas crueles que repiten algunos de los capítulos más oscuros de la historia humana. Y, la realidad no se queda de ninguna forma atrás. Es tentador pensar que podemos confiar en la inteligencia artificial para ayudarnos a superar estos dilemas. Se han debatido los temas de la despoblación y la eutanasia por computadora, y la inteligencia artificial ya se está utilizando para ayudar a clasificar a los pacientes con COVID-19. Los temas de la despoblación y la eutanasia por computadora  también ya se encuentran en discusión, y la inteligencia artificial ya se utiliza para ayudar con la clasificación, o “triaje”, de los pacientes con COVID-19.

Pero, ¿deberíamos dejar que los algoritmos tomen decisiones de vida o muerte? Consideremos el famoso problema del tranvía. En este ejercicio mental, si no se hace nada, varias personas serán aplastadas por un vagón desbocado de un tranvía. Si alguien cambia el tranvía a otra vía, menos personas morirán, pero la intervención de dicha persona matará.                   

Se ha sugerido que el problema es salvar vidas, pero de hecho la interrogante es: “Si no todos pueden sobrevivir, ¿quién tiene que morir?” Aun en ese caso, los males menores siguen siendo malos. Una vez que empecemos a encontrarlos aceptables, es inevitable que surjan preguntas espeluznantes, que pueden socavar los propios cimientos de nuestra sociedad y de nuestra dignidad humana. Por ejemplo, si un vehículo autónomo no puede frenar lo suficientemente rápido, ¿debería matar a una abuela o a una persona desempleada?

Se expresaron preguntas similares como parte del denominado experimento de la máquina moral, que recopilaba datos sobre preferencias éticas de participantes de todo el mundo sobre situaciones que involucraban vehículos autónomos, estos participantes debatieron con los investigadores sobre “la forma en la que estas preferencias pueden contribuir al desarrollo de principios globales y socialmente aceptables para la ética de la máquina”. Pero esos experimentos no se constituyen en una base adecuada para la formulación de políticas.

Las personas preferirían un algoritmo que fuera justo. Potencialmente, esto significaría tomar decisiones aleatorias. Por supuesto, no queremos sugerir que se debería matar a las personas al azar, o matarlas de cualquier otra forma. Esto está en contradicción con el principio fundamental de la dignidad humana, incluso si fuese una muerte indolora. En cambio, nuestro experimento mental sugiere que no deberíamos aceptar el marco del problema del tranvía tal como se presenta. Si un marco produce soluciones inaceptables, debemos emprender mayores esfuerzos colectivos para cambiar el entorno. Cuando se trata de vehículos autónomos, por ejemplo, podríamos conducir más lentamente o equipar a los autos con mejores frenos y otras tecnologías de seguridad.

Del mismo modo, los problemas actuales de sostenibilidad de la sociedad no fueron predeterminados, sino que fueron causados por nuestra manera de hacer negocios, nuestra infraestructura económica, nuestro concepto de movimiento internacional y la gestión convencional de la cadena de suministro. La verdadera pregunta debería ser por qué, casi 50 años después de la publicación del revelador estudio Limits to Growth, todavía no tenemos una economía circular y colaborativa. Y, ¿por qué no estábamos preparados para una pandemia, que es un suceso que fue ampliamente pronosticado?

Los grandes datos (big data), la inteligencia artificial y las tecnologías digitales nos han dejado sorprendentemente mal equipados para encarar los desafíos que ahora enfrentamos, ya sea el cambio climático, la pandemia COVID-19, las noticias falsas, los discursos de odio o incluso la ciberseguridad. La explicación es simple: si bien suena bien “optimizar” el mundo usando datos, la optimización se basa en una función de objetivo unidimensional que mapea la complejidad del mundo en un único índice. Esto no es ni apropiado, ni eficaz, y en gran medida ignora el potencial de los efectos inmateriales de la red. También subestima las habilidades humanas para resolver problemas y la capacidad de carga (también llamada capacidad de sustentación) del mundo.

La naturaleza, por el contrario, no optimiza; coevoluciona. Se desempeña mucho mejor que la sociedad humana en términos de sostenibilidad y redes circulares de suministro. Tanto nuestra economía como nuestra sociedad podrían beneficiarse de soluciones bioinspiradas que se asemejen a los ecosistemas, particularmente a los simbióticos.

Esto significa reorganizar nuestro mundo atribulado y desarrollar resiliencia y flexibilidad en la formulación de políticas y la cooperación internacional. Estas características distintivas de los sistemas sostenibles son de crucial importancia para adaptarse a las conmociones, las crisis y los desastres, similares a los que enfrentamos hoy en día, así como para recuperarse de todos ellos.

Se puede incrementar la resiliencia de varias maneras, incluyéndose entre ellas las redundancias, una diversidad de soluciones, la organización descentralizada, los abordajes participativos, la solidaridad; y, cuando proceda, la asistencia digital. Tales soluciones deberían ser sostenibles a nivel local durante períodos prolongados. En otras palabras, en lugar de “Learning to die in the Anthropocene” (Aprender a morir en el Antropoceno), como sugiere el título del libro escrito por Roy Scranton, deberíamos “aprender a vivir” en nuestros actuales tiempos difíciles. Este es el mejor seguro con el que contamos  para enfrentar sucesos que podrían forzarnos al atolladero moral de clasificar las vidas humanas según el método de triaje.

Este artículo fue publicado originalmente en Project Syndicate.