La singularidad de Castellio
Filósofos y grandes humanistas fueron magníficos consiglieres. Sus consejos se basaban en un vasto conocimiento de diversas disciplinas y en un profundo sentido de la responsabilidad. La ética y la serenidad del cargo les llevó en ocasiones a amargos enfrentamientos morales, e incluso lo pagaron con su propia vida, como fue el caso de Séneca con Nerón.
Para aconsejar hace falta una conciencia libre volcada al conocimiento y aprendizaje. Este modelo de comportamiento y responsabilidad fue el que tuvo durante su azarosa vida, el perseguido Sebastián Castellio (probablemente el primer humanista de la historia). En la Ginebra del siglo XVI, este olvidado profesor universitario se enfrentó a todos los teólogos de su tiempo, calificando a Miguel Servet de víctima inocente y a Juan Calvino de verdugo dogmático de una fe cegadora reformista. Rechazó todos los argumentos de Calvino con sus inmortales palabras: “matar a un hombre no es defender una doctrina, sino matar a un hombre”. Asesor de varios nobles suizos, este humilde humanista proclamó el derecho a la libertad de conciencia: “buscar y decir la verdad, tal y como se piensa, no puede ser nunca un delito. A nadie se le debe obligar a creer. La conciencia es libre”.
En los tiempos actuales se considera que la filosofía no afecta al día a día de científicos y tecnólogos, pero el mundo que rodea a estos profesionales está lleno de cuestiones éticas y morales que influyen directamente en lo que hacen. Los hechos científicos no son opinables, pero su transcendencia sí.
“Necesitamos definir qué queremos ser y no qué podemos ser. Debemos ponernos de acuerdo acerca de cómo usar la tecnología para el bien común, y no únicamente para obtener beneficios y crecimiento”
Durante el siglo XX, la mayor parte de los filósofos que se han acercado a la tecnología han sido críticos con su impacto en la humanidad (Heidegger, Ellul, Arendt o Gehlen). Pero, por otro lado, en las últimas décadas los filósofos del ‘transhumanismo’ han virado 180 grados para convertirse en fans de la tecnología.
Pero volvamos por un instante a la importancia de la Libertad de Conciencia que introdujo Sebastian Castellio. La libertad, del latín libertas,-ātis, en sentido amplio es la capacidad de la conciencia para pensar y obrar según la propia voluntad de la persona. De la libertad llegamos al libre albedrío o libre elección como la creencia de aquellas doctrinas filosóficas según las cuales las personas tienen el poder de elegir y tomar sus propias decisiones. Se diferencia de la libertad en el sentido de que conlleva la potencialidad de obrar o no obrar.
Y de nuevo, al igual que Castellio, chocamos con Juan Calvino, que divulgó la idea de que Dios, en su soberanía, decidió quién iba a ser salvado desde antes de la Creación como está escrito en el “Sínodo de Dort”. Los calvinistas negaron el libre albedrío concluyendo que la voluntad humana, en vez de ser amo de sus propios actos, está rígidamente predeterminada en todas sus opciones a lo largo de su vida.
Al igual que Calvino, los Deterministas siempre han sostenido que todas las acciones humanas están predeterminadas y por lo tanto, la libertad es una ilusión. Siempre han intentado explicar los fenómenos naturales usando las matemáticas dando lugar así a la creencia de que todo en el Universo es predecible si se saben las condiciones iniciales. Parece que desde hace siglos estaban esperando a la Inteligencia Artificial (IA).
Pero, ¿podemos crear una máquina que imite al cerebro humano y dotar a la IA de libre albedrío? Hay dos posturas encontradas: a) una que dice que es posible que funciones mentales como la consciencia o el libre albedrío se desarrollen de una forma no computable (no algorítmica) lo cual impide que con nuestro actual conocimiento podamos copiarlo. b) La otra opción es que no hay nada en el libre albedrío que no podamos copiar. Se ha llegado a proponer la versión “Test de Turing Moral” y se cree que los algoritmos actuales tienen menos problemas en superar este test ético que el “Turing” original. En ese caso la IA podrá tomar decisiones como nosotros, incluso mejor que nosotros.
En un buen artículo de Rebeca Yanke en El Mundo, reflexionaba el futurista alemán Gerd Leonhard: “necesitamos definir qué queremos ser y no qué podemos ser. Debemos ponernos de acuerdo acerca de cómo usar la tecnología para el bien común, y no únicamente para obtener beneficios y crecimiento. La IA, la manipulación del genoma, la nanotecnología y la ingeniería climática son las cuatro áreas de preocupación en las que puede darse una carrera armamentística que podría derivar en una situación insalvable”.
Surgen muchas cuestiones respecto a nuestro futuro tecnológico-humanista. Sabiendo que el proceso de decisión es programable, ¿quién decide lo que decide un algoritmo?, ¿qué ética debemos programar con supervisión y quiénes deben ser los responsables identificables que codifican la subrutina ética? Y si lo llevamos a los órganos de gobiernos de grupos empresariales, ¿podrá la IA tomar decisiones que comprometan la sostenibilidad de la compañía? ¿Podremos construir un sistema jurídico basado en IA neutra?
El Catedrático de Física Cuántica, José Ignacio Latorre, en su libro Ética para las máquinas nos descubre la Singularidad tecnológica: “si construimos Inteligencias Artificiales cada vez más potentes y autónomas, llegará un instante en que un algoritmo podrá mejorarse a sí mismo… Cada IA diseñará a la siguiente que será aún mejor que ella misma. Ese proceso iterativo seguirá avanzando de forma imparable hacia una inteligencia brutal”. Habremos alcanzado la Singularidad. Se habrá creado una Inteligencia Superior Única.
¿Dotaremos de libertad a las máquinas y aceptaremos sus decisiones aunque no las comprendamos? Creo que frente a un futuro dogmatismo calvinista de una Inteligencia Superior Única, solo nos queda recuperar la “Singularidad” de Sebastian Castellio, y como buenos conselieres, preservar la Libertad de Conciencia y no confiar nuestra humanidad solo a la algoritmia.
