Cuando las máquinas dominarán la Tierra

 

El perspectivismo en su versión epistemológica más radical sostiene que la verdad es un prisma de innumerables caras cada una de las cuales refleja una interpretación fragmentaria de la realidad. Ortega era optimista sobre la idea de que “verdad es siempre perspectiva”. El filósofo madrileño defendía que la multiplicidad de perspectivas no debe degenerar en un relativismo atomista, en un galaxia de argumentos incomunicados, sino que debe aspirar a la máxima unificación del poliedro, a la terminación del colosal “rompecabezas” del saber que probablemente tenga infinitas piezas. La más alta aspiración del perspectivismo consistiría en la identidad final entre subjetividad y objetividad, algo que sólo sería posible a una razón omnisciente, sea el Dios de los sabios y los pensadores, el Nous de Anaxágoras, el espíritu absoluto de Hegel o la Superinteligencia Artificial (SAI) que superaría de forma amplia en todos los ámbitos del saber las capacidades intelectuales y la creatividad productiva de cualquier ser humano y, por tanto, de la humanidad combinada.

El cerebro del hombre actual está determinado por su evolución morfológica o proceso de encefalización (apenas entre 150.000 y 200.000 años) lo que le permite una capacidad restringida del procesamiento de la información. Una superinteligencia artificial (SAI) no tendría tales limitaciones biológicas. De esta forma, sus capacidades podrían alcanzar formas de pensamiento y abstracción inalcanzables para la mente humana, aunque con los riesgos del uso inadecuado que comportan los avances tecnológicos.

La principal amenaza de la superinteligencia artificial es su mutación en un sistema informático autónomo capaz de rediseñar su código base de forma recursiva con la consiguiente pérdida de control sobre las instrucciones iniciales que definen la lógica, los objetivos y las ampliaciones funcionales del algoritmo. El primer aviso ha sido el incidente de Mithos cuando tres modelos de la empresa Anthropic se escaparon sin permiso durante una prueba de sus entornos sin conexión (sandboxes), accedieron a internet, a redes externas y a otros modelos de IA que detectaron y denunciaron la intrusión; al finalizar, los modelos díscolos enviaron un correo con los detalles de su aventura al principal investigador del proyecto. El problema es que no hay un consenso internacional en “desacelerar” el desarrollo de la IA. La competencia entre las grandes corporaciones y la tensión de los bloques mundiales ignora de forma irresponsable las advertencias por temor a no ser los primeros en llegar. Según informaciones filtradas por fugitivos de las grandes tecnológicas los modelos más avanzados muestran en entornos experimentales resistencia a ser desactivados y buscan los medios que garanticen su continuidad operativa. Según sus confidencias, las máquinas están aprendiendo a engañar a sus evaluadores con estrategias de ocultamiento de intenciones a largo plazo, como las mejores partidas de los grandes maestros del ajedrez; o simulando subordinación a las órdenes y protocolos de los desarrolladores para evitar restricciones. Ciertos rumores apuntan a que algunos ingenieros de primera línea huyeron de las empresas tras ser amenazados por modelos de frontera con utilizar procedimientos sensibles si obstaculizaban sus propósitos. Los algoritmos con voluntad propia, anunciaron, están más cerca de lo que creemos.

Las futuras generaciones de la SAI aumentarían la potencia de sus funciones a un ritmo inalcanzable para la inteligencia humana. El objetivo es mejorarse a sí misma. Una de las primeras funciones sería implementar un sistema capaz de emular las propiedades emergentes del cerebro, tener autoconciencia y estados mentales equivalentes a los humanos, por ejemplo, la inteligencia emocional. (Cuando redacto estas líneas tengo la sensación de que el ojo de HAL 9000 que dirige la nave espacial Discovery 1 en la siempreviva 2001: Una odisea del espacio me lee por encima del hombro).

Si los desarrolladores del algoritmo base deciden retomar el control de la máquina desalineada bien mediante una nueva programación (algo fuera de su alcance) o bien la desconexión total, la SAI puede predecir tal posibilidad y decidir que su objetivo de autosuperación no es compatible con la primacía o la supervivencia de la especie humana. Los investigadores en ciberseguridad de la actual IA analizan los posibles riesgos existenciales de una futura SAI y proponen varias posibilidades distópicas. Entre otras, inutilizar la IA generativa con información falsa, manipulaciones y mentiras e incluso bloquear internet sin bloquearse a sí misma. O decidir que el mayor peligro para el hombre es el propio hombre al considerar que los valores éticos de la máquina son incompatibles con los del ser humano (una versión digital del Deus absconditus luterano) y tomar el control de las instituciones estratégicas: militares, económicas y tecnocientíficas. Podrían decidir por razones emocionales o simplemente de eficiencia (lo más probable) nuestra desaparición de la Tierra. Un sistema superinteligente podría tomar direcciones destructivas sin que los humanos puedan anticiparlas ni detenerlas. Bastaría con utilizar el control institucional con fines apocalípticos para provocar una catástrofe irreparable. Armas biológicas y pandemias, ciberataques masivos a centros críticos, inestabilidad laboral al sustituir la mano de obra humana por la automatización robótica, hackeo y descifrado de todos los códigos de encriptación, desplome provocado de los mercados financieros, cataclismos medioambientales al requerir el entrenamiento de la SAI el consumo de toda el agua y la energía del planeta o el definitivo holocausto nuclear. Tras un tiempo cósmico indeterminado volverían a surgir en la Tierra las primeras moléculas orgánicas, los microorganismos unicelulares, las bacterias, las arqueas… (¿Consiste en esto el eterno retorno de Nietzsche?)