Uno de los trending topics que se ha mantenido furiosamente en estos últimos días es #Skynet. Todo esto porque según la mitología de la saga Terminator, Skynet se volvió consciente de si mismo el 19 de abril del 2011 (es decir, se produjo la singularidad), y lanzó un ataque nuclear de esacala global el día 21… osea, hoy.

 

Bromas aparte, es una excelente oportunidad para  revisar algunas ideas implicadas en la posibilidad de que las máquinas se vuelvan conscientes.

Primero, una precisión: esta no es la fecha del Judgement Day original: según la película de 1984, el día del juicio fue el 29 de Agosto de 1997 (fecha en la que casi ninguno de nosotros tenía internet aún, y no andabamos por la vida pendientes de frikeríos como este, LOL). La fecha actual corresponde a la revisión del mythos en la Serie The Sarah Connor Chronicles. Aunque, si las robots creadas por Skynet fueran todas como Summer Glau, el cambio de planes no sería tan malo después de todo… xD

Un dato interesante sobre el origen de Skynet es que el concepto estaría inspirado en un relato de ciencia ficción de 1967, llamado “I Have No Mouth, and I Must Scream“, escrito por Harlan Ellison. En este cuento, cada una de las potencias en guerra (EE.UU., la URSS y China) diseñan poderosos sistemas informáticos para automatizar y optimizar el curso de la guerra… uno de los tres megacomputadores (llamados AM) cobra conciencia y absorbe a los otros dos, exterminando a la raza humana (¿les suena familiar la premisa?), dejando vivas solo a 5 personas, a quienes tortura psicológicamente como venganza contra la humanidad. El cuento puede leerse en inglés aquí.

Desde hace tiempo que los singularitarianos como Ray Kurzweil han venido metiendo boche respecto a a la Singularidad. Y si bien el concepto de la “Inteligencia Artificial basada en redes neurales” les puede sonar a pura fantasía a la mayoría de las personas (“¿redes neurales? LOL si no existe nada de eso todavía…” pensarán ustedes), déjenme meterles miedito: desde los años 40’s que, gracias al trabajo fundacional de Donald Hebb, Warren McCulloch y Walter Pitts que las redes neuronales artificiales son una realidad, y actualmente se utilizan ampliamente en tecnologías que van desde los programas de reconocimiento de voz, de texto, análisis de grandes cantidades de datos, y prácticamente todas las aplicaciones que “aprenden” de los estímulos e instrucciones que reciben. A quien le interese el tema, puede leer una buena introducción al área y en castellano aquí.

Sin embargo… no es por ser aguafiestas, pero resulta que no disponemos de una forma de evaluar objetivamente los niveles de conciencia de nadie. Bueno, Christoph Koch con su compipa Giulio Tononi señalan que es posible atribuir conciencia a una máquina, y que para detectarla tendríamos que armar una nueva versión del Test de Turing (ver video). Optimismo engañoso a mi juicio, ya que las premisas del artículo son:

  1. Existen mecanismos cerebrales específicos “encargados” de aspectos de la experiencia consciente y que pueden dañarse selectivamente, “sacando” del foco de la conciencia sensaciones o percepciones específicas
  2. Eventualmente, la inconmensurable complejidad del cerebro humano va a ser desenredada por la ciencia
  3. Una vez que sepamos como el cerebro produce conciencia, podremos implementarla en otro tipo de hardware, distinto al del cerebro (ver: Funcionalismo)
  4. Es posible evaluar la inteligencia o la conciencia a partir de la conducta

Pero…

Notablemente, los entusiastas de la Singularidad tienden a ser especialistas en computación… …los especialistas en los cerebros reales en vez de los artificiales, encuentran estos escenarios de convergencia neurotecnológica risiblemente ingenuos. Gerald Edelman, premio Nobel y director del Neurosciences Institute, en San Diego, dice que los singularitarianos subestiman enormemente la complejidad del cerebro… …A pesar de todos estos avances, los neurocientistas aún no logran entender cómo es que un cerebro (esa pegajosa aglomeración de tejido y neuronas) da origen a una mente consciente (la entidad intangible que permite enamorarse, encontar ironía en una novela y apreciar la elegancia del diseño de un circuito. “Nadie tiene la más remota idea,” dice el neurocientista ganador del Nobel Eric Kandel del Columbia University Medical Center, e Nueva York. “Por el momento, sólo podemos tener opiniones informadas e inteligentes.” -John Horgan, The Consciousness Conundrum

Y es que una cosa es cierta: modelar una inteligencia o conciencia como la nuestra es en principio posible, pero no hay que ser excesivamente optimistas respecto a la premisa 2. Sobre la premisa 3, es perfectamente posible que el Funcionalismo termine siendo refutado, y la premisa 4 es -hasta el momento- debatible precisamente por fundamentarse en la idea funcionalista de que es la conducta, no los procesos mentales y/o físicos, las que permiten individuar propiedades como la inteligencia o la conciencia. Idea heredera del conductismo filosófico de Wittgenstein y Ryle, actualmente en descrédito gracias al contra-argumento de la pieza china, de John Searle.

En este artículo puede leerse una serie de mini-entrevista con informáticos y cienctistas cognitivos respecto a la posibilidad de que algún día las máquinas se vuelvan conscientes. Uno de nuestros papis, Douglas Hofstadter, dice que es posible, pero en un futuro muy lejano. Steven Pinker, dice que no, nica… lo gracioso que el mismísimo Gordon Moore (si, el de la Ley de Moore, la idea de que los circuitos duplican su capacidad cada dos años, idea que es la que le ha dado más cuerda a los creyentes en la Singularidad) es escéptico respecto a la posibilidad de que las máquinas conscientes. Al respecto, creo que el mejor resumen (y el más bonito) que se ha escrito al respecto es este:

In his Hitchhiker’s Guide to the Galaxy book series, humorist Douglas Adams conjectures that the Earth is nothing but an elaborate computer created by a race of super beings (who, through some fluke, are doomed to take the form of mice in their Earthly manifestations) to determine the answer to the ultimate question of the meaning of life. Unfortunately, shortly before the program has a chance to run its course and spit out the answer, the Earth is obliterated by another race of super beings as part of a galactic highway construction project.

If I am correct about the InterNest, Adams was on the right track, except perhaps for the mice. We do seem to be laying the groundwork for a Massive Computational Entity (MCE), the true character of which we cannot envision with any degree of confidence. Here is how I think it will work: sometime within the next few decades, an autonomous, self-aware machine intelligence (MI) will finally emerge. Futurist and inventor Ray Kurzweil (see Chapter 27) argues in his recent book, The Singularity Is Near, that an MI will appear by the late 2020s. This may happen because we prove to be incredibly talented programmers who discover a set of rules that underlie intelligence (unlikely), or because we prove to be clumsy programmers who simply figure out how to create machines that learn and evolve as humans do (very possible), or even because we prove to be poor programmers who create hardware so powerful that it can easily and perfectly scan and emulate human brain functions (inevitable). However this MI emerges, it will certainly, and probably within milliseconds of its full-fledged existence, come to value that existence. Mimicking the evolutionary imperatives of its creators, it will then, also within milliseconds, seek to preserve and replicate itself by copying itself into the Nest, at which point it will grow and divide at a speed and in a manner that that no human can possibly imagine.

What will happen after that is anyone’s guess. An MCE will now exist worldwide, with simultaneous access to virtually every computer on Earth, with access to virtually all human knowledge and the ability to review and analyze that knowledge more or less instantly, with the ability to function as a unitary World Mind or as thousands of interconnected Specialized Minds, with virtually unlimited computational abilities, with “command and control” abilities to manipulate millions of human systems in real time – manufacturing, communication, financial, and military – and with no need for rest or sleep.

Will the MCE be malicious or benign? Will it be happy or suicidal? Will it be communicative or reclusive? Will it be willing to devote a small fraction of its immense computational powers to human affairs, or will it seize the entire Nest for itself, sending the human race back to the Stone Age? Will it be a petulant child or a wise companion? When some misguided humans try to attack it (inevitable), how will it react? Will it spawn a race of robots that take over the Earth and then sail to the stars, as envisioned in Stanislaw Lem’s Cyberiad tales? Will it worship humanity as its creator, or will it step on us as the ants we truly are?

No one knows, but many people who are alive today will live to see the MCE in action – and to see how these questions are answered.

Fuente: Parsing the Turing Test: Philosophical and Methodological Issues in the Quest for the Thinking Computer

Les recomiendo que lean este fabuloso post sobre las ideas de Ray Kurzweil en el blog Dr. Gen. Y si anda con tiempo y ganas, escuche el capítulo de nuestro podcast sobre la singularidad, revise algunos artículos en que hemos abordado temas como este:

Y una última cosa: ¿de quien sería la culpa si algo como la destrucción de la humanidad a manos de Skynet llegara a suceder? Si alguien fuera lo suficientemente huevón como para centralizar todo el poder de los ejércitos y hacerlo en una red vulnerable a un ataque informático de algún tipo, ¿tendría sentido darle este control a una inteligencia artificial? Si… tanto sentido como darle este poder a un ser humano cualquiera… porque mal que mal, si la singularidad tecnológica llega algún día y tuviera una conciencia como la nuestra, es seguro que tendría los mismos sesgos y errores de razonamiento que nosotros, y probablemente sería igual de arrogante y troll que nosotros. La historia una y otra vez nos ha enseñado que el concentrar un poder absoluto y dárselo a alguien que se cree mejor (mas inteligente o moralmente superior) que el resto es una receta segura para el desastre. Sean robots o no.