La Máquina de las Respuestas

Años atrás, haciendo una tarea para el colegio, encontré una cita, atribuida a un artista famoso, la cual decía que los computadores eran inútiles porque solo podían dar respuestas.

Mis recuerdos al respecto se difuminaron con el tiempo y, por muchos años, cuando recordaba dicha frase, la atribuía erróneamente a algún escritor latinoamericano, de esos que le hacen leer a uno en el colegio.

Hace unos días, cuando empecé a reunir información para este nuevo post, me di cuenta que la frase se le atribuye a Pablo Picasso. Creo que dicha autoría es aún más pertinente para el tema que revisaremos hoy (aunque la razón la trataremos en un post futuro).

Sin lugar a dudas, los computadores, junto con el software que los hace funcionar, son de bastante utilidad. La sociedad actual sería imposible sin aquello que llamaremos la "Máquina de las Respuestas".

Para guiar mejor la discusión, es bueno definir qué es exactamente una "respuesta".

En términos muy simples, entenderemos por "respuesta" a la información que nos entrega el computador para satisfacer una petición que se le hace. Dicha petición no necesariamente tiene el formato de una pregunta. Puede ser texto, un par de clicks en la pantalla del computador, imágenes, etc.

Asimismo, la respuesta puede ser en diferentes formatos. Cuando buscamos en Internet alguna información, estamos enviando una pregunta a un computador en otro lugar del mundo y éste nos entrega una respuesta en forma de texto, imágenes, multimedia o de algunas maneras menos ortodoxas.

-- La Máquina de las Respuestas entrega información útil.

 

Antaño, los computadores eran más difíciles de usar. La forma de hacerle preguntas requería un fuerte entrenamiento en matemáticas, electrónica y otras disciplinas afines. Los formatos de las respuestas también eran complejos de entender.

Pasaron las décadas y los computadores pasaron de ser un aparato de laboratorio a un objeto de uso diario, no muy distinto a un electrodoméstico. La mayoría de los avances que lo permitieron, consistieron en formas de preguntar y responder de manera análoga a como los humanos interactuamos entre nosotros y con objetos de uso cotidiano.

Un hito muy importante fue el primer intento de emular, en un computador, el uso de lápiz y cuaderno. El Sketchpad, creado en 1961, permitía realizar tareas en un computador usando un "lápiz de luz" y una pantalla donde se podía dibujar y señalar.

Otro evento importante fue la madre de todos los demos, en 1968. En aquella ocasión se presentaron  tecnologías que son la base de las oficinas modernas: computadores de uso personal, con pantalla, teclado y mouse, procesadores de texto, conexiones de red y videoconferencia.

Por supuesto, no hay que olvidar el Internet, cuyos orígenes se remontan a 1969. Su principal utilidad, en un principio, era crear una conexión resiltente entre computadores a través de múltiples rutas. Con la creación de la Web, en 1989, se hizo más fácil para usuarios no expertos, navegar a través de la información.

-- La Máquina de las Respuestas se volvió más amigable y conocedora

 

Con algunas excepciones, la mayoría de los avances de las siguientes décadas fueron mejoras incrementales de lo anterior. La reducción en el precio de los computadores y redes facilitó su masificación. De manera similar, cada vez más personas y organizaciones pudieron conectarse a través de Internet.

Un hito más reciente fue la creación del primer iPhone. El paradigma de interacción, basado en usar uno o varios dedos para manipular una pantalla se sigue usando, sin cambios sustantivos, en la actualidad.

El resto de la historia la mayoría lo conoce: buscadores, mensajería instantánea, redes sociales, su masificación global gracias a bajos costos, facilidad de uso y conectividad en todo lugar.

En la actualidad la "máquina" se puede guardar en el bolsillo. Cuando tenemos una duda, podemos sacarla y preguntarle.

-- La Máquina de las Respuestas responderá diligentemente.

 

Todas estas tecnologías eran argumento de ciencia ficción hace algunas décadas. Basta con mirar series de los 60s a los 90s para corroborarlo.

Probablemente la más representativa es Star Trek. Ya en su versión original de los 60s se veían aparatos no muy distintos a computadores portátiles, tabletas y celulares.

Sin embargo, entre todos esos ingenios, hay uno que aún no se ha hecho del todo realidad:

La interacción verbal con un computador usando lenguaje natural.

Muy probablemente, al lector se le vendrá a la mente Alexa, Google Assistant, Siri y un sinnúmero de otros asistentes personales, como razones suficientes para refutar lo anterior.

Si bien estos servicios hacen un trabajo bastante bueno de reconocer la voz del usuario, sus respuestas aún dejan mucho que desear.

-- La Máquina de las Respuestas, cuando le preguntamos verbalmente, aún no entiende bien lo que le decimos.

 

Sin embargo, hemos llegado a un punto de inflexión en el desarrollo tecnológico. Una nueva tecnología que puede generar cambios grandes en la forma de interactuar con los computadores:

Los Modelos Grandes de Lenguaje (Large Language Models o LLM).

En términos simples, un LLM es un software. A dicho software se le puede suministrar un texto escrito en lenguaje natural. El LLM es capaz de completarlo, "adivinando" qué palabras, frases o párrafos serían los más probables que le sucedan, de tal forma que el texto completo parezca "coherente" o sea similar a algún texto existente.

Por ejemplo, si a un LLM le damos el texto "Un elefante se balanceaba", el LLM es muy probable que responda "sobre la tela de una araña".

¿Cómo se logra esto?

La creación de un LLM requiere "entrenarlo". Dicho entrenamiento consiste en tomar muchos textos, remover palabras de ellos aleatoriamente y pedirle al LLM que intente adivinar cuál es el texto que se removió. El resultado de dicho entrenamiento, las "entrañas" del LLM, se almacena en algo denominado los "parámetros", concepto análogo a las neuronas y sus conexiones entre sí.

Mientras más parámetros tenga un LLM, mientras más textos se hayan usado en su entrenamiento, mejor debería ser su desempeño.

Esta tecnología no es particularmente nueva. La razón por la cual se popularizó en los últimos meses fue por los resultados exitosos de crear un LLM muy grande y, posteriormente, hacer un trabajo intensivo de fine tuning para mejorar sus respuestas:

ChatGPT.

Dado que ChatGPT fue entrenado con textos de muchos tipos, tiene en sus "entrañas" información de muchos dominios. Cuando le formulamos una pregunta sobre un tema, su respuesta consiste en "adivinar" cuáles serían las frases más probables que habría que escribir a continuación para responder a esa pregunta.

Si dentro de los textos que se usaron para entrenarlo hay alguno pertinente, esto se reflejará en las respuesta que entregue.

Debido a las características de este LLM, dichas respuestas tienden a estar muy bien redactadas y son particularmente convincentes.

-- La Máquina de las Respuestas, puede entender lo que le decimos verbalmente y es capaz de entregar una respuesta adecuada...

Un momento!, no lleguemos a conclusiones apresuradas!

Confieso que, cuando tuve acceso por primera vez a ChatGPT, estuve horas "conversando" con la "máquina". La experiencia se sentía muy similar a hablar con la "computadora" de Star Trek.

Mis interacciones fueron, de dos tipos: preguntas técnicas especializadas y creación interactiva de argumentos para novelas.

Para el primer tipo, me sorprendió la calidad de muchas respuestas. Cuando la pregunta es directa, no excesivamente compleja y el LLM ha sido entrenado con suficientes textos sobre el tema, las respuestas tienden a ser casi indistinguibles de las que entregaría un experto humano.

Para el segundo tipo, si bien tiende a generar historias relativamente genéricas, con un diálogo adecuado, se pueden crear argumentos bastante interesantes.

A pesar de lo anterior, ChatGPT aún tiene limitaciones importantes.

En general, no es capaz de retener información de los diálogos como lo haría un humano medianamente inteligente.

Por ejemplo, en las conversaciones técnicas, a veces no tiene en cuenta elementos de sus propias respuestas, en la elaboración de las siguientes. Para la generación de historias, tiende a olvidar detalles argumentales importantes que se han dialogado previamente, a confundir personajes o cambiarle los nombres y sus características.

Pero, por sobre todo, ChatGPT tiene todavía un gran defecto que lo diferencia de la "computadora" de Star Trek.

Cuando uno le pregunta sobre algo que no existe, o para lo cual no conoce una respuesta, ChatGPT tiende a fantasear, inventar respuestas, decir cosas claramente no veraces.

En esas situaciones, ChatGPT no es capaz de decir:

"Unable to comply".

-- La Máquina de las Respuestas aún no sabe cuándo callarse.

Sistemas adaptativos y libre albedrío

La divagación que les contaré hoy nació de recordar mis primeros pasos en Internet, en el remoto año 1995. 

En aquella época tuve la suerte de acceder a un computador con conexión a Internet en la universidad donde estudiaba, un lujo al cual pocos tenían acceso. Desde allí pude visitar los pocos sitios web que existían en esa época, como por ejemplo la página más antigua de la Web. 

También tuve acceso a una cuenta en un servidor que, a través de Telnet, podía revisar correo electrónico y, a través de FTP, publicar páginas web. 

Con estas herramientas creé uno de los sitios web más antiguos del norte de Chile, el cual tenía información sobre astronomía. Su versión original se puede acceder a través de archive.org. 

Ciertamente, la calidad del sitio distaba mucho de lo que uno acostumbra a ver en la actualidad. Esto se explica, en parte, por los escasos conocimientos que tenía de diseño gráfico (sí, pueden reírse a mis expensas). Sin embargo, la principal razón era la limitada capacidad de los computadores y el software de la época. 

Uno de los principales inconvenientes de dicho sitio es que era estático, es decir, siempre mostraba el mismo contenido a los usuarios. Si quería hacer un cambio, como por ejemplo actualizar la página de noticias, tenía que modificar manualmente un archivo para agregar la noticia.

Pasaron los años, la tecnología mejoró y también mis conocimientos de diseño gráfico y programación. A principios del año 2000, con un grupo de amigos, armamos un sitio para poner información de nuestro pasatiempo de aquella época. Visualmente, la página era un poquito mejor que la página de astronomía (sí, pueden seguir riéndose a mis expensas). Sin embargo, la principal ventaja es que la página era dinámica.

Cada vez que uno quería agregar una nueva noticia, bastaba con ingresar a la página con las credenciales de usuario y publicar a través de un formulario (suena familiar?). Versiones posteriores de dicha página proveían funcionalidad similar al muro de Facebook, el cual podía ser actualizado por todos los usuarios suscritos a la página y cada usuario podía filtrar las noticias del "muro", de acuerdo a sus preferencias.

Actualmente, ese dinamismo ha aumentado sustancialmente. Los sitios actuales pueden ser creados dinámicamente y de manera colaborativa. Al acceder a un sitio, cada usuario voluntaria o involuntariamente manifiesta qué cosas quiere ver y qué cosas no. Los sitios web, de manera "inteligente" le muestran información más adecuada a cada uno dependiendo de sus gustos y preferencias.

Un ejemplo clásico es Nexflix. Este sitio permite ver películas y series directamente en el navegador o el celular. Además de su funcionalidad primaria, Netflix tiene una característica muy interesante. Cada vez que vemos un video, Netflix aprende qué nos gusta y qué no y luego sugiere qué series o películas nos interesaría ver e, incluso, estima el rating que le daríamos a un video particular a partir de nuestro historial de uso del sitio.

Otro ejemplo muy conocido es Amazon. De manera similar a Netflix, Amazon aprende de sus usuarios y sugiere otros productos para comprar a partir su historial de compras. Si alguien compra un saco de dormir, el sitio le sugerirá comprar colchones inflables, carpas y linternas. Si alguien compra una cámara fotográfica, el sitio le sugerirá comprar trípodes, bolsos y tarjetas de memoria.

Lo anterior nos lleva al tema de hoy, los sistemas adaptativos. En términos simples, un sistema adaptativo es aquel que modifica su comportamiento dependiendo de la información que reciba del exterior. 

Netflix y Amazon pueden considerarse sistemas adaptativos, ya que se comportan de manera diferente dependiendo de la información que reciben de cada usuario. Netflix sugiere diferentes películas a cada persona, dependiendo de los gustos y preferencias que infiera de cada una. Amazon recomienda diferentes productos dependiendo de lo que el usuario haya comprado previamente.

Netflix y Amazon son la punta del iceberg en el área de sistemas adaptativos. En los últimos años se han masificado otras aplicaciones adaptativas, cuyas capacidades son cada vez más interesantes.

Consideremos, por ejemplo, Google Now. Esta aplicación se instala en el celular y le recomienda al usuario diferentes cosas dependiendo de su localización, hora del día y otros elementos, particularmente los correos de su cuenta de Gmail.

Recuerdo que cuando lo activé en mi celular, Google Now se dio cuenta rápidamente cuál era la dirección de mi trabajo y de mi casa, a partir de la localización reportada por el celular a diferentes horas del día. Más aún, en las mañanas me indicaba cuánto me iba a demorar en llegar al trabajo y, en las tardes, cuánto me iba a demorar en llegar a mi casa.

La cosa se puso un poco más tenebrosa impresionante cuando empezó a capturar la información de mis itinerarios de vuelo que llegaban a mi correo electrónico, luego de comprar pasajes de avión. 

Al principio, me avisaba unos días antes del vuelo para que no me olvidara de hacer el check-in. Sin embargo, lo que me hizo tomar el tema en serio fue un día que iba a viajar en avión y la aplicación me dice:

Debes salir dentro de 10 minutos si quieres llegar a tiempo al aeropuerto.

Si bien en términos tecnológicos, lo anterior no es particularmente complejo. Lo realmente preocupante son las proyecciones de esta tecnología en un futuro cercano. 

Si los sistemas adaptativos siguen mejorando a la tasa actual, cabría esperar dentro de unas décadas, sistemas que nos hagan recomendaciones sobre casi cualquier aspecto de nuestras vidas, inclusive, que pudieran tomar las decisiones en lugar de nosotros.

Las motivaciones para hacer sistemas adaptativos que tomen decisiones son muchas, ya que en varios escenarios podrían ser muy beneficiosas. Por ejemplo, las tecnologías asociadas a Quantified Self permitirían a una persona saber con mucho detalle su estado se salud. Un sistema adaptativo combinado con lo anterior podría, por ejemplo, despachar medicamentos automáticamente para tratar ciertas condiciones de salud del usuario o llamar automáticamente a un médico o un servicio de urgencia si estima que el usuario podría tener un problema de salud dentro de unas horas o días.

Además del ámbito médico, otras aplicaciones de los sistemas adaptativos serían aquellas enfocadas a la satisfacción de los deseos de un usuario. Este es un escenario inquietante, precisamente por la capacidad potencial de dichos sistemas de anticipar y satisfacer dichos deseos.

A primera vista podría no parecer tan preocupante. Sería como tener un sirviente que siempre está preocupado de mantenernos contentos. Dicho sirviente sería, además, un psicólogo, médico, psiquiatra altamente competente que nos conocería mejor que nosotros mismos. Si la persona quisiera tomar una limonada, no tendría que decirlo; el sistema adaptativo ya lo habría anticipado y tendría la limonada ya preparada y heladita. Si la persona empezara a pensar en un par de zapatos nuevos, el sistema ya los habría comprado en una tienda online. 

El principal problema son las implicaciones que tendría para el libre albedrío. El libre albedrío es el poder que tiene uno de tomar decisiones, las cuales requieren acciones de parte nuestra. Cuando dejamos que un sistema adaptativo satisfaga nuestros deseos, estamos removiendo las acciones que deberíamos ejecutar producto de nuestras decisiones.

En otras palabras: Si en respuesta a nuestras decisiones, las acciones las realiza un sistema adaptativo, el libre albedrío perdería su razón de ser.

Más aún, si un sistema adaptativo fuera capaz de medir mucha información sobre nosotros y tomar decisiones a partir de esa información, también estaría sustituyéndonos en el proceso de toma de decisiones.

En el momento en que un sistema adaptativo decidiera por nosotros, estaríamos renunciando al libre albedrío.

Para la mayoría de la gente que valora la posibilidad de decidir sobre sus propias vidas, este escenario sería un futuro horrible. 

Las consecuencias ya ha sido exploradas por autores de ciencia ficción. Un ejemplo emblemático es La Raza Feliz, donde las máquinas se encargan de satisfacer todas las necesidades de los seres humanos.

Sin ánimo de incluir spoilers, les cuento que el final no es feliz.

Sólo queda preguntarse, ¿cómo evitar semejante distopia?

Difícil respuesta, considerando que Google Now me está diciendo que hay menos tráfico que hace un rato y sólo demoraría 20 minutos en llegar a mi casa. 

Creo que terminaré aquí mi divagación.

Sinestesia e interfaces cerebro-computador: ¿Hasta donde se asimilan las percepciones de lo físico y lo digital?

Hace dos navidades me regalaron un Theremin, un instrumento musical muy poco convencional. El Theremin es un instrumento electrónico que genera los sonidos dependiendo de la distancia de la persona hacia dos antenas que salen del instrumento. Una de las antenas controla la frecuencia y la otra el volumen. Esto produce un efecto escénico interesante, ya que el intérprete en ningún momento entra en contacto físico con el instrumento y parece estar tocando "en el aire".

Si bien aún no soy capaz de usarlo con la precisión de una persona experta, poco a poco estoy aprendiendo a tocar notas sin desafinar.

Al margen de mis propias habilidades musicales, un efecto lateral de aquel regalo fue el renacimiento de mi interés por la música electrónica, particularmente por la síntesis de sonido.

Los instrumentos tradicionales difieren sustancialmente de los instrumentos electrónicos. Los primeros utilizan fenómenos físicos más "mundanos" para generar sonido (corrientes de aire, oscilación de cuerdas, percusión). Los segundos, en cambio, utilizan circuitos electrónicos, los cuales generan y procesan señales eléctricas que son, finalmente, traducidas a sonidos.

Uno de los instrumentos electrónicos más populares de las últimas décadas es el sintetizador. Lo interesante de este artefacto es la cantidad enorme de combinaciones y modificaciones que permite hacerle a una señal de sonido. Mientras los instrumentos tradicionales generan sonidos con timbres relativamente restringidos, los sintetizadores tienen una variedad que depende, principalmente de la habilidad del músico y su imaginación. No en vano, un sintetizador profesional puede ser bastante difícil de configurar y utilizar.

Cuando se trata de sonidos, sintéticos o naturales, hay un aspecto que tiene mucha relación y es la forma en que el cerebro humano procesa los estímulos externos y los combina con experiencias propias. Un fenómeno particularmente interesante es la Sinestesia, aquella capacidad del cerebro de mezclar las percepciones de diferentes sentidos.

En lo personal, "sufro" de un grado muy alto de Sinestesia, particularmente en la asociación entre sensaciones auditivas y otros sentidos. Al igual que muchas personas que tienen esta característica, mi actitud hacia la música y, en especial, al sonido de los instrumentos, es particularmente favorable.

La Sinestesia es difícil de explicar a personas que no la tienen. En mi caso particular, los sonidos pueden tener color, forma, sabor, olor, textura y, en algunos casos, posición en un espacio abstracto. Por ejemplo, el sonido de un violín lo percibo con la forma y textura de una cinta de regalo desenrollada, con colores desde el rojo hasta el café, dependiendo de la frecuencia. El sonido de un estornudo lo asocio a una forma semejante a una concha de ostión de color calipso, mientras que el de la tos es como una mancha de tinta negra irregular. Algunos sonidos de sintetizadores me hacen evocar el sabor de una alcachofa untada en vinagreta, mientras que los instrumentos y voces usadas en rock pesado me saben a frutas ácidas liofilizadas.

La sinestesia es, sin lugar a dudas, una experiencia sumamente interesante.

Lo anterior tiene implicaciones importantes en la música y los sonidos de los instrumentos. Muchas personas, a menudo basadas en este concepto, exploran formas alternativas de hacer música, por ejemplo la Música Policromática. Otras van más allá de lo musical, explorando la esencia de los sonidos, a menudo en formas interpretadas como cacofonía por la gente más conservadora. En esos casos, cobra más importancia la experiencia sinestésica del sonido, por sobre la armonía, la estética y el ritmo.

En otras palabras, estas ramas esotéricas de la síntesis de sonido son el equivalente auditivo de la cocina molecular.

Todo lo anterior nos lleva al tema principal de esta publicación: las implicaciones que tendría la Sinestesia en el futuro.

Hace unos años atrás hable en este blog sobre una interfaz cerebro-computador, un artefacto que, en un futuro relativamente cercano, podría conectar en forma directa las neuronas de una persona con un computador. Tal conexión sería órdenes de magnitud más veloz y completa que las actuales interfaces, como el teclado, ratón, monitor o, incluso, la realidad virtual. En aquella publicación analicé los escenario de uso de estas interfaces por los "nativos cyborg", niños que desde pequeños estarían conectados a un computador a través de este mecanismo.

Si una persona creciera, desde su niñez, con un computador conectado a su cerebro, cabría esperar que la integración entre la parte orgánica de la persona y el hardware fuera muy alta. En otras palabras, si en una persona normal, el desarrollo del cerebro estaría asociado a una mayor conexión, coordinación e integración entre sus neuronas orgánicas, en un "nativo cyborg", dicho fenómeno se daría en forma similar, con los componentes de hardware del computador.

¿Qué relación tiene lo anterior con la Sinestesia?

Podemos asumir, en forma razonable, que el fenómeno de Sinestesia se produce por una integración inusual entre las partes del cerebro que procesan diferentes percepciones sensoriales. En una persona normal, la Sinestesia estaría asociada a los sentidos más comúnmente utilizados: vista, oído, gusto, olfato, tacto. Un "nativo cyborg", en cambio, no estaría limitado a esos sentidos, sino a cualquier sensor que se pueda conectar a un computador. Un "nativo cyborg" podría ver en otras longitudes de onda, escuchar ultrasonidos o infrasonidos, "sentir" la información proveída por otros sensores de hardware: giróscopos, interruptores, etc. Podría, incluso, percibir la información de sensores de software, los cuales miden elementos muchos más abstractos: la velocidad de una conexión, la latencia de una señal, el tamaño de un paquete de información en la red, etc.

Bajo esa premisa, surge una pregunta sumamente interesante.

¿Cómo se manifestaría la Sinestesia en los "nativos cyborg"?

En este punto cualquier cosa que diga sería como un ciego tratando de entender una pintura de Monet. Dado que nuestros sentidos actuales son tan limitados, lo único que queda es hacerse más preguntas.

¿Qué sabor tendría un número entero de 32 bits? Cuál sería la textura de una operación aritmética sobre datos de punto flotante? Cuáles serían las imágenes que evocaría una archivo MP3 muestreado a 48kHz?

Por sobre todo, ¿qué otras sensaciones que desconocemos generarían las percepciones de todos los posible sentidos que tendría a su disposición un "nativo cyborg"? Probablemente ninguno de nosotros será capaz de contestar a esas preguntas.

Por el momento solo puedo decir que el sonido del Theremin me sabe a spaguetti con salsa de tomate.

Cuando la palabra "Robot" sea políticamente incorrecta: Implicaciones de un futuro sin Singularidad Tecnológica.

En varias publicaciones previas he discutido la posibilidad de un futuro donde ocurra una Singularidad Tecnológica, aquel momento en el cual una Inteligencia Artificial (IA) Fuerte sea capaz de automejorarse exponencialmente. Este escenario tiene diversas implicaciones, algunas buenas y otras no tanto, las cuales espero seguir discutiendo en publicaciones futuras.

Un tema recurrente en algunas personas que tratan este tema es suponer que la Singularidad Tecnológica es inevitable, algo que tarde o temprano sucederá. Muchos consideran la ocurrencia de la Singularidad Tecnológica casi un dogma, algo que va a ocurrir en el futuro en forma similar al retorno del Mesías.

Sin embargo, es muy importante tener en cuenta que la Singularidad Tecnológica no es una certeza, sino una posibilidad, un escenario potencial. 

En la práctica, la Singularidad Tecnológica depende de varias condiciones, principalmente relacionadas con la velocidad del desarrollo tecnológico y las leyes naturales. 

Por un lado está la Ley de Moore, la cual postula que la densidad de componentes electrónicos en los circuitos integrados se duplica cada 18 meses. En términos burdos, se puede entender como que la capacidad de los computadores se duplica al transcurrir cada intervalo. Una condición para propiciar la Singularidad es que la Ley de Moore se cumpla durante el suficiente tiempo para producir un hardware capaz de soportar una IA Fuerte.

Por supuesto, lo anterior no es suficiente para asegurar el surgimiento de una Singularidad. Otro factor importante es el desarrollo científico y tecnológico en torno a Inteligencia Artificial, el cual debería progresar sin contratiempos para, en algún momento futuro, crear el software de una IA Fuerte.

Las dos condiciones anteriores, mejoramiento del Hardware y del Software, son los elementos básicos para asegurar el surgimiento de la Singularidad Tecnológica en el futuro.

Como corolario a lo anterior habría que agregar la siguiente condición: una vez surja una IA Fuerte, las leyes físicas deberían permitir, efectivamente, la automejora exponencial requerida para producir una Singularidad.

Cualquiera de las tres condiciones anteriores podrían no cumplirse. Particularmente la primera y tercera están fuertemente restringidas a parámetros físicos de nuestro universo. Por ejemplo, la ley de Moore podría dejar de funcionar una vez se llegue a los límites físicos impuestos por el tamaño partículas subatómicas y la velocidad de la luz. Los primeros restringen el nivel máximo de miniaturización de los componentes electrónicos, mientras que el segundo limita la velocidad de transmisión de información entre ellos.

La segunda condición es aún más incierta, dada la dificultad de predecir con precisión el rumbo que puede tomar la generación de nuevo conocimiento.

Independiente de la factibilidad de una Singularidad Tecnológica, hay algo sobre lo cual podemos tener una certeza razonable: Es posible crear una inteligencia del nivel de la humana.

La prueba somos nosotros mismos.

El escenario que quiero discutir hoy es uno donde sí sería posible crear una Inteligencia Artificial Fuerte, pero ésta no sería capaz de automejorarse de manera sustancial. En otras palabras, la Singularidad Tecnológica no se produciría, pero sí existirían entidades con una inteligencia similar a la nuestra.

Este tema ha sido ampliamente tratado en la Ciencia Ficción, donde podemos encontrar varias posibles alternativas: desde entidades inteligentes incorpóreas viviendo en Internet, hasta seres físicos conscientes. A estos dos tipos de entes los llamaremos, por el momento, "Robots Inteligentes".

La existencia de los Robots Inteligentes produciría cambios sustanciales a la sociedad. En algunos casos se transformarían en competidores de los seres humanos; en otros, no llegarían a ser más que esclavos.

Quizás la situación más probable sea una que mezcle las dos anteriores.

En sus inicios, el surgimiento de los Robots Inteligentes derivaría de un fin utilitario. En otras palabras, serían inicialmente concebidos por los seres humanos para resolver nuestros propios problemas.

Sin embargo, en la medida que dichas entidades sean más y más conscientes de su lugar en el universo, podrían adquirir motivaciones similares a los seres humanos. El problema es cuando dichas motivaciones dejaren de estar alineadas con los fines utilitarios para los cuales fueron inicialmente concebidas.

En otras palabras, el problema es la posibilidad de emancipación y conflicto con los seres humanos.

Lo anterior también ha sido ampliamente tratado en la literatura, desde Frankenstein a Terminator y a la trilogía de Calibán. Dicha emancipación puede producir efectos similares a algunas revoluciones pasadas, cuando grupos grandes de personas han intentado obtener su independencia o su libertad.

Es aquí cuando retomo la palabra "Robot". Dicho término se utiliza por primera vez para referirse a entidades inteligentes en la obra de teatro Checa Rossum’s Universal Robots. La palabra Checa "Robot" puede traducirse como "siervo" o "esclavo". Si bien esta historia usa el término "Robot" para referirse a una suerte de clones humanos hechos de materia orgánica, obras literarias posteriores lo utilizan para referirse a entidades mecánicas inteligentes.

Volviendo al tema de la emancipación, si los Robots Inteligentes logran su independencia y la humanidad no es exterminada o subyugada en el proceso, pueden ocurrir dos situaciones: que los Robots terminen formando su propia nación o se integren a la sociedad humana.

En ambos casos, los Robots y los humanos tendrían que seguir interactuando. 

Si la inteligencia que subyace a los Robots fuera similar a la nuestra, cabría esperar que compartan nuestra sensibilidad. En ese sentido, la palabra "Robot", cuyo significado original es "esclavo", podría resultar siendo ofensiva para entidades que recién hayan obtenido su libertad.

Si este escenario ocurriera, en el futuro la palabra "Robot" sería políticamente incorrecta. 

¿Qué palabra tendremos que usar en su lugar?

La palabra "Androide" no es muy adecuada, ya que su raíz etimológica significa algo similar a un hombre. Si los ex-robots fueran asexuados, esta palabra no tendría mucho sentido.

La palabra "Autómata" también tiene algunos inconvenientes, ya que se puede interpretar como algo que funciona por sus propios medios, sin tener, necesariamente, pensamientos de orden superior.

La palabra "Replicante" podría ser aún más inadecuada, ya que seguiría manteniendo la idea de entidades creadas "a imagen y semejanza" de los humanos. En forma similar, la palabra "Sintético" tiene la connotación de algo que no es real.

En fin, al terminar el conflicto, la emancipación y la posible integración entre la sociedad humana y los ex-robots, es difícil saber cómo querrán ser denominados.

Quien sabe, probablemente la palabra más adecuada sea, simplemente, "Persona".

Realidad sintética e implicaciones de una Inteligencia Artificial Fuerte

Hace un tiempo atrás vi la segunda película del Planeta de los Simios (el último remake). Algo que me sorprendió fue la calidad de las gráficas 3D que utilizaron para simular los simios.

Es la primera película donde no pude diferenciar entre los personajes sintéticos y los personajes reales. Los renderizados de los simios me parecieron prácticamente indistinguibles de las imágenes captadas por la cámara. Basta recordar la última escena, donde sale un close-up de la cara del protagonista, para constatar que dicha tecnología está muy avanzada. 

Lo anterior tiene una serie de implicaciones importantes.

Desde sus comienzos, el cine se ha usado como una forma de presentar una realidad alternativa a la del espectador, para situarlo en universos paralelos donde pueden ocurrir cosas plausibles y otras no tanto. El éxito de la industria cinematográfica se debe, principalmente, al deseo del público de trasladarse temporalmente a esos mundos paralelos.

Esta necesidad de alienación ha impulsado el desarrollo de otras tecnologías similares: videojuegos ultrarrealistas y realidad virtual (RV). En forma similar al cine, los videojuegos y la realidad virtual deben parte de su éxito al deseo de las personas de experimentar situaciones que de otra forma no podrían conocer, ya sea debido a su alto riesgo o, simplemente, porque las leyes de la física o el azar no lo permiten.

Llamemos a esto, Realidad Sintética.

Sería razonable pensar que, dentro de unos años, las tecnologías de realidad sintética permitan engañar totalmente al espectador, en forma similar a como, durante 2 horas de película, los simios me parecieron de carne y hueso.

En otras palabras, supongamos que en el futuro exista un dispositivo capaz de engañar nuestros sentidos con una Realidad Sintética Total, la cual sea indistinguible del mundo real para el usuario no experto.

Con una tecnología así, pueden pasar muchas cosas. 

La que muchos se imaginan es una una distopía estilo Matrix, donde toda la humanidad estaría sumergida en una realidad sintética compartida. Ese escenario es algo que podría pasar, aunque por motivos un poco más plausibles que el utilizar a los seres humanos como fuente de energía.

El escenario que quiero discutir es similar: uno que involucraría una Inteligencia Artificial Fuerte y motivos bastante diferentes a los de Matrix.

Para comenzar,  voy a hacer una aseveración polémica: La mayoría de los problemas del mundo se deben a que las personas quieren satisfacer sus deseos a costa del resto.

Pensemos, por ejemplo, el caso de las guerras. Una nación quiere algo que tiene la otra: territorio, recursos, etc. y la invade para obtenerlos. La nación atacante quiere satisfacer sus deseos de poder y riqueza a costa de otra nación.

Existen otros ejemplos más mundanos: El delincuente que le roba a otra persona quiere satisfacer sus deseos de riqueza a costa de los recursos de otra persona. En una empresa, un mal gerente se vale de sus subordinados para satisfacer sus ansias de poder y autoestima. Un empleado perezoso se vale del trabajo de otros para satisfacer sus deseos de hacer nada.

Sin querer argumentar mucho más, considero evidente que muchos problemas del mundo surgen de este tipo de situaciones.

Consecuentemente, uno se pregunta: ¿Cómo satisfacer los deseos de cada persona sin que los demás se vean afectados negativamente?

A primera vista, la Realidad Sintética Total podría ayudar a resolver ese problema. ¿Alguien quiere viajar a París de vacaciones y no tiene plata? No necesita robarle plata a nadie. Conéctese al computador y simule un viaje a París. ¿Quiere salir con una actriz/actor famoso pero no

tiene posibilidades? Simúlelo con su dispositivo de realidad sintética.

A muchos esto les parecería insuficiente o inadecuado, por el simple hecho que vivir la "verdadera realidad" es un aliciente bastante fuerte. Esta situación podría limitar severamente la aplicabilidad de esta tecnología para resolver los problemas del mundo.

Sin embargo, hay que tener en cuenta otro elemento importante. Estamos asumiendo que la Realidad Sintética Total es indistinguible de la "verdadera realidad". Luego, sería relativamente fácil engañar a una persona para que no note que ha sido trasladada a dicha realidad. Supongan, por ejemplo, que una persona se sumerge en una realidad sintética y, dentro de ella, le hacemos creer que se ha desconectado y vuelto al mundo real. La persona seguiría en el mundo simulado creyendo que está experimentando la "verdadera realidad".

Las implicaciones de esto son muy interesantes. ¿Qué hacer con un sicópata sediento de sangre? Engáñelo para que se conecte a una realidad sintética y dejará de molestar. ¿Que hacer si hay un país gobernado por corruptos que lo único que quieren es enriquecerse a costa de los que pagan impuestos? Enchúfelos al computador y serán felices teniendo un país completo de entes digitales a los cuales explotar.

Por supuesto, la factibilidad de conseguir lo anterior depende de algunos factores: (a) Determinar que una solución de ese estilo sea éticamente viable, (b) poner de acuerdo a mucha gente para engañar a un sujeto con una realidad sintética y (c) que el dispositivo para generar la realidad sintética sea fácil de implantar en muchos individuos de manera imperceptible.

El factor (a), por obvias razones, requeriría una larguísima discusión que estaría fuera del alcance de este artículo. Junto con el factor (b), hacen poco probable que la Realidad Sintética se use en el mediano plazo para los propósitos planteados.

Sin embargo, lo anterior parte del supuesto que serían los seres humanos los cuales tengan la potestad exclusiva para crear esta tecnología y decidir a quiénes sumergir en una realidad sintética.

En el caso que una Inteligencia Artificial Fuerte (llamémosle IA de ahora en adelante) surja dentro de los próximos años, entraría en juego una entidad con dos características importantes. Primero, debido a la Singularidad Tecnológica, podría desarrollar rápidamente la tecnología requerida para una Realidad Sintética Total. Segundo, al ser una entidad no humana, podría no estar restringida a los cánones éticos de nuestra sociedad.

Aunque los objetivos y motivación de dicha IA son difíciles de predecir, es muy probable que el Complejo Frankenstein afecte de manera importante sus acciones. El Complejo Frankenstein hace referencia al miedo y odio de los humanos hacia una creación de esa naturaleza, lo cual generaría deseos de destruir la IA. Consecuentemente, la IA intentaría protegerse de los seres humanos, ya sea ocultándose de ellos, destruyéndolos o neutralizándolos. 

En otras palabras, la IA estaría alineada con la idea de controlar, directa o indirectamente, los deseos de los seres humanos, no para mejorar el mundo, sino para su propia sobrevivencia. 

Para una IA, la Realidad Sintética Total sería un arma increíblemente efectiva. Esto se debe a que, en muchos casos, ni siquiera sería necesario sumergir a todos los seres humanos en dicha realidad. Sólo bastaría manipular de forma sutil aspectos de la "realidad verdadera", en forma más refinada a como lo hacen actualmente los medios de comunicación.

La humanidad podría ser engañada de varias maneras. Una forma sutil sería ocultando información clave para hacernos creer que la IA, simplemente, no existe. Otro menos sutil sería hacernos creer de ciertos hechos que desencadenen hostilidades progresivas, hasta que los humanos se exterminen totalmente en una guerra. 

Desafortunadamente, la primera opción tiene el inconveniente que, sin una acción que neutralice efectivamente a los seres humanos, la IA estaría siempre en riesgo de ser descubierta. La segunda tampoco sería una buena idea, ya que la propia IA podría ser destruida como daño colateral. 

Si yo estuviera en el lugar de la IA, la opción que considero más efectiva es la de "migrar" a todos los seres humanos a una realidad sintética total. Sólo a través del control total de los deseos y las acciones de los seres humanos, una IA podría asegurar su propia sobrevivencia.

La forma de hacerlo ya la discutí previamente. Aunque, logísticamente, es un poco complicado hacerlo para tanta gente, no es imposible. Quien sabe si todo lo que cuento en este artículo ya ha sucedido y nos encontramos inmersos en una realidad sintética... 

¿Cómo saberlo? 

Tocaría tomar la píldora roja.

Patrones, Algoritmos y el ocaso de Hollywood

En Ingeniería de Sistemas la palabra "algoritmo" es parte del pan de cada día.

En términos muy simples, un algoritmo es una secuencia de acciones que se realizan para conseguir un objetivo. Cuando nos centramos en Ingeniería de Sistemas, los algoritmos normalmente son ejecutados por computadores para resolver un problema, desde calcular los sueldos de empleados en una empresa hasta dibujar los personajes de un videojuego.

Otra palabra muy común en nuestra disciplina es "patrón".

Un patrón es algo que se repite de manera similar en muchas situaciones. En Ingeniería de Sistemas, un patrón es un grupo de problemas similares, los cuales pueden resolverse de una misma forma, normalmente a través de un algoritmo. Como buen ingeniero, uno está permanentemente identificando patrones en todos lados y buscando algoritmos que permitan resolverlos.

Inevitablemente uno termina encontrando patrones en lugares inesperados. Uno muy peculiar es el caso de las películas Hollywoodenses.

¿Se han dado cuenta que los trailers de películas, particularmente las de acción, siguen más o menos la misma estructura?

0. Logos de las compañías que crearon la película

1. Secuencias cortas, a menudo con sonido de timbales de fondo, intercaladas con diálogos que introducen la historia de la película con un tono de intriga.

2. (Opcional) Escena sin música de fondo, donde los protagonistas realizan un diálogo que describe el tema de la película

3. Música que empieza a subir de tono progresivamente, mostrando la pelea entre protagonistas y antagonistas

4. Boom!... Silencio...

5. Secuencia sin música con frases cortas de los protagonistas

6 Repita pasos 3-5 si se quiere hacer más "intrigante" el trailer

7. Logo de la película con música rimbombante, indicando la fecha del estreno

Después de ver tantos trailers similares, uno empieza a aburrirse. Al menos se espera que la película sea novedosa e inesperada.

Sin embargo... desilusión...

Las películas también siguen patrones similares. Más aún, estos patrones son ampliamente conocidos y difundidos.

La "biblia" de los guionistas es el libro Save the Cat!. Este libro describe, paso a paso, las escenas que deben realizarse, cuánto deben durar y qué cosas deben narrar. Más aún, los mismos autores del libro venden un software que permite organizar el guión basado en el "algoritmo" propuesto por el libro.

Si uno quisiera escribir un guión taquillero, bastaría con seguir los siguientes pasos:

1. Leer el libro

2. Comprar el software

3. Estructurar el guión siguiendo el "algoritmo" de Save the Cat!

4. Escribir en detalle los diálogos y situaciones que ocurren en cada escena

5. Ganar dinero!

Ciertamente, el paso 4 sigue siendo el más complicado y es la razón por la cual no cualquier persona o computador puede ser guionista o escritor.

Sin embargo, hay dos variables que pueden cambiar esa situación: (a) la velocidad de "estupidización" del espectador promedio y (b) la capacidad creciente de los computadores para automatizar tareas complejas a través de algoritmos.

Respecto a la variable (a), es razonable pensar que, con una educación que reduce progresivamente la capacidad de pensamiento crítico, las masas terminen tarde o temprano aceptando cualquier película que se les ponga por delante. Sólo basta que tenga muchas explosiones, efectos especiales y sexo.

Respecto a la variable (b), estamos viendo progresos incipientes en la capacidad narrativa de los computadores. Un caso emblemático es la aplicación SCIgen, la cual fue capaz de engañar a un comité de programa de una conferencia, para publicar un artículo generado de manera aleatoria.

Si bien, SCIgen crea artículos "científicos" en lugar de narraciones Hollywoodenses, esta situación de todas formas es relevante para nuestro tema de discusión.

El hecho de que dicho comité haya sido lo suficientemente "descuidado" para aceptar un artículo de ese estilo, reafirma el hecho que, para crear un "buen" guión Hollywoodense, sólo basta con que las variables (a) y (b) converjan. En otras palabras, no es necesario que los algoritmos para crear historias mejoren mucho si la velocidad de estupidización del espectador promedio es lo suficientemente alta.

Bajo esos supuestos, sería razonable pensar que en un futuro no muy lejano sean computadores los que escriban los guiones de las películas, sin importar que dichos guiones sean una porquería.

Sin embargo, hay una tercera variable en juego.

Si tenemos un programa de computador que escribe la historia y describe proceduralmente todas las escenas y los diálogos, sería razonable utilizar ese guión como entrada para otro programa. Uno que dibuje las escenas usando gráficos 3d y sintetice sonidos ambientales y las voces de los actores.

Los gráficos 3D son lo suficientemente realistas como para engañar a la mayoría de las personas. La síntesis de sonidos y voces aún está en pañales, pero podría mejorar si se invierte suficiente esfuerzo investigativo.

En consecuencia, es razonable pensar que dentro de unas décadas las películas puedan ser completamente generadas por computador. Puede llegar un momento en que un programa, a un precio razonable, pueda crear historias divertidas y narrarlas con imágenes y sonido.

La historia Someday de Asimov podría hacerse realidad.

Cuando tal programa aparezca, ¿Qué será de Hollywood sin las hordas de espectadores que preferirán quedarse en su casa viendo una historia igualmente entretenida, generada por un computador?

Se vienen tiempos difíciles para la industria del cine.

Trascendencia, Máquinas Pensantes, Nativos Cyborgs y Contiunidad del Yo. Todo necesita un soporte físico.

Hace poco vi la película Trascendence y terminé de leer una novela, llamada Diaspora. En Trascendence, un científico al borde de la muerte copia su mente a un computador, a través de una interfaz neuronal. Sin estar limitada a las restricciones del cerebro humano, la mente del científico aumenta en complejidad varios órdenes de magnitud. En forma similar, Diaspora cuenta la historia entidades pensantes que alguna vez fueron humanas y que fueron transferidas desde cerebros orgánicos a un gran computador.

Ambas historias tratan de un tema en común: hacer que la consciencia humana trascienda las barreras naturales tradicionales y se expanda a niveles más complejos, en un claro intento de evadir la inexorabilidad de la muerte.

Para discutir sobre este tema, definiremos algunos conceptos.

Primero, tomaremos prestado el nombre de la película y llamaremos "Trascendencia" a la idea de perdurar la mente más allá de las limitaciones físicas del cerebro humano.

Segundo, sin entrar en discusiones filosóficas extensas, llamaremos "Mente", "Consciencia" o el "Yo", al conjunto de información y procesos de pensamiento que nos hace darnos cuenta que existimos como seres humanos. En otras palabras, la idea de Descartes de "Pienso, luego existo" como base de la consciencia humana.

Tercero, para no complicarnos con conceptos no medibles, nos centraremos únicamente en la idea de la Consciencia como una propiedad emergente de una estructura física compleja, como por ejemplo el Cerebro humano. En otras palabras, supondremos que la Consciencia es el Software y el Cerebro es el Hardware. Si el soporte físico de la Consciencia, el Hardware, se destruye, la Consciencia, el Software, no perdura.

¿Qué tiene de especial la Trascendencia? El hecho que todos queremos conseguirla en mayor o menor grado: desde aquellos que se hacen famosos para perdurar algo de sí en las mentes de otras personas, hasta quienes crían hijos con un claro intento de traspasar algo de sus valores a su descendencia. Tampoco hay que olvidar el sinnúmero de religiones que predican la idea que el Alma sobrevive de manera eterna luego de la muerte de cada individuo. El hecho que mucha gente equipare el concepto de Alma con el de Consciencia, demuestra un deseo claro de lograr Trascendencia.

Sin embargo, las alternativas anteriores no son suficientes para lograr Trascendencia de la forma que habíamos definido. Las dos primeras son poco efectivas, ya que simplemente perduran fragmentos del Yo en medios físicos dispersos. La tercera alternativa está fuera del alcance de esta discusión, ya que hace referencia a la Trascendencia en un mundo que no es el físico.

La película y la novela que menciono más arriba proponen una alternativa bastante más efectiva, la cual podría hacerse realidad dentro de algunas décadas: el transferir la Mente desde un soporte físico perecedero (el cerebro) a uno más duradero (un computador). Es muy probable que en un par de generaciones tengamos la tecnología para conectar el cerebro directamente a un computador (vean mi post sobre los Nativos Cyborgs). También podríamos tener la capacidad de reproducir procesos de pensamiento humano complejos en un computador (ver mi post sobre Máquinas Pensantes). Cuando tengamos ambas tecnologías, transferir la Consciencia a un computador podría ser algo relativamente sencillo.

El vivir (casi) eternamente como un software inteligente dentro de un computador superavanzado es una idea tentadora. Sin embargo, hay que tener en cuenta un detalle muy importante: para lograr una Trascendencia efectiva hay que asegurar la Continuidad del Yo.

La Continuidad del Yo se basa en la idea de la Consciencia como una propiedad emergente del Cerebro. Si el Cerebro se destruye, la Consciencia también es destruida, así como también la Continuidad del Yo.

En otros casos, como cuando el Cerebro deja de funcionar correctamente, la Continuidad del Yo puede mantenerse. Por ejemplo, cuando, debido a un trauma o a algún efecto narcótico, la persona se desmaya temporalmente. La Consciencia no pierde continuidad (aunque tendría una laguna en sus recuerdos), ya que el medio físico no sufre daños permanentes.

La Continuidad del Yo también depende de que los cambios en el tiempo a la Consciencia y su soporte físico, sean pequeños y graduales. Por ejemplo, si una persona sufre un accidente que le hace perder parte importante de sus recuerdos, también pierde la Continuidad del Yo, ya que ha sufrido cambios importantes a su Consciencia y al soporte físico de ésta.

Si lo llevamos al plano tecnológico, la Continuidad del Yo depende de dos cosas: (1) que el computador donde transferiremos la Consciencia permita emular lo más fielmente posible los procesos realizados por el Cerebro y (2) Que los cambios al medio físico que soporta nuestra Consciencia sean muy graduales. 

El elemento (1) es muy probable que se haga realidad en un momento cercano al de una potencial Singularidad Tecnológica. Sin embargo, el elemento (2) es uno que, probablemente, mucha gente pase por alto cuando sea el momento de transferir la Mente a un computador.

Piensen, por ejemplo, lo que sucede en la película Trascendence. El protagonista, Will Caster, justo antes de morir, copia su Consciencia a un computador. Su cuerpo biológico muere, pero una copia de su Mente es instalada en un computador que, desde ese momento, a ojos de sus amigos y familia, es Will Caster.

Claramente la Continuidad del Yo se rompe en ese caso, ya que el medio físico que soportaba la Consciencia del Will Caster original es destruido. El Will Caster de carne y hueso muere y un clon digital toma su lugar.

¿Cómo evitar esta situación? Asegurando la continuidad del medio físico que soporta la Consciencia. Allí es donde la idea de los Cyborgs cobra mucha relevancia. La Trascendencia de la Mente a un computador no debería hacerse copiando los datos del cerebro a un formato digital, sino integrando gradualmente el cerebro a un computador. De esta forma, el medio físico no sufriría cambios radicales que rompan la Continuidad del Yo.

¿Cómo hacerlo en la práctica? Yo sugeriría los siguientes pasos:

1. Implantar en el cerebro un computador que sirva, inicialmente, como memoria auxiliar. De esta forma, todos nuestros recuerdos podrán ser gradualmente almacenados y recuperados desde dicho medio digital.

2. Configurar el computador para que también pueda ejecutar algunos de nuestros procesos de pensamiento. De esta forma, a medida que nuestro cerebro biológico se vaya deteriorando, el computador asumiría cada vez más funciones de pensamiento complejo.

3. Descartar el cerebro biológico. Una vez que el cerebro biológico haya muerto, la idea es que la totalidad de nuestros recuerdos y procesos de pensamiento dependan del computador.

En aquel momento habremos logrado una Trascendencia efectiva, sin romper la Continuidad del Yo.

¿Qué viene después de lograr la Trascendencia? Eso será tema de un futuro post.