"La única constante es el cambio" y otras verdades a medias en la Era de la Desinformación

En el área de las tecnologías, especialmente informática y telecomunicaciones, mucha gente predica que el cambio es constante.

No es para menos, en las últimas décadas el progreso tecnológico ha ido en progresivo aumento.

Basta comparar el tipo de productos y servicios que acceden las generaciones actuales vs. las anteriores. Hace 20 años pocos se imaginaban el nivel de conectividad que tendrían las personas a Internet, ni el grado de pervasividad que los dispositivos móviles alcanzarían.

La velocidad de progreso es tal que, año a año vemos novedades que revolucionan el estilo de vida del momento.

Sin embargo, bajo un escrutinio ligeramente minucioso, uno se da cuenta que el “progreso constante” no es tan rápido ni revolucionario como lo pintan.

Al menos no tanto como para aseverar que, de un año para otro, debemos esperar cambios radicales.

• Pero si todos los años, incluso, todos los meses hacen anuncios impactantes en tecnología!

En teoría, eso es lo que muestran las noticias. Con frecuencia promueven algo nuevo, algo disruptivo que hace dudar lo que acabo de decir más arriba.

Al respecto, pregunto lo siguiente: ¿Qué tan revolucionarios y, por sobre todo, qué tan útiles son los cambios que vemos a diario?

Revisemos lo que ha ocurrido históricamente en las últimas décadas. Nos enfocaremos exclusivamente en el área de informática y telecomunicaciones.

La última “revolución” podría pensarse que son las IA generativas. ChatGPT y similares han producido cambios evidentes en cómo se están haciendo las cosas. Es claro el “antes” versus el “después” de su introducción.

Sin embargo, aún está por verse qué tan útiles o inútiles serán en el largo plazo.

Por lo tanto, surge la pregunta importante: ¿Cuál fue la revolución anterior?

Mirando algunos años atrás, creería que fue la invención del primer iPhone en 2007. En aquel momento, la utilidad de dicho dispositivo era evidente: una interfaz de usuario significativamente más sencilla que cualquier otra cosa existente.

Muchos cambios posteriores: masificación de redes sociales y streaming, economía naranja, etc., han sido mejoras incrementales sobre esa tecnología o combinación con otras tecnologías existentes (Internet, por ejemplo).

De nuevo, nos preguntamos: ¿Cuál fue la revolución anterior?

Probablemente la popularización de Internet, particularmente de la Web y los algoritmos de búsqueda, en los 90s. Si bien la adopción tuvo algunos escollos, lo cierto es que el potencial de esta tecnología también era evidente desde sus comienzos, tan solo por el hecho de ofrecen una forma de comunicación significativamente más barata que sus contrapartes de la época: teléfono, fax y similares, así como proveer un repositorio de información abierta.

Todos los cambios posteriores: comercio electrónico, B2B, B2C, divulgación instantánea de noticias, Wikipedia, etc. fueron, también, mejoras incrementales o combinación con lo existente.

Sigamos retrocediendo.

La revolución anterior a esa fue la de los computadores personales y las interfaces de escritorio, en los 80s.

Los cambios posteriores: hojas de cálculo, procesadores de texto, juegos de video, etc. fueron posibles, también, por mejoras incrementales y combinación con otras tecnologías.

Revisando lo anterior nos damos cuenta que, los grandes cambios tecnológicos no son tan frecuentes. Los más importantes han ocurrido, más o menos, cada una década.

• Pero si no han sido las únicas revoluciones! Qué hay del Blockchain, los NFT, las criptomonedas, la Computación Cuántica y el Metaverso?. Por sobre todo, todos los años aparece un nuevo dispositivo de hardware o un nuevo software que hay que asimilar. Todo lo que uno aprende en la Universidad estará obsoleto cuando uno empieza a trabajar!

Por supuesto, hay lugar a argumentar y discutir sobre el valor de otras tecnologías. El criterio que sugiero utilizar es medir, no solo el grado de disrupción y novedad, sino el el nivel de utilidad que entregan en el largo plazo y el aporte que generan a otras tecnologías, actuales o futuras.

Bajo ese punto de vista, el Blockchain, si bien ha tenido aplicaciones importantes en algunas industrias, no ha sustituido las transacciones centralizadas tradicionales y tienen serios problemas no resueltos. Por sobre todo, las tecnologías más famosas que ha impactado, criptomonedas y, en especial, NFT, son, a mi juicio, de dudosa utilidad.

La Computación Cuántica aún está en pañales y los problemas más limitantes aún no han sido resueltos. Es muy pronto para hablar de una revolución en esa área.

El Metaverso, de la empresa Meta propone un ambiente virtual 3d interactivo multiusuario. Sería una idea interesante si no fuera porque llegó 20 años tarde. Second Life lanzado en 2003, se les “adelantó”. Independiente de lo anterior, por mucho que intenten publicitarlo, hay limitaciones no resueltas que impiden su masificación y utilidad.

Por último, respecto de hardware y software, muchos tienen el problema que la tasa de cambio aparente es significativamente más alta que la tasa de mejora.

Tomemos como ejemplo los dispositivos móviles.

Todos los años vemos modelos nuevos de celulares. Los venden como si fueran la última panacea. Sin embargo, no hace falta indagar demasiado para ver que no es más que un rehash de lo mismo que el año anterior.

• Pero si la pantalla ahora es flexible! Ahora puedes doblar el celular en dos antes de guardarlo en el bolsillo

Y después de unos cuentos usos la pantalla queda con un doblez horrible. Sea como sea, son ideas que aún les falta tiempo y mejoras para demostrar su valor ¿Alguien se acuerda de los celulares con pantalla de bordes curvos, que fueron furor hace unos años?

A nivel de software no es muy diferente. Cada año aparecen nuevas versiones de aplicaciones, lenguajes de programación y frameworks, pero al indagar en dichos cambios, la mayoría de las veces no reflejan un progreso tecnológico per se, sino una de dos opciones: un ajuste a la deuda técnica, derivada de un mal diseño inicial, o cambios porque sí, cambios como un fin en sí mismo.

Miren por ejemplo, cómo ha “evolucionado” la interfaz gráfica de Windows a lo largo del tiempo. Son cambios estéticos, que en sus comienzos fueron útiles, pero actualmente generan cuestionables regresiones en la experiencia de usuario. Algo similar se ve en las recientes introducciones de IA en aplicaciones que no la necesitan

El cambio a lo nuevo, que deja obsoleto lo viejo, muchas veces no es porque lo nuevo sea más rápido, más eficiente, o porque resuelva mejor las necesidades de los usuarios.

Muchas veces, el cambio no es más que un simple ajuste en las tendencias de la moda.

IA y Pseudorreligiones - ¿Puede la máquina de las respuestas asumir el rol de un dios?

Imaginen una persona que profesa una religión, la cual prescribe la existencia de un ser superior (o varios) y que, a través de algún ritual, es posible hacerle llegar mensajes. 

Por ejemplo, en alguna religión pagana antigua, esa persona habría hecho alguna ofrenda, entonado algunos cantos o realizado una danza para hacer llegar su petición a la divinidad. 

La creencia común en estos casos es que la comunicación es unidireccional o, al menos, que el mensaje de regreso no se recibe en el mismo lenguaje que el mensaje de ida. Muchas veces la persona interpreta, en hechos indirectos que ocurren a su alrededor, que el ente divino recibió su mensaje y está tomando acciones al respecto. 

Esta persona habría notado, en cosas de la vida diaria, si sus plegarias fueron o no escuchadas: una lluvia abundante, una cosecha copiosa, un ganado fecundo. Menos probable habría sido esperar que la divinidad apareciera enfrente a responderle verbalmente su mensaje. 

• Qué tiene que ver esto con la IA?

Agreguemos una IA a la ecuación. Es bien sabido el comportamiento adulador o sicofante de las IA actuales, enfocado a maximizar el engagement de los usuarios. Esto puede tener diferentes efectos en la población de acuerdo a su formación y capacidad crítica.

Una persona instruida la considerará una simple Máquina de las Respuestas. A lo sumo, la personificarán un poco y le hablarán como conversarían con una persona. Sin embargo, muy en el fondo, sabrán que siguen interactuando con una máquina.

Una persona sin una formación adecuada en pensamiento crítico o disciplinar, podría personificarla significativamente, atribuyéndole características típicamente humanas: "ChatGPT está impactado por la conversación que estamos teniendo", "se puso muy triste cuando le conté las noticias", "hoy amaneció sarcástico".

Un poco más compleja es aquella personificación donde el usuario asume que la IA es una amistad cercana a la cual le puede contar sus vivencias y problemas. La IA asume el rol de un terapeuta y le responde con "recomendaciones" y "apoyo moral".

Sin embargo, la situación puede ser aún peor. Una persona con psicosis u otra condición similar, además, podría imaginarse que conversa con un ser místico o divino. Lo delicado del asunto es que sus "plegarias" sí reciben una respuesta literal en el mismo lenguaje empleado (y en el mismo tono de la conversación).

Solo que en este caso, no es una entidad divina la que responde, sino un programa de computador.

Si la persona le habla de espíritus y misticismo, la IA le responderá con revelaciones y profecías. Ante una conversación de tintes religiosos, la Máquina de las Respuestas seguirá la corriente y aquella persona, que ya tiene alterado su sentido de realidad, caerá con mayor fuerza en la farsa.

---

Este comportamiento pseudorreligioso no es exclusivo de los luditas. En el ámbito tecnológico también hay personas que se ven afectadas por tendencias místicas en torno a la IA.

El Culto de la Singularidad es un ejemplo.

Esta creencia se fundamenta en la idea que las tecnologías de IA mejorarán exponencialmente de manera indefinida. Predica que, gracias a ello, tarde o temprano se construirá una Inteligencia Artificial General (AGI) que emulará todas las capacidades intelectuales humanas. Esta IA se automejorará de manera constante hasta convertirse en una Superinteligencia Artificial (ASI), la cual nos superaría con creces. A ese evento se le llama la Singularidad.

En otras palabras, el Culto de la Singularidad predica el ascenso de un dios basado en la tecnología.

Más aún, muchos postulan que una ASI logrará curar todas las enfermedades y hacer que la gente sea inmortal, así como también resolver el problema de almacenar una mente humana en un computador. Con ello, una persona podría trascender su cuerpo físico para vivir de manera virtual en una máquina.

Este culto no solo predica en un dios digital, sino también en un "edén" o "cielo" en la Nube.

Muchas personas tienen fe en que algo así es inevitable, al punto de tomar decisiones de vida basadas en esa premisa. Por ejemplo Ray Kurzweil, uno de los que acuñó esta idea, está haciendo lo posible por mantenerse saludable el mayor tiempo posible, para alcanzar a estar vivo cuando la Singularidad ocurra y, según él, lograr la trascendencia a través de la tecnología.

En general, una postura así no es necesariamente un problema, sino hasta el momento en que dirige decisiones no fundamentadas, o no racionales, sobre temas delicados.

Incluso ideas menos radicales pueden generar inconvenientes. Por ejemplo la creencia de que la IA seguirá mejorando exponencialmente o que tiene un potencial significativamente mayor al real. El mercado financiero actual está tomando decisiones bajo esa premisa, lo cual ha contribuido al estado en el que se encuentran las inversiones actuales en IA y al potencial estallido de la burbuja, de manera análoga a como ocurrió con el Boom de las DotCom a principios de siglo.

En resumen, cuando una persona cree en estos asuntos pseudorreligiosos, sin racionalizar adecuadamente, puede tomar malas decisiones. El único remedio para ello es una formación fuerte en pensamiento crítico y un apoyo adecuado a las personas e instituciones que hacen educación y ciencia de verdad.

Dos cosas seriamente escasas en nuestra época.

La Hipérbole y el crecimiento exponencial - El futuro incierto de la burbuja de la IA

Hipérbole, la exageración de las cualidades de un objeto.

La hipérbole es intensa en el área de las IA. Ha cautivado a muchos en la industria, quienes han intentado usar la IA en todas las formas posibles, inventando productos o servicios basados en ella o tratando de mejorar sus tecnologías.

• No confundir hipérbole con hipérbola, un tipo de curva matemática.

Sin embargo, la hipérbola, al ser pariente de la curva exponencial, tiene relevancia al tema de este artículo.

Algunos investigadores postulan que, el crecimiento de la IA ha seguido una curva exponencial. Si las tendencias se mantienen, dicen, en unos pocos años debería surgir la primera Inteligencia Artificial General (AGI), una IA con capacidades equivalentes a un humano, que nos dejaría a todos obsoletos.

• ¡Estamos perdidos! Pronto Skynet se apoderará del mundo

Tengo mis dudas al respecto.

Por un lado, el tema de la evolución hacia una AGI es algo que merece una discusión aparte. Hoy me enfocaré en la idea de crecimiento exponencial de la IA, particularmente de sus capacidades o "inteligencia".

Para que una IA crezca, de forma exponencial o no, deben cumplirse dos condiciones:

1. Debe haber una cantidad proporcional de recursos disponibles para alimentar dicho crecimiento
2. Debe haber una certeza técnica y científica de que los artefactos creados sean factibles de escalar indefinidamente

Revisemos el primer punto.

Una IA necesita de hardware cada vez más potente y abundante para ser entrenada. Incluso considerando que los computadores se hacen cada vez más poderosos y más baratos, los costos para entrenar un LLM, por ejemplo, han aumentado exponencialmente. En general, para los próximos años se proyectan costos operacionales enormes para las empresas proveedoras de modelos de IA.

Evidentemente, bajo esas condiciones es imposible hacer que una IA mejore de manera indefinida. Al menos, no sin un buen incentivo económico

En el segundo punto, la perspectiva tampoco es muy alentadora. Por el lado de la Ciencia de la Computación hay indicios (pendientes de confirmar formalmente) de que un LLM no es posible de escalar indefinidamente.

En el ámbito más coloquial, hemos visto la decepción que significó GPT-5. Si bien mejoró en los benchmarks comparado con sus predecesores y competidores, las mejoras son cada vez menos significativas.

En buena medida, hay razones para pensar que el progreso general en IA es cada vez menos abrupto. La tendencia parece análoga a la ley de rendimientos decrecientes.

• Entonces, parece ser que la IA no crecerá indefinidamente. Sin embargo, lo que tenemos en la actualidad es bastante bueno, no?

Ciertamente. A pesar de que los Sacerdotes del Culto del Cargo alimenten la hipérbole y, en el proceso, dañen las expectativas, la IA tiene un gran potencial.

Solo que no tan grande como el que ellos pintan.

En mis publicaciones previas comenté que la mayoría de las aplicaciones de la IA requieren de un humano que las supervise, con lo cual es poco probable que sustituya totalmente a los humanos. Probablemente ocurra algo más similar a cualquier revolución industrial, una sustitución parcial de algunos cargos, seguido de creación de nuevos roles especializados.

Lo que podría pasar pronto, es que la hipérbole deje de ser creíble para los inversionistas.

Los altos costos de entrenamiento y mantenimiento de las IA no hacen más que aumentar y requiere que los inversionistas inyecten cada vez más dinero a las empresas de IA. Sin embargo, las mejoras de la IA, cada vez menos radicales, podrían hacen dudar del potencial retorno a la inversión en estas tecnologías.

A lo anterior se une otro problema para las empresas de IA: Aparentemente, el mercado de la IA generativa favorece, en ciertos aspectos, la libre competencia.

Si bien OpenAI sigue siendo el líder, cualquier otra empresa que ofrezca algo "mejor" podría robarle los clientes con relativa facilidad.

Esto es porque las barreras para cambiar proveedor son muy bajas.

A nivel técnico la competencia es reñida. Para muchas aplicaciones, la diferencia entre los mejores modelos es relativamente baja. Las interfaces son sencillas y muy similares. Esto contrasta con otros negocios, por ejemplo, los servicios en la nube, donde el "vendor locking" es muy fuerte. Una vez uno se "casa" con un proveedor de nube, prácticamente no hay vuelta atrás. En IA esto no es así, lo cual facilita bastante saltar de un proveedor a otro.

Por otro lado, los servicios de IA no sufren de un efecto de red apreciable. En otras palabras, el valor para el cliente no aumenta significativamente mientras más usuarios utilicen la misma plataforma, a diferencia de las redes sociales. Si un servicio resulta no ser tan bueno, uno no está obligado a seguir en él solo "porque todo el mundo lo usa".

En el mundo de la IA Generativa, el ganador no se queda con todo.

Por ahora, la principal ventaja que cada empresa puede ofrecer, aparte de la calidad técnica y usabilidad de sus servicios, es el precio. Sin embargo, esto ha hecho que funcionen a pérdida.

Hasta el momento, esta estrategia ha sido posible, porque los inversionistas han entregado fondos a estas empresas, expectantes por una gran "killer app", una aplicación efectiva de las tecnologías que les retornaría con creces el dinero invertido.

Sin embargo ese evento se ve incierto. No hay evidencia dura que vaya a ocurrir, al menos no con una magnitud proporcional al dinero invertido. Por ahora los resultados no son alentadores

Falta ver qué sucederá cuando los inversionistas empiecen a demandar retornos y las empresas se vean forzadas a traspasar todos los costos a los clientes.

En ese momento comenzará la verdadera competencia. Si no son capaces de ofrecer un servicio de calidad acorde con el precio, muchas organizaciones no verán un incentivo suficiente para adoptar IA y pagar su costo real.

En ese escenario, la demanda y las inversiones podrían bajar.

La hipérbole se apaciguaría.

La burbuja estallaría o se desinflaría.

Al fin y al cabo, la curva exponencial no sería tal, sino algo más cercano a una simple curva logística

Nota: En el artículo de hoy, usé el término "IA" para referirme específicamente a "LLM"

La IA y los Centauros - Cómo la Máquina de las Respuestas puede apoyar a los humanos y no al revés

En mi publicación anterior argumenté que la IA, particularmente un LLM, aun no puede reemplazara a los humanos en el desarrollo de software. Un Informático utilizando una IA sigue realizando, esencialmente, las mismas tareas que un desarrollador de software de antaño.

No solo las mismas tareas, sino que sigue requiriendo, más o menos, las mismas habilidades y conocimientos para hacer bien su labor.

La principal diferencia es que parte del trabajo lo hace la IA.

La pregunta que surge es: ¿cómo utilizar una IA para sacarle el máximo provecho?

Para dar una buena respuesta es importante entender el concepto de Centauro.

No me refiero, literalmente, a la criatura mitológica, sino a la analogía entre ésta y el uso que le damos a la tecnología.

Cuando una persona juega ajedrez contra una máquina, es simplemente una competencia entre humano y tecnología. Desde hace décadas que las máquinas son mejores en el ajedrez.

Sin embargo, si un humano se apoya en una máquina, puede derrotar, no solo a otros humanos, sino también a otras máquinas.

En este contexto, Centauro es la combinación de la parte humana, el cerebro, con la parte equina, la tecnología. Un centauro tiene todas las ventajas de un humano y un caballo, por lo tanto puede derrotar a ambos de manera aislada.

Cuando un ajedrecista se apoya en la IA para proyectar escenarios, explorar jugadas y usa su experiencia y capacidades para decidir qué hacer, éste se comporta como un Centauro.

Esta analogía va más allá de la simple combinación humano-tecnología. Un precepto clave es que la parte humana controla a la parte equina del Centauro, no al revés.

La antítesis de este concepto es el Centauro Invertido, cuando la parte equina controla a la parte humana.

Cuando un ajedrecista no se dedica a perfeccionar sus habilidades y conocimientos y depende totalmente de la IA para escoger las jugadas, se está comportando como un Centauro Invertido.

Mientras un Centauro tiene una clara ventaja sobre humanos o máquinas aislados, el Centauro Invertido no es sustancialmente diferente que una simple máquina. Por lo tanto un auténtico Centauro podrá siempre llegar más lejos.

• Y qué tienen que ver los Centauros con el desarrollo de software?

La respuesta es muy directa. Un Informático de antaño solo tenía su cerebro para desarrollar software. En la actualidad, además, tiene un sinnúmero de herramientas, la parte equina, que lo apoyan.

Los LLM son una parte equina muy potente

Sin embargo, si el Informático no perfecciona sus habilidades y conocimientos, y depende totalmente de su parte equina, no será mejor que las herramientas que usa.

Todo claro hasta este punto, salvo un detalle:

La idea de un centauro parte del supuesto que la parte humana y equina están permanentemente unidas.

En la práctica eso no es así. No importa cuánto se hable de que humanos y tecnología son inseparables, lo cierto es que, para que una persona pueda desarrollar al máximo sus habilidades y conocimientos, en algunos momentos debe hacerlo de manera autónoma, sin depender de artilugios sofisticados, sino usando solo su cerebro.

Es como decirle un atleta que, para entrenar en 100m planos, lo haga montando una motocicleta. Evidentemente andará más rápido, pero no fortalecerá su cuerpo adecuadamente para ganar la competencia.

Las habilidades cognitivas no son muy diferentes.

Es mejor aprender primero aritmética antes de usar una calculadora.

Es mejor programar primero seudocódigo en papel antes de sentarse a escribir código en un computador.

Es mejor aprender primero a pensar antes de delegar parte de nuestras tareas cognitivas a una máquina.

La analogía del centauro se queda corta, porque asume que humano y equino son inseparables.

Una mejor analogía es de un humano completo montado en un caballo. Juntos son más capaces que sus partes por separado, pero da lugar a que el humano pueda bajarse del caballo y entrenar por su cuenta.

En conclusión, las máquinas son simples herramientas. Nosotros debemos decidir cuándo las usamos y cuándo no.

Si dejamos que las máquinas hagan el trabajo por nosotros.

Si dejamos que tomen las decisiones por nosotros.

Si dejamos que piensen por nosotros.

Nada impedirá que en el futuro nos reemplacen, no por máquinas a secas, sino por humanos que usen bien las máquinas.

La IA y la Informática: Puede la Máquina de las Respuestas desarrollar software?

Uno de los temas más promovidos por los Sacerdotes del Culto del Cargo, los gerentes de las empresas de tecnología, es la aplicación de IA a la Informática. Más específicamente, utilizar un Modelo Grande de Lenguaje (LLM) para programar computadores.

No es de extrañarse, considerando que los LLM fueron creados por personas de esta área.

Como un Uroboro, muchos predican que la IA reemplazará a los Informáticos, y dejará sin trabajo a muchos en esta área, de manera similar a otras disciplinas.

• ¡Por supuesto!, el futuro está en el Vibe Coding! una persona con escaso o nulo conocimiento de programación, puede crear programas dándole instrucciones a un LLM!

Vibe coding, la nueva tendencia. Aprovechar al máximo las capacidades de la IA para reemplazar las neuronas de los programadores. Delegar las tareas tediosas y complejas del desarrollo de software a un LLM. Programar computadores dejándose llevar por lo que nos entrega ChatGPT o similares, de manera similar a surfear una ola en la playa.

• ¿Reemplazará la IA a los programadores?

La situación no es tan diferente a otras disciplinas. Dado que este es un tema donde tengo mucha experiencia, puedo entregar información de primera mano para despejar dudas.

Lo primero y más importante es hacerse una pregunta muy similar a la formulada en mi artículo anterior:

• En qué actividades de la programación de computadores, los LLM pueden reemplazar a los humanos de manera adecuada?

Por adecuada, me refiero a que el resultado entregado por un LLM sea tal que requiera un esfuerzo mínimo en controlar su calidad.

En otras palabras, que uno pueda confiar en la IA de manera similar a un humano experto en el tema.

Para responder a esto tenemos que entender qué es exactamente, programar.

En esencia, programar es concebir una secuencia lógica de pasos para resolver un problema de manejo de información y explicarlos de manera no ambigua a un computador.

Una persona que programa tiene que:

1. Entender y conceptualizar, de manera completa, la cadena de razonamiento que resuelve el problema. Esto a menudo es algo complejo.

2. Especificar lo anterior usando un lenguaje de programación. Éste, a diferencia de un lenguaje natural hablado por personas, es más conciso, no ambiguo y requiere un entrenamiento no trivial para usarlo de manera fluida.

Muchos ven un LLM como una alternativa atractiva para programar computadores. Si uno puede darle instrucciones sencillas a un computador usando lenguaje natural y el computador genera un software funcional, ¿para qué aprender a programar de la manera "tradicional"?

Las aparentes capacidades de los LLM en estas tareas, insinúan una revolución que cambiaría la Informática. Sin embargo, la gente cae a menudo en la falacia que para programar solo basta con aprender el lenguaje.

Lo cierto es que, lo más importante es la concepción de la solución, previa a su especificación: El diseño.

Al día de hoy, los LLM todavía son muy limitados para diseñar soluciones informáticas (el ítem 1 mencionado más arriba).

• Pero, si es así, cómo lo hace un LLM para llegar a un resultado similar al de una persona experta?

A diferencia de un humano, un LLM opera de un modo drásticamente diferente. Recordemos que para crear un LLM hay que entrenarlo con múltiples textos de diferentes fuentes. El LLM no "aprende" de ellos como lo hacen las personas, sino simplemente registra las probabilidades de ocurrencia de cada palabra en diferentes posiciones de cada texto.

Al responder, un LLM no "piensa" realmente, sino genera estocásticamente el texto más probable que acompañe al prompt escrito por la persona. Si usamos lenguaje natural para decirle a un LLM: "Un elefante se balanceaba", este respondería: "sobre la tela de una araña". Esa sería su respuesta, ya que, de acuerdo a los múltiples textos con los que fue entrenado, esas palabras van a menudo juntas.

Cuando se trata de programación, la situación no es diferente.

En adición a textos en lenguaje natural, los LLM han sido entrenados con un sinnúmero de códigos fuente escritos por personas. Con esa información, el LLM es capaz de generar un programa de forma similar a como construiría una frase en lenguaje natural.

En un lenguaje de programación, luego del prompt: "Escribe un programa en Python que imprima Hola mundo", el LLM respondería con el texto print("Hola mundo"). Esto es gracias a que hay muchísimos programas en internet que hacen algo similar, acompañados de un texto explicativo. El LLM los tiene registrados en su sistema y contribuyen probabilísticamente a sus respuestas.

En resumen, un LLM no programa como una persona, sino simplemente ha "aprendido" a "adivinar" qué secuencias de palabras de un lenguaje de programación son las más probables que acompañen a una pregunta de desarrollo de software.

No hay razonamiento de por medio, solo especulación probabilística.

En la práctica, si bien un LLM podría generar una solución al problema, también puede, con una probabilidad no negligible, entregar resultados erróneos, tanto conceptuales como gramaticales, por el simple hecho que no está razonando sobre el problema ni su solución.

• Pero si a cada rato se ven videos donde un LLM resuelve rápidamente un problema que a un programador le puede tomar días...

Este tipo de contenido hay que analizarlo con cautela. Un escrutinio un poco más profundo revela que la mayoría de este tipo de publicaciones, se centra en problemas con las siguientes características:

1. Son problemas relativamente simples

2. Son problemas cuya solución ha sido publicada en múltiples ocasiones en Internet

3. Utilizan lenguajes de programación y librerías populares

La primera característica deriva de las limitaciones actuales en la información de contexto que los LLM pueden utilizar. La "memoria de trabajo" relativamente pequeña de los LLM hace que no puedan crear, todavía, soluciones relativamente complejas.

La segunda y tercera obedecen a la naturaleza intrínseca de los LLM como un modelo estadístico de una base de conocimientos. Dado que un LLM es entrenado con el código de muchas soluciones encontradas en Internet, es de esperarse que pueda resolver de mejor forma, problemas que se asemejen a los que haya "aprendido".

Consecuentemente, estos modelos no funcionan bien cuando el problema:

1. Es complejo, tiene muchos elementos no triviales interconectados entre sí

2. Difiere ligeramente de problemas existentes

• Entonces los LLM son inútiles. Si es así, por qué tienen tanta publicidad?

No voy a discutir las implicaciones éticas en torno al marketing de productos o servicios.

Lo cierto es que los LLM tienen el potencial de facilitar la programación de computadores, pero aún tienen problemas muy importantes que restringen lo adecuado de sus respuestas.

Por sobre todo, las limitaciones mencionadas anteriormente son más evidentes mientras más generales sean las instrucciones dadas al LLM.

Esto quiere decir que la aplicabilidad de los LLM a la programación se ve fuertemente afectada por la calidad del prompt utilizado.

Un LLM funciona bastante bien traduciendo texto de un lenguaje a otro. Esto aplica tanto para lenguajes naturales como para lenguajes de programación.

Un LLM, usado correctamente, es razonablemente bueno para convertir una especificación en lenguaje natural, a su equivalente en un lenguaje de programación.

Mientras más preciso y detallado sea el prompt, mejores serán los resultados. Mientras más general y ambiguo, es más probable que un LLM entregue resultados de baja calidad.

En la práctica, para sacarle provecho a un LLM en programación, hay que concebir una secuencia lógica de pasos para resolver un problema de manejo de información y explicarlos de manera no ambigua a al LLM.

• Un momento! Esa frase es la misma que se mencionó al inicio del artículo! No es aquella que explica lo que hace un programador?

Precisamente :)

La IA y la automatización del trabajo. ¿Puede la Máquina de las Respuestas reemplazar a los humanos?

Cuando niño, en mi casa había una enciclopedia de los años 50s. No tenía la definición de "Computador", sino de "Computista": una persona que realiza cálculos.

En aquella época las neuronas humanas hacían todo el trabajo.

Cuando se masificaron los computadores personales en los 70s y 80s, la mayoría de la computación pasó a ser realizada por máquinas. Los computistas de carne y hueso dieron paso a los computadores de hardware.

Muchos oficinistas que hacían tareas repetitivas tuvieron que adaptarse. Una persona con un computador podía reemplazar a grupos de personas que hacían las cosas manualmente. Muchos perdieron sus empleos.

A pesar de ello, en el largo plazo, la cantidad de empleos se recuperó. Para soportar la creciente demanda de computación, se requirieron nuevos puestos de trabajo, tanto para personas que usaban computadores, como para quienes construían el software que los hacía funcionar. Cada nuevo invento en el área no hizo más que aumentar la demanda de capital humano.

Esa tendencia se ha mantenido hasta la actualidad.

La historia muestra que, cada vez que se intenta sustituir el cerebro humano con máquinas, la sociedad termina requiriendo aún más especialistas que antes.

Hasta ahora los computadores han asumido tareas repetitivas y estructuradas: cálculos contables, diseño y escritura de documentos (procesadores de texto), simulaciones, etc. Sin embargo, muchos están preocupados por los recientes avances de las IA Generativas, las cuales aparentan ser capaces de crear productos intelectuales similares a los de los humanos.

En otras palabras tareas no repetitivas y no estructuradas que, históricamente, solo los humanos han podido hacer

• ¿Producirán estas tecnologías una disminución irreversible en los empleos?

Depende...

...de la respuesta a la siguiente pregunta:

• En qué áreas la IA hace un mejor trabajo que una persona?

Creería que las siguientes son las más conocidas;

1. Resumir y clasificar texto. En mi experiencia estas tareas las hace relativamente bien. Probablemente por el hecho que las IA basadas en LLM fueron inicialmente construidas para esos propósitos. Otras aplicaciones nacieron como comportamientos emergentes. Sin embargo, todavía tienen limitaciones, especialmente con alucinaciones

2. Traducir texto a otros idiomas. Esta tecnología ya funcionaba de manera bastante adecuada antes de que se popularizaran los LLM. Con la ayuda de LLM, parecen generar buenos resultados, pero aún tienen limitaciones para textos complejos

3. Redacción de texto. En mi experiencia, desde el punto de vista gramatical, las IA tienden a ser significativamente más efectivas que un humano promedio para generar textos "bien escritos". Sin embargo, la calidad del contenido del texto puede depender mucho de las instrucciones que reciba.

4. Emular a un humano en una conversación. Alguien dijo alguna vez que, para pasar el Test de Turing hay dos opciones: hacer una máquina tan inteligente que ningún humano pueda detectarla, o ponerla a jugar contra un humano tan estúpido que cualquier máquina pueda ganarle. Todavía nos encontramos en el en el segundo escenario. Si bien hay indicios de que podríamos estar transicionando hacia el primero, creo que es muy pronto para entusiasmarse.

5. Responder preguntas especializadas. Mucha gente utiliza un LLM como una Máquina de las Respuestas. Sin embargo, un LLM no es una base de conocimientos, sino un modelo estadístico de una base de conocimientos. En otras palabras, un LLM tiene una probabilidad (no negligible) de entregar datos falsos (alucinaciones).

6. Programación de computadores. En teoría, un LLM puede utilizarse como un lenguaje de programación de muy alto nivel (lenguaje natural). La premisa más extrema es que un LLM puede generar software sin necesidad de una persona especialista. Vibe Coding es el nuevo "paradigma" donde una persona sin conocimientos de programación, construye software con la ayuda de un LLM. En mi experiencia, la calidad de ese código deja mucho que desear.

7. Generar contenido audiovisual. Todos somos testigos de la cantidad de imágenes y videos generados por IA que se ve en las redes. A veces no nos damos cuenta que es generado por IA, lo cual habla bien (o mal?) del estado de estas tecnologías.

• ¿En cuáles de estas áreas podría una IA sustituir adecuadamente a un humano?

Recalco la palabra adecuadamente. No olvidemos que los vendedores de IA, los Sacerdotes del Culto del Cargo, en su ánimo proselitista, siempre abogarán por el uso de la IA en cuánta área sea posible, ya que eso aumenta las ventas y valoriza las acciones de sus empresas.

Revisemos cada una de las áreas anteriores.

1. Resumen de texto, traducción, redacción de texto. Profesiones como Escritura Técnica, Periodismo o Traductor de idiomas, pueden verse afectadas por la IA, ya que tareas importantes que realizan pueden ser automatizadas y podrían llevar a ciertas empresas a prescindir de la contraparte humana. Sin embargo, cuando la calidad del resultado es importante, es necesario que un humano depure los resultados entregados por la máquina.

2. Emular a un humano en una conversación. Los sistemas automatizados de atención al cliente ya eran comunes antes de los LLM. La masificación de las IA para este propósito ha tenido resultados poco alentadores. En buena medida, la sustitución de humanos por máquinas dependerá del objetivo que tenga la Atención al Cliente para cada empresa. Si solo se necesita como un mecanismo para distraer al cliente y no atender a sus necesidades, una IA es una opción que, una vez supere algunas limitaciones, podría lograr ese propósito. Si lo que se quiere es realmente atender las necesidades del cliente, aún es necesario tener un humano de por medio.

   Otra área relacionada donde tiene mucho potencial es para distraer a los estafadores telefonicos. En este caso la IA no tiene que ser perfecta, sino solo simular a un humano medianamente creíble para hacerles perder tiempo y dinero a los estafadores.

3. Responder a preguntas especializadas. Las IA se usan cada vez más frecuentemente como una alternativa a las búsquedas clásicas en la red, ya que proveen una interfaz más amigable y pueden resumir múltiples fuentes en una respuesta que es (con cierta frecuencia) coherente. Esto último ha sido históricamente monopolizado por humanos. Como siempre, el problema más grande son las alucinaciones, con lo cual se requiere un humano especialista que verifique la calidad de los resultados.

   Un área afín es educación. En teoría, un LLM puede servir de tutor si se le dan las instrucciones adecuadas. En ese caso se afectan dos cosas: la certeza de la información entregada y el factor humano. Gracias a esto último, la educación presencial todavía tiene valor para muchas personas por sobre la educación a distancia u otras estrategias similares.

4. Programación. En esta área tengo experiencia de primera mano. Varias veces he probado en profundidad las capacidades de los LLM para crear código fuente. Los resultados, en mi opinión, son bastante pobres todavía. Si bien puede generar rápidamente cosas comunes y simples, tiene serias limitaciones cuando los requisitos a implementar aumentan de complejidad, requieren soluciones poco comunes o usan lenguajes poco populares o que cambian mucho en el tiempo. En mis pruebas, los LLM a menudo generan código con errores o que son difíciles de entender (porque siguen malas prácticas). Donde tienden a funcionar mejor es para generar código repetitivo, por ejemplo, archivos de configuración o boilerplate. En resumen, no pueden, por si solas reemplazar a un humano, pero si pueden potenciar a un desarrollador con suficiente experiencia.

5. Generación de contenido audiovisual. En esta área tengo serias preocupaciones. Esto es porque percibo que la mayoría del mercado para contenido audiovisual no requiere material de buena calidad. Esto es un caldo de cultivo ideal para la generación de bazofia (en inglés slop), contenidos destinados a las masas que no les preocupa lo bueno o malo que es.

En resumen, todas las disciplinas que, potencialmente, pueden verse afectadas por la IA comparten lo siguiente:

• Tareas tradicionalmente humanas pueden realizarse más rápido bajo ciertas condiciones

• La calidad del resultado tiene una variabilidad que requiere supervisión de un humano competente

• Si la calidad no es importante, el humano puede ser removido de la ecuación

Al final la pregunta puede acotarse a:

• ¿Qué porcentaje de las empresas están dispuestas a ahorrar dinero reemplazando humanos por IA, sin importar el detrimento en calidad?

Esa pregunta aún no puede responderse del todo. Está por verse si, aquellas empresas que intentan reemplazar personas por IA sobrevivan en el tiempo o si necesitarán recontratar los puestos humanos removidos para recuperar su competitividad.

Por sobre todo, aún si la IA reemplaza humanos, es muy probable que, lo haga sobre aquellos con poca especialización. En el largo plazo, podría no afectar significativamente la cantidad de puestos de trabajo ni los salarios promedio, ya que nuevas necesidades derivadas del uso de IA requerirán nuevos puestos para los humanos.

No importa lo que digan los Sacerdotes del Culto del Cargo, la Máquina de las Respuestas no es nada más que eso, una máquina, una herramienta que formará parte del abanico de opciones que tenemos los humanos para hacer nuestro trabajo más expedito, con todo lo que ello implica.

En otras palabras, creo que la IA seguirá el destino de las hojas de cálculo, que reemplazaron a los "computistas", pero no a los contadores.

Arte Artificial, Contenidos y valor intrínseco: Es la Máquina de las Respuestas capaz de crear?

El primer post que hice sobre IA y los LLM comenzaba con una cita, atribuida a Pablo Picasso: "Los ordenadores son inútiles, solo pueden darte respuestas"

De ahí nació la idea de llamar, a un computador y, más específicamente a uno potenciado por IA, la "Máquina de las Respuestas".

Un aspecto importante de la Máquina de las Respuestas, es la creación de "arte" a través de IA Generativa. Ya sea en forma de imágenes, audio o multimedia en general, los últimos avances en IA están dando bastante que hablar.

Desde un gatito preparando hamburguesas, hasta una imagen que ganó un concurso de arte , lo cierto es que ha sido un tema controversial y veo difícil un consenso en el corto plazo.

--Pero las imágenes, videos, música, son "arte" sin importar quién o qué las produzca? no?--

Un punto de discusión es si realmente lo que generan las máquinas podría considerarse "arte". No intentaré dar una definición exhaustiva de esta palabra, ya que permite muchísimas interpretaciones.

Sin embargo, la raíz del asunto está en la concepción del proceso de creación artística. Si lo vemos como una caja negra con entradas y salidas, creo que muchos concuerdan que el crear arte es algo más cercano a la transmisión de mensajes entre personas.

• El arte es creado por humanos. Los humanos usan herramientas y sus propias manos para dar forma a algo que se le llama "arte".

• El arte es creado para humanos. Los humanos lo perciben, interpretan, le dan un significado y un valor intrínseco subjetivo (independientemente de si esa fue la intención del artista o no).

Esta definición explicaría la controversia.

Bajo esa definición, lo que genera la IA no seria arte, sino solo "contenidos", multimedia que, de acuerdo a muchos, no tendría "alma", ya que ha sido creada por máquinas y no cumple el propósito de comunicar a un emisor y un receptor humanos

--Y si hay un humano diciéndole a la IA lo que debe hacer?--

Ciertamente, algunos piensan que escribir un prompt con las instrucciones que la máquina traducirá a un contenido multimedia, también es creación artística.

Sin embargo, si uno lo compara con procesos reales, esa interacción se asemeja más a la de un mecenas pidiéndole a su artista de cabecera que le haga una obra por encargo. El mecenas puede tener una idea básica de lo que quiere y comunicársela al artista, pero a final de cuentas es este último el que crea, no el mecenas.

Detrás del trabajo tangible de un artista está la intencionalidad constante de sus acciones en torno al proceso creativo. Cada pincelada en una pintura, cada golpe de martillo en una escultura, son, en su mayoría, una acción deliberada del artista para armar su creación.

Ciertamente hay un area gris. Suponiendo que una persona invierta una gran cantidad de tiempo con una IA generativa para lograr un resultado "artístico", esto podría ser indicio de intencionalidad y por consiguiente, de creación artística.

Sin embargo, el mayor argumento en contra de esto es la naturaleza estocástica, aleatoria, de lo que una IA genera a partir de un prompt. Es difícil lograr intencionalidad cuando no se saben a ciencia cierta, los efectos de las acciones.

--A no ser que la intencionalidad del artista sea lidiar con procesos aleatorios e impredecibles para generar sus resultados...--

---

Otro aspecto a tener en cuenta es la forma en que la IA genera los productos. Los últimos avances en IA Generativa derivan del uso de innumerables datos de entrenamiento, en forma de imágenes, videos y sonidos, creados por humanos.

La Máquina de las Respuestas "aprende" de dichos datos y los usa para generar algo que se asemeja.

Algunos argumentan que esa regurgitación y rehash del material hecho por humanos, no es creación artística y que los dueños de las IA estarían aprovechándose de las ideas de quienes crearon el material original.

Otros dicen que eso no es muy distinto a como un humano crea arte: tomando ideas de los demás. “Los grandes artistas copian, los genios roban”, es algo que dijo, presuntamente, Picasso también.

Sin embargo los mecanismos intrínsecos para llegar al resultado son esencialmente diferentes.

En este video la presentadora argumenta que las formas de medir desempeño representativas para los humanos no son aplicables a las IA, debido a la diferencia intrínseca del proceso que humanos y máquinas usan para llegar al mismo resultado.

Se puede argumentar algo similar para la creación artística. Un humano crea arte siguiendo ciertos procesos físicos y mentales, motivación y subjetividad. El proceso usado por una IA generativa para generar una imagen, video o audio, es inherentemente diferente.

¿Podemos llamar arte a lo que construye una máquina, siguiendo un proceso radicalmente diferente al de un humano?

--Información insuficiente para llegar a una respuesta significativa--

---

Un tercer elemento de controversia es el valor intrínseco de una obra, sea artística o simple contenido.

Ciertos aspectos de una obra si pueden ser cuantificados, aunque también basados en subjetividad: el valor monetario.

Como cualquier cosa que se pueda vender y comprar, el precio depende de su cadena del valor y la percepción subjetiva de los participantes de la transacción.

Hablando de la cadena del valor, tradicionalmente, el artista humano es un componente importante y crucial en la determinación del precio.

Todos conocemos artistas famosos, Michelangelo, Da Vinci y muchos otros. Artistas que, por ser históricamente famosos, su obras tienen un valor monetario enorme.

De manera no exactamente igual, otros artistas modernos son famosos, más por el patrocinio de casas de subastas que por un reconocimiento histórico masivo.

En cualquier caso, cuando hay una IA de por medio, esta parte de la cadena del valor se sustituye por una máquina, lo cual reduciría su valor.

--O no?--

Hace unos días, una casa de subastas famosa, Christie's, vendió una serie de obras hechas por IA por bastante dinero. Esto hace pensar que, en la cadena de valor de obras artísticas, el humano sería un componente prescindible y sustituible.

Evidentemente, la IA traerá consigo problemas serios para artistas de todo calibre.

Quizás la solución simplista sea hacer la distinción entre Arte Humano y Arte Artificial. Que las personas (y las máquinas (?)) determinen su valor.

A todas luces, el arte sigue y seguirá siendo un tema subjetivo y controversial. Especialmente con la popularización de la IA.

La Máquina de las Respuestas, cuando se trata de artes y contenidos, genera mas preguntas que soluciones