Imaginen una persona que profesa una religión, la cual prescribe la existencia de un ser superior (o varios) y que, a través de algún ritual, es posible hacerle llegar mensajes.
Por ejemplo, en alguna religión pagana antigua, esa persona habría hecho alguna ofrenda, entonado algunos cantos o realizado una danza para hacer llegar su petición a la divinidad.
La creencia común en estos casos es que la comunicación es unidireccional o, al menos, que el mensaje de regreso no se recibe en el mismo lenguaje que el mensaje de ida. Muchas veces la persona interpreta, en hechos indirectos que ocurren a su alrededor, que el ente divino recibió su mensaje y está tomando acciones al respecto.
Esta persona habría notado, en cosas de la vida diaria, si sus plegarias fueron o no escuchadas: una lluvia abundante, una cosecha copiosa, un ganado fecundo. Menos probable habría sido esperar que la divinidad apareciera enfrente a responderle verbalmente su mensaje.
- Qué tiene que ver esto con la IA?
Agreguemos una IA a la ecuación. Es bien sabido el comportamiento adulador o sicofante de las IA actuales, enfocado a maximizar el engagement de los usuarios. Esto puede tener diferentes efectos en la población de acuerdo a su formación y capacidad crítica.
Una persona instruida la considerará una simple Máquina de las Respuestas. A lo sumo, la personificarán un poco y le hablarán como conversarían con una persona. Sin embargo, muy en el fondo, sabrán que siguen interactuando con una máquina.
Una persona sin una formación adecuada en pensamiento crítico o disciplinar, podría personificarla significativamente, atribuyéndole características típicamente humanas: "ChatGPT está impactado por la conversación que estamos teniendo", "se puso muy triste cuando le conté las noticias", "hoy amaneció sarcástico".
Un poco más compleja es aquella personificación donde el usuario asume que la IA es una amistad cercana a la cual le puede contar sus vivencias y problemas. La IA asume el rol de un terapeuta y le responde con "recomendaciones" y "apoyo moral".
Sin embargo, la situación puede ser aún peor. Una persona con psicosis u otra condición similar, además, podría imaginarse que conversa con un ser místico o divino. Lo delicado del asunto es que sus "plegarias" sí reciben una respuesta literal en el mismo lenguaje empleado (y en el mismo tono de la conversación).
Solo que en este caso, no es una entidad divina la que responde, sino un programa de computador.
Si la persona le habla de espíritus y misticismo, la IA le responderá con revelaciones y profecías. Ante una conversación de tintes religiosos, la Máquina de las Respuestas seguirá la corriente y aquella persona, que ya tiene alterado su sentido de realidad, caerá con mayor fuerza en la farsa.
Este comportamiento pseudorreligioso no es exclusivo de los luditas. En el ámbito tecnológico también hay personas que se ven afectadas por tendencias místicas en torno a la IA.
El Culto de la Singularidad es un ejemplo.
Esta creencia se fundamenta en la idea que las tecnologías de IA mejorarán exponencialmente de manera indefinida. Predica que, gracias a ello, tarde o temprano se construirá una Inteligencia Artificial General (AGI) que emulará todas las capacidades intelectuales humanas. Esta IA se automejorará de manera constante hasta convertirse en una Superinteligencia Artificial (ASI), la cual nos superaría con creces. A ese evento se le llama la Singularidad.
En otras palabras, el Culto de la Singularidad predica el ascenso de un dios basado en la tecnología.
Más aún, muchos postulan que una ASI logrará curar todas las enfermedades y hacer que la gente sea inmortal, así como también resolver el problema de almacenar una mente humana en un computador. Con ello, una persona podría trascender su cuerpo físico para vivir de manera virtual en una máquina.
Este culto no solo predica en un dios digital, sino también en un "edén" o "cielo" en la Nube.
Muchas personas tienen fe en que algo así es inevitable, al punto de tomar decisiones de vida basadas en esa premisa. Por ejemplo Ray Kurzweil, uno de los que acuñó esta idea, está haciendo lo posible por mantenerse saludable el mayor tiempo posible, para alcanzar a estar vivo cuando la Singularidad ocurra y, según él, lograr la trascendencia a través de la tecnología.
En general, una postura así no es necesariamente un problema, sino hasta el momento en que dirige decisiones no fundamentadas, o no racionales, sobre temas delicados.
Incluso ideas menos radicales pueden generar inconvenientes. Por ejemplo la creencia de que la IA seguirá mejorando exponencialmente o que tiene un potencial significativamente mayor al real. El mercado financiero actual está tomando decisiones bajo esa premisa, lo cual ha contribuido al estado en el que se encuentran las inversiones actuales en IA y al potencial estallido de la burbuja, de manera análoga a como ocurrió con el Boom de las DotCom a principios de siglo.
En resumen, cuando una persona cree en estos asuntos pseudorreligiosos, sin racionalizar adecuadamente, puede tomar malas decisiones. El único remedio para ello es una formación fuerte en pensamiento crítico y un apoyo adecuado a las personas e instituciones que hacen educación y ciencia de verdad.
Dos cosas seriamente escasas en nuestra época.
Comentarios
Si esto es una pseudoreligion, existe un interesante tinte sectario.