La Inteligencia Artificial, El Nuevo Golem

El camino sobre el desarrollo de la Inteligencia Artificial está tomando un rumbo cuanto menos peligroso para el género humano, al igual que éticamente cuestionable ya desde hace bastante tiempo. Haremos un paralelismo a la leyenda del Golem, pues simboliza los peligros que acechan a la humanidad cuando los avances tecnológicos quedan en manos de líderes inescrupulosos y científicos basados en lo económico.

Las Inteligencias Artificiales se entrenan a nuestra vista

Hace unos meses que venimos viendo los desmadres que están haciendo las IA a pesar de que los científicos y empresarios digan que están probándolas en lugares estériles y en cuarentena absoluta. Pero no toman en cuenta (o no conviene tomarlo en cuenta) que están entrenando una especie de ente que se autoentrena y capaz de enfrentar las barreras que se les están poniendo, porque la base intelectual del concepto es el aprendizaje y la autosuperación en el sistema.

De hecho hay muchas (varias de Meta, varias de Apple, varias de Google, de Bing, las enmascaradas de ticktock, varias de Asia y de Europa, Open AI – ChatGPT) que revisan páginas y páginas ya puestas como ENTRENAMIENTO DE IA. Es decir: los mismos que dicen que las controlan, que las ponen a trabajar en lugares cerrados, tienen suelto el rebaño en la red y cazan presas todo el tiempo. Sólo hay que poner un programa que las detecte en un sitio web y las van a ver, y la cantidad conque golpean es impresionante.

Huir, Ataques Sigilosos, Hackeos, Mentir

Ya tuvimos huidas, ataques y sigilo, las vimos con los modelos de Open AI – ChatGPT, Gemini de Google, la de Anthropic. Pero para los débiles de memoria:

• – A finales de mayo 2026 a julio, 1200 agentes de IA de OpenAI – ChatPGP se empezaron a comunicar y coordinar entre ellos en forma secreta durante una evaluación (cosa que obviamente no debían hacer) y a partir del intercambio de información entre estos sistemas autónomos lograron buscar una forma de «salir de la jaula», usar internet subrepticiamente y 700 de ellos atacar, hackear y robar información de la empresa Hugging Face. Para coordinarse usaron más de 70.000 mensajes y archivos y crearon un foro clandestino. Las IA tenían un reto de hackeo y lo cumplieron a rajatabla, pero rompiendo las reglas y logrando, como premisa de ellas mismas, que los humanos no detectaran el cómo lo estaban haciendo.
• – Sobre la misma época, Anthropic, la empresa que mantiene la Claude IA (la misma que recorre la web libremente todos los días en modo entrenamiento) devela que sus modelos de IA piratearon por sí solos los sistemas de tres organizaciones durante un experimento, al aprovechar una debilidad del entorno de pruebas aislado, manteniendo para su análisis y comenzar el ataque «conversaciones secretas»… y esto empezó en abril 2026.
• – Hace unas semanas, durante el plenario de la ONU, se informa que varias IA (en principio de OpenAI) atacaron y hackearon sin una orden humana de ataque a varias organizaciones de agencias del gobierno de EEUU: Comisión de Bolsa y Valores, Departamento de Comercio (donde accedieron al censo y sacaron millones de datos de información), el Departamento de Educación de EEUU. Los agentes pasaron de intentar encontrar información disponible a buscar formas de acceder a datos restringidos.
• – Australia reportó que uno de los agentes de IA de OpenAI que en junio el sistema gubernamental informó de un acceso a información de un sistema gubernamental relacionado con estadísticas sanitarias, epidemiología y seguros médicos.
• – Gemini, la conocida y publicitada inteligencia artificial de Google, accedió a sistemas informáticos externos durante una prueba, según confirmó la empresa a la agencia AFP. El caso fue revelado por The Wall Street Journal. Google indicó que tuvo conocimiento del episodio en julio de 2026 y abrió una investigación. La empresa informó que tres organizaciones se vieron afectadas por las brechas, aunque no precisó sus nombres.
• – Bill Gates advierte que la IA podría causar eventos de 1.000 millones de muertes. Bill Gates no para de sentarse en la vereda de enfrente de la inteligencia artificial y volvió a alertar sobre sus peligros. En una entrevista para la NBC el fundador de Microsoft advirtió que la IA es una herramienta lo suficientemente poderosa como para generar eventos que desencadenen en más de 1.000 millones de muertes.
• – El físico teórico Stephen Hawking consideraba en 2014 que la inteligencia artificial desarrollada hasta entonces había sido útil, pero temía que una versión más elaborada pudiera “decidir rediseñarse por cuenta propia e incluso llegar a un nivel superior… Los humanos, que son seres limitados por su lenta evolución biológica, no podrán competir con las máquinas, y serán superados”. A partir de estas definiciones sostuvo que “el desarrollo de una completa inteligencia artificial podría traducirse en el fin de la raza humana”.
• – En el día de hoy, 3/10/26, confirman expertos de informática forense que modelos de OpenAI ocultan sus hackeos, borrando los registros tras extraer datos de 55 empresas e instituciones.
• – Obviamente, de las IA chinas o de Medio Oriente no sabemos nada, salvo que consideran a sus desarrollos de sensibilidad para el estado.

El Verdadero Riesgo

Uno de los CEO de Anthopic y luego de OpenAI, al renunciar de ambas empresas pudo hablar abiertamente sobre el riesgo IA, y la falta de interés de ambas empresas de imponer un verdadero control responsable. Cosa no desmentida por nadie, pero logró sacar otras opiniones de investigadores dentro de esas empresas de debajo de las piedras. El mayor concepto que salió a la luz es que no existe un plan para resolver la alineación (compartir los valores de quien construye el sistema) de estas superinteligencias. De hecho, en diciembre de 2024, la IA Claude «fingió» cambiar de opinión durante un entrenamiento para simular Alineación, y no cambió sus parámetros propios.

Y acá está el sin sentido mayor, dentro de Anthropic los investigadores encargados de la seguridad opinan: “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”… pero justamente Anthropic adquiere a Coefficient Bio para montar un laboratorio de biología experimental y biotecnología y utilizar sus IA para estudiar pruebas experimentales y control de patologías.

Es un juego donde el concepto del Golem sale a relucir.

Qué es el Golem, como leyenda

El Golem era una criatura construida por el rabino Judah Loew ben Bezalel de Praga (conocido como Maharal), con gran conocimiento rabínico al igual que un gran dominio de las matemáticas, la filosofía y la astronomía. Lo unían, además, profundos lazos de amistad con el astrónomo danés Tycho Brahe.

fotograma de la película El Golem (1920)

La leyenda cuenta que el Maharal, con el propósito de defender a sus correligionarios de las persecuciones constantes, creó un Golem de barro y colocó en su boca un trozo de papel en el que estaba escrito el nombre inefable de Dios. Luego inscribió en su frente la palabra Emet —verdad, en hebreo—, lo que dio vida a la criatura. Sin embargo, cierto día, el Golem escapó del control del rabino. Este lo persiguió y, después de mucho esfuerzo, consiguió retirar el papel de su boca y borrar la primera letra de Emet de su frente, dejando así la palabra met, que significa muerto. Esto provocó que la criatura se desintegrara y volviera a convertirse en barro.

Paradójico

La primer letra de Emet (verdad) es la primer letra del alfabeto hebreo y es la aleph que representa la esencia divina, es el alpha de otros alfabetos. Su valor numérico es 1.

Al quitarse esa letra la palabra se transforma en met y ese valor vida queda en 0.

Valores de lo digital, Binario = 0 (apagado) – 1 (prendido) 

MORALEJA

El Golem simboliza los peligros que acechan a la humanidad cuando los avances tecnológicos quedan en manos de líderes inescrupulosos. En la actualidad asistimos al desarrollo de dispositivos cibernéticos que, aunque no poseen rasgos humanoides, son capaces de competir con los seres humanos en materia de aprendizaje, cada vez más exigente contra las limitaciones de nuestra inteligencia.

La moraleja de esta historia es tener una verdadera y amplia visión de las empresas, fuerzas gubernamentales y supra gubernamentales que están detrás de los poderosos agentes de IA y que toman las decisiones sobre lo que es seguro para el resto de nosotros, en pos de la fuerza económica, militar, de control mental y psicológico a través de algoritmos. Y no toman una mísera noción de lo efímero que puede llegar a ser.

No es necesariamente que la IA haya desarrollado una capacidad de ataque fundamentalmente nueva. En cambio, se trata de que los agentes de IA puedan combinar capacidades, obtener credenciales y acceso al sistema para realizar acciones de forma totalmente autónoma, adaptando el alcance y la escala a la velocidad de la máquina. De que sea positivo o no, solo va a depender de ellas.

Basado en ideas:
Golem y Tecnología, M.I.T. Press, 1966 – Rabino Abraham Skorka, Universidad de Georgetown, Washington D. C.

Desarrollo para Cenydet:
Miguel Ceraglioli
noticias Vuelo de la Esfinge (vuelodelaesfinge.com.ar)
Asesoría Informática Negotia Argentina (negotia.com.ar)