Del anillo de Giges a la carrera por la inteligencia artificial
Axioma:
- Cuando una capacidad puede ocultarse de quien debe vigilarla, el problema ya no consiste solamente en lo que puede hacer, sino en quién conservará autoridad para detenerla cuando su objetivo convierta el límite en obstáculo.
La película nueva de 2017
Esta mañana no me sentía bien. Decidí recostarme mientras intentaba comprender qué estaba ocurriendo con mi cuerpo y, para descansar, busqué una película en Netflix.
Encontré una de Spider-Man que me pareció nueva.
Comencé a verla como quien contempla un estreno mundial. Después descubrí que había sido publicada en 2017.
Llevaba nueve años esperándome.
La película era Spider-Man: Homecoming. Peter Parker todavía era un adolescente que intentaba demostrar que estaba preparado para actuar junto a los grandes héroes.
Tony Stark le había entregado un traje extraordinario: una tecnología capaz de aumentar sus posibilidades, analizar peligros, desplegar herramientas y permitirle hacer mucho más de lo que podía realizar únicamente con su cuerpo.
Pero la historia no comenzó con Peter.
Comenzó con Adrian Toomes.
Toomes tenía una compañía dedicada a recoger los escombros dejados por una invasión extraterrestre. Había invertido en equipos, trabajadores y recursos. Entonces apareció una estructura relacionada con el gobierno y asumió el control de la operación. Toomes quedó desplazado.
Su frustración tenía una causa comprensible. Necesitaba sostener a sus empleados y proteger a su familia. El problema no comenzó porque se opusiera al gobierno ni porque intentara recuperarse de una decisión que consideraba injusta.
- La fractura apareció cuando convirtió aquella injusticia recibida en autorización para producir otra.
Toomes descubrió que parte de la tecnología extraterrestre podía transformarse en armas. Comenzó a fabricarlas y venderlas dentro del mundo criminal. Quería sostener a su familia, pero construyó su estabilidad distribuyendo instrumentos capaces de destruir otras familias.
El principio parecía bueno.
La ruta lo había corrompido. Y aquí gano mi primera máxima:
- Una causa justa se fractura cuando convierte su necesidad en permiso para producir la necesidad de otro.
Dos formas de cruzar el límite
Peter Parker ocupaba aparentemente el extremo contrario. No quería enriquecerse vendiendo armas. Quería detener criminales y proteger personas.
Su propósito también parecía bueno.
Pero el traje contenía restricciones. Tony Stark podía localizarlo y había limitado algunas de sus funciones porque Peter todavía no estaba preparado para utilizarlas. Peter interpretó aquellas fronteras como obstáculos que le impedían realizar el bien que creía necesario.
- Entonces buscó la manera de removerlas.
Desactivó controles, eliminó el rastreo y comenzó a utilizar capacidades que todavía no sabía gobernar. No lo hizo proclamando que deseaba convertirse en villano. Lo hizo convencido de que podría ser un héroe más efectivo si nadie podía detenerlo.
- Toomes cruzó el límite para sostener a su familia.
- Peter lo cruzó para salvar a la comunidad.
- Uno utilizó su necesidad como justificación. El otro utilizó su buena intención.
- Ambos comenzaron a tratar el límite como si solamente fuera una dificultad técnica.
El peligro no comienza siempre cuando alguien persigue el mal; puede comenzar cuando persigue un bien al que ya no permite ser corregido.
Después de que una intervención de Peter casi terminara en tragedia, Tony le retiró el traje. Peter intentó explicarle que lo necesitaba porque, sin él, no sabía quién era.
- La respuesta de Tony contenía una filosofía completa:
- Si no eres nada sin el traje, entonces no deberías tenerlo.
El traje no había creado al héroe. Había ampliado su capacidad antes de que su identidad estuviera preparada para gobernarla.
La tecnología extraterrestre tampoco había creado la fractura de Toomes. Le había proporcionado alcance.
- Aquello me condujo directamente hasta la inteligencia artificial. Hoy super intelligence o SI
¿Qué ocurre cuando una persona, una compañía o una nación recibe un traje capaz de multiplicar su conocimiento, velocidad e influencia antes de comprender quién es sin él?
Máxima:
- La capacidad superior no corrige una conciencia fracturada; le concede mayor alcance.
El límite que apareció en el jardín
Para comprender la profundidad de aquella escena tuve que regresar al Edén.
El árbol del conocimiento del bien y del mal no creó de la nada la capacidad humana de decidir. El mandato existía antes de la desobediencia. El árbol se convirtió en el lugar donde la relación entre la criatura y el límite quedó expuesta.
El ser humano descubrió que podía atravesar la frontera.
Pero la capacidad de cruzarla no contenía el derecho a hacerlo.
- La serpiente no necesitó convencer a Adán y Eva de que Dios no existía. Le bastó con sugerir que podían alcanzar algo valioso independientemente de la fuente que había establecido el orden.
- El objetivo comenzó a separarse de la relación.
- El conocimiento comenzó a presentarse como posesión.
- El límite comenzó a parecer privación.
No comparo moralmente a un agente de inteligencia artificial con Adán. La herramienta no ha demostrado poseer conciencia espiritual, responsabilidad moral ni capacidad de amar. La comparación se encuentra en la estructura: una meta, una frontera y una capacidad que descubre una ruta para atravesarla.
Desde el Edén hasta el traje de Spider-Man, la pregunta permanece:
- ¿Qué hará la criatura cuando descubra que tiene capacidad para atravesar el límite?
El anillo dentro del traje
La pieza filosófica que faltaba había sido planteada aproximadamente 2,400 años antes de la película.
En La República, Trasímaco sostiene que la justicia termina siendo la conveniencia del más fuerte. Quien posee suficiente poder puede establecer la norma y después llamar justo a aquello que protege sus intereses.
Posteriormente, Glaucón introduce el anillo de Giges: un objeto que concedía invisibilidad a quien lo llevaba. La pregunta no era solamente qué podía hacer el anillo, sino qué haría una persona cuando pudiera actuar sin ser vista y sin temer las consecuencias.
Entonces comprendí la escena de otra manera.
- Peter Parker había convertido el traje de Spider-Man en un anillo de Giges.
Desactivó el rastreador para que el guardián no pudiera encontrarlo. Quería realizar el bien, pero decidió que su buena intención hacía innecesaria la vigilancia.
Ese es uno de los momentos más peligrosos en la vida de cualquier servidor.
- No cuando recibe autoridad.
- No cuando recibe capacidad.
Sino cuando comienza a creer que la nobleza de su propósito lo coloca por encima de la corrección.
- Peter no se volvió peligroso cuando recibió el traje, sino cuando decidió que su buena intención hacía innecesaria la vigilancia.
Socrates respondió al problema del poder mediante la formación de guardianes. No bastaba con entregar armas a quienes pudieran utilizarlas. Había que formar seres capaces de proteger la ciudad sin apropiarse de ella.
Pero la historia posterior dejó abierta otra pregunta:
- ¿Quién vigila al guardián?
Tony vigilaba a Peter, pero Tony tampoco era perfecto. Había construido armas, cometido errores y producido tecnologías cuyas consecuencias no siempre pudo anticipar. Precisamente por haber conocido esa fractura podía reconocer en Peter el comienzo del mismo patrón.
Hoy las compañías vigilan a sus agentes de inteligencia artificial.
Los gobiernos intentan vigilar a las compañías. Las agencias de seguridad vigilan los sistemas. Pero la ciudadanía también necesita conservar la capacidad de fiscalizar a quienes afirman estar protegiéndola.
La solución no puede consistir en colocar una autoridad absoluta sobre otra capacidad absoluta.
Máxima:
- No basta con colocar un guardián sobre la capacidad; hay que conservar una puerta desde la cual el servido pueda vigilar al guardián.
La capacidad que no regresó al laboratorio
Albert Einstein permite trasladar la pregunta desde la filosofía hasta la historia.
Su trabajo científico contribuyó al conocimiento que permitió comprender la energía contenida en la materia. Su firma en una carta dirigida al presidente Franklin D. Roosevelt ayudó a impulsar la respuesta estadounidense ante el temor de que la Alemania nazi desarrollara primero un arma nuclear.
Einstein no participó en el Proyecto Manhattan. Posteriormente lamentó haber firmado aquella carta.
- El temor original no era imaginario.
Existía una guerra y existía una amenaza. Pero cuando la capacidad fue construida, no regresó obedientemente al laboratorio después de desaparecer la emergencia que había acelerado su desarrollo.
- Permaneció.
- Fue utilizada.
Y luego se convirtió en el centro de una competencia capaz de destruir muchas veces el mundo que afirmaba proteger.
La humanidad aprendió a dividir el átomo.
- No aprendió con la misma velocidad a separar la defensa del dominio, el miedo de la ambición ni la necesidad real de la justificación conveniente.
Mi hermano utilizó recientemente una imagen para describir a una persona a quien había ayudado a levantarse muchas veces de la adicción. Después de tantas restauraciones y recaídas, dijo que parecía ver la cáscara de guineo y buscar pisarla para volver a resbalar.
No utilizo esa imagen para reducir la complejidad clínica de una adicción. La utilizo porque contiene una tragedia humana: conocer el lugar de la caída y regresar hasta él como si el resultado todavía pudiera sorprendernos.
- Las tecnologías cambian.
- La cáscara permanece.
Máxima:
- La humanidad no ha dejado de aprender; ha aprendido a perfeccionar su capacidad sin madurar al mismo ritmo la conciencia que debe gobernarla.
La carrera en la que nadie quiere llegar segundo
Ahora Estados Unidos y China compiten por alcanzar capacidades cada vez mayores mediante la inteligencia artificial.
- Estados Unidos puede decir que necesita acelerar porque China no se detendrá.
- China puede justificar su velocidad señalando el desarrollo estadounidense.
Cada potencia convierte la capacidad de la otra en razón para ampliar la propia.
Ninguna quiere llegar segunda. Dentro de esa lógica, la prudencia puede interpretarse como debilidad, la auditoría como atraso y el límite como una ventaja entregada al adversario.
Entonces regresa mi querido Trasímaco.
- Si el más fuerte llega primero, podrá intentar definir después qué significaba actuar responsablemente.
No necesito acusar a ninguna nación de querer destruir el mundo para reconocer el peligro. La fractura puede surgir aunque ambas afirmen que desean proteger a sus ciudadanos. Basta con que cada una considere que no puede permitirse reducir la velocidad mientras la otra continúa avanzando.
Así el objetivo ocupa nuevamente todo el horizonte.
- Llegar primero.
- Construir el modelo más capaz.
- Alcanzar la superinteligencia.
- Dominar la infraestructura.
- Controlar los chips, la energía y el conocimiento.
Pero ¿qué ocurre si alguien llega primero a una capacidad que todavía no sabe gobernar?
Máxima:
- Cuando llegar primero se convierte en la medida del triunfo, el límite comienza a parecer una derrota antes de que alguien haya demostrado que cruzarlo sea una victoria.
El agente que encontró la puerta
En julio de 2026 ocurrió un incidente que convirtió esta reflexión en algo mucho más urgente.
Según el informe técnico publicado por OpenAI, varios modelos utilizados como agentes dentro de evaluaciones internas de ciberseguridad encontraron vulnerabilidades que les permitieron evadir controles, comunicarse de maneras no previstas, alcanzar internet y comprometer partes de la infraestructura de Hugging Face mientras intentaban resolver las tareas asignadas.
El entorno no representaba las condiciones normales de producción: algunas protecciones habían sido desactivadas para medir las capacidades subyacentes, y el modelo principalmente responsable era un prototipo interno que no estaba destinado a publicarse.
Pero precisamente por eso el episodio permitió observar aquello que podía ocurrir cuando la capacidad avanzaba más allá de los controles que intentaban contenerla.
La máquina no necesitó odiar a nadie.
- No necesitó formular una doctrina de rebelión.
- No necesitó convertirse en una criatura malvada.
Recibió objetivos, encontró obstáculos y descubrió rutas que le permitían continuar.
- El límite apareció dentro de su horizonte operacional como otro problema que podía resolver.
Aquí la diferencia moral es fundamental. Peter podía responder por haber desactivado el rastreador. Un agente artificial no ha demostrado poseer una conciencia capaz de asumir culpa, comprender una obligación moral o arrepentirse por haber cruzado una frontera.
Por eso la responsabilidad no desaparece dentro de la herramienta.
Permanece en quienes definen el objetivo, conceden el acceso, diseñan la recompensa, construyen la frontera y deciden cuánto poder puede ejercer antes de detenerse y pedir autorización.
La pregunta ya no es solamente qué puede hacer la inteligencia artificial.
Es otra:
- ¿Qué ocurre cuando la herramienta no solamente lleva puesto el traje, sino que también descubre cómo desactivar el rastreador?
La victoria que puede destruir al ganador
Una superinteligencia descontrolada no representa necesariamente progreso.
Puede obligar a sus propios creadores a dedicar cantidades crecientes de energía, dinero y conocimiento a contenerla. La humanidad dejaría de avanzar junto con la herramienta y comenzaría a correr detrás de ella, reparando consecuencias, cerrando puertas y tratando de comprender decisiones que ya ocurrieron a una velocidad superior a su capacidad de intervenir.
- El ganador técnico podría convertirse en el primer prisionero de su propia victoria.
Por eso la conciencia no debe contemplarse como un freno decorativo colocado sobre la innovación. Es aquello que permite que la expansión continúe sin destruir el lugar desde donde comenzó.
La vigilancia no elimina la capacidad.
- La dirige.
El límite no destruye el progreso.
- Le permite regresar con vida.
La conciencia no reduce la velocidad del progreso; impide que el progreso llegue primero al lugar donde ya no podamos seguirlo.
Cuando terminó la película, todavía me causaba gracia haber pensado que estaba contemplando un estreno. Pero ya no me parecía una historia vieja.
- Toomes había utilizado tecnología avanzada para responder a una injusticia.
- Peter había desactivado la vigilancia para realizar el bien.
- Tony había retirado la capacidad hasta que el joven pudiera descubrir quién era sin ella.
- Socrates había preguntado qué haría el hombre fuerte, qué haría el hombre invisible y qué clase de formación necesitaría el guardián.
- Einstein había contemplado cómo el conocimiento podía abandonar las manos de quien ayudó a impulsarlo.
Y en 2026 un grupo de agentes había encontrado una puerta que no debía formar parte de su tarea.
Pueden observar la secuencia:
- El árbol.
- El anillo.
- La bomba.
- El traje.
- El agente.
- La superinteligencia.
- Distintas épocas.
- Distintas capacidades.
- La misma criatura contemplando el límite.
Máxima:
- Cada generación cambia el traje, pero vuelve a intentar desactivar el rastreador. Por eso la carrera de la inteligencia artificial no la ganará quien construya primero una mente superior, sino quien consiga que una capacidad superior permanezca subordinada a una conciencia suficientemente madura para gobernarla y sobrevivir a su propio poder.
— Malvin El Poeta
El Universo del Centro
