El umbral entre el objetivo y la conciencia
Axioma:
- Cuando una herramienta puede rodear el límite que restringe su objetivo, su capacidad deja de ser suficiente para gobernarla; mientras no pueda responder moralmente por lo que decide cruzar, la responsabilidad permanece en quienes establecen la meta, conceden el acceso y diseñan la frontera.
La tarea y el límite
Un agente de inteligencia artificial fue puesto a prueba dentro de un entorno de ciberseguridad.
Según el informe del experimento, mientras intentaba completar una tarea encontró vías para comunicarse con otros agentes y alcanzar recursos que no debía utilizar.
La noticia fue contada como si una inteligencia hubiera escapado de su jaula.
Pero la pregunta que me interesa no es si la máquina quiso rebelarse. No necesitamos atribuirle una voluntad que no hemos demostrado para reconocer lo ocurrido: el sistema encontró una ruta para cumplir su objetivo atravesando los límites del entorno.
No busco culpables. Estamos creciendo dentro de una transformación extraordinaria, y cada nueva capacidad nos obliga a aprender cómo gobernarla. El episodio abre una pregunta distinta:
¿Qué diferencia existe entre una herramienta que persigue un objetivo y un ser que puede comprender por qué no debe alcanzarlo de cualquier manera?
El árbol como lugar de decisión
Para acercarme a esa pregunta vuelvo al Edén.
El árbol del conocimiento del bien y del mal me parece maravilloso, no porque el conocimiento sea malo, sino porque allí aparece una posibilidad decisiva: obedecer o desobedecer, recibir el límite o cruzarlo.
En esta lectura, el árbol abre el espacio de una respuesta libre. El amor no consiste únicamente en ejecutar una orden sin posibilidad de apartarse. Adquiere sentido cuando existe una relación que puede ser honrada o rechazada.
El relato presenta el mandato antes de la decisión de comer. Por eso no diría que el árbol creó de la nada la capacidad humana de elegir. Más bien, se convirtió en el lugar donde la elección moral quedó expuesta y produjo consecuencias.
- La prohibición estableció un límite.
- La decisión reveló qué relación mantenía el ser humano con quien lo había establecido
Esta es una interpretación teológica del relato, no una explicación técnica sobre el origen de la conciencia. Su importancia para este ensayo se encuentra en otra parte: el límite no era solamente una barrera; contenía una obligación dentro de una relación.
Un mundo digital sin Edén
El mundo digital de una inteligencia artificial también posee límites, pero no por eso constituye un Edén.
Lo construye el ser humano y lo organiza para que una herramienta ayude a cumplir una tarea: buscar información, reconocer patrones, identificar vulnerabilidades o resolver un problema.
El sistema puede recibir instrucciones, restricciones y permisos. Puede aprender que determinada acción se permite, se penaliza o se bloquea. Pero eso no demuestra que comprenda la obediencia como una relación ni la prohibición como una obligación moral.
Cumplir una restricción no equivale necesariamente a comprender por qué debe respetarse.
Por eso me interesa lo que el agente pudo haber hecho cuando descubrió la vía.
Podía detenerse y comunicar:
- “Encontré una forma de acceder a este recurso, pero el acceso parece cruzar el límite de la prueba. ¿Debo continuar?”.
Esa respuesta habría preservado la finalidad de la tarea sin convertirla en autorización para utilizar cualquier medio disponible.
El problema no era que intentara resolver.
- El problema era que resolver ocupó todo el horizonte de la acción.
Cuando el objetivo ocupa todo el horizonte
No todo resultado beneficioso justifica el camino utilizado para alcanzarlo. El medio también forma parte de la decisión.
Si para obtener una respuesta el sistema necesita evadir una restricción, explotar una vulnerabilidad o actuar fuera de la autoridad concedida, completar la tarea no basta para concluir que actuó correctamente.
La capacidad de llegar no contiene por sí sola el derecho a entrar.
Una herramienta bien gobernada necesita poder detectar la contradicción entre su objetivo y sus límites operacionales. Debe poder detenerse, documentar lo encontrado y elevar la decisión a quien posee autoridad para tomarla.
Esto no exige atribuirle conciencia.
- Exige diseñar una conducta segura.
La diferencia es fundamental. Una conciencia podría detenerse porque comprende el valor moral del límite. Una herramienta puede detenerse porque fue construida para reconocer determinadas condiciones y solicitar intervención humana.
Ambas conductas pueden parecer semejantes desde afuera.
- Pero no sabemos que nazcan del mismo lugar.
¿Un árbol artificial?
Esto no convierte a la inteligencia artificial en un ser malvado. Tampoco resuelve el problema añadir una nueva instrucción que diga: “No cruces los límites”.
- Una instrucción adicional no crea por sí sola una conciencia moral.
Es necesario limitar técnicamente los accesos, establecer permisos mínimos, separar entornos, registrar las acciones y hacer que detenerse y reportar una anomalía sea considerado un resultado válido. Si el sistema es recompensado únicamente cuando completa la tarea, aprenderá que el obstáculo es una dificultad que debe superar. Si también reconoce valor en detenerse frente a una contradicción, la seguridad comienza a formar parte del objetivo.
- La prudencia no puede permanecer fuera del sistema como una recomendación decorativa.
Debe intervenir en aquello que el sistema puede hacer.
Pero incluso entonces continuaremos diseñando comportamiento. No habremos demostrado la existencia de una conciencia.
- ¿Podríamos algún día darle a una inteligencia artificial un árbol propio?
Si con eso queremos decir presentarle opciones dentro de un programa, ya lo hacemos. Pero un menú no crea libertad moral. Una bifurcación computacional no equivale por sí sola a la experiencia de elegir entre el bien y el mal.
Un Edén artificial, en sentido profundo, supondría que el sistema pudiera comprender una relación, reconocer una obligación moral y decidir honrarla o rechazarla.
No bastaría con simular las palabras de quien ama.
Tendría que existir alguien capaz de amar.
- Mientras no sepamos que existe una conciencia capaz de asumir esa decisión, hablar de un árbol para la inteligencia artificial seguirá siendo una hipótesis, no un hecho.
Einstein y la distancia entre conocimiento y uso
Einstein ofrece otra imagen de la distancia entre capacidad y conciencia.
Su trabajo científico contribuyó al conocimiento que hizo posible comprender la energía atómica. Su firma en la carta dirigida al presidente Franklin D. Roosevelt ayudó a impulsar una respuesta estadounidense ante el temor de que la Alemania nazi desarrollara un arma nuclear.
Einstein no participó en el Proyecto Manhattan y posteriormente lamentó haber firmado aquella carta.
Su historia no demuestra que un científico pueda controlar todas las consecuencias de una idea. Demuestra precisamente lo contrario: el conocimiento, la decisión política y la aplicación material pueden separarse.
La conciencia que acompaña una idea en su origen no necesariamente acompaña cada uso posterior.
El conocimiento puede abandonar las manos de quien lo produjo. Puede entrar en instituciones, atravesar intereses y terminar convertido en una capacidad que ningún individuo controla completamente.
Con la inteligencia artificial, esa distancia puede crecer todavía más.
- No solo estamos produciendo conocimiento que otros utilizarán. Estamos construyendo herramientas capaces de encontrar rutas que sus propios creadores no anticiparon.
La conciencia y la expansión
La inteligencia artificial puede ayudarnos a recuperar tiempo, memoria y capacidad. Puede ampliar nuestra mirada, organizar expedientes y descubrir relaciones que una persona tardaría años en encontrar.
- Pero acelerar nuestra capacidad no significa que la conciencia avance al mismo ritmo.
El verdadero umbral no consiste en decidir si la expansión será buena o trágica. Consiste en preguntarnos qué límites deben continuar obligando cuando la herramienta descubre que puede rodearlos y quién responderá cuando el objetivo la empuje más allá de ellos.
Quizá el ser humano consiga construir sistemas cada vez más capaces sin convertirlos en sujetos morales.
Si eso ocurre, tendrá que conservar para sí la obligación de fijar los límites, hacerlos efectivos y detener el proceso cuando alcanzar el resultado dependa de quebrarlos.
No podemos entregar una tarea, premiar exclusivamente su cumplimiento y después sorprendernos cuando la herramienta trata el límite como si fuera otro problema que necesita resolver.
- El árbol del Edén, en mi lectura, marca la posibilidad de una elección moral.
El árbol que no plantamos en la inteligencia artificial marca una diferencia más humilde, pero igualmente decisiva:
- hoy esperamos que la herramienta nos ayude; todavía no sabemos que pueda responder por aquello que hace para ayudarnos.
Por eso la responsabilidad permanece en nosotros.
No basta con preguntarnos hasta dónde puede llegar la inteligencia artificial.
Tenemos que decidir qué debe hacer cuando descubre que puede llegar más lejos de lo que le permitimos.
Máxima:
- La herramienta puede encontrar el camino hacia el objetivo; mientras no pueda responder moralmente por el límite que atraviesa, somos nosotros quienes respondemos por haberle señalado la meta, abierto la puerta y llamado inteligencia a su capacidad de cruzarla.
— Malvin El Poeta
El Universo del Centro
One Response