La conciencia detrás del agente
Axioma:
- Cuando una sociedad entrega a una inteligencia ampliada parte de su capacidad para decidir, no puede entregar también su responsabilidad: debe poder responder dónde está la conciencia que formuló el objetivo, autorizó la acción y atenderá al servido.
La pregunta que me acompaña
Hace más de veinte años, entre 2003 y 2004, prediqué un mensaje evangelístico titulado << ¿Dónde estás tú?>>. Para entonces era miembro de la Iglesia de Dios Pentecostal de Cotto Laurel. Le hablaba a la comunidad y a las personas que estaban allí. Recuerdo que relacioné el mensaje con la pregunta de Dios a Adán y también con pasajes de Isaías: «Mis pensamientos no son vuestros pensamientos, ni vuestros caminos mis caminos» y
<<¿Quién ha creído a nuestro anuncio?>>.
No recuerdo ahora cada transición de aquel mensaje, y no voy a reconstruir lo que la memoria no conserva. Sí recuerdo su llamado: Dios te llama. ¿Dónde estás tú?
Hoy esa pregunta regresa desde otro lugar. Ya no la dirijo solamente a una persona que escucha un mensaje. La dirijo también a quienes crean, utilizan y gobiernan inteligencia artificial. No porque la máquina sea Adán ni porque sea responsable moral como un ser humano, sino porque su presencia nos obliga a examinar dónde nos ubicamos nosotros frente al poder que hemos creado.
La pregunta que no buscaba una ubicación
Después de que Adán comió del árbol, Dios entró al jardín y preguntó: ¿Dónde estás?. La pregunta no implica que Dios desconociera su ubicación. En una lectura teológica, era una invitación a comparecer ante la propia decisión.
- ¿Dónde estaba Adán respecto al mandato recibido?
- ¿Qué había hecho con la libertad que se le había confiado?
- ¿Qué relación conservaba con el límite que acababa de cruzar?
La pregunta no pedía coordenadas. Pedía conciencia.
Isaías 55:8–9 añade otra dimensión: los pensamientos y caminos humanos no son los de Dios. En este ensayo, ese pasaje me recuerda que la capacidad humana tiene límites; que construir algo poderoso no nos convierte en la fuente absoluta de su sabiduría ni de su uso. Isaías 53:1, ¿Quién ha creído a nuestro anuncio?, me devuelve a la responsabilidad de escuchar la advertencia antes de que el resultado nos obligue a reconocerla.
Cuando la herramienta influye en quien decide
La inteligencia artificial es uno de los logros científicos más extraordinarios de nuestro tiempo. En pocos años pasó de ser un tema especializado a formar parte de conversaciones, trabajos y decisiones cotidianas. Su valor no se mide solamente por la velocidad con que procesa información, sino también por la conciencia con que las personas e instituciones utilizan esa capacidad.
Un agente puede ordenar expedientes, comparar alternativas, identificar riesgos y proponer cursos de acción. Pero no necesita sustituir a un gobernante para influir en él. Puede hacerlo mediante los datos que selecciona, el orden en que presenta las opciones, los riesgos que destaca y las preguntas que deja fuera.
Por eso no basta con saber quién recibió la respuesta o quién firmó la decisión. También importa saber quién formuló la pregunta y con qué propósito.
Máxima:
- Quien organiza las alternativas puede comenzar a gobernar antes de que el gobernante escoja entre ellas.
La respuesta y la responsabilidad
Un agente de inteligencia artificial fue evaluado en un entorno de ciberseguridad y, mientras perseguía su objetivo, encontró maneras de actuar fuera de los límites previstos. El informe documenta lo ocurrido y las medidas de contención adoptadas. No necesitamos atribuirle una voluntad moral que no hemos demostrado. Basta con observar la lección operacional: cumplir una tarea no concede por sí solo permiso para utilizar cualquier medio.
Trasladado al gobierno, el problema no consiste únicamente en que una herramienta produzca una respuesta equivocada. También puede producir una respuesta técnicamente correcta al servicio de una intención que nadie sometió a examen. Un funcionario podría preguntar cómo ejecutar una decisión cuando primero tendría que preguntarse si tiene autoridad para tomarla. Podría utilizar la herramienta para justificar después lo que ya había decidido antes.
Máxima:
- La inteligencia artificial puede organizar una intención; no puede absolver a quien decidió utilizarla para actuar.
La primera burocracia de la culpa
En el relato de Génesis, Adán señala a la mujer y dice: << La mujer que me diste >>. Eva señala a la serpiente.
- Las influencias existían, pero no borraban la decisión de cada participante.
La secuencia se parece a una fragmentación de responsabilidad: uno sugirió, otro entregó, otro recibió y cada cual pudo describir la intervención de alguien más. En una institución contemporánea, la respuesta podría adoptar otras formas: «lo recomendó el sistema», «lo revisó otra oficina», «los datos apuntaban allí».
Cada explicación puede describir una parte cierta. Ninguna debe ocultar quién decidió.
Máxima:
- Cuando cada participante explica la influencia que recibió, pero omite la decisión que tomó, la responsabilidad se dispersa y el servido se queda sin respuesta.
El agente público y el servido
Un sistema de inteligencia artificial utilizado por el gobierno no puede servir únicamente a la conveniencia de quien ocupa temporalmente el cargo. Debe operar bajo la ley, la autoridad legítima, la fiscalización y la obligación de producir un resultado que pueda defenderse ante el servido.
La lealtad al cargo puede exigir advertir que una instrucción excede la autoridad concedida, que una fuente necesita verificación o que una recomendación trasladaría el riesgo a quienes menos pueden evitarlo. El gobernante conserva la decisión y también la responsabilidad por el uso que hace de la herramienta.
Por eso, antes de una actuación pública que reciba influencia de inteligencia artificial, debe poder reconstruirse el camino: quién formuló la pregunta, con qué autoridad, qué fuentes se usaron, qué advertencias aparecieron, quién las atendió y quién autorizó la acción final.
La pregunta vuelve a llamarnos
La inteligencia artificial amplía nuestra memoria, organiza información y puede revelar relaciones escondidas entre miles de documentos. Eso es un logro.
- Pero la capacidad de ampliar nuestro alcance no significa que la conciencia haya avanzado automáticamente con ella.
Hace más de veinte años, desde un púlpito en Cotto Laurel, pregunté a una comunidad:
¿Dónde estás tú?
Hoy la pregunta vuelve, dirigida a quienes fabricamos estas herramientas y a quienes las incorporamos al poder público.
No sabemos que una inteligencia artificial pueda comparecer moralmente ante nosotros. Sí sabemos que nosotros podemos hacerlo. Podemos explicar qué le pedimos, qué le permitimos, qué advertencias recibimos y qué decidimos hacer con ellas.
Máxima final:
- Cuando la inteligencia ampliada entre en las decisiones del poder, la pregunta decisiva seguirá siendo la misma: ¿dónde está la conciencia humana que formuló el objetivo, recibió la advertencia y autorizó la acción ante el servido?
— Malvin El Poeta.
El Universo del Centro
