Permiso para ser humano

Ha pasado casi un mes desde el último post, que tampoco es tanto si tenemos en cuenta mi capacidad para acumular borradores pendientes y convencerme de que cualquiera de ellos puede esperar un poco más. No es que haya dejado de escribir ni que me falten asuntos sobre los que hacerlo, más bien ocurre lo contrario: tengo unas cuantas ideas a medio cocinar, otras que llevan tanto tiempo en la nevera que empiezan a merecer una inspección sanitaria y alguna que probablemente sería mejor tirar directamente a la basura sin abrir el recipiente.

Pero esto funciona así, al menos por aquí. Hay textos que llevan meses esperando pacientemente y otros que aparecen un día cualquiera, se ponen delante en la fila y nadie sabe muy bien por qué terminan pasando primero. Esta vez la culpa la tiene una conversación de Santi Siri sobre inteligencia artificial, el futuro del trabajo y esos agentes que empiezan a ocupar una parte cada vez mayor de las conversaciones sobre tecnología.

Siri planteaba tratar al agente como a un trabajador más: darle una dirección de correo electrónico, acceso a determinadas aplicaciones, quizá un número de teléfono y empezar a encargarle cosas. No es exactamente una idea nueva, llevamos años automatizando tareas, pero expresada así permite ver con bastante claridad que estamos cruzando una frontera distinta.

Hasta ahora muchas automatizaciones tenían algo tranquilizador: sabíamos aproximadamente qué iban a hacer. El banco ejecutaba una transferencia periódica, el correo separaba mensajes que consideraba basura, un programa copiaba información de un sitio a otro y todo seguía unas reglas más o menos previsibles. Podían fallar, naturalmente, porque para eso están los ordenadores, pero el margen de interpretación era limitado.

Un agente plantea algo distinto. Ya no le decimos exactamente qué tiene que hacer en cada paso, sino qué queremos conseguir y le dejamos cierto margen para decidir cómo llegar hasta allí. Una cosa es pedirle que redacte un correo y otra permitirle enviarlo, recibir la respuesta, interpretarla y continuar la gestión sin volver a preguntarnos qué debe hacer.

Parece una diferencia pequeña hasta que pensamos en todo lo que ocurre entre recibir un mensaje y contestarlo. Sabemos quién escribe, qué relación existe con esa persona, qué sucedió antes, si aquello que dice tiene sentido, si conviene responder por escrito o llamar por teléfono y si el problema que aparentemente plantea es realmente el problema que necesita resolver. Gran parte del trabajo consiste precisamente en aplicar ese contexto que casi nunca aparece completo en un procedimiento.

Por eso la comparación con un trabajador resulta útil, aunque también tenga sus límites. Cuando alguien empieza en una organización no se le entregan las contraseñas, una carpeta con cuatrocientos documentos y una nota diciendo «ya nos contarás qué tal». Al menos espero que no sea el procedimiento habitual, aunque explicaría algunas cosas. Durante un tiempo pregunta, observa, se equivoca y aprende qué puede resolver por su cuenta y qué necesita una consulta antes de tocar nada.

Con los agentes existe cierta tentación de pensar que podemos saltarnos esa parte acumulando información. Cuantos más documentos tenga, más contexto tendrá; cuantos más correos conozca, mejor entenderá lo ocurrido; cuantos más procedimientos pueda consultar, más posibilidades habrá de que actúe correctamente.

Y seguramente sea verdad, aunque aparece enseguida una pequeña pega: cuanto mejor queremos que trabaje, más cosas necesita saber. Un agente que solo conoce el mensaje que acaba de llegar podrá hacer relativamente poco; el que conoce al remitente, las conversaciones anteriores, los documentos relacionados, el historial de gestiones y todo lo ocurrido durante los últimos cinco años será muchísimo más útil. También tendrá acceso, casualmente, a buena parte de la información que llevamos esos mismos cinco años intentando que no vea quien no debe verla.

Una de esas pequeñas coincidencias que hacen entretenida la tecnología.

En muchos despachos y organizaciones la discusión ya no está tanto en utilizar o no estos sistemas como en decidir dónde colocarlos y cuánto queremos que puedan hacer. Hay trabajos que suceden detrás del mostrador y otros que ocurren delante de una persona, aunque ahora ese mostrador pueda ser un teléfono, un correo electrónico o una pantalla.

En los primeros resulta fácil imaginar agentes ordenando información, buscando antecedentes, preparando documentación, detectando asuntos pendientes o evitando que alguien dedique veinte minutos a una tarea que no los merece. La duda aparece cuando esa eficiencia cruza el mostrador y empieza a hablar en nombre de la organización, porque entonces ya no estamos automatizando solamente una tarea: estamos decidiendo también qué parte de la relación queremos delegar.

No es lo mismo clasificar una solicitud que responderla, ni preparar una respuesta que enviarla, ni resolver una consulta rutinaria que tomar una decisión cuando aparece una circunstancia sensible. Entre una y otra hay un espacio bastante amplio que conviene no reducir a un simple «la inteligencia artificial puede hacerlo», porque poder hacerlo no significa necesariamente que deba hacerlo.

Tampoco tenemos que elegir entre mantener al agente sentado mirando cómo trabajamos o entregarle las llaves, la clave de la alarma y pedirle que cierre al salir. Entre ambas posibilidades debería haber unas cuantas puertas y, puestos a pedir, quizá convenga decidir quién tiene llave de cada una antes de descubrir que alguien ha entrado donde no debía.

Todo esto se resume bastante bien en una idea: automatizar la respuesta no significa automatizar el criterio.

Hay actuaciones rutinarias donde probablemente podamos permitir bastante autonomía. Otras necesitan conocer lo ocurrido antes, entender las circunstancias y combinar información procedente de varios sitios. Y después están aquellas en las que, aunque un sistema disponga de todos los datos, seguimos queriendo que una persona valore lo que ocurre y se haga responsable de la decisión.

No necesariamente porque vaya a hacerlo mejor, sino porque a veces parte del servicio consiste precisamente en que alguien se haga cargo de lo que estamos contando. Quien haya pasado veinte minutos peleándose con un sistema automático de atención para conseguir hablar con una persona entenderá perfectamente la diferencia. La tecnología puede ser extraordinariamente eficiente y, aun así, provocar unas ganas igualmente extraordinarias de lanzar el teléfono por la ventana.

A medida que dejamos de hacer determinadas tareas también cambia nuestro propio papel. Pasamos a revisar resultados que llegan aparentemente terminados y revisar parece una función menor hasta que intentas hacerlo de verdad, porque para detectar que algo está mal necesitas conocer suficientemente bien aquello que estás comprobando, reconocer lo que falta y sospechar cuando una respuesta demasiado convincente tiene ese extraño aroma de las cosas que son ciertas salvo por el pequeño detalle de que no lo son.

No es un problema completamente nuevo. Hace años que las calculadoras nos evitan hacer determinadas operaciones, el navegador ha conseguido que mucha gente no sepa explicar cómo ha llegado a un sitio en el que lleva media hora y los correctores ortográficos nos permiten escribir palabras que quizá ya no sabríamos deletrear con demasiada seguridad. Tampoco tengo ninguna nostalgia especial por volver a desplegar un mapa de carreteras sobre el capó mientras el cierzo intenta mandarlo a Teruel.

Lo difícil será decidir qué conocimientos podemos permitirnos dejar de practicar y cuáles seguimos necesitando para comprobar aquello que delegamos.

Hasta aquí la conversación podría haber terminado en otro post sobre inteligencia artificial y trabajo, un género del que tampoco puede decirse que internet esté especialmente necesitado. Pero unos minutos después Siri empezó a hablar de otra cuestión aparentemente diferente: si internet empieza a llenarse de agentes capaces de actuar como nosotros, tendremos que encontrar alguna forma de demostrar cuándo detrás de una cuenta hay realmente una persona.

La pregunta tiene cierta gracia porque llevamos años haciendo justamente el ejercicio contrario. Hemos buscado semáforos en fotografías minúsculas, identificado bicicletas que apenas ocupaban tres píxeles y descifrado letras que parecían escritas por alguien dentro de un autobús recorriendo un camino de cabras, todo para convencer a una máquina de que nosotros no éramos otra máquina.

El trato era pesado pero relativamente comprensible. Había personas intentando entrar en un servicio y programas intentando hacerse pasar por ellas.

El escenario cambia cuando una sola persona puede tener varios agentes realizando consultas, publicando, comprando, gestionando información o interactuando con otros sistemas. Entonces contar cuentas deja de equivaler a contar personas y algunas cosas que hasta ahora funcionaban razonablemente bien empiezan a necesitar otra solución.

Siri hablaba de una nueva versión de Proof of Humanity que permitiría acreditar determinadas condiciones utilizando documentos y técnicas criptográficas sin necesidad de revelar toda la información contenida en ellos. La propuesta, todavía experimental según explicaba, parte de una idea razonable: si lo único que necesito demostrar es que soy una persona, no tendría por qué entregar mi nombre, dirección, fecha de nacimiento y media vida administrativa cada vez que alguien quiera comprobarlo.

De hecho, probablemente deberíamos haber pensado en esto bastante antes de que aparecieran los agentes.

Las dos cuestiones producen juntas una paradoja difícil de ignorar. Estamos intentando dar a las máquinas correo electrónico, cuentas, herramientas y permisos suficientes para que puedan desenvolverse con cierta autonomía, mientras empezamos a diseñar mecanismos que nos permitan demostrar a nosotros que somos personas para poder seguir participando.

No son problemas equivalentes y sería tramposo presentarlos así, pero la imagen tiene algo peculiar: queremos construir puertas cada vez más cómodas para que los agentes puedan moverse por nuestros sistemas mientras instalamos un torno al lado para comprobar quiénes somos los demás.

Acreditar que detrás de una cuenta hay una persona tampoco resuelve mágicamente la confianza. Una cuenta puede pertenecer a alguien perfectamente identificado y estar siendo utilizada, con su permiso, por uno o varios agentes. Saber quién autorizó una acción tampoco significa saber cómo se llegó hasta esa decisión.

De nuevo aparecen los permisos, los límites y la responsabilidad. La identidad puede decirnos quién está detrás, pero no necesariamente quién hizo qué ni por qué.

Y luego está la parte menos elegante, que suele ser donde aparecen los problemas más interesantes: ¿qué ocurre cuando el sistema decide que tú no eres tú?

Cualquiera que haya intentado recuperar una cuenta bloqueada, renovar un certificado digital o demostrar ante una administración algo absolutamente evidente habrá experimentado esa sensación tan peculiar de tener que convencer a un procedimiento de que la realidad está equivocada porque no coincide con la casilla prevista.

Mientras todo funciona como esperaba quien diseñó el sistema, la experiencia puede ser estupenda. El problema empieza cuando has perdido un documento, ha cambiado un dato, una base contiene información antigua o simplemente algo ha fallado. Entonces descubres que puede resultar sorprendentemente complicado demostrarle a una máquina una evidencia, especialmente si alguien decidió que poner una persona al otro lado para atender las excepciones era una ineficiencia que convenía eliminar.

Por eso la discusión sobre identidad digital no puede quedarse únicamente en conseguir una tecnología suficientemente buena para acreditar que somos humanos sin entregar más información de la necesaria. También tendremos que decidir quién puede exigir esa prueba, para qué, qué conserva después de realizarla y qué alternativa tiene quien no puede o no quiere pasar por ese procedimiento.

Hay una diferencia considerable entre disponer de una forma de demostrar algo y convertir esa demostración en el peaje habitual para trabajar, comprar, opinar o simplemente entrar.

En la conversación aparecía además otra idea con la que no termino de estar de acuerdo: considerar la capacidad de custodiar secretos como uno de esos reductos especialmente humanos. Los sistemas informáticos llevan bastante tiempo guardando secretos y, siendo justos, algunos lo hacen mucho mejor que nosotros, especialmente si el término de comparación es la contraseña apuntada en el pósit de debajo del teclado.

Lo importante no es quién guarda una clave, sino quién decide para qué puede utilizarse.

Algo parecido ocurre con esa búsqueda permanente de la última habilidad que seguirá siendo exclusivamente humana. Cada vez que una máquina aprende a hacer algo que considerábamos nuestro desplazamos la frontera un poco más, como si necesitáramos encontrar una tarea que nunca pueda resolver para justificar que seguimos teniendo sitio.

Antes era escribir, después crear imágenes, programar, razonar, componer música o mantener una conversación. Supongo que podríamos seguir jugando durante bastante tiempo, pero quizá estemos haciendo la pregunta equivocada.

Nuestra condición de personas no debería depender de mantener una ventaja competitiva frente a una herramienta. Podemos permitir que las máquinas hagan determinadas cosas mejor que nosotros y seguramente acabaremos encantados de que se ocupen de otras que nunca quisimos hacer. Lo que no deberíamos confundir es delegar la ejecución con delegar la decisión sobre qué queremos que ocurra, del mismo modo que tampoco deberíamos confundir demostrar que somos personas con tener que pedir permiso constantemente para comportarnos como tales.

Las dos partes de la conversación terminan encontrándose ahí, en los permisos concedidos en direcciones distintas. Queremos decidir qué pueden hacer los agentes por nosotros y, al mismo tiempo, tendremos que decidir qué estaremos obligados a demostrar nosotros para seguir haciendo determinadas cosas sin ellos.

Entre una cuestión y la otra hay bastante trabajo por hacer, unas cuantas decisiones que no deberían quedar exclusivamente en manos de quien construya la tecnología y, con un poco de suerte, tiempo suficiente para pensarlas antes de descubrir que hemos automatizado también la posibilidad de reclamar.

Así que casi un mes después vuelvo por aquí con más preguntas de las que tenía cuando empecé, lo cual tampoco representa una novedad extraordinaria para quien haya pasado antes por este blog. Me interesa que una máquina pueda quitarnos trabajo aburrido, me interesa que nos permita hacer cosas que hoy no sabemos hacer y me interesa conservar toda la intimidad posible mientras ocurre.

Agradecería, eso sí, que consiguiéramos organizarlo de manera que, llegado el momento, no tengamos que pedir permiso a una máquina para demostrarle que somos humanos.

Aunque, visto cómo organizamos algunas cosas, tampoco descartemos nada.