Jev juega a Doom, la discapacidad espera su turno

El 15 de septiembre, TypeSafe AI abrió Jev en acceso anticipado, el mismo día en que anunciaba 40 millones de dólares recaudados. Cinco días después, la lista de espera había desaparecido; entretanto, la API había cedido ante la demanda. Los desarrolladores están encantados, la prensa hizo sus comprobaciones de rigor (el «cero alucinaciones» no se sostiene, las comparaciones son caseras), y todo el mundo pudo admirar al modelo jugando a Doom.

Bravo. Lo digo en serio: un modelo que decide en menos de medio segundo, por casi nada, con una probabilidad aprovechable, es un avance. Solo que he visto suficientes anuncios de este tipo para hacer la pregunta que nadie hizo. ¿Y para la discapacidad, cuándo llega?

Lo que Jev sabe hacer

Jev no escribe. Se le da un «estado» (un correo, un ticket, la descripción de una situación) y preguntas cuyas respuestas están fijadas de antemano. Elige una opción de una lista, sitúa algo en una escala o dice si una afirmación es verdadera, con una probabilidad. TypeSafe anuncia entre 70 y 500 milisegundos por petición y cobra 0,042 dólares el millón de tokens.

El nombre viene de Jevons, el economista que se dio cuenta de que una máquina de vapor más eficiente hacía quemar más carbón. La empresa lo ha convertido en programa: cada bajada del coste de la inteligencia debe abrir muchos más usos. Los usos que eligió mostrar son la clasificación de correos, la atención al cliente, las facturas y la seguridad de los agentes. Como demostraciones, Doom y una carrera de enlaces en Wikipedia. Cada cual tiene las prioridades que puede.

Los usos que nadie demostró

No hace falta una imaginación desbordante para encontrar algunos del lado de la discapacidad. Las tres primitivas de Jev describen casi palabra por palabra necesidades conocidas desde hace décadas.

Un tablero de comunicación aumentativa propone pictogramas o frases a una persona que no habla, o no lo bastante rápido para que se espere al final de su frase. Reducir cuarenta opciones a las seis más probables según la conversación es una pregunta de tipo Choice. Para quien selecciona con un pulsador, casilla a casilla, cada opción de menos ahorra segundos, y hay una persona esperando enfrente. En una cadena de procesamiento de facturas nadie espera nada; y sin embargo es en ese tipo de cadena donde TypeSafe midió sus «193,6 veces más rápido».

Juzgar si un texto administrativo es legible para una persona con discapacidad intelectual, en una escala: Score. Las reglas de la lectura fácil existen desde hace mucho, y las administraciones las aplican cuando tienen presupuesto, es decir, rara vez.

Comprobar que una descripción de imagen le dice a un estudiante ciego lo que necesita saber, y no solo que hay «un diagrama con círculos y flechas»: una afirmación verdadera o falsa, que pasar por cada documento subido a una plataforma de cursos, por una fracción de céntimo.

Y la clasificación de las solicitudes de adaptación, que tarda semanas en muchos centros mientras el estudiante hace sus exámenes sin nada, ganaría con que una máquina pusiera los expedientes completos a un lado y los que esperan un documento al otro.

Nada de esto es una idea original. Todo el mundo lo ha pensado. Solo que no da para una demostración que circule por las redes, y no se le vende a un director técnico.

Por qué no llegará sola

Me dirán que TypeSafe proporciona la herramienta y que las aplicaciones vendrán de otra parte. Su propia documentación se encarga de desmentirlo. El modelo solo acepta texto, y deja a otros la tarea de transcribir a todos los que no se comunican por escrito. El inglés es su lengua principal; las demás están soportadas, «pero no tan bien». Los clientes no pueden ajustarlo: los mismos pesos sirven a todas las cuentas. Se entrena únicamente con datos sintéticos, que la empresa diseñó y de los que no ha detallado nada. Y su calibración, precisa la documentación, se mide sobre grupos de predicciones, es decir, en promedio, allí donde las poblaciones minoritarias pesan menos.

Una asociación que quisiera montar un tablero de comunicación en español sobre Jev no podría, por tanto, enseñarle su vocabulario ni saber si alguna vez ha visto una conversación parecida a las de sus usuarios. Podrá pagar por uso, como todo el mundo, y cruzar los dedos.

La paradoja de Jevons promete que el uso se dispara cuando el coste baja. Se le olvida precisar cuáles. Los primeros en ser atendidos son los que dan dinero, y todavía no he visto la discapacidad a la cabeza de esa cola.

La pariente pobre

TypeSafe no ha inventado nada. En la industria de la IA, la discapacidad ocupa el mismo lugar que la inclusividad o la ecología: se saca cuando hace brillar, se guarda cuando cuesta. En marzo de 2023, para el lanzamiento de GPT-4, OpenAI destacó Be My Eyes, una aplicación para personas ciegas, entre sus socios. El modelo sabía describir imágenes, y qué hay más conmovedor, para mostrarlo, que una persona ciega a la que describe su entorno. La imagen dio la vuelta al mundo. El acceso, en cambio, quedó reservado a unos pocos probadores, y no se amplió hasta cinco meses después, cuando el anuncio ya había cumplido su función.

Con Jev, ni siquiera tenemos la foto. La discapacidad no aparece ni en la entrada de lanzamiento, ni en la documentación, ni en la página que recoge las nueve debilidades conocidas del modelo, ni en la recepción tal como la resume Wikipedia. Esta vez no hacía brillar, así que no la invitaron.

Nadie está en contra, por supuesto. Nadie está nunca en contra. Se la guarda para más tarde, para la versión 2, para el día en que un cliente la pida con una orden de compra, o para la próxima campaña sobre inclusión, cuando haga falta una imagen.

La próxima demostración

TypeSafe mostró que Jev jugaba a Doom en tiempo real, a partir de una descripción estructurada del estado del juego. Hubo gente que dedicó su tiempo, en una empresa que acababa de recaudar 40 millones de dólares, a hacer que un clasificador matara demonios en 70 milisegundos.

La misma velocidad, al servicio de una persona que habla con un pulsador, requeriría un conjunto de datos más, un español algo mejor tratado y cifras publicadas sobre los usuarios afectados. No está fuera de alcance. Solo tendría que ir antes que Doom en la lista, y no pienso contener la respiración.

Referencias