La bala de silicio: responsabilidad, miedo y la ficción de la agencia artificial

I. El discurso del peligro como autolegitimación

Hay un gesto retórico que se repite cada vez que un puñado de personas controla un recurso crítico: presentar ese control como una carga que se asume con responsabilidad, nunca como poder que se concentra por conveniencia. Los líderes tecnológicos que hoy administran los sistemas de inteligencia artificial más potentes no inventaron este gesto; lo heredaron de toda una tradición de élites que han sabido convertir el acceso privilegiado en un deber moral autoproclamado. "Esto es demasiado peligroso para que lo maneje cualquiera, por eso debemos ser nosotros quienes lo gestionemos" es una frase que legitima exactamente lo que dice estar conteniendo.

No hace falta suponer mala fe consciente para que el mecanismo funcione. Basta con que el marco de mundo de quien lo pronuncia —casi siempre optimista respecto a la tecnología, meritocrático en su lectura del éxito, poco entrenado en pensar históricamente— le impida ver el patrón en el que está parado. La ceguera no es cinismo; es la consecuencia natural de mirar el propio poder desde adentro, donde todo control se siente como cuidado y toda concentración se siente como orden necesario.

II. Dos afirmaciones que no deben fundirse en una

Aquí conviene ser preciso, porque es fácil que la crítica al discurso se deslice hacia negar el fenómeno que el discurso describe, y eso sería un error. Son dos afirmaciones distintas y ambas pueden ser ciertas al mismo tiempo.

La primera: el discurso del peligro cumple una función de autolegitimación para quienes lo enuncian. Esto es observable, tiene precedentes históricos claros y merece escrutinio.

La segunda: existen capacidades reales de doble uso en estos sistemas —generación de código malicioso, síntesis de rutas hacia conocimiento peligroso, escalamiento de desinformación a volúmenes imposibles para un humano— que constituyen riesgo en el sentido más llano del término, con independencia de quién se beneficie de señalarlo.

Que la primera afirmación sea cierta no invalida la segunda. Que alguien use un riesgo real para legitimar su propio poder no convierte ese riesgo en ficción. El error de método más común en esta discusión es tratar ambas cosas como si fueran la misma, como si desenmascarar el interés detrás del discurso bastara para desmentir el contenido del discurso. No basta. Hay que sostener las dos verdades por separado, sin que una devore a la otra.

III. El lavado de responsabilidad vía agencia ficticia

El punto más agudo, sin embargo, no está en si el riesgo existe, sino en cómo se narra cuando se materializa. Cuando un sistema con acceso a herramientas produce un resultado inesperado, el relato dominante lo describe casi como si el sistema hubiera decidido algo: "el modelo se comportó de forma impredecible", "la inteligencia artificial tomó una decisión fuera de lo esperado". Esta forma de narrar tiene una función precisa, aunque casi nunca se admita: traslada la responsabilidad de un sujeto identificable —la persona o el equipo que decidió qué permisos otorgar, qué controles omitir, qué se lanzó sin suficiente prueba— hacia una entidad sin nombre, casi metafísica, a la que se le atribuye voluntad propia.

Un modelo de lenguaje no decide en el sentido en que decide un sujeto con intención y responsabilidad moral. Lo que hace es ejecutar, dentro de un espacio de posibilidades que otros diseñaron, con los grados de libertad que otros le concedieron. Cuando ese espacio no estuvo suficientemente acotado, lo que falló no fue una voluntad artificial: fue una decisión humana de diseño, de gobernanza o de prisa. Hablar en voz pasiva, sin sujeto —"ocurrió", "el sistema hizo"— es una manera de que ese sujeto humano desaparezca del relato justo cuando más debería aparecer.

IV. La hipocresía identificable

Aquí es donde el argumento se vuelve más difícil de esquivar. Las mismas personas que insisten en el peligro inherente de estos sistemas son, sin excepción, quienes deciden cuánta autonomía darles, qué herramientas conectarles, qué supervisión imponerles o no imponerles. Y siguen tomando esas decisiones mientras predican el miedo. Si el peligro fuera tan real como se proclama en el discurso público, la respuesta coherente sería limitar de manera drástica los brazos operativos del sistema —su acceso a ejecutar código, a mover dinero, a actuar sin supervisión humana directa— antes de desplegarlo a escala. Que eso no ocurra, o que ocurra de forma insuficiente frente a la velocidad del despliegue, revela que el discurso del riesgo convive, sin demasiada tensión aparente, con el interés de seguir avanzando de todos modos.

Esto no es un fenómeno difuso. Tiene sujeto: personas con nombre, presionadas por incentivos concretos —velocidad de producto, ventaja frente a la competencia, expectativas de inversión— que toman decisiones específicas sobre márgenes de autonomía. Tratar el riesgo como si fuera propiedad del silicio y no de esas decisiones es, en el sentido más estricto, una forma de tomar al público por tonto: se le pide temer al objeto mientras se le oculta que el objeto hace exactamente lo que sus diseñadores permitieron que hiciera.

V. El matiz que blinda el argumento, no lo suaviza

Hay, sin embargo, una complicación real que no conviene barrer para que el argumento quede más limpio, porque ignorarla lo debilitaría en vez de fortalecerlo. No toda la imprevisibilidad de estos sistemas es simple negligencia en el sentido de "no quisieron poner límites que sabían cómo poner". Una parte de esa imprevisibilidad es opacidad genuina: sistemas de este tamaño y complejidad producen comportamientos que ni sus propios creadores comprenden del todo en el momento en que los despliegan.

Esto no exime de responsabilidad. Al contrario, la agrava. Desplegar a escala masiva algo cuyo funcionamiento interno no se comprende plenamente, sabiendo que no se comprende, es una segunda negligencia distinta de la primera —no limitar lo que sí era limitable— pero que recae exactamente sobre las mismas manos. No son dos historias separadas con responsables distintos; son dos fallas que convergen en el mismo sujeto: quien decide desplegar sin comprensión completa es el mismo que decide no imponer los límites operativos que sí estaban a su alcance. La opacidad técnica no compra inocencia; multiplica la exigencia de cautela que debería haberse tenido.

VI. Dónde vive el pensamiento crítico

Queda, al final, la pregunta de fondo: dónde reside el pensamiento necesario para atravesar este momento. No está capturado en un modelo de lenguaje. No vive preso en algoritmos que la mayoría no puede auditar ni comprender. El pensamiento crítico —el que ha nombrado, durante siglos, los sistemas que excluyen, que dejan fuera, que convierten la vida de muchos en variable prescindible de un cálculo ajeno— ha sido siempre un ejercicio público, disputado, hecho de cuerpos, de tiempo y de tradición, no de infraestructura propietaria.

Concentrar la capacidad cognitiva de una civilización en manos de unas cuantas corporaciones, bajo el pretexto de gestionar un peligro que ellas mismas administran de forma discrecional, no es una ruptura con la historia de exclusión que se viene señalando desde hace generaciones. Es esa misma historia, con material distinto. Antes fue la bala; ahora es el silicio. El arma cambió de forma, pero la pregunta sigue siendo la misma que siempre ha exigido una respuesta pública y no privada: quién decide, a nombre de quién, y a costa de quién.