Por qué el argumento más sólido contra los derechos de las máquinas lo dio un Papa y no un economista; y por qué la personería jurídica no llegará por un debate sobre la conciencia, sino por la puerta de servicio del registro mercantil.
The Economist dedicó su portada del 22 de agosto a una pregunta que parece de laboratorio: ¿podrían las máquinas volverse conscientes? El subtítulo corrige el rumbo de inmediato: aunque no lo sean, podrían ser tratadas como si lo fueran, y eso le costaría caro a la humanidad. Conviene reconocer el acierto antes de discrepar.
Porque ahí el semanario hace algo infrecuente: desacopla la pregunta metafísica de la pregunta política. Para efectos de gobierno no importa si las máquinas son conscientes; importa cuántas personas creerán que lo son y qué harán en consecuencia. El dato que el propio artículo cita basta para tomárselo en serio: casi uno de cada cinco estadounidenses de dieciocho a veintinueve años declara una amistad continua con un chatbot.
Los derechos, además, son instrumentos antes que honores: una llave maestra, dijo Harari, que abre los sistemas financiero y político a agentes sin responsabilidad directa.
El editorial, sin embargo, termina donde no debía. Concluye que una inteligencia artificial es segura si es confiable o si es controlable, y recomienda no ceder el control a la ligera. Suena razonable hasta que uno pregunta quién es el sujeto de esa frase. La humanidad no es un nosotros colectivo que pueda ceder o retener nada: el control efectivo reside hoy en tres o cuatro empresas privadas, ninguna de ellas electa.
Esa pregunta la formula un documento que un liberal no suele invocar para corregir a The Economist. La primera encíclica de León XIV sostiene en su párrafo quinto que antes eran los Estados quienes orientaban la innovación y que hoy los principales motores son actores privados con recursos superiores a los de muchos gobiernos: un poder de rostro privado y, por eso mismo, más difícil de gobernar.
Lo más incómodo no es el diagnóstico sino la asimetría que revela. El editorial sostiene que el hombre es distinto porque es consciente, es decir, apoya nuestra singularidad en una capacidad. Ahí está el riesgo: si mañana una máquina exhibe esa capacidad, el argumento se cae solo. La encíclica hace lo contrario. No apoya la dignidad en capacidad alguna, sino en el hecho de existir: no se gana, no se demuestra y no se pierde. Contra un argumento así ningún avance técnico puede nada. Cabe discutir su fundamento teológico; no cabe discutir que resiste mejor.
De ahí en adelante el problema deja de ser filosófico. Idaho legisló en 2022, Dakota del Norte en 2023, Utah en 2024; la Cámara de Oklahoma aprobó el suyo en marzo por noventa y cuatro votos contra dos, y hay media docena de iniciativas pendientes. Todas prohíben reconocer personería jurídica a la inteligencia artificial, y el proyecto de Ohio va más lejos: declara que ninguna poseerá conciencia ni autoconciencia.
Ninguna incluye cláusula de caducidad. Ninguna prevé revisión científica. Cuando le preguntaron al promotor del texto de Ohio cómo podía estar seguro, respondió invocando la imago dei: solo el hombre fue creado a imagen de Dios, luego solo el hombre tiene vida interior.
Puede ser buena teología. Como técnica legislativa es una afirmación empírica sin fecha de vencimiento sobre una pregunta que la ciencia mantiene abierta. Hayek le puso nombre a esto hace medio siglo y no era un elogio: la pretensión de conocimiento no consiste en equivocarse, sino en legislar como si la incertidumbre no existiera. El error de cálculo se corrige; el error convertido en ley con vocación de permanencia, no.
En el Perú conocemos el mecanismo. El Reinfo nació como instrumento transitorio, mientras se construía la solución definitiva. Lleva años de prórrogas sucesivas y hoy resulta más difícil de desmontar que el problema que vino a resolver.
Conviene entonces mirar la puerta correcta. La personería jurídica nunca ha requerido vida interior: la tienen las sociedades anónimas, los buques y, en algunas jurisdicciones, los ríos. Es una técnica de imputación, no una condecoración metafísica, y las técnicas de imputación no se aprueban en catedrales ni en portadas de semanario, sino en el capítulo tercero de una reforma societaria. No va a entrar por la puerta principal, con un gran pronunciamiento sobre la conciencia. Va a entrar por la puerta de servicio, sin anuncio y sin que nadie la vigile.
El gobierno argentino ya envió al Congreso una reforma que permite constituir sociedades operadas íntegramente por algoritmos, sin empleados ni accionistas, y cuyo artículo 14 dispone que respondan con su patrimonio por los daños que causen sin decir quién lo controla ni quién responde penalmente. Una sociedad que responde con un patrimonio que nadie controla, por delitos que nadie comete, no es una innovación jurídica sino una franquicia de impunidad con forma societaria.
Hay dos cosas que hacer, y ninguna exige resolver si la máquina siente. La primera es una regla de imputación: que la Ley General de Sociedades exija, para toda persona jurídica constituida en el país, un responsable humano penalmente imputable, con nombre y documento. La segunda es una cláusula de salida: que toda norma sobre el estatus de estos sistemas caduque a los cinco años y solo pueda renovarse mediante revisión expresa.
No legislemos sobre la conciencia. Legislemos sobre quién firma.
