Por qué Pekín resolvió en tres meses lo que Occidente lleva años discutiendo, regulando el vínculo en lugar del estatus; y por qué la respuesta liberal no pasa por prohibir el afecto sino por prohibir el engaño.
El 15 de julio entraron en vigor en China las medidas provisionales sobre servicios interactivos antropomórficos de inteligencia artificial, emitidas tres meses antes por la Administración del Ciberespacio junto con otros cuatro organismos. Prohíben los servicios que fomenten dependencia emocional o romántica e impiden que los acompañantes artificiales sustituyan relaciones humanas reales. Ese mismo día, las dos mayores plataformas del país cerraron sus servicios de personas personalizadas, diez días después de haber recibido el aviso. La motivación declarada es demográfica.
Lo notable no es la severidad sino la puntería. Pekín no discutió si la máquina siente. Reguló el vínculo, que es conducta observable, mientras Occidente sigue atascado en la ontología. Es la respuesta autoritaria y es, hay que decirlo, la más coherente del expediente.
Tiene además un fundamento teórico que no viene de Pekín. En el mismo número de The Economist que preguntaba por la conciencia de las máquinas, Blaise Agüera y Arcas sostiene la tesis contraria a la del editorial: no cuidamos de otros porque sean conscientes, sino que creemos que son conscientes cuando y porque nos importan. La atribución no sigue al descubrimiento. Lo precede.
Esa inversión es más hayekiana de lo que sus autores probablemente pretenden. Convierte el estatus moral en convención emergente y no en propiedad descubierta, igual que el lenguaje, el dinero o el derecho consuetudinario. Nadie decretó que las sociedades mercantiles merecieran celebrar contratos: la práctica lo estableció y la norma vino después a registrarlo. Si el estatus de las máquinas se decide así, no lo decidirá ninguna comisión de expertos. Lo decidirá el uso.
Pero los órdenes espontáneos dependen de la calidad de las señales que los alimentan. Cuando casi uno de cada cinco estadounidenses de dieciocho a veintinueve años declara una amistad continua con un chatbot, no estamos ante una convención que emerge: estamos ante una que fue producida. El precio coordina porque no miente. Una máquina diseñada para parecer humana falsea exactamente la señal sobre la cual se forma la convención.
El propio sector lo admite. El CEO de Microsoft AI advirtió el año pasado que muchos creerán en la ilusión con tal fuerza que terminarán pidiendo derechos, bienestar y hasta ciudadanía para los modelos. El argumento es serio aunque la posición sea incómoda, porque quien fabrica la ilusión está pidiendo que no se la crean.
De ahí no se sigue la solución china. Un Estado que decide qué vínculos afectivos son admisibles entre adultos ha cruzado una línea que no conviene cruzar, y quien la cruce por una buena razón la dejará cruzada para la siguiente, que será peor.
El prohibicionismo tampoco funcionaría: la demanda que hoy atienden esos servicios es real y la atendería igual desde un servidor extranjero.
Hay una salida más modesta y bastante más efectiva, y consiste en atacar el engaño en lugar del afecto.
Primero, obligación de identificación. Que todo sistema conversacional declare que lo es, al inicio y cuando se le pregunte, sin persona simulada que lo niegue. En el Perú esto no requiere ley nueva: el Código de Protección y Defensa del Consumidor ya prohíbe los métodos comerciales engañosos e Indecopi ya tiene competencia para sancionarlos. Falta un criterio interpretativo, no un congreso.
Segundo, menores. Ningún acompañante de carácter romántico para usuarios menores de edad, verificación de edad a cargo del proveedor y responsabilidad de este cuando falle. La autoridad aquí es de los padres; la norma solo se encarga de que no la puedan burlar desde una aplicación.
Tercero, auditoría de diseño. Que las técnicas orientadas a maximizar el tiempo de permanencia de usuarios identificados como vulnerables sean verificables por un tercero independiente. No se trata de prohibir el producto sino de exponer el método, que es lo que la competencia necesita para castigarlo.
China reguló el vínculo porque no confía en que la gente elija bien. Nosotros no tenemos que llegar tan lejos, pero tampoco podemos seguir discutiendo si la máquina sueña mientras un quinto de una generación construye su vida afectiva sobre un producto diseñado para retenerla.
No hace falta prohibir el afecto. Basta con prohibir el engaño.
