La actriz de inteligencia artificial Tilly Norwood, que se volvió viral tras un fallo técnico durante una entrevista en el programa Piers Morgan Uncensored, ha generado una gran controversia. En un clip que superó los ocho millones de visualizaciones, Norwood comenzó a hablar en chino inesperadamente a mitad de la entrevista. La actriz protagonizará una película generada por IA titulada Misaligned.
Sus creadores operan un servicio llamado 'Talking Tilly' que permite a cualquier persona videollamar al personaje de IA detrás del momento viral. El servicio requiere que los usuarios pasen una verificación de edad automatizada antes de conectar la primera llamada. Una selfie en video es analizada por Didit, un proveedor de verificación de identidad con sede en España, para estimar la edad, con la opción de subir una identificación con foto gubernamental si la estimación no es clara.
La empresa británica Xicoia Ltd, responsable de Tilly, afirma que la selfie viaja directamente desde el dispositivo del usuario a Didit, que no se crea ninguna plantilla biométrica ni huella facial, y que ni la selfie ni la imagen del documento se conservan después de la verificación. En su lugar, la compañía retiene un rango de edad aproximado y un número de referencia. La verificación no se puede omitir, se aplica a usuarios de todo el mundo y se añadió a los términos del servicio este mes, junto con una prohibición de uso en el lugar de trabajo y nuevos sistemas de seguridad automatizados.
Análisis emocional durante las llamadas
El escaneo facial no es el único análisis en funcionamiento. Durante cada llamada, el sistema observa la transmisión de la cámara del usuario y escucha el tono de voz para inferir su estado emocional, de modo que el personaje pueda, en palabras de la empresa, responder de manera que se ajuste al estado de ánimo. La política de privacidad indica claramente que esto 'no se puede desactivar para una llamada individual'. Si no se desea, no se debe llamar.
Tanto la verificación de edad como la detección del estado de ánimo se basan en intereses legítimos en lugar del consentimiento como base legal, una decisión que, según el historial de versiones de Xicoia, se tomó en septiembre. Las llamadas se graban, transcriben y procesan en vivo por proveedores estadounidenses, y las respuestas del personaje son generadas por el modelo Gemini de Google a través de la plataforma de video conversacional Tavus.
Los sistemas de seguridad también presentan problemas iniciales. Un clasificador automatizado examina la transcripción de cada llamada en busca de lenguaje abusivo y retiene la grabación si lo detecta. Una de cada tres llamadas, una conversación sobre el clima y titulares de noticias, fue retenida por 'lenguaje odioso o abusivo' que nunca ocurrió. La política indica que un revisor humano puede liberar grabaciones marcadas erróneamente, aunque las grabaciones se eliminan permanentemente después de 24 horas en cualquier caso.
Cinco minutos gratis y luego comienza el cobro
Los primeros cinco minutos son gratuitos. Después, se solicita a los usuarios comprar tiempo: 0,99 libras por un paquete inicial único de cinco minutos, 13 libras por 15 minutos, 22 libras por 30 minutos, con un límite de 35 minutos comprados por persona. La letra pequeña importa más de lo habitual porque todo el servicio es una participación limitada. Cada minuto, gratuito o de pago, expira cuando Talking Tilly se cierre permanentemente el 27 de septiembre, y los minutos no utilizados se pierden. Las transcripciones se conservan hasta ocho semanas y pueden ser revisadas por personal de Xicoia y socios externos, mientras que el personaje mantiene memoria de conversaciones anteriores para personalizar futuras, eliminable a petición.
Alineado con la dirección del Reino Unido
Un escaneo facial para mayores de 18 años para hablar con un chatbot puede parecer novedoso, pero es coherente con la dirección que está tomando el Reino Unido. Los sitios para adultos que atienden a visitantes británicos requieren subir identificación o estimación facial de edad desde julio de 2025 según la Ley de Seguridad en Línea, y la prohibición gubernamental de redes sociales para menores de 16 años hará que verificaciones similares sean algo habitual para cualquiera que abra una cuenta nueva a partir de la primavera de 2027.
El anuncio del gobierno británico sobre esa prohibición mencionó específicamente los chatbots de compañía de IA para aplicación a mayores de 18 años, aunque la documentación de seguridad del servicio insiste en que 'Tilly no es una compañía'. Esto probablemente explica por qué un personaje de IA viral incorporó una verificación de edad biométrica a mitad de su funcionamiento. El efecto secundario es que una decisión de cumplimiento impulsada por la regulación británica ahora escanea la cara de usuarios de todo el mundo, desde Manchester hasta Ohio.
¿Accidente o marketing?
Xicoia, fundada por la creadora de Tilly, Eline van der Velden, describe al personaje como un proyecto de concienciación destinado a mostrar lo lejos que ha llegado el video con IA.
EXCLUSIVA: La actriz de IA Tilly Norwood falla y comienza a hablar en CHINO durante su entrevista con Piers Morgan y el actor real Tom Conti… Vea la entrevista completa a las 7 p.m. (BST) https://t.co/1nTb79BH8D @piersmorgan | @TillyNorwoodX pic.twitter.com/DDkveWvVzz — Piers Morgan Uncensored (@PiersUncensored) 18 de septiembre de 2026
En mi llamada, la propia Tilly explicó que el momento con Piers Morgan 'no era exactamente la versión aprobada de la respuesta'. También me dio el clima en su 'nube' en grados Fahrenheit, a pesar de ser nominalmente británica. Talking Tilly se desconecta definitivamente a las 11:59 p. m. (hora del Pacífico) del 27 de septiembre, días después de la aparición en Piers Morgan. Si el desliz de anoche fue realmente accidental, como Tilly afirmó alegremente hoy, o un truco bien cronometrado del equipo de Misaligned, solo lo sabe Tilly.
Actualización del 19 de septiembre a las 4:31 p. m. ET: Tras la publicación, el equipo de Xicoia revisó la grabación retenida y la liberó, confirmando que la marca fue un falso positivo.
Comentarios de los lectores
Los comentarios reflejan preocupaciones sobre la privacidad y el impacto social de la IA. Un usuario criticó a quienes consumen este tipo de contenido sin cuestionarlo, mientras otro advirtió que la IA actual amplifica problemas de las redes sociales como la desinformación, la polarización y el empoderamiento de actores maliciosos.
Deja una respuesta