Estudiantes universitarios utilizaron las gafas inteligentes de Meta para engañar a personas en tiempo real

Dos estudiantes de Harvard han creado una inquietante demostración de cómo las gafas inteligentes pueden utilizar la tecnología de reconocimiento facial para modificar instantáneamente las identidades, los números de teléfono y las direcciones de las personas. La parte más inquietante es que la demostración utiliza tecnología actual y ampliamente disponible, como las gafas inteligentes Ray-Ban Meta y bases de datos públicas.

AnhPhu Nguyen, uno de los dos estudiantes, publicó un vídeo mostrando la tecnología en acción que entonces era recogido por 404 Medios. La tecnología, denominada I-XRAY, funciona utilizando la capacidad de las gafas inteligentes Meta para transmitir videos en vivo a Instagram. Luego, un programa de computadora monitorea esa transmisión y usa inteligencia artificial para identificar rostros. Luego, esas fotografías se introducen en bases de datos públicas para encontrar nombres, direcciones, números de teléfono e incluso familiares. Luego, esa información se envía a través de una aplicación telefónica.

En la demostración, se puede ver a Nguyen y Caine Ardayfio, el otro estudiante detrás del proyecto, usar las gafas para identificar a varios compañeros de clase, sus direcciones y nombres de familiares en tiempo real. Quizás lo más escalofriante es que también se muestra a Nguyen y Ardayfio charlando con completos extraños en el transporte público, pretendiendo que los conocen basándose en la información obtenida de la tecnología.

La tecnología de reconocimiento facial ha sido terriblemente preciso desde hace un tiempo, e I-XRAY en gran medida solo está encadenando un montón de tecnologías existentes. Depende en parte de PimEyes, que Los New York Times descrito en 2022 como un motor de búsqueda de rostros “alarmantemente preciso” que “cualquiera puede usar”. Las preocupaciones en torno a esta tecnología han aumentado desde que se supo que Vista clara de la IA estaba utilizando el reconocimiento facial para ayudar a las autoridades. Lo nuevo de la demostración de Nguyen y Ardayfio es cómo se combina la tecnología con un dispositivo de consumo que es discreto y de fácil acceso.

“El propósito de crear esta herramienta no es para un uso indebido y no la publicaremos”, escriben Nguyen y Ardafiyo en un documento explicando el proyecto. En cambio, los estudiantes dicen que su objetivo es crear conciencia de que todo esto no es un futuro distópico: todo es posible ahora con la tecnología existente. En particular, señalan que I-XRAY es único porque los grandes modelos de lenguaje (LLM) le permiten funcionar automáticamente, estableciendo relaciones entre nombres y fotografías a partir de vastas fuentes de datos.

La privacidad siempre ha sido una preocupación importante con las gafas inteligentes. Google Glass originalmente falló debido en parte a reacción pública por ser grabado sin consentimiento en espacios públicos. Sin embargo, también es cierto que en la década posterior, la gente se ha acostumbrado más a ser filmada debido al auge de los teléfonos inteligentes, los vloggers y TikTok. Sin embargo, lo inquietante de las gafas inteligentes modernas es que no destacan tanto como las Google Glass.

Las gafas Ray-Ban Meta utilizadas en esta demostración se parecen a cualquier otro par de Ray-Ban. Mientras eso es fundamental para la adopción de gafas inteligentestambién hace que sea más difícil para las personas detectar cuándo alguien podría estar usando una cámara en su cara. Las gafas Meta incluyen una luz de privacidad que se enciende automáticamente cada vez que estás grabando un video. Sin embargo, en nuestras pruebasdescubrimos que es difícil notar la luz cuando estás afuera con una iluminación brillante y que las personas a menudo no se dan cuenta cuando estás filmando, especialmente en espacios públicos abarrotados.

Por su parte, Meta advierte a los usuarios contra los agujeros de cristal en su política de privacidad para los Ray-Ban. Insta a los usuarios a “respetar las preferencias de las personas” y a hacer gestos o utilizar controles de voz claramente al capturar videos, transmitir en vivo o tomar fotografías. Sin embargo, la realidad es que las personas también pueden optar por no seguir etiqueta usableindependientemente de lo que diga Meta. El borde Se comunicó con Meta para obtener más comentarios, pero no recibió una respuesta de inmediato.

Este es un recordatorio aleccionador de cómo se puede abusar de las gafas inteligentes, pero hay algunas medidas que las personas pueden tomar para protegerse. En su documento, Nguyen y Ardafiyo enumeran la búsqueda inversa y las bases de datos de búsqueda de personas que le permiten optar por no participar. Aun así, tenga en cuenta que es casi imposible eliminar por completo su presencia en línea; lo único que puede hacer es hacer que su información esté menos disponible.