Ray-Ban Meta Dos estudiantes de ingeniería de Harvard utilizaron gafas inteligentes para crear una aplicación que puede revelar información confidencial sobre las personas sin que se den cuenta. Los estudiantes publicaron una demostración del vídeo en X (anteriormente conocido como Twitter) y mostraron las capacidades de la aplicación. En particular, la aplicación no se pone a disposición del público para los usuarios, sino que la hicieron para resaltar los peligros de los dispositivos portátiles con tecnología de inteligencia artificial que utilizan cámaras discretas que pueden capturar fotografías e imágenes de personas.
La aplicación, denominada I-Xray, utiliza inteligencia artificial (IA) para el reconocimiento facial y luego utiliza datos visuales procesados para doxxar a las personas. Doxxing, una jerga popular de Internet que es un acrónimo de “dejar caer dox (informal de documentos o documentos)”, es el acto de revelar información personal sobre alguien sin su consentimiento.
Estaba integrado con las gafas inteligentes Ray-Ban Meta, pero los desarrolladores dijeron que funcionaría con cualquier gafas inteligentes con cámaras discretas. Utiliza un modelo de IA similar a PimEyes y FaceCheck para el reconocimiento facial inverso. La tecnología puede hacer coincidir el rostro de un individuo con imágenes suyas disponibles públicamente en línea y rastrear las URL.
Luego, se alimentan estas URL a otro modelo de lenguaje grande (LLM) y se genera un mensaje automático para averiguar el nombre, la ocupación, la dirección y otros datos similares de la persona. El modelo de IA también analiza datos gubernamentales disponibles públicamente, como bases de datos de registro de votantes. Además, también se utilizó para esto una herramienta en línea llamada FastPeopleSearch.
En una breve demostración en vídeo, los estudiantes de Harvard AnhPhu Nguyen y Caine Ardayfio también mostraron el funcionamiento de esta aplicación. Pudieron encontrarse con extraños con la cámara ya encendida y preguntarles su nombre, y la aplicación impulsada por IA podría tomar el control desde allí para encontrar datos personales sobre el individuo.
En documentos de Google archivodijeron los desarrolladores, “Esta sinergia entre los LLM y la búsqueda inversa permite una extracción de datos completamente automática y completa que antes no era posible solo con los métodos tradicionales”.
Los estudiantes han declarado que no tienen la intención de hacer que la aplicación esté disponible públicamente y solo la desarrollaron para resaltar los riesgos de un dispositivo portátil con inteligencia artificial que puede grabar a las personas discretamente. Sin embargo, esto no significa que los malos actores no puedan crear una aplicación similar utilizando una metodología similar.
