Pilotos de inicio de AI Máscaras digitales que contrarrestan el reconocimiento facial

Alethea AI, una compañía de medios sintéticos, está probando "máscaras faciales que preservan la privacidad" o máscaras digitales que contrarrestan los algoritmos de reconocimiento facial y ayudan a los usuarios a preservar la privacidad en los videos pregrabados.

La medida se produce cuando compañías como IBM, Microsoft y Amazon anunciaron que suspenderían la venta de su tecnología de reconocimiento facial a las agencias policiales.

"Esta es una nueva técnica que desarrollamos internamente que envuelve una cara con nuestros algoritmos de IA", dijo el CEO de Alethea AI, Arif Khan. "Es divertido jugar con ellos y desarrollarlos, pero estas" máscaras / máscaras "son un animal diferente y más potente para preservar la privacidad".

Ver también: La Fundación de los Derechos Humanos financia las herramientas de privacidad de Bitcoin a pesar del estigma legal de 'Coin Mixing'

La startup con sede en Los Ángeles se lanzó en 2019 con un enfoque en la creación de avatares para creadores de contenido para los cuales los creadores podrían obtener una licencia ingresos. La idea surge cuando las falsificaciones profundas, o los medios manipulados que pueden hacer que alguien parezca que están haciendo o diciendo algo, se vuelven más accesibles y generalizados.

Según un informe de 2019 de Deep Trace, una compañía que detecta y monitorea las falsificaciones profundas, hubo más de 14,000 falsificaciones en línea en 2019 y más de 850 personas fueron atacadas por ellos. Alethea AI quiere permitir que los creadores usen sus propios avatares de medios sintéticos para fines de marketing, en cierto sentido, tratando de permitir que las personas aprovechen sus falsificaciones profundas para obtener dinero.

Khan compara la proliferación de datos de reconocimiento facial ahora con la explosión al estilo Napster en la piratería musical a principios de la década de 2000. Las empresas, como Clearview AI ya han recolectado grandes cantidades de datos de personas para algoritmos de reconocimiento facial, luego revenden estos datos a los servicios de seguridad sin consentimiento y con todo el sesgo inherente a los algoritmos de reconocimiento facial, que son generalmente menos preciso en mujeres y personas de color.

Clearview AI se ha comercializado para la aplicación de la ley y ha eliminado miles de millones de imágenes de sitios web como Facebook, Youtube y Venmo. La compañía está siendo demandada por hacerlo.

"Llegaremos a un punto en el que debe haber una especie de capa de iTunes, donde sus datos de cara y voz de alguna manera estén protegidos", dijo Khan.

Una parte de eso es que los creadores licencian su imagen por una tarifa. El empresario de cifrado Alex Masmej fue el primer avatar de ese tipo y por $ 99 puedes contratar al avatar para decir 200 palabras de lo que quieras, siempre que el verdadero Masmej apruebe el texto.

Alethea AI también se ha asociado con la firma de software Oasis Labs, para que se verifique todo el contenido generado para el mercado de medios sintéticos de Alethea AI usando la cadena de bloques segura de Oasis Lab, similar a la marca de verificación azul "verificada" de Twitter.

"Hay muchos escenarios de Black Mirror cuando pensamos en deepfakes, pero si se necesita mi aprobación personal para mis deepfakes y luego está marcado en una cadena de bloques pública para que cualquiera pueda verificar los videos que realmente quiero lanzar, eso proporciona una protección de la que actualmente carecen las falsificaciones profundas ", dijo Masmej.

El piloto de privacidad lleva esta idea un paso más allá, no solo creando una licencia falsa profunda, sino evitando que las compañías o cualquier persona tome sus datos faciales de una grabación.

Hay dos partes en el componente de privacidad. El primero, actualmente en fase piloto, involucra videos pregrabados. Los usuarios cargan un video, identifican dónde y qué máscara de cara les gustaría superponer, y luego los algoritmos de Alethea AI asignan los puntos clave en su propia cara y envuelven la máscara alrededor de este mapa de puntos clave que se crea. El video luego se envía de vuelta a un cliente.

Ver también: Noticias falsas sobre esteroides: Deepfakes están llegando – ¿Están preparados los líderes mundiales?

Alethea AI también quiere habilitar el enmascaramiento facial durante las comunicaciones en tiempo real, como en una llamada Zoom. Pero Khan dice que la potencia informática aún no lo permite, aunque debería ser posible en un año, espera.

Althea AI puso a prueba un ejemplo de la tecnología con Crypto AI Profit, un blockchain e influencer de IA, que lo usó durante un video de Youtube .

Deepfakes, suplantación de voz y otras imitaciones habilitadas por la tecnología parecen estar aquí para quedarse, pero Khan sigue siendo optimista de que todavía no estamos en el punto de no retorno cuando se trata de protegernos.

"Tengo la esperanza de que el individuo tenga algún tipo de marco en todo este panorama emergente", dijo Khan. "Será un viaje muy interesante. No creo que la batalla esté completamente decidida, aunque los sistemas existentes están orientados a preservar la entrada más grande y más corporativa ".