En la campaña electoral presidencial estadounidense de 2024, algunas de las falsificaciones más destacadas: personificaciones artificiales de candidatos destinadas a engañar a los votantes o humillan a los candidatos es el objetivo. Gracias al retuit de Elon Musk, uno de esos directorios más de 143 visitas millón veces
La perspectiva de campañas sin escrúpulos o de competidores extranjeros que utilicen inteligencia artificial para influir en los votantes ha alarmado a investigadores y funcionarios de todo el país, quienes dicen que los medios generados y manipulados artificialmente ya se están extendiendo rápidamente en línea. Por ejemplo, investigadores de la Universidad de Clemson encontraron una campaña de influencia en la plataforma social X usando IA para generar comentarios de más de 680 cuentas de bots que apoyan al expresidente Trump y otros candidatos republicanos; la red ha publicado más de 130.000 comentarios desde marzo.
Para aumentar su protección contra imágenes falsas, Yahoo News, uno de los sitios de noticias en línea más populares que atrae fue más de 190 millones de soums visitas por mes, según Similarweb.com, anunció el miércoles que está integrando la tecnología de reconocimiento profundo de imágenes de la firma de ciberseguridad McAfee. La tecnología revisa las imágenes enviadas por los colaboradores de Yahoo News e identifica imágenes que pueden haber sido creadas o calificadas por AI, ayudando al equipo de estándares editoriales del sitio a decidir si publicarlas.
Matt Sánchez, presidente y director general de Yahoo Home Ecosystem, dijo que la empresa está tratando de ir un paso por delante de los estafadores.
“Si bien las imágenes deepfake no son un problema hoy en Yahoo News, esta herramienta de McAfee nos ayuda a mantenernos proactivos ya que siempre trabajamos para brindar una experiencia de calidad”, dijo Sánchez en un correo electrónico. “Esta asociación mejorará nuestros esfuerzos actuales y nos brindará mayor precisión, velocidad y escala”.
Sánchez dijo que los medios de comunicación de toda la industria de las noticias están pensando en la amenaza de los “deepfakes”, “no porque sea un problema generalizado hoy en día, sino porque el potencial de uso indebido está en el horizonte”.
Gracias a herramientas de inteligencia artificial fáciles de usar, los deepfakes han subido al siguiente nivel 40 por ciento de los escolares Los encuestados dijeron en agosto que habían oído hablar de que se compartía algún tipo de imagen de profundidad falsa en su escuela. En base de datos en línea de hechos políticos Compilado por tres académicos de la Universidad Purdue, contiene casi 700 entradas, más de 275 de las cuales son de este año solamente.
Steve Grobman, director de tecnología y vicepresidente ejecutivo de McAfee, dijo que la asociación con Yahoo News surgió del trabajo de McAfee en productos para ayudar a los consumidores a detectar falsificaciones en sus computadoras. La empresa se dio cuenta de que la tecnología desarrollada para mostrar posibles imágenes generadas por IA podría ser útil para un sitio de noticias, especialmente uno como Yahoo, que combina el trabajo de sus periodistas con contenido de otras fuentes.
Grobman dijo que la tecnología de McAfee se suma al “rico conjunto de capacidades” que Yahoo ya tiene para verificar la integridad del contenido de sus fuentes. La herramienta de detección de deepfake, impulsada por la propia IA, examina las imágenes en busca de los tipos de artefactos que la inteligencia artificial deja entre los millones de puntos de datos dentro de una imagen digital.
“Una de las cosas realmente hermosas de la IA es que no es necesario decirle al modelo qué hacer. El modelo determina qué hacer”, dijo Grobman.
“La calidad de la falsificación está aumentando rápidamente y parte de nuestra asociación es simplemente tratar de enfrentarla”, afirmó. Esto significa monitorear el estado del arte en generación de imágenes y usar nuevos patrones para mejorar la tecnología de detección de McAfee.
Nikos Vekiarides, director de la empresa antifraude, dijo que se trataba de una carrera armamentista entre empresas como la suya y las de imágenes impulsadas por IA. “Están mejorando. Las anomalías son cada vez menores”, afirmó Vekiarides. Y si bien hay un apoyo creciente entre los principales actores de la industria para poner marcas de agua en el contenido generado por IA, los malos actores no siguen esas reglas, dijo.
En su opinión, la propaganda profundamente política y otros materiales falsos difundidos a una amplia audiencia no tendrán mucho efecto porque “serán eliminados rápidamente”. Dijo que el potencial más dañino es el grado en que las personas influyentes transmiten falsificaciones a sus seguidores o se transmiten de persona a persona.
Daniel Kang, profesor asistente de informática en la Universidad de Illinois en Urbana-Champaign y experto en inteligencia artificial profunda, advirtió que hoy en día ninguna herramienta de inteligencia artificial es suficiente para atrapar a un atacante altamente motivado y con buenos recursos, como un estado. agresor. Patrocinado por el creador de deepfake. Debido a que hay tantas formas de procesar una imagen, un atacante “podría tocar más botones que estrellas en el universo para dominar los mecanismos de detección”.
Pero muchos deepfakes no provienen de atacantes altamente sofisticados, por lo que Kang dijo que le preocupan las tecnologías actuales para detectar medios generados por IA, incluso si no pueden detectarlo todo. Agregar herramientas de inteligencia artificial a los sitios ahora permite que las herramientas aprendan y mejoren con el tiempo, tal como lo hacen los filtros de spam, dijo Kang.
No son una panacea, afirmó; deben combinarse con otras garantías del contenido editado. Aun así, Kang dijo: “Creo que hay buena tecnología que podemos utilizar y mejorará con el tiempo”.
Vekiaridis dijo que el público se ha preparado para la ola de imperfecciones adoptando el uso generalizado de herramientas de manipulación de imágenes, como editores de fotografías que prácticamente airean las imperfecciones de las fotografías de portada de revistas. El salto de un fondo falso en una llamada de Zoom a una imagen en profundidad de la persona con la que estás conociendo en línea no es tan grande, dijo.
“Hemos dejado salir al gato de la bolsa”, dijo Vekiarides, “y es difícil volver a meterlo”.
