Alex Popken, exejecutivo de confianza y seguridad en Twitter, ha pasado a un nuevo cargo como vicepresidente de confianza y seguridad en WebPurify, un proveedor de servicios de moderación de contenido. En una entrevista reciente con The Associated Press, Popken habló sobre la evolución de la moderación de contenido durante la última década. Destacó los hitos clave durante su tiempo en Twitter, como el descubrimiento de la interferencia rusa en las elecciones presidenciales estadounidenses de 2016, que enfatizó la importancia de invertir en la moderación de contenido para evitar que los malos actores socaven la democracia.

Popken enfatizó la necesidad de combinar la moderación humana con la inteligencia artificial (IA) para moderar eficazmente el contenido. Si bien la IA puede detectar ciertas palabras clave o frases, tiene dificultades para comprender el contexto y los matices, lo que requiere que los moderadores humanos proporcionen esa capa esencial de juicio. Popken reconoció los avances en la IA generativa, que puede comprender mejor el contexto y los matices, pero señaló que la moderación humana seguirá siendo crucial en el futuro previsible.

WebPurify trabaja con una variedad de empresas que no son de redes sociales, desde minoristas hasta aplicaciones de citas, para garantizar que el contenido generado por el usuario siga las reglas y pautas establecidas por la plataforma. Popken explicó que la moderación de contenido es un panorama en constante evolución, influenciado por eventos globales, nuevas tecnologías y riesgos en evolución planteados por malos actores. Destacó el desafío de moderar la desinformación y señaló que las plataformas deben centrarse en prevenir el daño más real.

Con respecto a la IA generativa, Popken expresó su preocupación por la desinformación generada por la IA, particularmente durante las temporadas electorales importantes. Señaló el aumento de las falsificaciones profundas y la manipulación de los medios en línea, enfatizando la necesidad de una regulación adecuada y barreras de protección para evitar el uso indebido. A pesar de los riesgos potenciales, Popken considera que la IA es una herramienta valiosa para la moderación de contenido, especialmente para la inteligencia de amenazas, si se usa de manera responsable.