Meta Pone a Prueba el Contenido Generado por IA

Todos estamos empezando a preocuparnos un poco por la capacidad de la IA para hacer cosas con texto, imágenes y videos en minutos, lo que, a nosotros, simples mortales, solía llevarnos horas, días o semanas. Siendo los humanos lo que son, muchos se han aprovechado de esta nueva tecnología con intenciones poco honorables, incluida la creación de falsificaciones destinadas a dañar a otros, como en el reciente incidente de Taylor Swift en X.


Ese es solo uno de los muchos incidentes que se están cuestionando, y ahora Meta está tomando medidas para resaltar el contenido generado por IA con marcas de agua.

Meta dice que está trabajando con socios de la industria con "estándares técnicos comunes para identificar contenido de IA, incluidos video y audio", con el objetivo en los próximos meses de poder identificar y etiquetar imágenes publicadas por usuarios en Facebook, Instagram y Facebook. Los hilos se detectan mediante indicadores estándar de la industria que detectan contenido generado por IA a una milla de distancia.

Al provenir de una empresa que ha adoptado la IA, muchas personas se preguntan cuánto le importa a Meta el uso de la IA. Sin embargo, la compañía dice que ha "etiquetado imágenes fotorrealistas creadas con Meta AI desde su lanzamiento para que la gente sepa que están "Imaginado con AI".

¿Qué te parece la cuidadosa redacción de "Imaginado con IA"?

A medida que se vuelve más difícil diferenciar entre IA y contenido humano, la gente quiere que se les advierta que pueden estar viendo algo creado por IA. Según Meta, "la gente suele encontrarse por primera vez con contenido generado por IA y nuestros usuarios nos han dicho que aprecian la transparencia en torno a esta nueva tecnología".

Meta dice que es crucial que ayuden a las personas a comprender cuándo se crea contenido fotorrealista utilizando IA. La empresa quiere tener la capacidad de hacer lo mismo que hace con su contenido de IA con contenido de IA creado por otras empresas.

Sobre el momento de este esfuerzo, Meta dice que lo harán durante el próximo año, señalando que habrá muchas elecciones importantes en todo el mundo. "Durante este tiempo, esperamos aprender mucho más sobre cómo las personas crean y comparten contenido de IA, qué tipo de transparencia consideran más valiosa y cómo evolucionan estas tecnologías".

Meta dice que agregará herramientas para que los usuarios informen al público cuando comparten video o audio generado por IA para que pueda etiquetarse como tal. También exigirán a los usuarios que utilicen la "herramienta de divulgación y etiquetado" cuando publiquen contenido orgánico con un "video fotorrealista o audio con sonido realista creado o alterado digitalmente". Meta podría incluso aplicar sanciones si se niegan a hacerlo.

Respecto a lo que Meta considera material de alto riesgo, "como cuestión de importancia, podemos agregar una etiqueta más destacada si corresponde, para que la gente tenga más información y contexto".

Todavía queda mucho por determinar sobre cómo Meta decidirá qué es apropiado, cómo se utilizará la marca de agua (que según la compañía será invisible) y cuándo será completamente funcional. Aun así, si publicas contenido generado por IA en cualquiera de las plataformas de Meta, te llamarán la atención.

¿Deseas leer esto en inglés? Versión en inglés >>