Atroic abrió la caja de pandora: El deepfake

El tema caliente de la última semana es cómo un streamer, Atroic, se expuso accidentalmente dando a conocer que consumía contenido pornográfico de otra streamer colega generado por una inteligencia artificial con el método deepfake.

Una tecnología que crea imágenes o videos falsos mediante la utilización de AI y aprendizaje profundo. Este contenido es cada vez más realistas y difícil de detectar, lo que los convierte en una herramienta peligrosa y potencialmente dañina.

Porque es capaz de transformar cualquier fotografía o video, en una tuya, puede convertir un material para adultos en uno donde apareces tu a niveles casi indetectables.

El verdadero peligro de la IA

Mucho se habla de los posibles problemas que puede traer la inteligencia artificial al mundo del arte y entretención, en especial al ser capaz de generar contenido, pero la verdad es que hay muchos puntos a favores que puede ayudar artistas, escritores y más para aprovechar esta tecnología, como para generar ideas, bocetos y más.

Pero un uso de nicho que lleva años siendo desarrollado es el deepfake, que posiblemente conozcas por su uso en memes, como poner a personas cantar canciones, pero también su desarrollo ha sido a través de la industria del porno, para poner a celebridades o personas conocidas en situaciones imposibles.

En su comienzo fue un tanto conocido este uso, pero rápidamente fue baneado, por obvias razones, de sitios y poco de habló de ello, hasta que ocurrió la situación de Atroic.

La capacidad del deepfake para difundir información falsa y manipular la opinión pública puede ser extremadamente perjudicial. Los videos pueden hacer que personas importantes parezcan decir o hacer cosas que nunca han dicho o hecho, y esto puede tener graves consecuencias políticas, sociales y morales, especialmente cuando hay compañías que profitan de usar personas sin su consentimiento.

Otro peligro es la privacidad. Al crearse imágenes y videos falsos de personas reales, se viola su privacidad y se les expone a situaciones incómodas o peligrosas.

¿Puede salir algo bueno de esto?

Estamos en total en contra de esta tecnología para usos maliciosos, la inteligencia artificial, como cualquier herramienta, puede ser mal usada y nosotros queremos incentivar cómo los creadores de contenido pueden usarlo para mejorar o facilitar procesos.

Pero al igual que la discusiones sobre arte, traducción, programación y más, esta situación expone un grave problema y es algo bueno y necesario, porque promueve el debate y a través de esto se lleva a situaciones que crean la posibilidad de que se creen leyes para regular el uso de inteligencias artificiales y orientarlos para el bien.

Tú... ¿Qué crees? ¿Deberían haber leyes sobre el uso de inteligencia artificiales?

Si llegaste hasta aquí, estoy seguro que te interesa la creación de contenido o eres un creador, si es así, te cuento que en eSponsor ofrecemos un espacio para que monetices haciendo lo que amas, crea tu página personalizada y ofrece donaciones, suscripciones o tienda digital 😊