SdA_Deep fakes

FAKE VOICES

Empezar >

Situación de aprendizaje

evaluación

Anexos

ACTIVIDADES

recursos

Descripción

Los estudiantes explorarán los medios sintéticos mediante la creación de una app para smartphones que puede hablar con diferentes voces cambiando el ritmo y el tono del habla.

Metodología

Esta situación de aprendizaje se aborda mediante el aprendizaje basado en proyectos. Los alumnos trabajarán en grupos de 3 de manera colaborativa.

Duración

3 sesiones

Saberes básicos

• Programación por bloques
• Fundamentos de la inteligencia artificial y el aprendizaje automático.
• Principios éticos y aspectos legales del uso de sistema de IA.

Situación de aprendizaje//Fake voices

1º Bachillerato

Asignatura: Inteligencia artificial

1

1

1

3

3

3

2

2

2

Sesión 1

Sesión 2

Sesión 3

Deepfakes en IA

Ejemplos de audio y video deepfake.

¿Cómo se crean las deepfkes?

Introducción a las deepfakes.

Prueba de las app.

Creación de la app que genera voces falsas.

Preparación de las exposiciones orales sobre deepfakes.

Puesta en común.

Exposiciones orales.

+ info

Sesión 1 // Introducción a las deepfakes.

• ¿Has oído hablar de las deepfakes?
• ¿Qué sabes sobre este tema?

Detonador de conocimientos previos

Sesión 1 // Introducción a las deepfakes.

4

Las nuevas tecnologías pueden tener implicaciones positivas y negativas, según el uso que hagamos de ellas.

Idea Clave

1

3

Idea Clave

2

Los deepfake son archivos de audio y video hechos por sistemas de IA..

El nombre deepfake proviene de deep learning (aprendizaje profundo)

Estos sistemas crean deepfakes aprendiendo de grabaciones existentes de humanos.

Idea Clave

Idea Clave

Ideas clave

En esta pista de audio, Jay-Z ha sido manipulado mediante un audio fake para decir cosas que nunca ha dicho.

Sesión 1 // Introducción a las deepfakes.

• En el video de Jay-Z, ¿el deepfake sonaba como una persona real? Para quienes conocéis al rapero, ¿suena como él? ¿Podéis identificar el texto que estaba leyendo?
• ¿Cómo ha aprendido el sistema a recrear la voz del rapero?
• ¿Qué crees que significa el término inteligencia artificial?
• Definición de inteligencia artificial: Cuando las máquinas hacen cosas que parecen inteligentes de la misma manera que los humanos.

TUTORIAL

Fake voices

• Vamos a diseñar una app que genera voces generadas por ordenador.
• Nota: Las voces generadas por dispositivos móviles en el tutorial no son verdaderos deepfakes porque no utilizan inteligencia artificial, ¡pero aun así son bastante convincentes!

• Tutorial para desarrollar la app en App Inventor:

Sesión 1// Programación de la app

Analizamos nuestra app

• ¿La voz falsa de tu aplicación suena realista?
• ¿Cómo podría usarse la voz para engañar a alguien?
• ¿Qué puedes hacer para que tu voz sintética suene mejor?

Sesión 2 // Deepfakes

Sesión 2 // Deepfakes

• ¿Qué diferencia hay entre la forma como suena la voz en vuestra app y la voz del vídeo?
• Los deepfakes se crean utilizando inteligencia artificial para entrenar al sistema a partir de muchos ejemplos de cómo habla la gente real. De hecho, el nombre deepfake proviene de “aprendizaje profundo”.
• ¿De qué forma se podría utilizar el vídeo de Kennedy con fines positivos?
• ¿Has visto deepfakes de otros políticos en línea?
• ¿De qué forma se podría utilizar el vídeo de Kennedy con fines dañinos?

Cada grupo debe elegir una de las siguientes categorías y analizar los ejemplos propuestos:

¿Qué vamos a hacer?

Producto final

Trabajaremos en grupos de 3 para analizar ejemplos de deepfakes.

Agrupamiento

Sesión 2// Analizamos ejemplos de deepfakes

• Comercio
• Tecnologías de apoyo.
• Müsica Pop
• Historia
• Crimen

Debéis entregar un informe con las conclusiones que habéis sacado de vuestro análisis.Las siguientes preguntas os pueden ayudar.

Sesión 2// Analizamos ejemplos de deepfakes

Comercio

Tecnologías de apoyo

Historia

Crimen

Categorías

Música Pop

Sesión 3// Preparación de las exposiciones

• Cada grupo prepara una exposición oral con las conclusiones a las que llegaron en la sesión anterior.
• Durante la exposición, los grupos deben contestar a las siguientes preguntas:

1. Según vuestra opinión, ¿cuáles son algunas posibles consecuencias positivas o negativas de los deepfakes como los de vuestra categoría?
2. Haz una predicción sobre cómo podrían evolucionar este tipo de deepfakes en el futuro.
3. ¿Qué recomendaciones de leyes o políticas haría vuestro grupo a los líderes gubernamentales o a las empresas de redes sociales? ¿Deberían apoyar o desaconsejar vídeos como los que habéis analizado?
4. Si vuestro grupo no tiene una respuesta definitiva, ¿qué podéis hacer para explorar más a fondo las consecuencias?

Sesión 3// Preparación de las exposiciones

Beneficioso

Perjudicial

• ¿En qué parte de la línea abajo representada creéis que encaja vuestra categoría?
• Dad al menos 2 razones por las que vuestro grupo ha decidido colocar la categoría ahí.

• Cada grupo presenta y escribe su categoría en la línea de beneficios y perjuicios.
• Las exposiciones deben durar entre 3 y 4 minutos.

Sesión 3 // Exposiciones orales

Sesión 3// Puesta en común y conclusiones

• ¿Tiene sentido la ubicación de cada categoría en la línea de beneficios y perjuicios?
• ¿Estáis de acuerdo con las decisiones de los otros grupos? ¿Por qué o por qué no?

Evaluación

Rúbricas de evaluación

Exposición oralExposición oral sobre las consecuencias de las deepfakes.

App fake voicesRúbrica de evaluación para el profesor.

App fake voicesRúbrica de coevaluación. Cada grupo probará la app de otros compañeros.

InformeAnálisis de deepfakes en diferentes categorías.

Anexos

01

App Inventor: https://appinventor.mit.edu/

02

Fake voices: The ethics of deep fakes: https://appinventor.mit.edu/explore/resources/ai/fake_voices_unit

http://ai2.appinventor.mit.edu/?locale=en&repo=http://appinventor.mit.edu/yrtoolkit/yr/aiaFiles/Fake_Voices/FakeVoices_Starter.asc

Entra en App Inventor mediante el siguiente enlace:

Desastre lunar.

Recursos

• Ficha de trabajo de los alumnos.
• Presentación de diapositivas.
• Ordenadores
• Smartphones (1 por cada grupo)
• Tutorial en App Inventor para desarrollar la aplicación
• Conexión a internet por wifi.

Atracan un banco utilizando voces falsas generadas con IA.

¿Pueden causar un colapso económico los vídeos manipulados con IA?

Ayudando a personas que han perdido la voz

Un actor recupera su voz

Asistente de IA Google Duplex

Una cantante de pop vuelve a cantar.

Jay Z lee a Hamlet

Analizamos ejemplos de deepfakes

1. ¿Se ha manipulado a una persona real en el vídeo? ¿A quíen? (Si el grupo tiene dos videos, escribid respuestas para ambos).
2. ¿Qué fue lo más convincente del deepfake? ¿Qué aspectos no son convincentes?
3. ¿Quién hizo el deepfake (si se conoce)?
4. ¿Por qué crees que se hizo el deepfake? ¿Cuál crees que fue la intención del creador?
5. ¿Crees que la persona real que fue manipulada estará conforme con aparecer en el vídeo? Por qué o por qué no.
6. En el futuro, ¿cómo se podría utilizar este tipo de deepfake para bien o para mal?