Noticias › IA
IA
Los deepfakes están por todas partes: el jefe de IA de Meta publica uno de Sam Altman y la IA de Coinbase frena 4,7 millones que iban a un falso Musk
Dos informaciones del 17 de noviembre muestran los dos lados de la misma tecnología: un deepfake etiquetado usado como marketing y una estafa en la que cientos de clientes intentaron enviar dinero a un falso sorteo de Tesla.


Dos noticias publicadas el 17 de noviembre muestran lo corriente que se ha vuelto el vídeo sintético. En la primera, The Verge cuenta que Alexandr Wang, director de IA de Meta, compartió este mes un breve clip generado por IA para promocionar Muse, el agente de IA de consumo de la empresa. En él, Wang, Mark Zuckerberg, el consejero delegado de OpenAI, Sam Altman, y la mascota de Muse, Jolly, están en una videollamada a cuatro, y Altman se une disfrazado con un traje peludo y la cara pintada para parecerse a Jolly. El pie dice «Cuando los colegas se reúnen para hablar de la estrategia de producto de openai».
The Verge señala que hace unos años un contenido así habría provocado fuertes reproches públicos y amenazas de acciones legales. Meta exige que los vídeos generados por IA que muestran a personas se etiqueten como IA, y la publicación de Wang lo está, dijo un portavoz; las imágenes estáticas no tienen ese requisito. El portavoz recordó también que Altman ha puesto su imagen a disposición para generar contenido con IA, como cuando OpenAI lanzó su aplicación Sora. OpenAI no respondió a las peticiones de comentarios.
La segunda noticia muestra el lado dañino. The Block cuenta que durante la demostración del «coche volador» de Tesla en octubre, unos estafadores montaron una retransmisión en YouTube que imitaba la emisión oficial de Tesla, con un deepfake de Elon Musk que promocionaba un falso sorteo que ofrecía duplicar cualquier criptomoneda enviada. Mostraba direcciones de cartera y un código QR. Según Coinbase, más de 500.000 personas la vieron y en unas dos horas cientos de clientes de Coinbase intentaron enviar millones de dólares a esas direcciones.
Coinbase dice que sus defensas de IA frenaron 4,7 millones de dólares, alrededor del 91 % de las transferencias intentadas, sin intervención humana. Modelos de aprendizaje automático puntuaban en tiempo real los envíos de riesgo y marcaban patrones de sorteo, suplantación de marca y direcciones de cartera recién creadas. Después, un agente específico de prevención de estafas revisaba el contexto de la transacción, explicaba cómo estaba montada la estafa y cuestionaba la historia del cliente. Coinbase dijo que el agente nunca había visto esta estafa exacta, pero reconoció el patrón: una promesa de multiplicar los fondos, urgencia por un evento que termina en horas y una transferencia que no se puede revertir.
Coinbase subrayó que no se hackeó ninguna cuenta ni se robaron contraseñas o credenciales: los clientes enviaron el dinero voluntariamente y muchos eran usuarios veteranos. Esa es la parte difícil del problema, señala The Block: la mayoría de las plataformas usan detección de fraude en tiempo real, pero frenar transferencias que la gente fue engañada para autorizar es complicado. Coinbase dijo que seguirá invirtiendo mucho en defensa con IA.
Juntas, las dos noticias dejan una regla sencilla. Un vídeo de una cara famosa ya no prueba nada. Nunca envíes fondos a una dirección mostrada en una retransmisión, nadie legítimo duplica tus monedas y una transferencia en una red pública no se puede deshacer, así que la pausa antes de enviar es tu última línea de defensa.
Solo hechos, nunca asesoramiento financiero.
Sobre el autor
Juan Cienfuegos
Fundador y CEO de BitCorner Media
Presenta BitCorner, el podcast de Bitcoin desde El Salvador. BitCorner Media es el primer medio de Bitcoin y tecnología de El Salvador y ayuda a empresas de Bitcoin y tecnología a llegar y a formar a la audiencia hispanohablante.