Usaron un audio sintético en lo que podría ser el primer gran asalto llevado a cabo por inteligencia artificial (IA). Imitaron la voz del director ejecutivo de una compañía y engañar con ella a un empleado para que transfiriera más de 240.000 dólares a una cuenta secreta.

El gerente de la compañía recibió una llamada de noche en la que escuchó la voz de su superior exigiéndole que transfiriera dinero a una cuenta húngara para ahorrarse "multas por pago tardío". Envió los detalles financieros por correo electrónico mientras hablaban por teléfono. Una portavoz de Euler Hermes, aseguradora de la empresa víctima del robo, dijo que "el software era capaz de imitar la voz, entonación, puntuación e incluso el acento".

Los ladrones detrás de la voz volvieron a llamar para exigir un segundo pago, lo que levantó las sospechas del gerente y lo llevó a llamar a su jefe. En un correo electrónico a Euler Hermes, el director dijo que el "Johannes cibernético exigía hablar conmigo mientras yo todavía estaba hablando por teléfono con el verdadero".

En los últimos años, los hackers y programadores ha vuelto a los llamados deepfakes o deep falsifications[/b cada vez más sofisticados. [b]Las plataformas de Internet no pueden detectarlos y las empresas luchan con la forma de manejar las consecuencias.

La evolución constante de los deepfakes significa que detectarlos nunca será suficiente debido a la naturaleza del Internet moderno, que les garantiza audiencia debido a la monetización de la atención y el fomento a la producción de contenido viral. En junio pasado, deepfakes convincentes de Mark Zuckerberg se publicaron en Instagram poco después de que Facebook se negara a eliminar un video manipulado de Nancy Pelosi. Todavía no hay consenso claro sobre cómo debió haber actuado Facebook en esa situación o en situaciones futuras.

Esto se exagera con los modelos de monetización de datos de empresas como Facebook y Google. El tecnosociólogo Zeynep Tufecki advierte que las compañías como Facebook confían en crear una "arquitectura de la persuasión" que "nos haga más flexibles a los anuncios, mientras también organizan nuestros flujos de información política, personal y social".

Esa dinámica central, combinada con la evolución constante de la tecnología deepfake, significa que este problema empeorará en todas las plataformas de Internet a menos que las compañías detrás de ellas puedan convencerse de cambiar sus modelos de negocio.

*Vía Vice.