Sam Altman cree que tenemos un problema con los fraudes IA. Su solución es sencilla: darle nuestro iris a Sam Altman

Sam Altman, CEO de OpenAI, alertó al mundo en una intervención desde la Reserva Federal estadounidense: «Estoy muy nervioso porque se avecina una inminente y grave crisis de fraude». El dirigente lo expresó en el contexto de un discurso donde repasó cómo los actores maliciosos están derrotando los sistemas de autenticación mediante inteligencia artificial (IA).

Una problema que ya es real. Los avisos de Sam Altman se enmarcan en una realidad de la que ya han advertido las autoridades. El FBI avisó el año pasado del creciente uso de IA por parte de los ciberdelincuentes. Los métodos descritos para engañar a funcionarios del Gobierno federal se centraban en la clonación por voz y el vishing.

Las estafas con voces clonadas con IA son cada vez más frecuentes, pese a que hay soluciones aparentemente sencillas como las «contraseñas familiares». Sin embargo, hay muchas situaciones donde algo así no puede establecerse de antemano, como sería la llamada de un político.

Tampoco de un obispo, como ha ocurrido en un las hermandades sevillanas, que han alertado de que se está clonando la voz de monseñor Teodoro Muñoz pidiendo bizums. El INCIBE también lleva un tiempo detallando casos de suplantación de voz en los que los estafadores solicitan dinero haciéndose pasar por familiares. Además, los dominios .es están disparados en casos de phishing, y los agentes no van a ayudar, sino todo lo contrario.

Altman tiene intereses en la forma de solucionarlo. La problemática de la que alerta Altman coincide con casos reales y alertas de las autoridades. Sin embargo, el CEO de OpenAI está alertando sobre una situación presente y futura de la que es parte interesada. Además del cargo por el que es más famoso a día de hoy, Altman es cofundador y sigue implicado de la polémica compañía de verificación WorldCoin (ahora World).

El director para Europa de WorldCoin nos lo contaba así hace un par de años:

«Cada vez es más difícil distinguir si estás hablando con un humano o si estás mirando algo creado por una IA. ¿Cómo pruebas la humanidad en la era de la inteligencia artificial? Aquí es donde Altman junto a Alex Blania, físico alemán que estaba en Caltech, empezaron a trabajar en este proyecto»

Nuevas soluciones tras pasarse de frenada. WorldCoin defendía que el escaneo de iris es el método más infalible para comprobar que somos humanos, aunque tras los problemas con la AEPD tuvieron que aceptar que pedir el escaneo de iris era demasiado, y tienen una nueva alternativa con World ID Credentials, un sistema que nos identifica basándose en algo universal: los pasaportes.

No cualquiera, eso sí, sino los que disponen de NFC. También tienen World ID Deep Face, una herramienta que sirve para confirmar en videollamadas que las personas que intervienen son humanos.

OpenAI es parte del problema. En 2019, más de dos años antes de la explosión mediática de ChatGPT, OpenAI anunció que no iba a difundir al público la versión completa de GPT-2, su flamante modelo de lenguaje. ¿El motivo? El miedo a que un «mal uso» como el del que Sam Altman alerta causara estragos. Como hizo el INCIBE con DeepSeek.

Sin embargo, con los mucho más potentes GPT-3 (en el que se basó ChatGPT en lanzamiento) y GPT-4 no hubo esa cautela. De hecho, según contó el Wall Street Journal, lo que llevó en parte al despido del propio Sam Altman fue que éste afirmó que tres nuevas funcionalidades habían sido aprobadas por un comité de seguridad creado en conjunto con Microsoft… para luego descubrirse que tan sólo se había aprobado realmente una de esas tres.

Ilya Sutskever quiere arreglarlo. A ello se sumó el permiso para llevar a cabo pruebas de seguridad en la India sin haber pedido permiso a la junta o al comité de seguridad. La historia acabó con Ilya Sutskever saliendo de OpenAI tras haberla cofundado. Camino de crear Safe Superintelligence Inc (SSI), una empresa que perseguía precisamente una superinteligencia con seguridad «nuclear». Sin tener «nada», ya vale más de 30.000 millones.

Imágenes | OpenAI, Worldcoin

En Xataka | El 017 lleva cinco años atendiendo llamadas de ayuda en ciberseguridad. La pregunta es quién llama y para qué

–
La noticia

Sam Altman cree que tenemos un problema con los fraudes IA. Su solución es sencilla: darle nuestro iris a Sam Altman

fue publicada originalmente en

Xataka

por
Antonio Sabán

.