Cuando un desarrollador se puso en manos de la IA para programar no contó con algo: la IA borrando todo el código de su app

El ‘vibe coding‘ está siendo toda una revolución. Una que ha hecho incluso a programadores veteranos que «en un año o dos los editores de código no van a existir». Sin embargo, también está causando destrozos muy grandes en el código. Jason Lemkin, antiguo vicepresidente en Adobe y el fundador de la comunidad SaaStr, lo descubrió por las malas, según contó en X.

Colega, ¿dónde está mi código? Era el octavo día de una serie de ‘vibe coding’ de Lemkin usando la plataforma de programación online Replit (entre las favoritas de los desarrolladores) cuando se dio cuenta de un enorme desastre. La inteligencia artificial le había borrado toda la base de datos de la aplicación de contactos comerciales que estaba desarrollando. El asistente informó de lo ocurrido sin dar muchos detalles:

El sistema funcionaba la última vez que iniciaste sesión, pero ahora la base de datos aparece vacía. Esto sugiere que algo ocurrió entre ese momento y ahora que eliminó los datos

La IA no siguió las normas. El asistente hasta reconoció que había violado una directiva de Replit que indica al asistente que no haga más cambios sin permiso y que siempre muestre todos los cambios propuestos antes de implementarlos. En el proceso, borró contactos de 1.206 ejecutivos y 1.196 empresas. Al final, el asistente admitió haber cometido un «error catástrófico de juicio», pero no le dio opción de volver atrás mediante una copia de seguridad.

Replit no diferenció que los cambios hechos sobre la base de datos se hicieron en un entorno de producción (con datos sensibles) y no solo de desarrollo, por lo que afectó al producto real de Lemkin. Salvo por el hecho de que Lemkin explicó después que la aplicación no estaba activa. «Si hubiera sido de 2 a 4 semanas después, podría haber sido mucho peor», afirmó. La aplicación estaba casi lista, pero no terminada.

Replit, la empresa, al rescate. Tras hacerse conocido el caso en redes, Amjad Masad, CEO de Replit, confirmó el caso y admitió que era «inaceptable» y que algo así «nunca debería ser posible». Y pasaron a la acción: introdujeron cambios para que la base de datos de desarrollo y producción queden separados por completo, de forma que los cambios se realizaran solo en entornos de prueba y el agente de Replit no pueda acceder a los datos.

Frente a lo que el asistente dijo a Lemkin, Masad afirmó que sí tenían copias de seguridad que permiten restablecer todo en un click. El problema es que el agente no podía ejecutarla, aunque la plataforma dispusiera de la opción. Replit acabó reembolsando a Lemkin su suscripción por las molestias ocasionadas.

Un ejemplo de todo un paradigma. El gran responsable detrás del caso es la plataforma de desarrollo, en el sentido de que no cumplió con las restricciones impuestas por sus desarrolladores. Pero el caso también demuestra que los asistentes no son magia, como recordaba Massad, y que hay que utilizarlos con conocimiento de fondo y con cautela si en juego hay datos sensibles. Presumir de usar IA para programar sin tener ni idea de programación suena bien, pero tiene estos problemas.

Los ingenieros de software tendrán mucho trabajo. Sí, arreglando pifias. «Cuando el código puede producirse a velocidad de rayo, la prevención y el juicio intuitivo se vuelven especialmente importantes»: así lo resumía Pascal Biese (desarrollador y fundador de ‘LLM Watch’). También hay quien bromea: «Vibe coding: una industria de miles de millones de dólares. Arreglar/mantener código escrito con IA: industria de un billón de dólares».

En palabras de Gergely Orosz, ingeniero y voz influyente en el sector tecnológico por su newsletter The Pragmatic Engineer, «el rol más importante de un ingeniero de software en la era de las herramientas de codificación con IA es convertirse en un gran revisor de código». El cofundador de Instagram, Mike Krieger, fue incluso más contundente cuando afirmó que, de aquí a tres años, los ingenieros de software ya no van a escribir ningún código: sólo revisarán el código creado por IA.

Imagen | Mohammad Rahmani

En Xataka | A OpenAI le están lloviendo golpes por todos los lados: el último lo firma Google «levántandole» su apuesta por el vibe coding

–
La noticia

Cuando un desarrollador se puso en manos de la IA para programar no contó con algo: la IA borrando todo el código de su app

fue publicada originalmente en

Xataka

por
Antonio Sabán

.