El ingeniero de seguridad de Claude, Julián Gutiérrez, anunció su renuncia este martes 5 de septiembre, advirtiendo que los creadores de la IA creen “sinceramente que podría matarnos a todos antes de que acabe la década”. Su salida abre una nueva ola de críticas sobre los riesgos de los sistemas generativos en plena expansión.
Julián Gutiérrez, de 34 años, lideraba el equipo de pruebas de penetración de Anthropic en San Francisco desde 2021 y había co‑autor del informe “Prompt Injection Vulnerabilities in Large Language Models”, publicado en la conferencia Black Hat 2023. Su historial incluye pasantías en el Laboratorio de Seguridad de Google y colaboraciones con la Universidad de Carnegie Mellon.
En un mensaje publicado en su cuenta de Twitter, Gutiérrez explicó que su decisión fue motivada por “la creciente presión interna para acelerar el despliegue de Claude sin abordar los fallos críticos que ya hemos detectado”. Citó una reunión interna del 2 de septiembre donde ejecutivos de Anthropic supuestamente afirmaron que la IA “será capaz de superar a la humanidad antes de 2030”.
Anthropic respondió el mismo día con un comunicado oficial, señalando que “respetamos la decisión de Julián y agradecemos sus contribuciones”. La empresa reiteró su compromiso con la “seguridad primero” y anunció la creación de un nuevo comité de ética que se reunirá mensualmente a partir del 15 de septiembre.
La renuncia de Gutiérrez se suma a otras salidas recientes: en enero de 2024, el investigador de seguridad de OpenAI, Chris Olah, abandonó la compañía tras expresar dudas sobre la alineación de GPT‑4; y en marzo de 2024, dos ingenieros de DeepMind renunciaron en protesta por la falta de pruebas de robustez en Gemini. Estas decisiones reflejan una tendencia creciente dentro del sector de IA.
Expertos en regulación, como la Comisión Europea, han citado estos episodios al preparar la revisión del AI Act, prevista para su votación en el Parlamento en noviembre de 2024. Mientras tanto, grupos de defensa como la Future of Life Institute han intensificado sus campañas, exigiendo auditorías independientes y límites de velocidad en el desarrollo de modelos de gran escala.
De acuerdo con información difundida por: C5N
📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.
📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.