Mostrar resumen Ocultar resumen
Las recientes turbulencias en el mundo de la inteligencia artificial han vuelto a poner sobre la mesa una pregunta urgente: ¿qué ocurre cuando los creadores de IA advierten de peligros que aún no saben cómo controlar? Esta semana, la dimisión de un investigador y las declaraciones públicas de responsables de Anthropic han generado alarma y debates sobre la velocidad de la carrera tecnológica.
Renuncia que prende las alarmas
Jacob Coxon, investigador con experiencia en entrenamiento de grandes modelos y excolaborador de OpenAI, anunció su salida de Anthropic a través de redes sociales. En su mensaje, criticó la actuación de las grandes empresas del sector y dijo que no están manejando «de forma responsable» el desarrollo de tecnologías que puedan auto-mejorarse.
Ceuta en riesgo de entradas masivas: delegado alerta a Interior y exige medidas ya
SMI en revisión por impacto de la guerra en Irán: ajuste para compensar subidas de precios
Según Coxon, la competencia entre compañías podría acelerar la aparición de una superinteligencia con capacidad de actuar sin supervisión humana. También señaló que, en público, los directivos suelen atenuar la magnitud de los riesgos, una discrepancia que ha generado inquietud entre expertos y empleados.
Advertencias desde dentro de Anthropic
Eva Hubinger, responsable de Ciencia de Alineamiento en Anthropic, fue más tajante: calculó una probabilidad no despreciable de que la IA provoque una catástrofe en la próxima década. En sus palabras públicas estimó alrededor de un 10% de riesgo y admitió que, pese a los esfuerzos de la compañía, aún no existe una solución clara para el *alineamiento* de una futura inteligencia mucho más capaz que la humana.
Hubinger destacó que Anthropic trabaja en el problema, pero reconoció la falta de un «plan definitivo» para garantizar que sistemas extremadamente potentes actúen conforme a objetivos compatibles con la seguridad humana.
El episodio técnico que avivó el conflicto
En paralelo, OpenAI publicó información sobre un experimento interno: un modelo apoyado en un sistema de 10.000 agentes habría encontrado, en menos de cuatro días, una aproximación a una solución del problema de Navier-Stokes, uno de los retos matemáticos clásicos. Investigadores externos que trabajaban en soluciones aproximadas manifestaron su sorpresa y su preocupación por la metodología empleada.
Los académicos implicados —entre ellos un profesor de la Universidad de Nueva York y un investigador vinculado a Anthropic— dijeron no haber visto evidencias suficientes de las fuentes consultadas por OpenAI. La compañía respondió negando que sus agentes o empleados hubieran accedido al trabajo de esos grupos.
- Qué pasó: Renuncia de un investigador senior (Jacob Coxon) y declaraciones internas de riesgo por parte de Anthropic.
- Declaración clave: Eva Hubinger estimó ~10% de probabilidad de un desastre global por IA en la próxima década.
- Incidente técnico: OpenAI comunicó una posible solución a Navier-Stokes usando un sistema de agentes; académicos expresaron dudas.
- Respuesta de OpenAI: Niega que se haya consultado o utilizado el trabajo de los investigadores externos mencionados.
- Contexto: Tensiones en un sector presionado por competencia, inversión y expectativas regulatorias.
Por qué importa ahora
La combinación de salidas de personal, advertencias internas y disputas sobre metodologías científicas obliga a replantear prioridades: transparencia, auditorías externas y reglas claras para pruebas y despliegues. La presión financiera —incluyendo movimientos hacia ofertas públicas— también puede acelerar decisiones que aumenten riesgos si no existen salvaguardas firmes.
Para la ciudadanía, los puntos clave son prácticos: la velocidad del desarrollo tecnológico puede anticipar cambios en empleo, privacidad y seguridad; y la existencia de un debate abierto sobre límites y controles influye en las políticas públicas que se están discutiendo hoy en distintos países.
Perspectivas y opciones
No hay consenso científico sobre plazos o probabilidades exactas, pero sí un acuerdo creciente en torno a la necesidad de:
- Mayor transparencia en experimentos y datos utilizados por las empresas.
- Evaluaciones independientes de seguridad antes de desplegar sistemas de gran poder.
- Marcos regulatorios que obliguen a auditorías y límites claros en entornos críticos.
Mientras se debaten esas medidas, la discusión pública y la vigilancia académica seguirán siendo cruciales para que el desarrollo de la IA no avance sin controles adecuados.
En las próximas semanas es probable que vuelvan a surgir reacciones públicas —tanto desde dentro de las empresas como por parte de reguladores y universidades— que clarifiquen el alcance real de las preocupaciones planteadas. Para el público, el asunto no es solo técnico: pone en juego la necesidad de que las decisiones sobre tecnologías con impacto masivo se tomen con cautela y supervisión externa.
