La empresa de inteligencia artificial Anthropic, creadora de Claude, advirtió que los sistemas más avanzados están avanzando hacia una etapa donde podrían participar en su propio desarrollo sin intervención humana directa, lo que abre un escenario de alto riesgo para la industria tecnológica.
Según el informe, los modelos actuales ya están acelerando el trabajo de ingeniería interna: en algunos casos, gran parte del código que se integra en los sistemas de la empresa es generado por la propia IA, mientras los ingenieros pasan a supervisar y dirigir el proceso en lugar de programar desde cero. Esto ha disparado la productividad, pero también ha encendido alarmas sobre el nivel de autonomía que están alcanzando estas herramientas.
El punto más crítico del análisis es la posibilidad de la llamada “automejora recursiva”, donde una IA sería capaz de ayudar a construir versiones más avanzadas de sí misma. Anthropic advierte que, si esa capacidad se consolida, el ritmo de desarrollo podría dejar de depender de humanos y pasar a estar guiado por los propios sistemas y la capacidad de cómputo disponible.
Ante este escenario, la empresa incluso plantea que sería necesario considerar una pausa coordinada a nivel mundial en el desarrollo de IA avanzada, con el objetivo de dar tiempo a que las regulaciones, la supervisión y las medidas de seguridad se pongan al nivel del avance tecnológico. Sin embargo, aclara que una pausa solo tendría sentido si es global y verificada, ya que de lo contrario solo cambiaría quién lleva la ventaja en la carrera tecnológica.
