Anthropic afirmó que Claude escribió más del 90% de las contribuciones al código de la compañía en septiembre de 2026, un nivel de participación que acerca al laboratorio al “progreso drásticamente acelerado atribuible a la inteligencia artificial (IA)” y plantea riesgos para la supervisión humana de sus modelos más avanzados.
La empresa dirigida por Dario Amodei sostuvo que sus previsiones sobre futuros sistemas, y no sobre los actuales, indican que podría alcanzar pronto el umbral previsto en su Política de Escalado Responsable. Ese escenario supone que la IA puede acelerar el desarrollo de una versión posterior con capacidades superiores.
“Usar la IA para ayudar a construir una IA más capaz podría suponer un riesgo considerable para la seguridad, sobre todo si acelera bruscamente el ritmo del progreso”, advirtió Anthropic en la actualización de su documento para la salida a bolsa, identificado como S-1/A.
Qué implicaciones tiene la alta participación de Claude en Anthropic
La participación de Claude en la programación no significa que el sistema diseñe por sí solo las futuras generaciones de modelos. La evolución continúa bajo conducción humana, aunque la herramienta ya concentra la mayor parte de las aportaciones al código de la empresa.
El volumen diario de código incorporado a la base de Anthropic por cada ingeniero durante los tres meses terminados el 30 de septiembre de 2026 fue más de 45 veces superior al promedio diario registrado en el año concluido el 31 de diciembre de 2024.
La preocupación de la compañía se concentra en la posibilidad de que el rendimiento y las capacidades de sus modelos mejoren a una velocidad mayor que la de sus sistemas de medición.
Los datos que utiliza para evaluar esa evolución llegan con demora, así que una aceleración relevante podría ser detectada después de haberse producido.
Por qué genera dudas que la IA diseñe más inteligencias artificiales
Ese proceso se vincula con la llamada automejora recursiva, una práctica en la que un sistema de IA diseña y desarrolla de manera autónoma a su propio sucesor.
Asimismo, Anthropic no prevé usar Claude de forma segura para construir sin intervención humana generaciones sucesivas de modelos de frontera, incluso si esa posibilidad llega a ser viable desde el punto de vista técnico.
“Sin embargo, no prevemos poder usar Claude de forma segura para diseñar y construir de forma totalmente autónoma generaciones sucesivas de modelos de frontera sin una supervisión o comprensión humana significativa”, señaló la empresa, que estudia actualizar su política para mantener a las personas al mando del desarrollo de esos sistemas.
Qué restricciones ha puesto Anthropic en Claude
La empresa incorporó a Claude Code, su asistente de programación, una instrucción que impide crear recreaciones de videojuegos existentes, incluso cuando se les cambie el nombre. La compañía confirmó la modificación el 30 de octubre de 2026 y la vinculó con el uso de la IA para infringir derechos de propiedad intelectual.
La restricción fue detectada por un usuario de X identificado como Chasm, quien indicó que comenzó a activarse alrededor del 27 de octubre. La regla ordena crear juegos originales, obras de un género determinado o títulos basados en diseños y materiales aportados por el usuario, pero no reconstrucciones de un juego específico.
Addy Osmani, integrante del grupo técnico de Anthropic, explicó en X que se añadieron dos oraciones a la instrucción de Claude Code en Opus 5.5 para impedir que reproduzca “el juego específico de otra persona”, porque ese uso contradice las políticas de la empresa.
Osmani añadió que los juegos originales, los basados en géneros y los elaborados con diseños propios “deberían seguir funcionando”. Pidió que los usuarios comuniquen los casos en que reciban una negativa sobre materiales de su propiedad, mientras la empresa ajusta la medida para encontrar un equilibrio.
Fuente: infobae.com
