La directora de investigación interna de Anthropic, Marina Favaro, y el director de política, Jack Clark, publicaron el jueves un blog post que llamó la atención. En el mismo instan a los principales laboratorios de inteligencia artificial (IA) a considerar una pausa en el desarrollo de sus sistemas más avanzados. El argumento central es que la tecnología va más rápido de lo que el mundo puede asimilar.
El llamado no proviene de un observador externo o un crítico de la tecnología. Anthropic es la empresa creadora de Claude, uno de los asistentes de IA más utilizados del mundo. Acaba de ser valorada en casi un billón de dólares tras su última ronda de financiación.
El centro del argumento es un concepto llamado mejora recursiva. Consiste en la posibilidad de que un sistema de IA llegue a diseñar y entrenar a su propio sucesor sin intervención humana. Según Jack Clark, Claude ya opera con un 80% de código escrito por sí mismo y alcanzar el 100% podría ocurrir en apenas dos años. «Aún no estamos ahí», aclaran los autores, «pero podría llegar antes de lo que la mayoría de las instituciones están preparadas para afrontar». Actualmente, el ingeniero típico integra ocho veces más código por día que en 2024, porque gran parte del código lo escribe Claude.
La propuesta no es simplemente «frenar». Anthropic plantea un mecanismo de verificación internacional. Varios laboratorios de vanguardia, en distintos países, deberían acordar detenerse simultáneamente y poder comprobar que los demás cumplen. Un desafío enorme, reconocen, porque los entrenamientos de IA son mucho más difíciles de detectar que un silo de misiles.
La empresa promete organizar conversaciones con gobiernos, investigadores y sociedad civil próximamente.
