Anthropic ha desarrollado un nuevo modelo de inteligencia artificial, denominado «Model 2», que supera la capacidad de Mythos 5. Sin embargo, la empresa ha decidido no ponerlo a disposición del público, argumentando que su poder es demasiado riesgoso para ser liberado en el mercado. Esta decisión se asemeja a situaciones anteriores, donde la cautela ha prevalecido en el lanzamiento de tecnología avanzada.
Según la compañía, Model 2 es utilizado intensivamente en diversas áreas como la ingeniería de software y la programación, lo que indica su importancia en los procesos internos de la organización. Aunque no se puede probar fuera de Anthropic, el modelo ya está contribuyendo a la creación de futuras innovaciones, especialmente en la generación de datos y el desarrollo de agentes de IA que optimizan flujos de trabajo.
El informe de Anthropic también revela que, a pesar del bajo riesgo percibido de que Model 2 cause daños graves, la confianza de la empresa en evaluar estos modelos ha disminuido. Esto se debe a que las pruebas actuales han quedado obsoletas al no poder reflejar el avance de las tecnologías de IA, lo que ha llevado a la empresa a optar por no realizar todas las evaluaciones necesarias antes de un posible lanzamiento.
La velocidad con la que se desarrollan estos modelos plantea un dilema para las empresas de tecnología. Aunque las startups de IA se encuentran en una fase de reflexión sobre el lanzamiento de sus productos, la necesidad de asegurar que estos modelos no sobrepasen límites éticos y de seguridad se vuelve cada vez más urgente. A medida que la industria avanza, la incertidumbre sobre el futuro de estos modelos y su disponibilidad para el público sigue siendo un tema candente.
