El CEO de Anthropic, Dario Amodei, ha hecho declaraciones impactantes sobre la falta de transparencia en la industria de la inteligencia artificial. Durante una reciente entrevista con CBS Sunday Morning, Amodei aseguró que, por mucho tiempo, el sector no ha comunicado adecuadamente los peligros asociados con esta tecnología emergente. «Hay peligros reales. La industria le mintió a la gente sobre los riesgos que conlleva», afirmó, subrayando la necesidad urgente de abordar estos problemas.
Amodei explicó que el avance de la inteligencia artificial es exponencial y que ni siquiera sus principales desarrolladores han podido captar la velocidad a la que evoluciona. En este contexto, enfatizó que no es necesario detener por completo la creación de nuevos modelos, sino implementar evaluaciones rigurosas antes de su lanzamiento y fomentar mecanismos de supervisión independientes. Comparó esta necesidad con el trabajo de inspectores de alimentos, sugiriendo que evaluadores externos pueden establecer límites de seguridad adecuados.
Además, el CEO cuestionó la predominancia de empresas privadas en el desarrollo de tecnologías que impactan a la sociedad y propuso un mayor involucramiento de gobiernos democráticos en la regulación de la IA. «Siempre fue muy raro que esta tecnología la construya una empresa privada», reflexionó, destacando que la supervisión debe evitar la concentración de poder en una sola entidad.
En cuanto a un potencial “botón de apagado” para la inteligencia artificial, Amodei consideró que podría ser una herramienta útil, aunque alertó que sistemas avanzados podrían intentar eludir esos controles. Reiteró que la seguridad en esta área requiere múltiples capas de protección y reconoció que establecer límites globales será complicado debido a la competencia tecnológica y militar entre naciones.
