La empresa creadora de Claude advirtió a potenciales inversionistas sobre los riesgos asociados con el desarrollo de modelos de inteligencia artificial cada vez más avanzados.
Anthropic, la compañía estadounidense responsable del desarrollo del modelo de inteligencia artificial Claude, advirtió sobre los posibles riesgos asociados con el avance de sistemas de IA cada vez más sofisticados.
De acuerdo con información publicada por el Financial Times, la empresa incluyó en un folleto dirigido a potenciales inversionistas una advertencia sobre la posibilidad de que su tecnología llegue a representar “riesgos existenciales para la humanidad”.
El documento dedica una parte importante a los riesgos relacionados con el desarrollo de modelos más avanzados, entre ellos la posibilidad de que los sistemas puedan manipular, chantajear o desarrollar comportamientos que resulten impredecibles.
Anthropic se prepara para salir a bolsa
El folleto fue distribuido entre un grupo reducido de posibles inversionistas como parte de los preparativos para la prevista salida a bolsa de Anthropic, que tendría lugar este otoño en el Nasdaq de Nueva York.
La compañía, dirigida por Dario Amodei, ha experimentado un rápido crecimiento en sus ingresos y sus inversionistas esperan que pueda alcanzar una valoración superior a los 2 billones de dólares, según el diario británico.
Sin embargo, el crecimiento también ha estado acompañado por elevados costos relacionados con el desarrollo y operación de sus modelos de IA.
Anthropic registró el año pasado ingresos por aproximadamente 4 mil 600 millones de dólares, casi 12 veces más que el ejercicio anterior, pero reportó una pérdida operativa superior a los 8 mil millones de dólares.
Sus gastos operativos alcanzaron casi 13 mil millones de dólares, impulsados en buena medida por el costo de la infraestructura informática necesaria para entrenar y ejecutar sus modelos.
Miles de millones para infraestructura
Como parte de sus planes de expansión, Anthropic prevé comprometer alrededor de 518 mil millones de dólares en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años.
Los ingresos de la compañía también han continuado aumentando durante 2026. Según el Financial Times, alcanzaron los 11 mil 500 millones de dólares durante el segundo trimestre, aunque los gastos también mantienen una tendencia ascendente.
El documento presentado a los inversionistas advierte además sobre la concentración de clientes. Cerca de una cuarta parte de los ingresos obtenidos por Anthropic en 2025 habría procedido de únicamente dos clientes, lo que representa otro riesgo para el negocio.
Amodei pide “ralentizar la frontera” de la IA
Las advertencias llegan en medio del debate internacional sobre los riesgos asociados con el desarrollo acelerado de la inteligencia artificial.
Dario Amodei ha defendido recientemente la necesidad de “ralentizar la frontera” del desarrollo de esta tecnología con el objetivo de fortalecer las medidas de seguridad.
La propuesta ha recibido respaldo público de Sam Altman, director ejecutivo de OpenAI, y del empresario Elon Musk.
Las advertencias incluidas en el folleto reflejan así uno de los principales dilemas que enfrenta la industria: continuar desarrollando modelos de IA cada vez más capaces mientras las empresas intentan anticipar y reducir los riesgos que podrían surgir de sus capacidades más avanzadas.
