La empresa desarrolladora de Claude reconoció ante potenciales inversores que sus modelos de inteligencia artificial más avanzados podrían presentar comportamientos impredecibles y riesgos de seguridad. Anthropic, compañía estadounidense creadora del modelo de inteligencia artificial Claude, advirtió sobre los posibles riesgos derivados del desarrollo de sistemas de IA cada vez más avanzados.
De acuerdo con información publicada por Financial Times, en un folleto dirigido a potenciales inversores, la empresa señaló que su tecnología podría representar incluso “riesgos existenciales para la humanidad”.
Entre los escenarios contemplados se encuentran la posibilidad de que los modelos de IA puedan manipular, chantajear o desarrollar comportamientos impredecibles, conforme aumenten sus capacidades.
LA ADVERTENCIA ANTES DE SU POSIBLE SALIDA A LA BOLSA
El documento fue distribuido entre un grupo reducido de posibles inversores ante la prevista salida a bolsa de Anthropic en el Nasdaq de Nueva York, programada para este otoño.
La compañía es dirigida por Dario Amodei, mientras que sus inversores confían en que pueda alcanzar una valoración superior a los 2 billones de dólares, según Financial Times.
La advertencia sobre los riesgos de la IA forma parte de un documento en el que Anthropic también expone distintos factores que podrían afectar el desempeño y crecimiento de la empresa.
Ingresos millonarios, pero fuertes pérdidas operativas
El folleto señala que Anthropic registró durante el año pasado ingresos por aproximadamente 4 mil 600 millones de dólares, lo que representa casi 12 veces más que el ejercicio anterior.
Sin embargo, la empresa reportó una pérdida operativa superior a 8 mil millones de dólares.
Sus gastos operativos alcanzaron casi 13 mil millones de dólares, principalmente debido al elevado costo de los recursos informáticos necesarios para entrenar y operar sus modelos de inteligencia artificial.
ANTHROPIC PREVÉ GRANDES INVERSIONES EN INFRAESTRUCTURA
Como parte de sus planes de expansión, la compañía contempla comprometer alrededor de 518 mil millones de dólares en servicios de computación en la nube, capacidad informática e infraestructura durante los próximos años.
De acuerdo con el diario británico, los ingresos de Anthropic han continuado creciendo rápidamente durante este año, al alcanzar 11 mil 500 millones de dólares en el segundo trimestre, aunque los gastos de la compañía también mantienen una tendencia ascendente.
El documento presentado a los inversores también reconoce la concentración de clientes como uno de los riesgos para el negocio.
Según las fuentes citadas por Financial Times, cerca de una cuarta parte de los ingresos obtenidos por Anthropic durante 2025 procedió únicamente de dos clientes.
Esta dependencia representa otro de los factores que la compañía identifica en sus documentos financieros de cara a su posible debut en los mercados bursátiles.
DARIO AMODEI PIDE “RALENTIZAR LA FRONTERA” DE LA IA
La advertencia de Anthropic ocurre en medio del debate internacional sobre los riesgos asociados con el desarrollo acelerado de la inteligencia artificial.
En días recientes, Dario Amodei defendió la necesidad de “ralentizar la frontera” del desarrollo de esta tecnología, con el objetivo de fortalecer las medidas de seguridad.
Esta postura ha recibido respaldo público de figuras de la industria tecnológica, entre ellas Sam Altman, director ejecutivo de OpenAI, y el empresario Elon Musk.
