15.06.2026
Anthropic y Claude lanzan advertencia sobre "automejoramiento" de la IA y sus preocupantes implicaciones para la humanidad
15.06.2026
Según la empresa, los sistemas de IA actuales ya están asumiendo una proporción cada vez mayor del trabajo de codificación utilizado para desarrollar modelos futuros. Anthropic señaló que la cantidad de trabajo que sus sistemas pueden realizar de forma autónoma está aumentando a un ritmo extraordinario. Si bien la empresa recalcó que la auto-mejora totalmente autónoma aún no se ha logrado y quizás nunca ocurra, sus investigadores reconocieron que muchas instituciones parecen no estar preparadas para esa posibilidad.
Durante años, las advertencias sobre los riesgos de la inteligencia artificial provinieron principalmente de filósofos, especialistas en ética y líderes religiosos. Ahora, algunas de las advertencias más contundentes surgen desde dentro de la propia industria. Apenas unas semanas después de que León XIV publicara Magnifica Humanitas, su primer documento importante sobre inteligencia artificial, una de las empresas líderes mundiales en este campo ha expresado públicamente su preocupación por el hecho de que la tecnología pueda estar avanzando más rápido que la capacidad de la sociedad para gestionarla. La coincidencia es sorprendente: el Vaticano y Silicon Valley, a menudo percibidos como mundos distantes, manifiestan cada vez más inquietudes similares sobre la futura relación entre la humanidad y las máquinas inteligentes.
Anthropic, la empresa creadora del modelo de IA Claude, emitió una advertencia detallada el 4 de junio a través de su cofundador Jack Clark y la directora del Instituto Anthropic, Marina Favaro. Su preocupación se centra en una posibilidad conocida como "automejora recursiva", un escenario en el que los sistemas de inteligencia artificial se vuelven capaces de diseñar sucesores cada vez más poderosos con poca o ninguna intervención humana.
Según la empresa, los sistemas de IA actuales ya están asumiendo una proporción cada vez mayor del trabajo de codificación utilizado para desarrollar modelos futuros. Anthropic señaló que la cantidad de trabajo que sus sistemas pueden realizar de forma autónoma está aumentando a un ritmo extraordinario. Si bien la empresa recalcó que la auto-mejora totalmente autónoma aún no se ha logrado y quizás nunca ocurra, sus investigadores reconocieron que muchas instituciones parecen no estar preparadas para esa posibilidad.
Las implicaciones son profundas. Si las máquinas llegan a adquirir la capacidad de desarrollar nuevas generaciones de inteligencia artificial por sí solas, los métodos tradicionales de supervisión podrían volverse cada vez más difíciles de mantener. El desafío no sería meramente técnico, sino civilizacional: garantizar que el juicio humano siga siendo capaz de guiar tecnologías que puedan superar las capacidades humanas en ámbitos específicos.
En lugar de exigir una paralización permanente, Anthropic propuso que los gobiernos y las empresas tecnológicas exploraran mecanismos para ralentizar o pausar temporalmente el desarrollo de los sistemas más avanzados, si fuera necesario. Sin embargo, la empresa también reconoció el principal obstáculo para dicha propuesta: cualquier desaceleración significativa requeriría una cooperación internacional sin precedentes. De lo contrario, las naciones o corporaciones que continúen avanzando podrían obtener una ventaja estratégica sobre aquellas que actúen con moderación.
El debate se hace eco de temas planteados recientemente por León XIV. En Magnifica Humanitas, el pontífice advirtió sobre la creación de lo que describió como una nueva «Torre de Babel», una cultura tecnológica capaz de un poder inmenso pero desvinculada de una visión moral compartida. León XIV ha sostenido repetidamente que la cuestión central no es si la innovación debe continuar, sino si la humanidad puede garantizar que el progreso tecnológico se oriente hacia el auténtico florecimiento humano. Esta preocupación ha encontrado un apoyo inesperado entre algunos académicos que trabajan directamente con el sector tecnológico. Charles Camosy, teólogo moral que ha colaborado con Anthropic en cuestiones éticas, sostiene que el llamado del Papa a «desarmar» la inteligencia artificial no debe interpretarse como una oposición a la innovación, sino más bien como una petición para evitar que la tecnología domine a la persona humana o reemplace las relaciones humanas esenciales.
El problema va más allá de la seguridad técnica. Los críticos se muestran cada vez más preocupados por la creciente tendencia a delegar responsabilidades exclusivamente humanas —como la educación, el cuidado de personas, la mentoría e incluso la formación moral— a sistemas de inteligencia artificial. El riesgo, según muchos expertos en ética, no reside en que las máquinas se rebelen repentinamente contra la humanidad, sino en que los seres humanos renuncien gradualmente a actividades que cultivan la sabiduría, la responsabilidad y los vínculos interpersonales genuinos. Al mismo tiempo, nuevas investigaciones académicas sugieren otro desafío que ha recibido mucha menos atención: la dificultad de la IA para incorporar perspectivas religiosas.
El Consorcio para la Fe y la Ética en la IA , que reúne a investigadores de la Universidad de Baylor, la Universidad Brigham Young, la Universidad de Notre Dame y la Universidad Yeshiva, descubrió recientemente que la mayoría de los principales modelos de lenguaje omiten en gran medida los puntos de vista religiosos al abordar cuestiones éticas. El estudio comparativo "All Faith Benchmark" del consorcio analizó las respuestas de catorce sistemas de IA líderes desarrollados por empresas como Anthropic, OpenAI, Google, Meta y xAI.
Los investigadores concluyeron que, si bien la religión sigue influyendo en la perspectiva moral de gran parte de la población mundial, los sistemas de IA a menudo no reflejan esa realidad. El estudio también identificó diferencias significativas en la representación de diversas tradiciones religiosas, lo que plantea interrogantes sobre la imparcialidad, los sesgos y la comprensión cultural en las respuestas generadas por máquinas. Los hallazgos refuerzan un argumento más amplio, cada vez más presente tanto en círculos académicos como religiosos: la inteligencia artificial no puede considerarse simplemente un desafío de ingeniería. Además, plantea interrogantes sobre antropología, ética, cultura y el significado de la dignidad humana.
Quizás el avance más significativo sea que este debate ya no se limita a iglesias, universidades o centros de investigación. Las principales empresas tecnológicas están empezando a reconocer que el futuro de la IA puede requerir no solo máquinas más potentes, sino también una reflexión más profunda sobre lo que significa ser humano.
