“Las preocupaciones planteadas por muchos de los expertos deben tomarse en serio” señaló el pontífice; añadió que “algunos” han minimizado el riesgo “para tratar de obtener algún beneficio, ya sea financiero o de otro tipo”
AP.- Las preocupaciones sobre la posibilidad de que la inteligencia artificial (IA) se descontrole no son “noticias falsas” y deben tomarse en serio, dijo este lunes el papa León XIV, e insistió en que los problemas de seguridad planteados por expertos en IA deben debatirse y atenderse.
León XIV, quien dedicó su primera encíclica a la IA y a proteger a la humanidad de sus efectos, fue consultado durante una conferencia de prensa sobre qué deberían hacer, en particular, Estados Unidos y China para evitar que la IA suponga riesgos catastróficos para la humanidad.
“Este es un problema sobre el que creo que tenemos que sentarnos a hablar”, declaró el papa de origen estadounidense a los periodistas. “No podemos simplemente quedarnos de brazos cruzados y fingir que no va a pasar nada“.
El presidente estadounidense Donald Trump ha calificado de “engaño” las preocupaciones sobre que la IA se descontrole, y con frecuencia advierte que Estados Unidos debe mantenerse por delante de China en la carrera tecnológica. Ha dicho que los esfuerzos por limitar esta a tecnología formaban parte de una “conspiración” de sus adversarios políticos.
Varias grandes tecnológicas de la IA han pedido en las últimas semanas una desaceleración del desarrollo para dar tiempo a que las medidas de seguridad alcancen a una tecnología que avanza a gran velocidad.
El director general de Anthropic, Dario Amodei, por ejemplo, ha advertido que en un plazo de seis a 12 meses la IA podría ser capaz de liderar un enjambre de agentes que podría apoderarse de todo internet.
Trump dijo el domingo que planeaba reunirse a cenar con Amodei, pero aún no ha comentado sobre el encuentro.
El papa no está en “modo pánico”
“Si alguien me preguntara si estoy en modo pánico. No, no lo estoy. Duermo por la noche”, expresó León XIV. Pero “sí creo que las preocupaciones planteadas por muchos de los expertos, especialistas en IA, deben tomarse en serio“.
“No creo que eso sea ‘noticias falsas’, como algunos han dicho para tratar de obtener algún beneficio, ya sea financiero o de otro tipo”, añadió León.
El pontífice, que pidió una regulación sólida de la IA y una desaceleración de la tecnología en su encíclica “Magnifica Humanitas” (“Magnífica humanidad”), está al día de los avances en el campo.
Pese a estar al final de un agotador viaje de cuatro días a Francia, León XIV mencionó un reporte de noticias publicado este mismo lunes por la tarde sobre Nvidia introduciendo barreras de seguridad en la IA. También señaló que la empresa anteriormente se ha resistido a la regulación externa del desarrollo de la IA.
León XIV había identificado a la IA como uno de los mayores desafíos para la humanidad a los pocos días de su elección, y dio el inusual paso de lanzar personalmente su propia encíclica junto con el cofundador de Anthropic, Christopher Olah, en un acto en el Vaticano en mayo.
La iniciativa formaba parte del esfuerzo del Vaticano por involucrar a Silicon Valley en torno a los costos humanos de la IA.
“Tenemos que seguir invitando a líderes políticos, líderes de la IA, organizaciones sociales, asociaciones, a reunirse y observar lo que ya está ocurriendo y lo que podría venir más adelante”, afirmó León XIV este lunes.
“Decir simplemente: ‘Oh, no va a pasar’ y cerrar los ojos ante ello, creo que probablemente no es la manera más responsable de abordar esto”, agregó.
León XIV difiere con Trump otra vez
Con sus comentarios del lunes sobre la legitimidad de las preocupaciones de seguridad y el desarrollo de la IA, León XIV ha mostrado otra área de desacuerdo con Trump. Ambos discreparon en abril por la oposición del papa a la guerra de Estados Unidos e Israel en Irán, y León XIV también ha criticado la ofensiva del gobierno de Trump contra la migración.
Trump se reunió la semana pasada con el presidente chino Xi Jinping en Washington y, mientras Xi dijo que era importante garantizar que la IA esté “siempre bajo control humano”, Trump se centró más en intentar rebautizarla como “superinteligencia” y desestimó los llamados a la regulación.
Sin embargo, ambos líderes acordaron explorar un nuevo “mecanismo de notificación” para incidentes de IA que afecten la seguridad nacional.
La IA se ha convertido en un tema importante en un año electoral en Estados Unidos, y las preocupaciones sobre la IA siguen creciendo dentro y fuera de la industria.
Han crecido tanto que Sam Altman, director general de OpenAI —la empresa detrás de ChatGPT—, dijo en una entrevista con la revista Fortune que su compañía esperaría hasta el próximo año para empezar a vender sus acciones a inversionistas en Wall Street, mientras se centra en la seguridad.
Aunque este tipo de declaraciones también se han visto como formas veladas de atraer inversionistas y ahogar la competencia de empresas más pequeñas.
About the Author
