Por: 20minutos / EFE
El debate sobre si la inteligencia artificial se está saliendo de control ha cobrado fuerza en los últimos días. Sin embargo, la comunidad científica aclara que la principal preocupación no reside en la IA generativa tradicional —aquella dedicada a buscar información o redactar contenidos al estilo de ChatGPT—, sino en la denominada IA agéntica: sistemas autónomos capaces de ejecutar acciones complejas con supervisión humana mínima.
¿Qué es la IA agéntica y por qué genera alarma?
A diferencia de las herramientas convencionales, la IA agéntica no solo sugiere respuestas, sino que toma decisiones y ejecuta tareas de forma independiente. Alicia Ortiz de Zárate, investigadora de la Universidad Autónoma de Madrid, explica que estos agentes se diseñan para operar en ámbitos sensibles como la ciberseguridad o el sector financiero.
Un ejemplo claro es la gestión de viajes: un agente autónomo puede revisar la agenda del usuario, evaluar vuelos en tiempo real, interactuar con las aerolíneas y realizar los pagos correspondientes sin intervención directa de la persona.
Peligros reales en infraestructuras críticas
Los riesgos más apremiantes no tienen que ver con relatos de ciencia ficción sobre la extinción humana, sino con amenazas tangibles para infraestructuras esenciales como hospitales, redes eléctricas o sistemas de defensa. Nuria Oliver, directora de la Fundación Ellis Alicante, señala que la ciberseguridad actual no está preparada para responder a sistemas de tal sofisticación.
"Imaginemos qué podría pasar si a uno de estos agentes de IA le pides una tarea y, para ejecutarla, considera que necesita mucha electricidad y decide hacerse dueño del sistema eléctrico", advierte Oliver, remarcando que la responsabilidad del desarrollo seguro recae directamente sobre las empresas tecnológicas y no sobre la sociedad.
Desmontando el mito de la "rebelión" de la IA
Frente a las narrativas corporativas que afirman que la IA se "rebela" o que es necesario "frenar" su avance, Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC), sostiene que calificar los errores como una rebelión es una maniobra para trasladar la responsabilidad fuera de los creadores.
López de Mántaras enfatiza que la solución no es congelar la investigación, sino reorientar la IA hacia el bien común mediante herramientas transparentes, robustas y bajo control estricto. Asimismo, coincide con Oliver en que la regulación debe exigir el mismo rigor que otros sectores: si un fármaco o un avión no demuestran ser seguros, no salen al mercado.
El reto de la gobernanza internacional
Aunque la Unión Europea ya cuenta con un reglamento marco para regular la inteligencia artificial, Senén Barro, director del CiTIUS en la Universidade de Santiago de Compostela, subraya que el verdadero desafío será medir la eficacia de estas leyes ante agentes cada vez más autónomos. Los científicos concuerdan en que se necesita una gobernanza internacional efectiva, la cual solo será viable mediante un acuerdo firme entre potencias como Estados Unidos y China impulsado por la presión social e institucional.
Fuente: Enlace original