Si bien esta tecnología puede traer mejoras, también propicia nuevas amenazas.

Si bien el uso de tecnologías novedosas como la Inteligencia Artificial (IA) conlleva posibles mejoras al sistema financiero, también propicia nuevos riesgos cibernéticos derivados de su uso por parte de los grupos criminales para potenciar sus ataques. Ante ello, el Banco de México (Banxico) monitorea su evolución y adopción.

En su más reciente Reporte de Estabilidad Financiera presentado la semana pasada, el organismo central destaca que, a partir del crecimiento en el uso y sofisticación de la IA, es importante dar seguimiento a la evolución y relevancia de los riesgos asociados con el uso de dicha tecnología. Este tema, refiere, recientemente ha sido discutido de forma amplia en foros internacionales.

Detalla que algunas mejoras que podría representar la IA para el sistema financiero son: la automatización y velocidad en la toma de decisiones, la detección de fraudes y la eficiencia y el acceso a los servicios, entre otros.

No obstante, puntualiza que los cibercriminales también podrían aprovecharla para potenciar sus ataques, usurpar identidades, engañar o desinformar a la población, o desarrollar códigos maliciosos, entre otros actos ilícitos.

Principales riesgos

El reporte del Banxico detalla que algunos de los principales riesgos asociados al uso de la IA y la digitalización de las finanzas son: los ciberataques, dado que se podrían generar eventos más sofisticados y difíciles de defender por parte de los cibercriminales, quienes utilizan la IA para el análisis de la infraestructura tecnológica de organizaciones, que les permitiría alcanzar objetivos específicos dentro de éstas.

“Esto incluye ataques de phishing mejorados que pueden parecer auténticos y que sería muy difícil detectar”.

Otro riesgo que señala es el relacionado con las economías de red y concentración de proveedores, pues se estima que las empresas de IA pudieran llegar a condensarse en pocos actores principales (como las empresas de la nube y los motores de búsqueda en la actualidad) y varias instituciones financieras dependerán únicamente de pocos proveedores lo cual aumentará los riesgos de contagio en las nuevas redes.

Uno más, enfatiza, tiene que ver con la transparencia y “explicabilidad”, dado que el considerar que la IA es un modelo que aprende a través de los datos, es importante no llegar a “cajas negras” (la generación de resultados sin una explicación clara y transparente del proceso de decisión) ni alucinaciones de la IA (patrones inexistentes e imprecisiones teóricas).

También refiere la baja diversificación del modelo, ya que la concentración en pocos proveedores y modelos de IA podría conllevar riesgos por “mimetismo”, como consecuencia de actuar todos bajo los mismos modelos/resultados.

“Lo anterior supondría un incremento de riesgos sistémico, al existir poca diversificación ante choques e incluso darían lugar a mayor prociclidad y desbalances”.

Y finalmente, menciona los fraudes, pues refiere que un aspecto preocupante es su uso potencial para divulgar noticias falsas, las cuales pudieran influir en la confianza y generación de expectativas, mismas que podrían culminar, por ejemplo, en corridas bancarias, o para el desarrollo de contenido multimedia apócrifo, con el objetivo de realizar fraudes digitales más avanzados.

En este sentido, el Banxico destaca en su reporte que mantiene un monitoreo de la evolución y adopción de esa tecnología en el sistema financiero, y se encuentra incorporando en su gestión de riesgos institucional, aquellos derivados de la IA.

eduardo.juarez@eleconomista.mx

https://www.eleconomista.com.mx/sectorfinanciero/Banco-de-Mexico-monitorea-evolucion-y-adopcion-de-IA-en-el-sistema-financiero-20240616-0039.html