En el marco de ANDICOM 2024, el Congreso Internacional de TIC, Incode Technologies da a conocer algunos de los desafíos que enfrenta Colombia en su intención de avanzar en la modernización y digitalización de las ciudades.
Incode Technologies, líder global en soluciones de identidad digital y seguridad, advierte sobre cinco riesgos críticos que la inteligencia artificial generativa (IA generativa) podría traer a Colombia en términos de fraude. Estos riesgos no solo amenazan la seguridad digital del país, sino que también podrían afectar la apuesta por avanzar hacia el concepto de ciudades inteligentes, un proyecto clave para el desarrollo urbano y social.
Con el crecimiento exponencial del uso de la IA generativa, Colombia enfrenta nuevos desafíos que podrían comprometer la confianza pública, la seguridad de las transacciones y la integridad de las instituciones. Según el Informe del índice de Inteligencia de Amenazas X-Force de IBM 2024, el 71% de los delitos informáticos son por explotación de identidad y Colombia es el segundo país de América Latina más afectado con un 17% de los casos.
Ante este panorama, Incode Technologies, líder global en identificación digital con presencia en Colombia, en el marco de ANDICOM, el Congreso Internacional de TIC, da a conocer algunos riesgos críticos en materia de fraude con IA Generativa que pueden afectar a Colombia:
- Deepfakes de Video y Audio: la creación de vídeos y audios falsos hiperrealistas puede manipular la opinión pública, desinformar a las audiencias y extorsionar a personas y empresas. En un entorno de ciudades inteligentes, donde la integración digital es clave, estos fraudes pueden socavar la confianza en las plataformas de comunicación y seguridad pública.
- Phishing y Suplantación de Identidad Automatizados: la IA generativa permite crear correos electrónicos, mensajes de texto y publicaciones en redes sociales extremadamente realistas, engañando a los ciudadanos y entidades públicas para obtener información personal o financiera. Este tipo de fraude sofisticado podría amenazar la infraestructura digital de las ciudades inteligentes, que depende de la confianza en la interacción digital segura.
- Difusión de Noticias Falsas y Manipulación de Información: la generación de noticias falsas con IA puede afectar la estabilidad social y política, y manipular mercados financieros. En un contexto de ciudades inteligentes, donde la información en tiempo real es vital, la desinformación podría paralizar operaciones críticas, desde la gestión del tráfico hasta la respuesta a emergencias.
- Falsificación de Documentos y Trámites Públicos: la IA generativa puede ser utilizada para crear documentos falsos que imitan a los legales y oficiales, comprometiendo la seguridad de los sistemas financieros y de gobernanza digital. Esto podría afectar la eficiencia y seguridad de los trámites en las ciudades inteligentes, reduciendo la confianza en las plataformas gubernamentales digitales.
- Manipulación de Identidades Digitales y Engaños en Sistemas Automatizados: la creación de identidades digitales falsas y la suplantación de perfiles en servicios públicos o privados pueden desencadenar fraudes masivos en plataformas de servicios de ciudades inteligentes, desde la atención en salud hasta el transporte público. Esta manipulación puede afectar la credibilidad de los sistemas basados en IA, como los que gestionan la seguridad y el flujo de información en tiempo real.
De acuerdo con el análisis de X-Force, durante el 2023 los sectores más afectados en América Latina fueron retail, finanzas y seguros, con un 25% cada uno. Además, la inversión de los atacantes en operaciones para obtener identidades de usuarios a nivel mundial aumentó en un 266%. Esto añadido a la falta de soluciones adecuadas y pruebas de resistencia de las cuales carecen las organizaciones en sus sistemas tecnológicos.
“En Incode creemos firmemente que la IA generativa es una herramienta poderosa para el desarrollo, pero si no se gestiona adecuadamente, puede convertirse en una amenaza significativa para la construcción de ciudades inteligentes seguras y confiables. La confianza es el cimiento de cualquier ecosistema digital; sin ella, los ciudadanos no adoptarán las soluciones tecnológicas que mejoran su calidad de vida”, afirmó Iñigo Castillo, Gerente General de Incode Technologies para Latinoamérica.
Para enfrentar estos desafíos, Incode está trayendo a Colombia soluciones avanzadas de autenticación de identidad digital que combinan inteligencia artificial y tecnología de punta, asegurando que solo los datos auténticos y verificados puedan ser utilizados en plataformas críticas de ciudades inteligentes.