La inteligencia artificial generativa (IA generativa) está transformando el mundo digital, pero también está abriendo puertas a nuevos tipos de fraude que amenazan con comprometer el avance de Colombia hacia la creación de ciudades inteligentes. Incode Technologies, líder global en soluciones de identidad digital, ha emitido una advertencia sobre los cinco riesgos más críticos que este tipo de tecnología podría traer al país, destacando su impacto potencial en la seguridad y confianza pública.
Durante el reciente Congreso Internacional de TIC, ANDICOM 2024, Incode presentó un análisis detallado sobre cómo la IA generativa podría convertirse en un obstáculo significativo para la digitalización y modernización urbana en Colombia. Según el Informe del índice de Inteligencia de Amenazas X-Force de IBM 2024, el 71% de los delitos informáticos a nivel mundial están relacionados con la explotación de identidad, y Colombia ocupa el segundo lugar en América Latina con un preocupante 17% de los casos.
Riesgos Clave Identificados
Incode Technologies ha identificado cinco riesgos críticos que podrían afectar la implementación de ciudades inteligentes en Colombia:
- Deepfakes de Video y Audio: Los vídeos y audios falsos creados con IA generativa pueden manipular la opinión pública, desinformar a las audiencias y ser utilizados para extorsionar tanto a personas como a empresas. En un entorno donde la integración digital es clave para el funcionamiento de ciudades inteligentes, estos fraudes pueden minar la confianza en las plataformas de comunicación y seguridad pública.
- Phishing y Suplantación de Identidad Automatizados: La IA generativa facilita la creación de mensajes engañosos extremadamente realistas, que pueden engañar a ciudadanos y entidades públicas para obtener información personal o financiera. Este tipo de fraude sofisticado representa una amenaza directa para la infraestructura digital de las ciudades inteligentes, que depende de interacciones digitales seguras.
- Difusión de Noticias Falsas y Manipulación de Información: La generación de noticias falsas mediante IA puede desestabilizar el entorno social y político, además de manipular mercados financieros. En ciudades inteligentes, donde la información en tiempo real es crucial, la desinformación podría paralizar operaciones críticas, desde la gestión del tráfico hasta la respuesta a emergencias.
- Falsificación de Documentos y Trámites Públicos: La IA generativa permite crear documentos falsos que imitan a los oficiales, poniendo en riesgo la seguridad de los sistemas financieros y de gobernanza digital. Esto podría afectar la eficiencia y seguridad de los trámites en las ciudades inteligentes, debilitando la confianza en las plataformas gubernamentales digitales.
- Manipulación de Identidades Digitales y Engaños en Sistemas Automatizados: La creación de identidades digitales falsas y la suplantación de perfiles en servicios públicos o privados pueden desencadenar fraudes masivos en plataformas de ciudades inteligentes. Esto afecta la credibilidad de sistemas basados en IA, como aquellos que gestionan la seguridad y el flujo de información en tiempo real.
Un Desafío para Colombia
El informe de X-Force revela que, en 2023, los sectores más afectados por el fraude en América Latina fueron el retail, las finanzas y los seguros, cada uno con un 25% de los casos. Además, la inversión de los atacantes en operaciones para obtener identidades de usuarios a nivel mundial aumentó en un 266%. Esto, sumado a la falta de soluciones adecuadas y pruebas de resistencia en los sistemas tecnológicos, presenta un reto significativo para Colombia en su camino hacia la modernización urbana.
«En Incode creemos firmemente que la IA generativa es una herramienta poderosa para el desarrollo, pero si no se gestiona adecuadamente, puede convertirse en una amenaza significativa para la construcción de ciudades inteligentes seguras y confiables. La confianza es el cimiento de cualquier ecosistema digital; sin ella, los ciudadanos no adoptarán las soluciones tecnológicas que mejoran su calidad de vida», afirmó Iñigo Castillo, Gerente General de Incode Technologies para Latinoamérica.
Soluciones para un Futuro Seguro
Para mitigar estos riesgos, Incode está introduciendo en Colombia soluciones avanzadas de autenticación de identidad digital que combinan inteligencia artificial y tecnología de punta. Estas soluciones aseguran que solo los datos auténticos y verificados puedan ser utilizados en plataformas críticas de ciudades inteligentes, protegiendo así la integridad de las infraestructuras digitales del país.
El avance hacia ciudades inteligentes en Colombia requiere no solo de innovación, sino también de una sólida base de seguridad digital. Con la colaboración de empresas como Incode, el país puede enfrentar los desafíos del fraude con IA generativa, asegurando un desarrollo urbano seguro y confiable.