ChatGPT, cómo funciona y qué retos trae consigo a nivel ciberseguridad

por | Mar 27, 2023

Estas últimas semanas hemos oído hablar mucho sobre el ChatGPT o su reciente nueva versión GPT-4 y cómo este chat basado en inteligencia artificial puede llegar a trasformar la manera en la que nos comunicamos con los buscadores tradicionales, creamos textos, enviamos mensajes etc. La forma en la que opera está basada en un modelo de lenguaje con más de 175 millones de parámetros, entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje, desde la traducción hasta la generación de texto, utilizando algoritmos de inteligencia artificial (IA) como Procesamiento de Lenguaje Natural #NPL, entre otros.

Esto convierte a ChatGPT en una IA generativa, capaz de replicar la forma de pensar de una persona, creando así contenido, y si bien está tecnología desarrollada por la empresa Open AI, puede traducirse en un sinfín de beneficios, trae consigo importantes retos a nivel seguridad, igual que cualquier tecnología emergente que opere en el ciberespacio.

Imaginemos por un momento que un cibercriminal quiere enviar un correo electrónico de phishing a un empleado, fingiendo ser el gerente de una organización, éste puede utilizar fácilmente la tecnología basada en IA no solo para crear la plantilla, sino también para simular la escritura de otra persona. Aunque la herramienta tenga restricciones para evitar sus usos con propósitos delictivos, existen casos en donde se pueden evadir para generar un código maliciosos, encontrar y explotar brechas de seguridad y distribuir malware, además de que puede ser combinado con otras herramientas basadas en IA para realizar DeepFake de voz y simular la voz de una persona (un director o un CEO) para cometer fraudes.

Si a esto le sumamos que podría reducir el costo de entrada basado en habilidades para nuevos atacantes, al realizar de manera automatizada algunas tareas requeridas por los ciberdelicuentes menos calificados, los riesgos son enormes.

Sin embargo, existen formas de mantenernos a salvo, ante este escenario es hoy más importante que nunca el apegarnos a buenas prácticas de ciberseguridad. Es crucial estar al tanto de los riesgos a través de entrenamiento básicos sobre concientización y capacitación en temas relacionados al panorama de amenazas, sus avances y cómo evitar ser víctimas ante cualquier intento de fraude de cualquier tipo. Además de promover buenas prácticas de ciberhigiene entre nuestros colaboradores y allegados. 

Para las organizaciones, es importante asegurarse de diseñar un plan integral de ciberseguridad que involucre a cada miembro de la organización, sin importar el papel que desempeñe o el área a la que pertenezca, porque como decimos, “la ciberseguridad es un trabajo que corresponde a todos y la primera línea de defensa es siempre el factor humano”. Adicionalmente, es recomendable apalancarse de la tecnología utilizando enfoques orientados a “zero trust” que incluyan autenticación multifactor de usuarios, soluciones de detección y respuesta para endpoint (EDR), contar con un servicio de Monitoreo Digital de Riesgos y un plan de Respuesta a Incidentes.  

Estamos viviendo en un panorama de ciberamenazas que crece a un modo exponencial, tan solo en el  2022 se detectaron 20 mil millones de intentos de ciberataques en Colombia y 360 mil millones en América Latina y el Caribe, esto de acuerdo con los últimos datos obtenidos por FortiGuard Labs de Fortinet. Ante la llegada de herramientas que hacen uso intensivo de inteligencia artificial como ChatGPT o GPT-4 podemos esperar que las ciberamenazas sigas evolucionando y creciendo, lo que convierte a la prevención y a la educación en nuestros mejores aliados para mantenernos más seguros y crear entre todos un mundo digital en el que todos podamos confiar.

COMPARTIR

Estratega de Inteligencia de Amenazas para FortiGuard Labs de Fortinet América Latina y el Caribe

Estratega de Inteligencia de Amenazas para FortiGuard Labs de Fortinet América Latina y el Caribe

Archivo

C

La teoría de la estupidez aplicada a las familias empresarias

En la gestión de las familias empresarias donde a veces los intereses individuales entran en conflicto con los colectivos, surgen desafíos que amenazan el legado familiar. En esta ocasión, exploraremos la "Teoría de la estupidez" de Carlo Cipolla para analizar desde...

El potencial del CRM para la toma de decisiones

En un mundo en el que la transformación digital y el tráfico de información no se detienen, los negocios se enfrentan a retos cada vez mayores para abordar de manera correcta los datos y, con ello, tomar decisiones que impulsen su éxito empresarial. De acuerdo al...

Es hora de regular la Inteligencia Artificial

A medida que crece el uso de las herramientas de IA, los ciudadanos  y las empresas comienzan  a notar riesgos por su mal uso. Los gobiernos  deben vigilar la privacidad, condenar los usos ilegales y crear las condiciones para impulsar su utilización...

Consenso o votación: El arte de gobernar la junta directiva

En el mundo de las juntas directivas y el gobierno corporativo, se plantea un dilema que ha generado debates y controversias en todo el mundo empresarial: ¿cuál es la mejor manera de tomar decisiones en la junta directiva de una empresa? Algunos argumentan que las...

Enfrentando el reto de la fiscalización con apoyo de la tecnología

La DIAN y la UGPP, como entidades encargadas de recaudar impuestos y contribuciones respectivamente, velan por la transparencia en la actividad económica de las empresas en nuestro país. De manera particular, la UGPP se ocupa de lo relacionado con aportes a la...