Inteligencia Artificial Generativa: ¿Una puerta a nuevas oportunidades de negocio o a nuevas amenazas cibernéticas?

Samuel Ardila

Socio de Tecnología y Transformación

Deloitte SLATAM

El término Inteligencia Artificial Generativa (IAG), también conocida como IA Generativa, ha ganado protagonismo en diversas publicaciones de negocios, foros económicos y entrevistas a empresarios por las oportunidades que ofrece a las compañías de diferentes sectores, entidades gubernamentales, desarrollos científicos y personas naturales; en resumen, al mundo en general.

Actualmente, se prevé que estamos ante una revolución en el ámbito de los negocios, la cual se acentuará en los próximos días, meses y años, a medida que se identifiquen y apliquen más casos de uso de la IAG.

Sin embargo, existe otra corriente donde los expertos advierten sobre los peligros que esta tecnología podría traer a la ciberseguridad y la privacidad, si se utiliza con fines delictivos y fraudulentos. Las suplantaciones de identidad, difusión de noticias falsas y generación de software malicioso “inteligente”, son algunos de los riesgos asociados a la introducción de la IAG que se enfrentan actualmente.

¿Qué es la IAG?

Muchas son las definiciones que se pueden dar acerca de esta tecnología, según el estudio de Deloitte, “Generative AI and the Future of Work”: La IA generativa es una rama de la inteligencia artificial en rápida evolución, diseñada para generar nuevo contenido que abarca desde texto, código y voz, hasta imágenes, videos, procesos y otros artefactos digitales, incluidas estructuras proteicas complejas.

Lo que diferencia a la IAG de cualquier otra tecnología precedente es su capacidad de innovación, con potencial para aprender y, a partir de dicho aprendizaje, crear contenidos, los cuales permitirán adquirir o desarrollar nuevas capacidades, así como potenciar las ya existentes.

La IAG es una tecnología revolucionaria con el potencial de transformar múltiples aspectos de la vida diaria y profesional. Su capacidad para aprender y crear contenido innovador abre un mundo de posibilidades que, aunque no está exento de riesgos, ofrece un potencial sin precedentes para el avance y desarrollo en diversos campos.

Dado este panorama, es esencial explorar cómo las empresas pueden aprovechar estas capacidades para generar nuevas oportunidades de negocio.

Revolución empresarial: Aprovechando la IAG

El potencial transformador y las oportunidades que la IAG puede ofrecer en el ámbito empresarial es amplio. El estudio de Deloitte, The State of Generative AI in the Enterprise: Moving from potential to performance, identificó que el 42% de las compañías están informando que la eficiencia, productividad y reducción de costos es el beneficio más importante que se obtiene por el uso de la IAG.

Lo cierto es que los beneficios actuales de utilizar la IAG en el mundo de los negocios serán superados en el futuro cercano en la medida en que más organizaciones adopten estas tecnologías y que los casos de uso se extiendan a nuevas áreas aún no identificadas o exploradas.

Las posibilidades de uso de la IAG no se limitan a un sector de la economía en particular y ya existen, y se espera que aumenten, las implementaciones de la Inteligencia Artificial (IA) con casos específicos para las compañías de ciertos sectores, como el financiero.

La IAG no solo puede contribuir a lograr los objetivos del negocio mejorando lo que ya se está haciendo —por ejemplo, lograr una mayor eficiencia mediante la reducción de costos—, sino que también puede contribuir a que se alcancen resultados positivos a partir de la innovación, como la generación de mayores ingresos o el impulso de nuevos negocios.

Riesgos a la ciberseguridad

La adopción de herramientas basadas en la IAG en las compañías conlleva varios riesgos inherentes a la ciberseguridad. A continuación, se presentan tres de los riesgos más importantes de acuerdo con el estudio, “Global Cyber Threat Intelligence (CTI) Threat Study: Artificial Intelligence (AI) Cyberthreat Trends” de Deloitte:

• Afectación en la privacidad de los datos. Las organizaciones que desarrollan y utilizan modelos de aprendizaje automático corren el riesgo de filtrar datos confidenciales o sensibles. Los modelos de aprendizaje automático suelen utilizar contenido proporcionado por los usuarios para entrenar a sus algoritmos, lo que dificulta la recuperación o eliminación de estos datos una vez que se han integrado.

• Alucinaciones. La alucinación es cuando un modelo de aprendizaje automático brinda respuestas coherentes, gramaticalmente correctas y que pueden parecer reales a simple vista, pero que son incorrectas o inconsistentes. Las alucinaciones pueden llevar a la difusión de información incorrecta, lo que es particularmente preocupante en aplicaciones críticas como la asistencia médica, el asesoramiento financiero o cualquier otro campo donde la precisión es crucial.

• Sistemas sesgados. Los datos utilizados para entrenar las soluciones de IAG son creados por humanos y a menudo contienen sesgos conscientes o inconscientes. En consecuencia, las soluciones entrenadas con estos datos pueden heredar estos sesgos, influyendo en las respuestas y decisiones que producen.

Desde la introducción de la IAG los actores de ciberamenazas han mostrado un mayor interés en aprovecharla con fines maliciosos. Las que podrían tener un impacto más significativo son:

• Suplantación de identidad sofisticada (Deepfake): El uso de IAG para crear contenido falso de audio, imágenes y videos permite la ejecución de ataques de ingeniería social, fraude de identidad y campañas de desinformación. Estos ataques pueden manipular la opinión pública y comprometer la ciberseguridad de las compañías.

• Campañas de phishing altamente convincentes y personalizadas: La IAG permite aumentar significativamente la efectividad de las campañas de ingeniería social y los ataques de compromiso de correo electrónico empresarial. Estas campañas pueden eludir las medidas de seguridad tradicionales y representar una amenaza considerable para las organizaciones.

• Generación automatizada de software malicioso: La IAG puede utilizarse para crear malware sofisticado que se adapte y evolucione para evitar la detección de las soluciones de seguridad tradicionales.

• Ataques de denegación de servicio (DDoS) inteligentes: La IAG se puede utilizar para coordinar y optimizar ataques de denegación de servicio, haciendo que estos sean más efectivos y difíciles de mitigar. Durante la ejecución de estos ataques se pueden identificar y explotar las vulnerabilidades de un sistema en tiempo real mediante la IAG.

La IA Generativa ofrece oportunidades sin precedentes para la innovación y la eficiencia empresarial, pero también introduce riesgos significativos en ciberseguridad. Es crucial que las empresas sean conscientes de estos riesgos y adopten medidas proactivas para mitigarlos.