ISMS Forum y su Grupo de Inteligencia Artificial (GIA), celebraron la primera edición del Foro de Inteligencia Artificial y Ciberseguridad, “I AI & Cyber Security Forum”, en Madrid a finales del pasado mes de marzo.
El evento permitió a un relevante grupo de expertos analizar el fenómeno de la IA desde la perspectiva de los profesionales de la seguridad de la información.
Tal como explicaron al inicio del acto los impulsores del GIA, Ángel Perez, CISO de Autopistas y Co-Director del Grupo de Inteligencia Artificial de ISMS Forum y Francisco Lázaro, CISO y DPO de Renfe, la IA, tanto desde su vertiente tecnológica como ahora tras la aprobación de la AI Act tras la última votación del Parlamento Europeo, afecta a todas las áreas de la empresa, por lo que las organizaciones deben revisar sus políticas de seguridad. Sobre esta cuestión abordaron el concepto de confianza digital, clave ahora en las empresas.
Por ello, el Grupo de trabajo sobre IA de ISMS tiene como objetivos principales: generar y difundir conocimiento en materia de seguridad, gobernanza y cumplimiento para todos los asociados y la sociedad en general; ser un actor relevante e influyente en dicha materia ante terceros; y facilitar la participación dinámica de los asociados y stakeholders clave para lograr el objetivo anterior. En este sentido y dado que la IA forma parte de todas las áreas de interés de ISMS, el Grupo es una iniciativa transversal que se enlaza con el resto de las áreas verticales de la organización: el Cyber Security Center, el Data Privacy Institut, la Cloud Security Alliance y el Cyber Resilience Center.
Tras la presentación del Grupo de Trabajo, sus co-directores presentaron un informe sobre Gobierno, privacidad y herramientas de IA. En el mismo se destaca que la colaboración entre CISO y DPO se vuelve crucial en un momento en que las estrategias colaborativas entre estos roles son cada vez más necesarias.
La IA como riesgo de las empresas
Sobre el fenómeno de la IA, su clasificación y organización dentro de las empresas, así como su tratamiento como un riesgo, intervinieron Óscar Cabanillas, Senior Manager de Solution Architecture EMEA South en Elastic; Gustavo Lozano, CISO de ING y Felipe San Román, Ingeniero de Preventa de OKta, con la moderación de Jesús Mérida, CISO de Iberia y miembro del Board de ISMS Forum.
Gobernanza
La jornada dedicó especial atención a lo modelos de gobernanza que pueden surgir en las organizaciones para gestionar la IA, discutiendo los riesgos y oportunidades que conllevan.
En una mesa moderada por Carlos Sáiz, vicepresidente de ISMS Forum; Director del Data Privacy Institute y Partner y Head of Privacy, Risk & Compliance en Ecix Group, participaron Carlos Manchado, CISO de Acciona, Trina de Miguel, Directora de Riesgos Tecnológicos en Seguridad Digital de Bankinter, Rafael Hernández, CISO de Cepsa y Board Manager ISMS Forum y Edwin Blom, CISO FCC.
Sobre este panel, indicó que los expertos reconocen que en muchas de estas compañías ya utilizan este tipo de herramientas, ya inventariadas, para ser más eficientes, obligando a definir las políticas de riesgo en estrategias colaborativas y donde los CISO tienen el papel de impulsar Comisiones de Trabajo, en colaboración con el DPO y el Compliance Officer, ya que la AI Act no define exactamente qué profesional debe gestionar la IA en las organizaciones.
IA y administraciones publicas
La jornada contó también con la asistencia de Salvador Estevan, Director General de Digitalización e Inteligencia Artificial, del Ministerio para la Transformación Digital y Fundación Pública quien explicó cómo está abordando nuestra Administración los retos derivados de la IA, y el enfoque transversal que se están dando en la búsqueda del equilibrio entre el desarrollo de la innovación tecnológica y la protección de los derechos fundamentales de los ciudadanos. También comentó que ya hay herramientas de IA que se aplican en la lucha contra el fraude laboral, desde el Ministerio de Trabajo e Inclusión social.
El evento también ofreció una entrevista a María Bobillo, Directora de la Oficina De Apoyo Estratégico y Planificación, Agencia para la Modernización Tecnológica de Galicia (Amtega) para conocer el desarrollo de las políticas de IA en esta CCAA y el estado actual de la AESIA, regulador de IA que estará ubicado en A Coruña.
Al mismo tiempo destaco que AESIA va a contar con un Comité de Evaluación que estará vinculado con la ley de contratos del sector público (LA LEY 17734/2017) donde el papel del Delegado de IA va a ser clave. Desde Amtega también se van a poner en marcha una serie de incentivos económicos para que empresas de IA que están ubicadas en otras CCAA puedan deslocalizarse y llegar a Galicia. Para María el ejemplo de Alicante con la puesta en marcha en su día de la Oficina de Patentes y el ecosistema empresarial que se ha creado es un ejemplo que se puede repetir, ahora con el fenómeno de la IA.
Deepfakes y fraudes
Otra de las mesas redondas, y tema destacado, fue la que sirvió para profundiza en el fenómeno emergente de las Deepfakes, esas imitaciones fraudulentas impulsadas por la IA, que desafían las verificaciones sistémicas de las organizaciones. Moderada por Jesús Muñoz, Head of Corporate Protection, El Corte Inglés, tomaron la palabra Alejandro las Heras, CISO de Eulen, Alain Sanchez, Field CISO Emea de Fortinet, Vicente Gonzalbo, Enterprise Sales Account Manager Iberia de Netwitness y Eva Moya, Directora de Inteligencia de Mnemo.
En una charla posterior, Diana Molero, Head of Cybersecurity Presales Engineering, Fujitsu y Miguel Angel Pérez, Gerente de Ingeniería y Consultoria de Ciberseguridad de Telefónica, explicaron a los asistentes la actividad del grupo de trabajo sobre Deepfakes que se ha creado en GIA de ISMS Forum para analizar este fenómeno, su desarrollo, y como con el uso de las herramientas de IA puede convertirse realmente en algo que pase desapercibido y que genere fraudes importantes en las empresas.
Para concluir el acto, Fernando Rubio, de Microsoft, presentó el primer chatbot de ISMS Forum, entrenado con las guías publicadas hasta la fecha por el GIA-ISMS Forum.