Elevator Pitch
Con mundo cada vez más digital, la frontera entre la innovación y la ética se convierte en un terreno complejo y lleno de implicaciones. La relación entre la IA y la ciberseguridad será esencial para proteger las compañías e instituciones frente a normativas y ciberataques cada vez más sofisticados.
Description
Pasó el impacto sorpresivo que causó en los últimos doce meses. Ahora, la IA generativa no sólo continuará siendo la estrella tecnológica de los próximos años, sino que además comenzó su curva hacia una mayor madurez. Pero…. El auge de la IA generativa y de grandes modelos de lenguaje como ChatGPT han puesto a la IA en el foco de atención del público y han puesto sus poderosas herramientas, o armas según se mire, en manos de personas, grupos criminales y estados nacionales que antes no las tenían. Aún no hemos empezado a ver las increíbles innovaciones que podrían surgir de la IA, pero la profundidad de su lado oscuro también sigue siendo desconocida.
Es por ello que la International Organization for Standardization (ISO) y la International Electrotechnical Commission (IEC). han publicado la norma ISO/IEC 42001:2023 Information technology — Artificial intelligence — Management system. Siendo esta la primera norma internacional para el desarrollo e implantación de sistemas de gestión fiables de IA, equilibrando la innovación con la gobernanza.
Implementar este estándar significa poner en marcha políticas y procedimientos para la buena gobernanza de una organización en relación con la IA, utilizando la metodología PHVA, en lugar de observar los detalles de aplicaciones específicas de IA, proporciona una forma práctica de gestionar los riesgos y oportunidades relacionados con la IA en toda una organización.
En esta charla presentaremos a J.A.R.V.I.S, pero no la IA sino el Framework de cómo llevar adelante una adecuación y auditoria de un sistema de gestión de la inteligencia artificial (AIMS) basado en la norma ISO/IEC 42001.
¿Porque deberías conocerlo y evaluar la nueva ISO 42001?
El cumplimiento normativo pasa a primer plano. La privacidad y la transparencia de los datos ya no son palabras de moda, ya que las empresas deben cumplir con una amplia normativa y generar confianza entre los clientes, los reguladores y el público. Esto puede suponer un desafío de cumplimiento para las empresas con sede en EE. UU. debido a las diferentes normas en los distintos estados y a la necesidad de adoptar prácticas internacionales si operan en una región como Europa. La IA puede introducir puntos débiles en materia de ciberseguridad. A pesar de sus numerosos beneficios, las soluciones de IA no son una panacea, ya que la gobernanza y las políticas organizacionales siguen desempeñando un papel fundamental en el fortalecimiento de la ciberseguridad. En parte, esto se debe al hecho de que existe un panorama de amenazas creciente, en el que los actores maliciosos utilizan la IA para penetrar en sistemas débiles o explotar las complejidades de los sistemas de ciberseguridad que dependen de la IA. Sin contar las propias amenazas a consecuencia de los ataques contra los modelos de Inteligencia Artificial, tales como: revelación de secretos y propiedad intelectual, exfiltración de datos empresariales e información sobre los clientes, envenenamiento de datos, manipulación de los inputs, ataque de cadena de suministro entre otros.
Notes
Esta charla no tiene requisito técnico, ya que se trata de una presentación del “Guia/Framework” J.A.R.V.I.S de cómo llevar adelante una adecuación y auditoria de un sistema de gestión de la inteligencia artificial (AIMS) basado en la norma ISO/IEC 42001, Los orados de la charla en cuestión también son co-autores del e-book que da vida al Framework, brindan varias conferencias y comparten contenido de valor a la comunidad.