Qué se necesita para que la inteligencia artificial sea segura y efectiva

19 de octubre de 2022

Autora: Lori Perri

Te contamos cómo y por qué las organizaciones que aplican una rigurosa gestión de la confianza, el riesgo y la seguridad de la inteligencia artificial (AI TRiSM, por sus siglas en inglés) trasladan a producción unos modelos de IA más valiosos.

¿Te has preparado para una Declaración de derechos de la inteligencia artificial? El reciente modelo organizativo en los EE. UU. aspira a proteger la sociedad frente a la inteligencia artificial dañina, recordando para ello a todos los desarrolladores y usuarios de modelos de IA la necesidad de establecer garantías en sus modelos y estrategias de IA. Se necesita un enfoque riguroso de AI TRiSM. 

Gartner define la AI TRiSM como una estructura que respalda la gobernanza del modelo de IA, así como su confianza, equidad, fiabilidad, robustez, eficacia y privacidad. Incluye soluciones, técnicas y procesos para la interpretabilidad, la explicabilidad y las operaciones del modelo, la privacidad y la resistencia a ataques adversarios para los clientes y la empresa.

Descarga el ebook: Tu guía detallada de las 10 principales tendencias tecnológicas estratégicas de Gartner para 2023

“Los responsables de Tecnología de la Información deben dedicar tiempo y recursos a respaldar la AI TRiSM. Aquellos que lo hagan obtendrán mejores resultados de la inteligencia artificial en términos de adopción, objetivos de la empresa y aceptación de los usuarios, tanto internos como externos”, afirma Avivah Litan, destacada analista VP de Gartner. “Todas las amenazas y los compromisos (maliciosos o benignos) de la inteligencia artificial evolucionan constante e ininterrumpidamente, de modo que la AI TRiSM debe ser un esfuerzo continuado y no una acción única”.

Por qué la AI TRiSM es una tendencia tecnológica

Según las previsiones de Gartner, en 2026 las organizaciones que instrumentalicen la transparencia, la confianza y la seguridad de la inteligencia artificial verán mejorar en un 50 % los resultados de sus modelos de IA en términos de adopción, objetivos de la empresa y aceptación del usuario.

La prevalencia de la IA ha aumentado. Los resultados de una encuesta de Gartner indicaron que las organizaciones han implementado centenares o miles de modelos de inteligencia artificial que algunos responsables de Tecnología de la Información son incapaces de explicar o interpretar. La falta de conocimientos y comprensión puede tener graves consecuencias. El impacto de un mal rendimiento de los modelos de inteligencia artificial se amplifica cuando las interdependencias son mayores.

Las organizaciones que no gestionan el riesgo de la inteligencia artificial tienen más probabilidades de obtener resultados negativos de la IA y padecer ataques. Sus modelos no funcionarán de la forma prevista y se producirán errores en la seguridad y la privacidad, pérdidas financieras y de reputación, y daños personales. Cuando la inteligencia artificial se aplica incorrectamente también puede llevar a las organizaciones a tomar malas decisiones de negocio.

Descargar ahora: Hoja de ruta de tecnologías emergentes de 2021 a 2023

Implicaciones y operaciones de la AI TRiSM

La regulación de la inteligencia artificial está aumentando, pero incluso antes de que se obligue a establecer ciertas protecciones, es importante implementar unas prácticas que garanticen la confianza, la transparencia y la protección del consumidor. Los responsables de TI deben aplicar las nuevas capacidades de la AI TRiSM para asegurar la fiabilidad, la confianza, la privacidad y la seguridad.

No esperes a que los modelos estén en producción para aplicar la AI TRiSM. Esto solo abre el proceso a riesgos potenciales. Los responsables de TI deberían familiarizarse con las posibles formas de compromiso y utilizar el conjunto de soluciones de la AI TRiSM para proteger debidamente la IA.

La AI TRiSM requiere un equipo interdisciplinario que trabaje conjuntamente. Esto incluye personal de los equipos jurídico, de cumplimiento, de seguridad, de tecnología de la información y de análisis de datos. Crea un equipo especializado, si es posible o, si no lo es, un grupo de trabajo, para obtener los mejores resultados. Asegura la representación empresarial adecuada para cada proyecto de IA.

Descarga la Agenda del CIO 2023: Cuatro acciones para garantizar que tus inversiones en tecnología generen dividendos digitales

Algunos beneficios son la mejora de los resultados comerciales que la organización obtiene con el uso de la inteligencia artificial, en lugar del simple cumplimiento de la normativa.

En resumen:

  • Las capacidades de la AI TRiSM aseguran la fiabilidad, la confianza, la seguridad y la privacidad del modelo.

  • Para obtener mejores resultados en términos de adopción de IA, consecución de objetivos de la empresa y aceptación del usuario, las organizaciones necesitan gestionar la confianza, el riesgo y la seguridad de la IA. 

  • Considera la AI TRiSM como un conjunto de soluciones para proteger adecuadamente la inteligencia artificial.

Avivah Litan es una destacada analista VP de Investigación de Gartner y forma parte actualmente del equipo de ITL AI que se encarga de la inteligencia artificial y el blockchain. Está especializada en todos los aspectos de la innovación del blockchain, así como en la gestión de la confianza, el riesgo y la seguridad de la inteligencia artificial. Posee un sólido bagaje en diferentes aspectos de la ciberseguridad y el fraude, incluida la integración de la inteligencia artificial en estas áreas.

Descubre contenido que te informe en profundidad y te mantenga al día

Mejora el rendimiento en tus principales prioridades estratégicas.