El objetivo de las organizaciones sin ánimo de lucro es una IA responsable y ética

El estudio de Avanade reveló que las organizaciones sin ánimo de lucro tienen como gran prioridad garantizar que el uso de IA generativa sea responsable y ético. Les preguntamos: «¿Su organización ha creado pautas o políticas para garantizar el uso responsable y ético de la IA que se puedan explicar a los financiadores y donantes?».

Las respuestas positivas fueron altas. El 55 % de los encuestados dijo que están preparando pautas de uso responsable y ético de la IA, y otro 40 % dijo que ya las tenían implementadas.

Habrá diferentes enfoques, pero la primera medida debe ser determinar una estrategia de IA que apoye la misión de la organización, como los valores fundamentales que desea defender y los riesgos críticos que la estrategia debe abordar o evitar.

Esto constituye la base del modelo de gestión, a partir del cual poder crear un conjunto de principios básicos, objetivos de rendimiento, procesos de evaluación de riesgo e impacto, y la infraestructura técnica para respaldar los casos de uso priorizados.

Las plataformas de seguridad y resiliencia cibernética son vitales para la IA

El estudio identificó las plataformas digitales que serían una prioridad de inversión con el objetivo de ampliar el uso de la IA generativa, incluidos los datos y la IA, las plataformas de trabajo, las plataformas de automatización y la modernización de la nube. Pero la plataforma con el porcentaje más alto (57 %) entre las organizaciones sin ánimode lucro que encuestamos fue la de seguridad y resiliencia cibernética.

Para las organizaciones sin ánimo de lucro, es fundamental proteger los datos confidenciales de sus empleados, voluntarios, donantes y beneficiarios. En muchos casos, esto es un requisito legal, pero se convierte en una inquietud de tipo ético cuando una filtración de esos datos afecta negativamente a estas partes, e incluso puede poner a los voluntarios y constituyentes en mayor riesgo según el tipo de trabajo que realiza la organización.

Aunque muchas plataformas nuevas de IA tienen sus propias prestaciones de seguridad y control de acceso, las organizaciones sin ánimo de lucro siguen siendo responsables de los aspectos fundamentales de una buena gestión de los datos, incluidos el descubrimiento, la clasificación, la protección y los controles de retención de datos.

Los beneficiarios prefieren interactuar con tecnologías emergentes 

El 87 % de las organizaciones sin fines de lucro nos dijo que sus beneficiarios prefieren, rotunda o mayormente, interactuar a través de nuevas tecnologías como la IA.  Cuando alguien menciona una IA ética o responsable, pensamos inmediatamente en todos los posibles riesgos asociados a una IA generativa. Esta mentalidad es importante, pero no queremos que esas preocupaciones eclipsen todos los resultados éticamente positivos que las organizaciones sin fines de lucro pueden lograr con la IA. Así pues, por ejemplo, si podemos aumentar las capacidades de servicio de una organización sin fines de lucro, ampliar el alcance de la organización o mejorar la participación de las partes interesadas a través de tecnologías emergentes como la IA, debemos perseguir esas ideas con responsabilidad.