A IA responsável e ética é uma ambição para organizações sem fins lucrativos 

A pesquisa da Avanade descobriu que as organizações sem fins lucrativos têm como alta prioridade garantir que o uso da IA generativa seja responsável e ético. Perguntamos o seguinte: sua organização sem fins lucrativos desenvolveu diretrizes ou políticas para garantir o uso responsável e ético da IA de forma que é possível explicar a financiadores e doadores? 

Tivemos muitas respostas. 55% dos entrevistados disseram que desenvolvendo diretrizes de uso de IA éticas e responsáveis; e mais 40% disseram já ter essas diretrizes em vigor.

Haverá abordagens diferentes, mas a primeira ação deve ser determinar uma estratégia para a IA que deve dar suporte à missão da organização, incluindo os valores fundamentais que você deseja apoiar e os riscos críticos que a estratégia deve abordar ou evitar. 

Isso forma a base do seu modelo de governança, a partir do qual você pode criar um conjunto de princípios orientadores, objetivos de desempenho, processos de avaliação de riscos e impactos e a infraestrutura técnica para dar suporte aos casos de uso priorizados. 

Plataformas de segurança e resiliência cibernética são vitais para a IA

A pesquisa identificou plataformas digitais que seriam uma prioridade para o investimento no dimensionamento da IA generativa, incluindo dados e IA, plataformas de local de trabalho, plataformas de automação e modernização de nuvem. Mas a plataforma com a maior classificação (57%) entre os participantes sem fins lucrativos foi de segurança e a resiliência cibernética.  

Para organizações sem fins lucrativos, a proteção de dados confidenciais a respeito de seus funcionários, voluntários, doadores e beneficiários é fundamental. Em muitos casos, esse é um requisito legal, mas torna-se uma preocupação ética quando uma violação desses dados afeta negativamente essas partes interessadas – podendo até mesmo colocar voluntários e constituintes em maior risco, dependendo do tipo de trabalho realizado pela organização sem fins lucrativos. 

Embora muitas novas plataformas de IA tenham seus próprios recursos de segurança e controle de acesso, as organizações sem fins lucrativos ainda são responsáveis pelos fundamentos da boa governança de dados, incluindo detecção, classificação, proteção e controles de retenção de dados.  

Os beneficiários preferem se envolver com tecnologias emergentes 

87% das organizações sem fins lucrativos nos disseram que seus beneficiários preferem se envolver por meio de novas tecnologias, como a IA.  Quando alguém menciona IA ética ou responsável, todos pensamos imediatamente em todos os riscos potenciais associados à IA generativa. Tal mentalidade é importante, mas não queremos que essas preocupações superem todos os resultados eticamente positivos que as organizações sem fins lucrativos podem alcançar com a IA. Assim sendo, por exemplo, se pudermos elevar as habilidades de serviço de uma organização sem fins lucrativos, expandir o alcance da organização ou melhorar o envolvimento com as partes interessadas por meio de tecnologias emergentes, como IA, devemos buscar essas ideias de maneira responsável.