ESMPU lança guia sobre uso ético e seguro da inteligência artificial generativa

A Escola Superior do Ministério Público da União (ESMPU) lançou o Guia de Uso Ético e Seguro da Inteligência Artificial Generativa. O documento traz orientações para docentes, discentes, pesquisadores, servidores e colaboradores sobre o aplicação responsável dessa ferramenta. O material reforça o compromisso da instituição com a inovação tecnológica, sem dispensar os princípios éticos, da segurança da informação e da proteção de dados. Confira aqui. 

A inteligência artificial generativa é uma tecnologia capaz de criar textos, imagens, áudios e outros conteúdos a partir de modelos treinados em grandes volumes de dados. Essa ferramenta tem sido utilizada amplamente no ambiente de trabalho; por isso, a necessidade de orientação para a aplicação consciente e supervisionada a fim de preservar a integridade, a privacidade e a missão institucional.

Princípios éticos – O guia trouxe cinco princípios éticos que devem nortear o uso da IA generativa: a transparência, a responsabilidade humana, o respeito à privacidade, a não discriminação e a defesa da finalidade pública. O documento reforça que a decisão final e a revisão de qualquer conteúdo gerado por IA são, sempre, de responsabilidade do usuário humano, que deve zelar pela qualidade, pela veracidade e pela legalidade das informações.

O material também alerta para riscos importantes, uma vez que a IA generativa não possui senso crítico, jurídico ou ético, sendo capaz de gerar informações equivocadas, enviesadas ou até mesmo fictícias. Entre eles estão a chamada "alucinação de informações", quando a IA produz respostas falsas com aparência de verdade, o viés algorítmico, o vazamento de dados, a violação de direitos autorais e a dependência excessiva da tecnologia, o que pode comprometer a autonomia intelectual. Para mitigar esses riscos, são recomendadas práticas como revisão rigorosa, verificação em fontes oficiais e não inserção de dados pessoais ou sigilosos em plataformas externas não autorizadas.

O guia traz ainda sugestão de aplicações e as cautelas que devem ser adotadas, como o uso para redigir rascunho de textos administrativos, propor planos de aula e traduzir textos, desde que com revisão humana. Deve-se evitar a IA generativa para substituir pareceres técnicos, avaliar atividades pedagógicas ou inserir dados sensíveis. Por fim, o documento sugere que seja incluída ao final do documento a informação sobre o uso da IA, reforçando o compromisso institucional com a transparência e a ética.

Comissão de Ética e Integridade – O documento foi produzido pela Comissão de Ética e Integridade da ESMPU, cujo papel é fortalecer o Ecossistema de Integridade do órgão e assegurar que os princípios éticos e de transparência sejam rigorosamente seguidos em todas as atividades institucionais. Em junho de 2024, foi aprovado o Plano de Integridade para o biênio 2024-2025. O documento representa um marco no compromisso da instituição com a ética, a transparência, a responsabilidade social e os valores democráticos. As regras previstas no plano seguem diretrizes e orientações do Programa de Integridade do MPU.