Introdução
A Tecnologia da Informação (TI) é uma área que influencia diversas outras, incluindo o Direito. Nos últimos anos, a Inteligência Artificial (IA) – incluindo a Generativa – e a Ciência de Dados vêm ganhando destaque no mundo da TI e, por conseguinte, mexendo com a vida das pessoas.
Baseado nesse fato, vamos falar no artigo de hoje a respeito de uma proposta recente do Conselho Nacional do Ministério Público (CNMP) que prevê o uso de IA com isolamento de dados. Se ainda não está por dentro da proposta, terá a oportunidade de saber tudo sobre o assunto. Veja o que teremos:
- Objetivo da Proposta
- Justificativa para a Adoção do Isolamento de Dados
- IA Generativa: Diretrizes Recomendadas
- Balanço e Próximos Passos da IA Generativa
Seria redundante dizer que o artigo é recomendado aos concurseiros das Carreiras Jurídicas, haja vista que este Blog é específico para tal público. Porém, fique atento principalmente caso esteja se preparando para provas do Ministério Público – MP (Federal, Estadual, CNMP etc.).
O conteúdo é longo, mas fizemos um esforço para condensar o artigo de hoje em um formato bem resumido, a fim de que você não perca muito tempo com a leitura. Esperamos que você goste e que seja útil na sua jornada. Prepare-se, pois vamos começar agora.
Objetivo da Proposta
A proposta visa recomendar diretrizes para o desenvolvimento, implementação e uso seguro e responsável de ferramentas de IA Generativa no âmbito do MP. Ou seja, são orientações a respeito de como os colaboradores do MP deverão lidar com essas ferramentas.
Você Sabia? Ferramentas de IA Generativa são capazes de gerar conteúdo com base em histórico de padrões de aprendizado. O conteúdo pode assumir diversos formatos, incluindo texto, imagens etc. Entre os exemplos, podemos citar o ChatGPT, Bard, CharacterAI, Poe etc.
Justificativa para a Adoção do Isolamento de Dados
O MP busca formas de aperfeiçoamento e modernização institucional, por meio de inserção de novas tecnologias. Além disso, as novas tecnologias proporcionariam automatização de tarefas, análise de grandes volumes de dados e apoio à tomada de decisões.
Em diversos momentos da proposta, a instituição deixa claro que o objetivo não é substituir o ser humano, mas sim buscar um suporte para a execução das atividades e análise decisória. Ou seja, o ser humano continua tendo um papel fundamental no processo.
É cediço que as ferramentas de IA Generativa estão se popularizando ao redor do mundo, pelo grau de eficiência que proporcionam. Porém, existe um grande debate acerca da segurança envolvida. A proposta também fala sobre isso.
É necessário cautela no compartilhamento de informações com as ferramentas de IA Generativa. Com o advento da Lei Geral de Proteção de Dados (LGPD), que abrange também instituições públicas, a preocupação com a segurança da informação deve ser ainda maior.
Só para ilustrar, elaboramos uma figura esquematizada das principais preocupações do CNMP em relação à segurança da informação, provocada pelo uso da IA Generativa:
Pausa para Refletir: Talvez você não esteja entendendo o que significa isolamento de dados, nesse contexto. O isolamento é a garantia que os dados da organização não serão compartilhados com o repositório central da ferramenta de IA Generativa.
IA Generativa: Diretrizes Recomendadas
Antes de conhecermos as diretrizes, vamos abordar um tópico que os concurseiros que estudam para as carreiras jurídicas adoram: princípios. Você sabe que detestamos dar spoiler, mas às vezes não aguentamos.
O contexto é segurança da informação. Além disso, existe uma preocupação com a LGPD. Pois bem, de onde você acha que saíram os princípios? Qualquer semelhança não é mera coincidência.
Veja bem, não estamos dizendo que são exatamente iguais, mas são inspirados nos princípios e nos fundamentos da referida lei. Se você já estudou a LGPD, saberá do que estamos falando e estará um passo a frente do seu concorrente. As informações farão sentido para você.
| PRINCÍPIOS |
|---|
| Centralidade da pessoa humana. |
| Respeito aos direitos humanos e aos valores democráticos. |
| Igualdade e não discriminação. |
| Fomento ao desenvolvimento tecnológico e à inovação responsável. |
| Maximização dos impactos positivos e supressão dos riscos. |
| Privacidade, segurança, proteção de dados e autodeterminação informativa. |
| Participação humana no ciclo da IA e supervisão humana efetiva. |
| Transparência, prestação de contas e responsabilização. |
| Não maleficência e proporcionalidade entre os métodos empregados e as finalidades determinadas e legítimas dos sistemas de IA. |
| Acesso à informação, à educação e promoção de conscientização sobre as ferramentas de IA Generativa e suas aplicações. |
Veja agora a íntegra das diretrizes, contidas nos incisos I a IX do Art. 3º. da recomendação do CNMP. Fique bem atento, pois esta é a parte mais importante da proposta:
“I – Adotem soluções (operadas em datacenters próprio, provedores de serviço de nuvem ou por meio de APIs etc.) que garantam o isolamento dos dados compartilhados pela organização com o repositório central da ferramenta, hipótese na qual é possível a utilização dos dados pessoais produzidos ou custodiados pela instituição, observados os preceitos da Lei Geral de Proteção de Dados (Lei nº 13.709, de 14 de agosto de 2018), quando aplicável;
II – No caso de uso de soluções (seja direto por meio de sítios eletrônicos, aplicativos ou APIs etc.) que utilizem os dados com ela compartilhados para alimentação do seu repositório central, ainda que especificamente para fins de (re)treinamento do seu modelo, não compartilhem dados pessoais custodiados pela instituição, exceto quando anonimizados na origem, em consonância com a Lei Geral de Proteção de Dados (Lei nº 13.709, de 14 de agosto de 2018), quando aplicável;
III – Realizem avaliação dos fornecedores de ferramentas de Inteligência Artificial Generativa, garantindo a utilização de soluções seguras, éticas, confiáveis e em conformidade com a legislação nacional;
IV – Promovam ações de treinamento e conscientização de seus respectivos membros e servidores sobre o uso seguro e responsável das soluções tecnológicas, com o fim de assegurar melhor utilização e aplicação das ferramentas de Inteligência Artificial Generativa, em especial para orientar que a geração de conteúdo pela ferramenta não dispensa a supervisão humana;
V – Promovam monitoramento e revisão periódicos do uso das ferramentas de Inteligência Artificial Generativa, incluindo as políticas e procedimentos à luz de mudanças na tecnologia, na legislação ou considerando as necessidades organizacionais;
VI – Preservem os registros de utilização das tecnologias de Inteligência Artificial institucionalizadas, incluindo registro de acessos, de modo a possibilitar a rastreabilidade em casos de eventuais incidentes de segurança;
VII- Promovam avaliação interna de riscos e a realização de sandboxes regulatórios que estabeleçam ambientes controlados para desenvolvimento, teste e validação de ferramentas de Inteligência Artificial durante um período limitado de tempo antes de sua implementação efetiva;
VIII – Invistam em pesquisa e desenvolvimento de Inteligência Artificial Generativa, promovendo um ambiente propício à inovação e à evolução tecnológica;
IX – Incentivem a formação de um ecossistema digital favorável ao desenvolvimento e à integração da Inteligência Artificial, assegurando o investimento necessário em infraestrutura tecnológica, além do estabelecimento de regulamentações flexíveis que promovam e sustentem a adoção segura, ética e responsável dessas tecnologias por membros e servidores, no exercício de suas atribuições.”
(BRASIL. Recomendação de diretrizes para o desenvolvimento, implementação e uso seguro e responsável de ferramentas de Inteligência Artificial Generativa no âmbito do Ministério Público brasileiro. Brasília, 2023.)
Balanço e Próximos Passos da IA Generativa
A minuta da proposta foi elaborada por 2 conselheiros do CNMP e encaminhada à Presidência para análise e deliberação. Até o momento do fechamento deste artigo, ainda não havia sido tomada nenhuma decisão a respeito do documento.
Destacamos que a IA é uma área com potencial grau de desenvolvimento e crescimento dentro da Tecnologia da Informação. Sendo assim, é provável que muitas novidades surjam nos próximos meses e, eventualmente, mudem o curso dos acontecimentos.
A proposta está em conformidade com as orientações mais recentes da legislação a respeito da segurança da informação e proteção de dados. Na nossa concepção, a LGPD é um caminho sem volta, assim como a Lei de Licitações há mais de 30 anos.
A IA Generativa, impulsionada por diversas ferramentas, principalmente o ChatGPT, modificou significativamente a maneira da humanidade interagir com suas principais dúvidas, inclusive para fins laborais.
Diante do fato, o CNMP e os órgãos públicos em geral precisam acompanhar esse avanço tecnológico. E a melhor forma de fazer isso é apoiar-se em uma legislação moderna e alinhada com a realidade brasileira.
Conclusão
Em suma, apresentamos no artigo de hoje um resumo da proposta do CNMP a respeito do uso de IA com isolamento de dados. Conforme falamos, a proposta é um pontapé para uma série de coisas que estão por vir.
Dessa forma, mantenha-se atualizado com as notícias porque esse tema é bem quente. As bancas gostam de cobrar novidades e TI é sempre um prato cheio (ainda mais quando IA está na mesa). Faça a diferença na sua preparação e esteja pronto quando a oportunidade chegar.
Lembramos que o Estratégia Carreira Jurídica é campeão de aprovações nos concursos para Carreiras Jurídicas com um corpo docente qualificado e materiais completos. Conheça nossos cursos por meio do link: https://cj.estrategia.com/cursos/.
Por fim, não deixe de conferir também os nossos planos de Assinatura, que oferecem conteúdos completos para os concursos de Delegado, Magistratura, Procuradorias, Defensorias, Promotorias e Cartórios. Eles estão disponíveis por meio do link: https://www.estrategiaconcursos.com.br/assinaturas-ecj/.
Bons estudos e até a próxima!
Quer Saber Tudo de Concursos Previstos?
Confira Nossos Artigos
