O CEPD, que é o organismo da União Europeia encarregado da aplicação do Regulamento Geral sobre a Proteção de Dados, bem como a Autoridade Europeia para a Proteção de Dados (AEPD), entendem que a identificação biométrica à distância de pessoas em espaços acessíveis ao público é um risco considerado elevado, principalmente de pessoas em espaços acessíveis ao público.
Neste sentido, o CEPD e a AEPD também apelam à proibição geral da utilização da Inteligência Artificial (IA) para o reconhecimento automático de características humanas em espaços acessíveis ao público, tais como o reconhecimento de rostos, movimentos, biometria, voz, dentro outros sinais comportamentais, em qualquer contexto. Do mesmo modo, o CEPD e a AEPD recomendam a proibição de sistemas de IA que utilizem dados biométricos para classificar as pessoas em grupos com base na etnia, gênero, orientação política ou sexual ou outras razões pelas quais a discriminação seja proibida nos termos do artigo 21.º da Carta dos Direitos Fundamentais.
Além disso, o CEPD e a AEPD consideram que a utilização da IA para inferir emoções de pessoas é altamente indesejável e deve ser proibida (exceto em casos muito específicos, como para determinados fins de saúde, em que o reconhecimento da emoção do doente é importante) e deve também ser proibida para qualquer tipo de classificação social ou étnica.
A Organização para a Cooperação e Desenvolvimento Econômico (OCDE) define IA como “um sistema baseado em máquina capaz de influenciar o ambiente produzindo recomendações, previsões ou outros resultados para um determinado conjunto de objetivos. Ele usa entradas/dados baseados em máquinas e/ou humanos para:
1) perceber ambientes;
2) abstrair essas percepções em modelos;
3) usar os modelos para formular opções de resultados. Os sistemas de IA são projetados para operar com vários níveis de autonomia.''
Neste sentido, qualquer desenvolvimento de AI deve levar em conta a segurança no seu processamento, garantindo o respeito pelos direitos humanos e valores democráticos, com base na Estrutura de gerenciamento de riscos de IA do NIST, na estrutura de gerenciamento de riscos ISO 31000, na segurança de dados do ISO 27001 e na Orientação de devida diligência da OCDE, quais sejam:
• Definir escopo, contexto e critérios, incluindo os princípios relevantes de IA e partes interessadas para cada fase do ciclo de vida do sistema de IA e para o próprio ciclo de vida;
• Avaliar os riscos para uma IA confiável, identificando e analisando problemas nos níveis individual, agregado e social e avaliando a probabilidade e o nível de dano (por exemplo, pequenos riscos podem resultar em um risco maior);
• Tratar os riscos para cessar, prevenir ou mitigar impactos adversos, de acordo com a probabilidade e abrangência de cada um;
• Auditar o processo de gestão de riscos incorporando e cultivando uma cultura de gestão de riscos nas organizações;
• Monitorar e revisar o processo de forma contínua;
• Documentar, comunicar e consultar sobre o processo e seus resultados.
Assim sendo, enquanto não houver segurança suficiente na utilização da inteligência artificial (IA) para o reconhecimento facial, a recomendação da CEPD e da AEPD é que a tecnologia não seja utilizada, sob risco de graves impactos ao ser humano.
Deixe seu comentário