IA e as controvérsias da privacidade de dados

IA
Imagem: Freepik

Publicado em 1948, o clássico da ficção científica intitulado “1984”, do jornalista inglês George Orwell, ganhou notoriedade pelo conceito do “Big Brother is watching you”, entidade que representa o estado de um regime totalitário, que governa a vida e a liberdade das pessoas, através de teletelas em todas as casas, com monitoração 24 horas por dia da vida privada de um país fictício Oceania.

Quando chegou o ano de 1984, a realidade mundial foi bem diferente daquela visão pessimista traçada por Orwell no final dos anos 40, quando se iniciava a guerra fria. Os movimentos de abertura política, que culminaram com a queda do muro de Berlim em 1989, o fim de ditaduras como da Argentina e do Chile e a redemocratização do Brasil iniciada com a campanha das Diretas-Já em 1984, legaram novos ares de manifestação e expressão nas sociedades democráticas, cuja privacidade ainda era restrita ao ambiente doméstico.

Na década de 1990, a liberdade de expressão se tornou exponencial com o boom tecnológico resultante do advento da internet e da telefonia móvel, que legou ao século XXI um mundo novo, com novas formas de comunicação e interação pelo surgimento de comunidades nas redes sociais. Neste cenário, a exposição das pessoas passou a ser voluntária, em troca de pertencimento a um grupo de afinidades, promoção pessoal e acesso gratuito aos aplicativos e plataformas de relacionamento. Assim, o fim da privacidade não veio pelo fantasma do Big Brother, mas pela hiper exposição causada por mudanças de costumes na sociedade e no comportamento das pessoas, que passaram a ser monitoradas em seus hábitos de consumo, preferências por entretenimento e áreas de interesse.

Esse novo mercado elevou as Big Techs a liderar o ranking das maiores empresas em valor de mercado do planeta e agregando mais de 4,7 bilhões de internautas com perfis em redes sociais em 2023, além da geração de mais de 5 trilhões de transações anuais no comércio eletrônico. Esses números vultosos lograram grande poder aos detentores de informação de usuários e clientes e, em alguns casos, resultaram em abusos pelo uso inadvertido de dados sigilosos por parte de empresas de redes sociais, comércio eletrônico e mercado publicitário. Como forma de regulamentação e controle de desvios, foram criadas leis de proteção de dados em vários países do mundo, como a GPDR – General Data Protection Regulation da União Europeia e a LGPD no Brasil, publicadas em 2018.

Apesar dessas leis, nos dias atuais a privacidade segue sendo invadida por meio de crimes cibernéticos com grande impacto para as pessoas, como o vazamento de dados privados devido à exposição de informações sensíveis, protegidas e confidenciais dos usuários, que são roubadas de bases de dados de sistemas e aplicativos para vários fins: divulgação de propaganda de produtos e serviços nos meios digitais, utilização em sistemas estatísticos do big data e crimes financeiros, nos quais são usados identidade e dados sigilosos das vítimas. Com mais de 313 milhões de usuários de internet, o mercado online dos Estados Unidos está entre os mais importantes do mundo e o país é o mais sujeito às violações de privacidade, preocupando mais da metade dos internautas estadunidenses. No primeiro semestre de 2022, foram reportados 817 incidentes de violação de dados, afetando 53 milhões de pessoas.

O caso mais notório de mau uso de informações privadas foi o escândalo da empresa britânica Cambridge Analytica, que coletou, sem autorização, dados pessoais de 87 milhões de usuários do Facebook e os usou para a divulgação direcionada de propaganda política na campanha eleitoral dos Estados Unidos de 2016 – com o objetivo de favorecer a eleição do ex-presidente Donald Trump. A Cambridge Analytica foi penalizada pela justiça inglesa. O Facebook recebeu multa recorde de 5 bilhões de dólares da Comissão Federal de Comércio dos Estados Unidos, que terminou em dezembro de 2022 com a Meta pagando 725 milhões de dólares em acordo judicial, a título de indenização pelos danos causados.

Todavia, com o avanço do mundo eletrônico e da Inteligência Artificial (IA), outras formas de invasão de privacidade surgiram, novamente pela exposição de pessoas e empresas no uso da IA Generativa e recursos tecnológicos que permitem clonar – com alta precisão em áudio e vídeo – pessoas gerando na deepfake falas e imagens que nunca existiram.

Na interação com as ferramentas da IA, as perguntas feitas pelos usuários aos chatbots como o ChatGPT da OpenAI, bem como a entrega de códigos de programação para revisão ou aperfeiçoamento pelos algoritmos da IA, transferem conteúdo e informações ao domínio das plataformas. Isso levou à proibição do uso do ChatGPT por parte de algumas empresas como Samsung, JPMorgan, Bank of America, Goldman Sachs e Citigroup e a Apple, também por razões de competição. Governos atuaram no banimento desse aplicativo, como ocorreu na Itália.

Entretanto, como tudo no mundo da tecnologia tem seus contrapontos, estão surgindo novas formas de comercialização de dados das pessoas com a IA. A startup israelense Hour One está comprando rostos de pessoas reais, para criar personagens gerados pela IA, que são utilizados em vídeos educacionais e de publicidade. A empresa informa que já conta com uma lista de 100 imagens compradas – e outras em fila de espera, e busca diversidade de raça, etnia, idade e gênero. Como resposta aos questionamentos de privacidade e ética, a Hour One garante que rotulará os vídeos criados com marcas d’água informando que se trata de imagens geradas pela IA.

Outra utilização controversa da IA é a recriação de celebridades mortas. Recentemente, o comercial da Volkswagen, em comemoração dos 70 anos da Kombi no Brasil, causou polêmica nacional por utilizar imagens de Elis Regina, falecida há 41 anos, interpretando a música “Como nossos pais” do compositor Belchior junto com sua filha, a também cantora Maria Rita. O filme utilizou uma dublê e imagens criadas pela IA, com um algoritmo treinado exclusivamente para reconhecimento facial de Elis. A obra foi aplaudida por muitos pelo belo resultado audiovisual e a memória afetiva despertada, porém foi criticada por especialistas e publicitários, questionando a invasão da privacidade de alguém que já não tem mais o arbítrio de sua própria imagem, mesmo que consentida e com geração de direitos autorais para a família. Um dos questionamentos foi: Se estivesse viva, Elis Regina concordaria em participar desse comercial para uma montadora de veículos?

Todos os pontos acima nos fazem refletir sobre mudanças culturais advindas da tecnologia e conduta ética em seu uso, pois colocam em risco a privacidade das pessoas na era da tecnologia digital, gerando demandas de responsabilidade no desenvolvimento e utilização das ferramentas de IA e na necessidade de incluir na regulamentação da IA – e até nos testamentos – cláusulas de privacidade post-mortem, além de normatização sobre os direitos autorais de imagens e vídeos criados pela IA com pessoas mortas.

A educação sobre a preservação da privacidade também deve ser considerada nesse contexto. A gestão de privacidade é uma questão psicológica que envolve confiança e riscos na tomada de decisões de uso dos recursos tecnológicos, conforme opina o psicólogo inglês Alan Smith, no blog Psyvacy. Ele argumenta que “o grau de propriedade que sentimos sobre nossos dados é um forte indicador de quão dispostos estamos a vendê-los. Portanto, se você está tentando fazer com que as pessoas melhorem sua postura de privacidade, concentre-se em criar esse senso de propriedade, porque garanto que as empresas estão tentando eliminá-lo. A confiança na empresa e na plataforma faz parte do processo de entrega de informações por parte dos usuários”.

Assim, nessa nova era, as organizações e seus Conselhos de Administração necessitam de um posicionamento claro sobre esse tema relevante, que exige redefinir regras de compliance e criação de uma cultura de privacidade cibernética, para preservação de sua imagem e reputação, bem como orientação de conduta aos colaboradores e demais stakeholders.

Nota: Este artigo não foi escrito pela IA.

*Por Durval Jacintho

Durval Jacintho
Imagem: divulgação

Durval Jacintho é Engenheiro Eletrônico e Mestre em Automação Industrial pela Universidade Estadual de Campinas (UNICAMP) e consultor internacional em tecnologia pela DJCon, com 37 anos de experiência C-Level no mercado de tecnologia e telecomunicações. Conselho de Administração certificado pelo Instituto Brasileiro de Governança Corporativa (IBGC) e membro da Comissão de Ética do IBGC e da Comissão de Inovação do Capítulo São Paulo Interior. Integra o Comitê de Gestão do Hub da Gestão e o Chief.group. Contato no LinkedIn: https://www.linkedin.com/in/durval-jacintho


Leia também
O futuro e impacto da IA para as grandes companhias
O futuro e impacto da IA para as grandes companhias

Desbravando os desafios da implementação, reflexos nos setores e a importância decisiva das telecomunicações na era da transformação digital A […]

Gestão de projetos globais: navegando por águas culturais diversas
Gestão de projetos globais: navegando por águas culturais diversas

Uma parte muito bacana do que faço, hoje, é atender marcas do mundo todo. Impulsionada pelo trabalho remoto, a diversidade […]

Pequenos varejos: automação fideliza clientes e amplia competitividade
Pequenos varejos: automação fideliza clientes e amplia competitividade

Os desafios para os pequenos varejistas se mostram cada dia mais evidentes, principalmente com o avanço deste setor no Brasil. […]

Em um cenário corporativo cada vez mais competitivo, o quão importante é a análise da concorrência?
Em um cenário corporativo cada vez mais competitivo, o quão importante é a análise da concorrência?

Para poder ingressar em um mercado com um novo empreendimento, um dos pontos mais importantes que os empreendedores devem se […]

Cibersegurança, uma questão de consciência
Cibersegurança, uma questão de consciência

Estamos imersos em uma era em que o digital faz parte do nosso dia a dia e fica evidente a […]