Primeiro, as observações de Andrea Motolla, advogada com especialização em direito empresarial, em processo civil e direito do consumidor, sobre a ‘inteligência artificial generativa” (IAG); depois, uma simples conclusão:
“Nos últimos anos, a IAG tem revolucionado diversos setores, proporcionando inovações impressionantes em criação de conteúdo, personalização de experiências e automação de processos.
No entanto, no contexto do Direito do Consumidor, essa tecnologia também representa desafios significativos, especialmente no que tange à proteção contra fraudes e manipulações.
A capacidade da inteligência artificial generativa de criar textos, imagens, áudios e vídeos com alto grau de realismo traz à tona riscos concretos para os consumidores. Um dos principais perigos é o uso de deepfakes em contextos fraudulentos.
Empresas e indivíduos mal-intencionados podem criar vídeos falsos utilizando a imagem e voz de pessoas famosas para promover produtos ou serviços inexistentes, enganando consumidores e comprometendo sua segurança econômica.
Além disso, é preocupante a utilização de chatbots baseados em IAG para simular interações humanas de suporte ao cliente. Esses sistemas podem ser explorados para coletar dados pessoais sensíveis ou induzir consumidores a contratações enganosas, violando o direito à informação clara e adequada garantido pelo Código de Defesa do Consumidor (CDC).
Recentemente, relatos de pessoas que sofreram golpes por meio de ligações simuladas, onde suas próprias vozes foram replicadas por IA, demonstram o alcance e o potencial lesivo dessa tecnologia.
Além disso, os deepfakes têm sido utilizados para disseminar campanhas publicitárias enganosas, induzindo consumidores a realizar transações prejudiciais.
As implicações dessas fraudes são amplas. Além de danos financeiros imediatos, como perdas monetárias em compras fraudulentas, o consumidor pode sofrer danos psicológicos, como ansiedade e desconfiança generalizada.
Por outro lado, as empresas que têm sua imagem indevidamente associada a esses golpes também sofrem, uma vez que a reputação corporativa é significativamente prejudicada.
A legislação existente no âmbito do Direito do Consumidor deve ser revista para abarcar novos conceitos, como ‘autenticidade digital’ e ‘responsabilidade por conteúdo gerado por IA’. Além disso, a fiscalização precisa ser fortalecida, com órgãos de proteção ao consumidor capacitados a lidar com tecnologias de alta complexidade.
Por outro lado, o desafio se estende ao campo internacional. Em um mundo globalizado, conteúdos fraudulentos podem ser criados em um país e disseminados em outro, dificultando a aplicação de leis locais. Assim, a cooperação entre nações torna-se essencial.
Diante desse cenário, é imperativo que se adotem medidas legais, tecnológicas e educacionais para proteger os consumidores.
É necessário criar normas que responsabilizem civil e criminalmente aqueles que utilizam a tecnologia para fraudes e violações dos direitos do consumidor.
Atualmente, temos o Marco Regulatório da IA tramitando no Congresso. É premente que esta legislação avance o mais rápido possível.
Empresas e plataformas digitais devem implementar mecanismos de verificação de autenticidade para conteúdos gerados por IAG, de modo a evitar a disseminação de deepfakes e publicidade enganosa.
Ferramentas de ‘marca d’água digital’ ou assinaturas criptográficas podem ser implementadas para identificar conteúdo autêntico.
Consumidores precisam ser educados sobre os riscos associados à IAG e orientados sobre como identificar conteúdos fraudulentos. Campanhas de conscientização podem ser promovidas por órgãos de defesa do consumidor e entidades governamentais.
Essa educação deve incluir o reconhecimento de deepfakes e dicas práticas sobre como verificar a credibilidade de informações online.
As empresas que utilizam IAG devem ser obrigadas a informar claramente o uso dessa tecnologia em suas interações com consumidores, promovendo maior transparência e confiança. Essa informação deve ser acessível e de fácil compreensão, atendendo ao princípio da boa-fé.
Dada a natureza transnacional da IAG, a colaboração entre países é essencial para estabelecer padrões globais de regulação e compartilhamento de informações sobre ameaças emergentes.
Organizações internacionais podem desempenhar um papel importante na harmonização de diretrizes e boas práticas, como a ONU já vem propondo.
Políticas públicas devem promover o desenvolvimento de soluções tecnológicas que combatam fraudes baseadas em IAG. Iniciativas de pesquisa e desenvolvimento para aprimorar sistemas de detecção de deepfakes e aplicações de IA para segurança digital são fundamentais.
Por meio de uma legislação robusta, tecnologias de verificação, educação digital e cooperação internacional, será possível mitigar os riscos e garantir um mercado mais seguro e justo para todos.
Nesse sentido, é essencial equilibrar o incentivo à inovação com a proteção dos direitos fundamentais dos consumidores, assegurando que os avanços tecnológicos sejam utilizados de maneira ética e responsável.”
Pois bem! Tudo isso é incontestável, porém, indica para um futuro tenebroso, infelizmente… E a culpa, com o perdão à sinceridade, é da população em geral.
Isso porque, longe de protestar, a maioria faz festa no momento em que as redes sociais – as ferramentas nas quais o engodo se propaga – deixam de ser monitoradas por elas mesmas, permitindo as fake news sem freio em nome de um discurso hipócrita de liberdade de expressão.
Seria até engraçadinho – não fosse incoerente e ridículo – o fato, por exemplo, de um indivíduo acusado de crime procurar a imprensa “tradicional” para saber “quem autorizou citar o nome dele e mostrar seu rosto”, ao mesmo tempo em que quer “liberdade” para mentir e xingar à vontade no “Face”…
Ou seja, a população, cada vez mais distante do interesse pela verdade e decência, cultiva o fogo no parquinho (gritando liberdade de expressão!) – desde que não caia fuligem em sua casa (urrando direito à privacidade!).
Nessa briga (injusta e desigual), uma diferença brutal, que deveria ser levada (muito) a sério, é que a imprensa, tão criticada pela soberba ignorância, assina embaixo do que leva a público, enquanto as big techs nem mais se importam em frear um mínimo dos malefícios que pode causar, sejam golpes por IA, seja propagar ódio, racismo, homofobia…
Mas, novamente: a culpa maior é de quem?
