Certo é que a inteligência artificial está transformando a experiência de consumo, permitindo personalização, automação e maior eficiência. Contudo, também apresenta riscos significativos. Entre os mais importantes estão os relacionados à discriminação algorítmica, a falta  de privacidade e responsabilidade por decisões automatizadas, como já vimos em casos que se espalham pelo mundo.

Assim, o uso de IA pode gerar discriminação, mesmo que não intencional, prejudicando consumidores com base em perfis criados a partir de dados. Por isso é importante a implementação de auditorias obrigatórias para algoritmos utilizados em serviços de consumo, com foco na prevenção de discriminação e práticas abusivas. A criação de um órgão regulador especializado em IA no consumo, ou a ampliação da competência da ANPD, seria bastante salutar, visando estabelecer padrões éticos e técnicos para o uso de IA.

E por falar na ANPD, a LGPD prevê o direito à revisão humana em decisões automatizadas que impactem os consumidores, mas a aplicação prática desse direito ainda é limitada.

Portanto, é de grande importância que todas as plataformas que utilizem IA informem claramente ao consumidor quando suas decisões forem automatizadas, permitindo a solicitação de revisão humana de modo mais simples e prático.

Em situações de danos causados por IA, a atribuição de responsabilidade ainda é um desafio que foge às regras do direito civil, e mesmo do direito do consumidor. Esta é uma realidade não prevista pelo legislador e merece uma análise e disciplina específica.

Necessário se faz o estabelecimento de normas específicas sobre responsabilidade civil em casos de danos causados por IA garantindo que o fornecedor seja responsabilizado independentemente de culpa.

Já em casos em que haja consumidores afetados por danos de larga escala causados por falhas de sistemas de IA, podemos avaliar a criação de fundos de compensação coletiva para indenização daqueles que forem prejudicados.

As mudanças ocorridas nos últimos anos nos levam a repensar as relações de consumo com o padrão até hoje estabelecido, se a atual regulação atende aos novos desafios e quais as medidas e políticas públicas devem ser tomadas para trazer mais segurança e transparência para os consumidores.

Neste sentido, propostas de longo prazo devem ser implementadas. Entre elas a promoção da educação financeira e para o consumo. Promover a conscientização sobre direitos e riscos no consumo digital também é essencial.

Assim, seria importante o desenvolvimento de programas nacionais de educação digital, incluindo cursos e materiais educativos sobre segurança, privacidade e direitos do consumidor.

Por outro lado, o poder público deve acompanhar continuamente o impacto das tecnologias e propor atualização das normas através dos órgãos de defesa do consumidor, com foco exclusivo em e-commerce, aplicativos e IA.

O uso de tecnologia para monitorar práticas de mercado pode fortalecer a proteção ao consumidor, evitando e coibindo  práticas abusivas, identificando padrões de violação de direitos em larga escala.

O avanço tecnológico pode e deve ser um aliado na construção de relações de consumo mais justas, transparentes e acessíveis. Contudo, a proteção do consumidor exige ações concretas por parte do legislador, do Judiciário, de órgãos de defesa e das próprias empresas. A implementação das medidas propostas neste artigo pode não apenas mitigar os riscos associados às novas tecnologias, mas também transformar o Brasil em referência global na proteção ao consumidor no ambiente digital.

*Andrea Motolla é advogada, com especialização em direito empresarial, em processo civil e direito do Consumidor