Lucas Alencar, head de produtos e cofundador da Adopets
A natureza “caixa-preta” da Inteligência Artificial, junto com a falta de regulamentação, mina a confiança das pessoas nesta tecnologia, sendo preciso equilibrar inovação e segurança nas aplicações
Segundo a pesquisa “IA Generativa: o que o público consumidor espera”, da ThoughtWorks, empresa de consultoria global em tecnologia, 93% das pessoas têm preocupações éticas sobre a ferramenta. Dentre elas, 71% se afligem com o uso de seus dados sem consentimento. O levantamento foi realizado com 10 mil consumidores nos seguintes países: Austrália, Brasil, Alemanha, Índia, Itália, Holanda, Singapura, Espanha, Reino Unido e Estados Unidos. Todos os entrevistados tinham 18 anos ou mais e detinham conhecimento prévio do tema.
Desde o lançamento do ChatGPT, que em dois meses ganhou uma base de 100 milhões de usuários ativos, um avanço mais rápido do que o verificado em qualquer outra plataforma, a popularização em massa do uso da IA gerou também um receio generalizado sobre seus riscos potenciais. A propósito, Lucas Alencar, especialista em desenvolvimento de produtos e co-fundador da startup Adopets, salienta que o ceticismo em relação a tecnologias emergentes é natural.
“Um dos maiores obstáculos é a natureza ‘caixa-preta’ de muitos sistemas de IA, particularmente os modelos de aprendizado profundo. A opacidade dos processos de tomada de decisão dificulta a compreensão por parte até mesmo de especialistas, criando barreiras à confiança”, constata.
Ele acrescenta que, à medida que a tecnologia começa a impactar positivamente diversos setores da sociedade tanto em termos de produtividade quanto financeiramente, incluindo novas práticas e metodologias de testes e validação da segurança destes sistemas, haverá aumento crescente na aceitação e confiabilidade dessas inovações.
Desafios na utilização
Para Alencar, um dos maiores desafios envolvidos nesse processo é estabelecer um equilíbrio entre regulamentações que garantam segurança e confiabilidade, sem sufocar as possibilidades da inovação.
Se a IA Generativa quiser ser sustentável a longo prazo, vai ser preciso considerar outras questões além das suas capacidades técnicas: “É fundamental garantir a proteção contra ataques, a operação confiável em diversos cenários e a salvaguarda da privacidade dos usuários”.
E, para que não se torne um conceito superestimado, Alencar avalia que a IA Generativa tem que focar em entregar valor tangível, garantindo que seu desenvolvimento seja guiado por princípios éticos.
“Precisamos abordar as preocupações sobre privacidade, segurança e impacto no emprego dos consumidores. Além disso, o ideal é que ela seja implementada de maneira gradual, permitindo que as pessoas se adaptem e vejam os benefícios incrementais”, sugere.