Entre os perigos emergentes da Inteligência Artificial, destaca-se seu uso para influenciar, manipular ou distorcer processos mentais humanos, colocando em risco a autonomia, a liberdade de pensamento e a integridade cognitiva dos indivíduos. É essencial discutir os limites éticos e jurídicos desta tecnologia, especialmente quando utilizada para induzir comportamentos sem o pleno conhecimento ou consentimento do público.
Karim Kramel e Adriana Azevedo (*)
Os sistemas de Inteligência Artificial (IA) tornaram-se parte integrante do cotidiano moderno, desempenhando desde funções simples, como recomendações personalizadas de filmes e músicas, até tarefas altamente complexas, como a criação de algoritmos avançados para novos sistemas. Embora essa tecnologia traga inúmeros benefícios, seu rápido avanço também apresenta desafios e riscos significativos para a humanidade.
Entre os perigos emergentes, destaca-se o uso de IA para influenciar, manipular ou distorcer processos mentais humanos, colocando em risco a autonomia, a liberdade de pensamento e, consequentemente, a integridade cognitiva dos indivíduos. À medida que essas tecnologias evoluem, torna-se essencial discutir os limites éticos e jurídicos de sua aplicação, especialmente quando utilizadas para induzir comportamentos sem o pleno conhecimento ou consentimento dos indivíduos.
Nesse cenário, surge o conceito de neurodireitos, uma expansão dos direitos humanos tradicionais para abarcar desafios impostos pela neurociência e pela neurotecnologia. Esse instituto visa garantir a proteção da mente humana contra tecnologias capazes de acessar, monitorar, influenciar e inferir estados mentais, evitando que essas práticas comprometam a autodeterminação das pessoas. A construção de um arcabouço regulatório sólido é fundamental para assegurar que os avanços tecnológicos respeitem os princípios éticos e a dignidade humana.
Ciente dos desafios impostos pelo avanço da Inteligência Artificial, a União Europeia instituiu o Regulamento de Inteligência Artificial (AI Act) com o propósito de mitigar os riscos associados a dispositivos e práticas que utilizam técnicas subliminares para explorar vulnerabilidades cognitivas e influenciar o subconsciente humano.
Essa iniciativa tem por objetivo estabelecer parâmetros éticos e regulatórios que garantam a proteção da autonomia mental e da liberdade cognitiva, frente ao uso indiscriminado, principalmente das neurotecnologias, a fim de reforçar a necessidade de mecanismos de fiscalização eficazes e de responsabilização dos agentes envolvidos na aplicação dessas práticas.
Diante dos avanços da Inteligência Artificial e das neurotecnologias, torna-se indispensável uma abordagem regulatória que preserve a autonomia cognitiva e a liberdade de pensamento dos indivíduos. O AI Act representa, portanto, um passo importante nessa direção ao estabelecer diretrizes contra práticas subliminares que exploram vulnerabilidades mentais.
Mecanismos de fiscalização e responsabilização
No entanto, para que essa proteção seja realmente eficaz, é necessário um esforço coordenado e internacional na formulação de mecanismos de fiscalização e responsabilização. Nesse sentido, a consolidação dos neurodireitos como parte integrante dos direitos fundamentais do século XXI é essencial para garantir que a inovação tecnológica esteja sempre alinhada aos princípios éticos e à dignidade humana.
A crescente influência dos sistemas de Inteligência Artificial sobre a cognição humana exige um novo modelo de governança algorítmica, capaz de assegurar que decisões automatizadas respeitem os princípios fundamentais da autonomia e da autodeterminação mental.
A governança algorítmica deve ser estruturada, portanto, para impedir que sistemas de IA sejam utilizados como instrumentos de manipulação psicológica, especialmente em áreas sensíveis como: publicidade, política e segurança. A ausência de mecanismos regulatórios eficazes pode resultar na instrumentalização da mente humana, comprometendo a soberania mental dos indivíduos e ampliando os riscos associados ao uso indiscriminado de tecnologias persuasivas.
Nesse sentido, a proteção dos neurodireitos deve ser considerada um elemento fundamental da governança digital, garantindo que nenhuma tecnologia possa influenciar ou alterar a consciência humana sem um consentimento informado claro e explícito.
Para que essa proteção seja efetiva, torna-se imprescindível o desenvolvimento de mecanismos de fiscalização robustos, capazes de assegurar a transparência e a conformidade das tecnologias com os princípios éticos e jurídicos que preservam a autonomia cognitiva dos indivíduos.
Técnicas subliminares
Os sistemas de Inteligência Artificial desenvolvidos para influenciar o comportamento humano utilizam técnicas subliminares, algoritmos de inferência emocional e modelagens comportamentais fundamentadas em dados neurocognitivos.
Esses mecanismos permitem que máquinas induzam reações, moldem preferências e direcionem decisões sem que o indivíduo tenha plena consciência do processo de influência ao qual está sendo submetido, levantando preocupações éticas e regulatórias sobre autonomia cognitiva e manipulação tecnológica.
A manipulação do subconsciente por meio de sistemas de Inteligência Artificial representa uma forma silenciosa e invasiva de interferência mental, ameaçando a autonomia decisória e a liberdade cognitiva dos indivíduos.
A capacidade dessas tecnologias de modelar comportamentos com base em gatilhos neurológicos inconscientes levanta questões críticas sobre consentimento, responsabilidade e os limites da persuasão automatizada, especialmente em áreas como publicidade, política e segurança.
Reconhecendo esses riscos, o AI Act da União Europeia estabelece a proibição explícita do uso de sistemas que explorem vulnerabilidades cognitivas por meio de estratégias subliminares que possam causar dano. No entanto, para que esse modelo de proteção seja eficaz diante dos impactos globais da Inteligência Artificial, torna-se fundamental ampliar sua abordagem internacionalmente.
A disseminação dessas diretrizes pode incentivar outros países e organizações a adotarem mecanismos robustos para a definição de técnicas subconscientes, a fiscalização eficaz dessas práticas e a responsabilização dos agentes que operam tais tecnologias de maneira invasiva e sem a devida transparência que a situação requer.
Marco na regulação
O AI Act representa um marco na regulação da Inteligência Artificial ao incorporar preocupações éticas fundamentais sobre a manipulação da consciência humana. Sua proibição explícita a sistemas que exploram vulnerabilidades cognitivas ou utilizam técnicas subliminares reforça o compromisso com a proteção da autonomia mental e da liberdade cognitiva dos indivíduos.
No entanto, a consolidação dos neurodireitos como categoria jurídica exige um debate contínuo e aprofundado que acompanhe a evolução das neurotecnologias e assegure que a Inteligência Artificial opere dentro de parâmetros éticos e legais rigorosos.
A salvaguarda da mente humana não deve se limitar a iniciativas isoladas, mas sim integrar-se a um esforço global e coordenado para garantir transparência, fiscalização eficaz e mecanismos de responsabilização.
O desafio recai sobre Estados, organismos internacionais e a sociedade civil na construção de um arcabouço regulatório robusto que assegure a liberdade de pensamento, a integridade psicológica e a autodeterminação cognitiva como direitos humanos inalienáveis.
Somente ao integrar os neurodireitos ao núcleo dos direitos fundamentais do século XXI será possível equilibrar inovação e proteção, promovendo um futuro em que os avanços tecnológicos respeitem a dignidade e a autonomia dos indivíduos.
(*) Karim Kramel (à esquerda na foto) é sócia fundadora da DDA, plataforma de cursos de Direito Digital Aplicado, advogada especialista em Direito Compliance e Direito Digital, além de DPO certificada pela EXIN e IAPP. Adriana Azevedo é advogada especialista em Proteção de Dados, Neurociências e Comportamento Humano.