Fernando Osório, professor do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos
Questões em aberto precisam ser discutidas com a sociedade para se construir uma estratégia nacional para a área, potencializando benefícios e mitigando riscos com a IA
Colher subsídios para a construção de uma estratégia nacional para a área de Inteligência Artificial, potencializando seus benefícios e mitigando eventuais impactos negativos. Esse é o principal objetivo de uma consulta pública lançada pelo Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC). Qualquer pessoa pode enviar suas contribuições até dia 2 de março por meio da plataforma participa.br.
“A Inteligência Artificial pode ter um grande impacto na vida de todos nós. Sendo assim, devemos nos preocupar com a criação de regras e leis que permitam regulamentar a forma como esses sistemas devem funcionar e atuar”, explica o professor Fernando Osório, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos.
Os possíveis impactos positivos ou negativos dos sistemas inteligentes passaram a ficar mais evidentes, em especial no que se refere ao mercado de trabalho, a partir da expansão das aplicações em diferentes campos, como diagnóstico médico, automação de veículos e educação. Por isso, a regulamentação do uso da Inteligência Artificial é foco de discussões em diversos países e organismos internacionais.
No Brasil, existe, inclusive, o projeto de lei número 5051 de 2019, que tramita no Senado Federal. O texto do projeto indica que “os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana” e prevê, ainda, a exigência “de uma forma de supervisão humana” compatível com os tipos de decisões e ações dos sistemas inteligentes.
O professor do ICMC chama a atenção para alguns aspectos desse projeto de lei que têm potencial para gerar controvérsias: “O que significa supervisão humana? Como isso será regulamentado? Imagine se toda a busca no Google, que é baseada em Inteligência Artificial, demandasse uma supervisão humana”.
Os problemas de uma regulamentação inadequada
Segundo Osório, a criação de uma regulamentação inadequada pode acarretar muitos problemas, daí a relevância da participação da sociedade na consulta pública que está aberta. Ele explica, por exemplo, que o projeto de lei prevê que a supervisão humana deve ser compatível com o tipo, a gravidade, e as implicações da decisão do sistema de Inteligência Artificial.
“Mas como definir mais precisamente isso?”, questiona o professor. “A simples seleção e recomendação de textos no Google ou Facebook pode influenciar até mesmo o resultado de eleições. Um veículo dirigido por humanos pode ser mais inseguro do que um carro autônomo. Mas, em caso de acidente, quem será o culpado, quem será responsabilizado pelos danos?”, completa.
Na opinião de Osório, um sistema inteligente de apoio ao diagnóstico médico, por exemplo, usualmente não deveria ser usado sem a supervisão de um médico. Por outro lado, veículos inteligentes talvez possam, em situações específicas, operar sem supervisão humana, assim como um elevador inteligente não demandará a presença de um ascensorista.
Para dar sua contribuição sobre os riscos e benefícios da Inteligência Artificial não é preciso ser um especialista. Todos podem acessar a plataforma participa.br e opinar sobre diversos eixos temáticos, tais como: força de trabalho, segurança, pesquisa, desenvolvimento, inovação e empreendedorismo.
(Texto: Denise Casatti – Assessoria de Comunicação do ICMC/USP)
Saiba mais acessando os seguintes links:
Consulta Pública do MCTIC “Estratégia Brasileira de Inteligência Artificial”:
http://participa.br/profile/estrategia-brasileira-de-inteligencia-artificial
Projeto de Lei no. 5051 de 2019 (Senado Federal):
https://www25.senado.leg.br/web/atividade/materias/-/materia/138790