Perante o rápido avanço da inteligência artificial, IA, a ONU montou um time de 40 especialistas que está reunindo argumentos científicos e exemplos concretos sobre riscos e benefícios desta tecnologia.
A pesquisadora brasileira Teresa Ludermir é uma das integrantes deste Painel Científico Internacional Independente. Ela contou à ONU News que o grupo é multidisciplinar, incluindo especialistas em computação, mas também psicólogos, jornalistas e filósofos. O primeiro relatório está previsto para julho.
Risco de sistemas totalmente autônomos
"Os riscos podem vir a ser muito grandes se a gente perder o controle e se de alguma forma esses sistemas passarem a ter uma autonomia tão grande que eles possam, e a gente já tem visto algumas evidências que eles tentam enganar aos usuários e aos desenvolvedores, por exemplo, para não serem desligados, para continuarem opinando. Então a gente tem essa preocupação da tecnologia sair do controle humano. Agora, dito isso, a gente também vê muitas coisas boas nessa tecnologia. A gente vê a possibilidade de ajudar na educação, na medicina."
Teresa, que é especialista em computação, ressaltar que durante a pandemia de Covid-19, o desenvolvimento de vários medicamentos e vacinas foi acelerado pelo uso da inteligência artificial.
A também professora da Universidade Federal de Pernambuco, UFPE, explicou que ainda existem "gargalos tecnológicos" na criação de modelos que tenham autonomia para resolver qualquer tipo de problema.
Travas de segurança
Teresa explicou que a função do painel é fornecer esclarecimentos com respaldo científico sobre o que é bom e o que pode ser "desastroso para a humanidade". Não compete ao grupo criar nenhum tipo de regulação.
A integrante do painel da ONU mencionou que uma das formas mais eficientes de promover sistemas mais seguros é criar travas desde a fase de planejamento e desenvolvimento inicial das ferramentas de IA.
Desigualdade entre países
A especialista destacou ainda que o desenvolvimento e aplicação da tecnologia têm como pano de fundo um risco real de aumento de desigualdades entre países.
"A maior parte das empresas que detêm o poder da inteligência artificial, que são poucas, elas estão no Norte global. Então, pra gente do Sul global, a gente vê um risco de a gente passar a ser provedor de dados, provedor de mão de obra pra rotular dados, pra fazer a parte mais operacional do sistema e não usufruir com autonomia e com independência dos benefícios da inteligência artificial".