As empresas de tecnologia criaram a besta, mas nem elas sabem explicá-la completamente. O papel de tentar perceber como funcionam as tomadas de decisão da IA é deixado aos matemáticos, que andam em busca da “IA explicável”. Estão cada vez mais perto.
A matemática pode ser usada para perceber as escolhas da IA, acreditam os cientistas que procuram a “IA explicável”. Estes matemáticos tentam compreendê-la através da deteção de padrões.
“Criamos redes neuronais que podem executar tarefas específicas, permitindo-nos ao mesmo tempo resolver as equações que regem a atividade das redes”, conta Lyle Muller, diretor do Fields Lab for Network Science, à ZME Science. “Esta solução matemática permite-nos ‘abrir a caixa negra’ para compreender exatamente como é que a rede faz o que faz”.
Partindo de formas básicas como quadrados e triângulos, a equipa responsável pelo estudo publicado na PNAS em novembro criou uma rede neural recorrente (RNN) capaz de identificar componentes de IA. Isto permite criar padrões dinâmicos e fluidos numa imagem.
Foi, assim, possível detetar padrões até, nomeadamente, numa imagem complexa de um animal na selva.
A RNN funciona sem treino, através de um conjunto de parâmetros predefinidos para identificar objetos desde dentro de padrões geométricos simples a cenas naturais.
A rede, denominada RNN de valor complexo (cv-RNN), tem por base os parâmetros de amplitude e fase (cada pixel é representado como um número complexo) e conectividade recorrente (um pixel influencia os pixel vizinhos).
Com esta metodologia, a equipa conseguiu mesmo a ligar a sua rede a uma célula cerebral viva.
“Este tipo de compreensão fundamental é crucial à medida que continuamos a desenvolver sistemas de IA mais sofisticados em que podemos confiar”, disse Roberto Budzinski, um investigador equipa.
“Isto é apenas o início”, conclui Muller. “Acreditamos que esta compreensão matemática pode ser útil muito para além deste primeiro exemplo”.
