A inteligência artificial (IA) pode ser tanto uma aliada, quanto inimiga nas questões de cibersegurança, dependendo de como for usada. O projeto “Cibersegurança e Privacidade no Aprendizado de Máquina”, coordenado pelo professor do Departamento de Computação do Centro de Ciências Exatas (CCE), Bruno Bogaz Zarpelão, se debruçará sobre o tema buscando soluções para equalizar o uso da IA, otimizando seus benefícios e mitigando ameaças em segurança digital.

Apesar de “estar na moda” a IA não é algo novo. Discussões sobre inteligência artificial ocorrem desde a década de 1950. Segundo o professor Bruno Bogaz, o debate sobre o tema teve altos e baixos ao longo das décadas, conforme a evolução de expectativas sobre seu desenvolvimento. Na década de 1990, por exemplo, pairava o desânimo, mas um fato retomou o entusiasmo: o gênio do xadrez, o russo Garry Kasparov, foi derrotado pelo Deep Blue, um supercomputador da IBM, algo impensável até então.

Os anos se passaram e as condições para a consolidação, aperfeiçoamento e expansão da IA não só se deram, como se intensificaram. A expansão da internet com o correspondente acúmulo e uso direcionado dos dados de bilhões de pessoas, de infinitos documentos e de todo tipo de fonte de informação disponível no mundo digital e, principalmente, mais recentemente, a criação dos chatbots, deram então o corpo e a cara – que a muitos causa pânico, com até boas justificativas – que a IA tem hoje.

De fato, a expansão da IA causa preocupações. Não à toa, líderes e personalidades mundiais vêm defendendo um “freio” na expansão da IA, que chamam de descontrolada. O problema é que, como tudo no mundo digital, a IA não está imune ao seu uso para fins criminosos e esse uso se beneficia de contextos da vida cotidiana das pessoas que fomentam condições de vulnerabilidade. Por exemplo, ir à farmácia e passar dados pessoais para conseguir descontos em medicação se tornou comum. Esses dados, muitas vezes, não são bem tratados, protegidos, circulando por redes que podem ser invadidas por hackers.

Outra fonte inesgotável para a ação criminosa são os próprios celulares, que possuem várias informações sobre seus usuários e que podem, e são, utilizadas para abastecer bancos de dados com fins ilícitos. “Tudo que a gente faz deixa um registro porque passa pelas redes e pelos computadores das empresas que provêm esses serviços. E não há transparência por parte delas sobre como guardam essas informações”, explica o professor e menciona que as Big Techs – como Google, Microsoft, Amazon e Meta – são as principais produtoras desses armazenamentos.

O professor ainda cita um outro exemplo: um simples laudo médico que o médico submete a um aprimoramento de IA para tornar sua caligrafia mais legível para o paciente, caso os dados nele contidos não tenham a proteção adequada para trafegarem pelas trilhas digitais de redes e servidores, a vulnerabilidade está dada. Mas, na questão do perigo do uso inseguro de dados pela IA, nada se compara com o que advém da febre dos chatbots de IA generativa, como o ChatGPT. Nas conversas com a máquina, muitas vezes, os usuários disponibilizam informações sensíveis sobre sua vida pessoal. “O risco é compartilhar dados pessoais, como números de documento, informações médicas, financeiras, ou intimidades, ao pedir, por exemplo, que a IA faça uma revisão de um texto de e-mail”, exemplifica o professor Bruno Bogaz.

Outra problema, apontado pelo coordenador do projeto é que no Brasil há uma combinação peculiar: milhões de pessoas fazendo uso intenso do mundo digital sem o preparo, a orientação, o conhecimento adequados para isso. “Nós temos uma população pouco instruída sobre questões de informática e, ao mesmo tempo, uma digitalização avançada da sociedade, o que pode ser visto no sistema bancário, com o uso do Pix”, exemplifica o professor. Além disso, no país, apesar de haver uma legislação sobre crimes cibernéticos, ainda falta uma estrutura punitiva adequada, seja na fiscalização, na investigação ou no processamento e julgamento dos envolvidos em crimes digitais. Há poucas delegacias especializadas no tema e são raros os casos que chegam em desfechos no Judiciário.

Uso de dados sensíveis na rede

É diante de todo esse contexto complexo que o projeto parte para tentar compreender como o uso da IA pode também ser um aliado na cibersegurança. Um dos exemplos de como isso se daria seria no aprendizado de máquina. É através dele que a IA recolhe as informações que serão usadas, tanto em chatbots para tirar dúvidas cotidianas de um usuário, quanto para fins bélicos, como ocorreu recentemente quando, ao ter acesso a câmeras de rua, a IA usou as informações coletadas no conflito entre Irã e Estados Unidos.

O problema, como sempre, é como se dá a intervenção da IA. Por exemplo, um recurso comum nos celulares, o autopreenchimento, que ajuda o usuário a digitar mensagens completando as palavras enquanto ele as escreve. Dependendo de como o sistema de aprendizado de máquina utilizado nesse recurso é configurado, dados sensíveis dos usuários podem ser transmitidos pela rede para servidores sem as devidas garantias de sigilo. Assim, o que seria um benefício, a coleta de dados para aprimorar o recurso, pode se tornar um risco à privacidade.

Uma das possíveis soluções para essa questão do aprendizado de máquina, segundo o professor Bruno Bogaz seria utilizar um aprendizado distribuído ou federado. Nessa configuração, não seriam os dados propriamente que seriam recolhidos dos celulares dos usuários e enviados para um servidor central para seu beneficiamento e treinamento para uso em IA, mas sim apenas o modelo de aprendizado. Seriam recolhidos dos celulares apenas os modelos despidos de informações sigilosas. “Então, eu só crio um modelo no meu celular crio outro modelo no seu celular, e não enviamos para o aprendizado os textos que foram escritos. Mandamos o modelo treinado”, explica o professor e complementa que, apesar desse método recolher informações de um usuário por celular, o cruzamento dos modelos é que vai produzir um banco de dados rico para cruzar informações apenas entre modelos diferentes, e não entre dados de pessoais diferentes.

Outra ambiguidade relacionada à IA que tira o sono dos profissionais dedicados em cibersegurança é a intervenção humana. Se, por um lado, permitir que sistemas tenham um mínimo de fiscalização humana tornaria possíveis distorções de interpretação da IA sanáveis a tempo de causar grandes danos de segurança, por outro, a capacidade humana de monitorar toda a infinita gama de ataques cibernéticos possíveis é irrisória. Por isso, o uso da IA é necessário para dar conta do que a capacidade humana não tem.

O problema é que a IA não tem algo que os humanos têm: intuição. E, muitas vezes, a intuição é necessária para prever ataques, quando, por exemplo, se observa algo fora do padrão num sistema que não seria perceptível pelos mecanismos de segurança baseados em IA. Muitos ataques, como negação de serviço (exemplificando, é quando um site é atacado por vários computadores, bots, ao mesmo tempo, fazendo-o travar, interrompendo suas funcionalidades), requerem ações rápidas para saná-los, o que, em muitos casos, requer monitoramento sobre o que ainda vai acontecer, e não sobre o que já aconteceu, que é o terreno em que a IA se baseia.

Então, a intuição humana, a intervenção humana, ainda é importante nos desafios de cibersegurança. “Como a IA pode aprender com esses novos ataques a ponto de conseguir perceber ataques antes que eles aconteçam? Ter indícios de que alguma coisa errada está acontecendo. A IA precisaria chegar nesse ponto um pouco mais intuitivo. Esse é o desafio”, sintetiza o professor.

Porém, usando de todo o seu lado humano, assumidamente pessimista, o professor avalia que chegar a um ponto de produzir um sistema totalmente seguro contra ataques cibernéticos, com ou sem a ajuda de IA, é impossível. “Acho que poderíamos evoluir alguns pontos, porque a IA pode ser usada tanto para o bem quanto para o mal. Ao mesmo tempo que está se criando soluções para proteger, está se criando soluções para fazer os ataques também. Então, é dos dois lados. É sempre uma corrida meio que de ‘Tom e Jerry’”, sintetiza.

Os desafios são imensos mas a vontade de encará-los também é, e o projeto do professor Bruno Bogaz expressará isso com o auxílio de bolsistas de Iniciação Científica, de Mestrado e de Doutorado, além de parcerias como a da Universidade Federal de Uberlândia (UFU), da Universidade de Trieste (Itália), e da Universidade de Londres (Inglaterra).