Mudanças incrivelmente rápidas estão ocorrendo na tecnologia e no alcance dos sistemas de computador. Há avanços empolgantes na inteligência artificial, nas massas de minúsculos dispositivos interconectados que chamamos de “Internet das Coisas” e na conectividade sem fio.
Infelizmente, esses aprimoramentos trazem perigos em potencial, além de benefícios. Para termos um futuro seguro, precisamos prever o que pode acontecer na computação e lidar com isso com antecedência. Então, o que os especialistas acham que acontecerá e o que podemos fazer para evitar grandes problemas?
Para responder a essa pergunta, nossa equipe de pesquisa das universidades de Lancaster e Manchester recorreu à ciência de olhar para o futuro, que é chamada de “previsão”. Ninguém pode prever o futuro, mas podemos elaborar previsões: descrições do que pode acontecer com base nas tendências atuais.
De fato, as previsões de longo prazo das tendências tecnológicas podem se mostrar extremamente precisas. E uma excelente maneira de obter previsões é combinar as ideias de muitos especialistas diferentes para descobrir onde eles concordam.
Consultamos 12 especialistas em tecnologia do futuro para um novo trabalho de pesquisa. Essas são pessoas cujas funções envolvem previsões de longo prazo sobre os efeitos das mudanças na tecnologia da computação até o ano de 2040.
Usando uma técnica chamada estudo Delphi, combinamos as previsões dos futuristas em um conjunto de riscos, juntamente com suas recomendações para lidar com esses riscos.
Preocupações com o software
Os especialistas previram um rápido progresso na inteligência artificial (IA) e nos sistemas conectados, o que levaria a um mundo muito mais orientado por computadores do que o atual. Surpreendentemente, porém, eles esperavam pouco impacto de duas inovações muito badaladas: O Blockchain, uma forma de registrar informações que impossibilita ou dificulta a manipulação do sistema, segundo eles, é praticamente irrelevante para os problemas atuais; e a Computação quântica ainda está em um estágio inicial e pode ter pouco impacto nos próximos 15 anos.
Os futuristas destacaram três grandes riscos associados aos desenvolvimentos em software de computador, como segue.
Competição de IA causando problemas
Nossos especialistas sugeriram que a postura de muitos países em relação à IA como uma área em que desejam obter uma vantagem competitiva e tecnológica incentivará os desenvolvedores de software a assumir riscos no uso da IA. Isso, combinado com a complexidade e o potencial da IA para superar as habilidades humanas, pode levar a desastres.
Por exemplo, imagine que atalhos nos testes levem a um erro nos sistemas de controle dos carros fabricados após 2025, que passa despercebido em meio a toda a complexa programação da IA. Ele poderia até mesmo ser vinculado a uma data específica, fazendo com que um grande número de carros começasse a se comportar de forma errática ao mesmo tempo, matando muitas pessoas em todo o mundo.
IA generativa
A Generative AI pode tornar impossível determinar a verdade. Há anos, fotos e vídeos são muito difíceis de serem falsificados e, por isso, esperamos que sejam genuínos. A IA generativa já mudou radicalmente essa situação. Esperamos que sua capacidade de produzir mídia falsa convincente melhore, de modo que será extremamente difícil dizer se uma imagem ou vídeo é real.
Suponha que alguém em uma posição de confiança - um líder respeitado ou uma celebridade - use a mídia social para mostrar conteúdo genuíno, mas ocasionalmente incorpore falsificações convincentes. Para aqueles que os seguem, não há como determinar a diferença - será impossível saber a verdade.
Ataques cibernéticos invisíveis
Por fim, a grande complexidade dos sistemas que serão construídos - redes de sistemas de propriedade de diferentes organizações, todos dependentes uns dos outros - tem uma consequência inesperada. Será difícil, se não impossível, chegar à raiz do que faz as coisas darem errado.
Imagine um criminoso cibernético invadindo um aplicativo usado para controlar dispositivos como fornos ou geladeiras, fazendo com que todos os dispositivos sejam ligados ao mesmo tempo. Isso gera um pico na demanda de eletricidade na rede, criando grandes quedas de energia.
Os especialistas da empresa de energia acharão difícil identificar até mesmo quais dispositivos causaram o pico, sem falar que todos são controlados pelo mesmo aplicativo. A sabotagem cibernética se tornará invisível e impossível de distinguir dos problemas normais.
Jiu-jitsu de software
O objetivo de tais previsões não é semear o alarme, mas permitir que comecemos a abordar os problemas. Talvez a sugestão mais simples dos especialistas tenha sido uma espécie de jujitsu de software: usar o software para se proteger e se proteger contra si mesmo. Podemos fazer com que os programas de computador realizem suas próprias auditorias de segurança criando um código extra que valide a saída dos programas - efetivamente, código que verifica a si mesmo.
Da mesma forma, podemos insistir que os métodos já utilizados para garantir a operação segura do software continuem a ser aplicados às novas tecnologias. E que a novidade desses sistemas não seja usada como desculpa para ignorar as boas práticas de segurança.
Soluções estratégicas
Mas os especialistas concordaram que as respostas técnicas por si só não serão suficientes. Em vez disso, as soluções serão encontradas nas interações entre humanos e tecnologia.
Precisamos desenvolver as habilidades necessárias para lidar com esses problemas de tecnologia humana e novas formas de educação que abranjam várias disciplinas. E os governos precisam estabelecer princípios de segurança para suas próprias aquisições de IA e legislar sobre a segurança da IA em todo o setor, incentivando métodos responsáveis de desenvolvimento e implantação.
Essas previsões nos dão uma série de ferramentas para lidar com os possíveis problemas do futuro. Vamos adotar essas ferramentas para concretizar a empolgante promessa de nosso futuro tecnológico.