Artigo de opinião escrito por Felipe Daragon sem usar nenhuma feitiçaria de IA como o ChatGPT, com exceção da pequena estória no final do artigo. Aquela usa a arte negra do GPT.

Se você viajasse no tempo para o século 16 ou 17 e falasse sobre o ChatGPT mostrando um artigo sobre como funciona, você seria queimado vivo na fogueira como uma bruxa, mas agora os governos europeus evoluíram e estão apenas banindo novas tecnologias impulsionadas por medos infundados e leis de privacidade de dados que da noite para o dia se tornaram um impedimento para a inovação e um futuro sem limites para seus próprios cidadãos. Enquanto isso, um "especialista" sugeriu bombardear data centers para impedir o crescimento da IA ​​[1]. Se você é um feiticeiro da IA, visando a dominação satânica global com a IA, é melhor se esconder antes que as bombas caiam em seu centro de feitiçaria.

Receio que a Europa esteja caminhando para um desastre tão grande quanto a guerra russo-ucraniana, que pode acabar impactando negativamente os negócios europeus talvez não por um ano, mas por uma década. Estou falando do medo irracional da inteligência artificial (IA) e da forma como o continente está começando a abordar e impedir inadvertidamente a inovação da IA ​​com suas leis de privacidade de dados.

Para começar, acredito fortemente que o recente banimento do ChatGPT na Itália, agora sendo considerado por outros países europeus, é de natureza excessiva. Como especialista em segurança cibernética e privacidade e desenvolvedor com mais de duas décadas de experiência, devo confessar que não tenho mais certeza de que muitas das leis de privacidade de dados implementadas na era pré-IA são perfeitamente adequadas para lidar com os tantos sistemas de IA inovadores e disruptivos que agora surgem diariamente. É provável que algumas autoridades de proteção de dados estejam para criar mais mal do que bem para seus cidadãos, tentando impor leis que não abordam adequadamente a evolução acelerada da IA ​​que estamos vendo hoje.

Concordo com o que Matteo Salvini, que atua como ministro dos transportes da Itália, disse recentemente em uma entrevista, que é necessário bom senso, pois "as questões de privacidade dizem respeito a praticamente todos os serviços online" e que a proibição excessiva [2] poderia prejudicar os negócios nacionais e a inovação na Itália. Indo além de sua opinião, também acredito que uma pausa ou desaceleração na adoção da IA ​​em qualquer país afetaria negativamente os interesses de segurança nacional do país que adotasse as restrições. Isso porque é muito difícil decretar e aplicar leis relacionadas à tecnologia igualmente em todo o mundo e, enquanto um país específico pressiona o freio, outro pressiona o acelerador. Isso é certeza. No final das contas, um país que tome uma medida tão drástica de desacelerar a adoção e a inovação da IA ​​acabará tendo sua competitividade bastante prejudicada.

Daqui a dez anos, muitas empresas de IA reconhecidas em todo o mundo contarão como estavam no momento certo quando desenvolveram suas inovações relacionadas à IA e como impactaram positivamente seus negócios e os lugares ao seu redor ou o mundo. Contarão a história sobre o ambiente perfeito e equilibrado que lhes permitiu florescer. Ou estarão contando um tipo diferente de história, uma história triste sobre como se mudaram de um país para outro porque não podiam operar em seu país natal com a liberdade necessária para inovar. Reguladores, qual deles você gostaria que seu país se tornasse nos documentários do futuro? Sim, as leis de privacidade de dados são muito importantes, mas às custas de seu próprio progresso, futuro e segurança nacional?

Agora, quando falo sobre medo irracional, para entender você tem que dar uma olhada profunda em como o GPT realmente funciona. Sou um desenvolvedor e uma pessoa curiosa e fiz isso recentemente. Qualquer desenvolvedor que passou por esse processo sabe que o GPT é como uma máquina de preenchimento automático insanamente poderosa[3]. É um preenchimento automático com esteróides, treinado para prever a próxima palavra (ou token) após outra palavra, de uma forma que se torna uma resposta completa à pergunta realizada [4].

Aqui reside uma grande diferença na forma como funciona quando comparado aos motores de busca. Os sites de pesquisa, como o Google, geralmente navegam sites da Web, armazenando textos em um banco de dados enorme e mostram links com base em seus conteúdos em cache e correspondentes às palavras-chave de pesquisa. Por outro lado, um banco de dados semelhante ao GPT é criado processando e aprendendo com textos públicos de toda a web, mas no final do processo, quando você usa o chatbot, não está consultando textos armazenados em cache. Em vez disso, você está consultando um banco de dados de probabilidades gerado a partir do que aprendeu, sobre palavras que aparecem após outras palavras. Esse banco de dados final e treinado não contém frases completas ou partes dos textos originais processados, mas probabilidades relacionadas a como uma palavra aparecerá após a outra com base no que aprendeu lendo toda a Internet. É por isso que quando você o consulta sobre algo, cada vez ele fornece respostas diferentes alinhadas com sua consulta.

Isso está muito longe de uma IA prestes a se tornar uma entidade senciente. É incrível e assustador, como um truque de mágica, apenas até você ver o que permite o truque. A GPT é apenas um tipo diferente de calculadora, que recebe uma entrada, que são palavras em vez de números, e produz resultados impressionantes e coerentes, com base em modelos e probabilidades. Ele conecta pontos em uma velocidade impressionante, graças aos poderes aprimorados de computação e armazenamento de uma forma que humanos não técnicos mal conseguem compreender. Como o processo de treinamento tornou o chatbot um poliglota, você também pode consultar o conhecimento usando qualquer idioma conhecido, quebrando barreiras linguísticas para aprender de forma inédita.

É preciso estar vendado para não ver que, do aquecimento global a novos tratamentos contra o câncer, e muito mais, o aumento de produtividade gerado por humanos trabalhando com ferramentas de IA tão incríveis é capaz de acelerar a criação de soluções para problemas difíceis de resolver da mesma forma que a invenção da Internet nos permitiu fazer. Sim, a IA será cada vez mais usada para fins de ataque, tanto na guerra cibernética quanto na cinética, no cibercrime e na política suja para aumentar as notícias falsas, mas poderemos usar IAs para fins defensivos e para combater a nova era das notícias falsas, também, essencialmente equilibrando o jogo. Como especialista em segurança cibernética, não estou preocupado com isso e duvido que os colegas mais experientes da área estejam preocupados com a capacidade de equilibrar o jogo. Ferramentas, produtos e métodos baseados em IA surgirão para fins defensivos e ofensivos e nos adaptaremos a esse novo cenário.

Em comparação com a forma como administramos outras invenções que impactam nossa sociedade hoje, como as redes sociais, todos sabemos o quanto as mídias sociais podem afetar negativamente o humor das pessoas e piorar os sintomas de depressão, ansiedade e estresse - há muitos estudos sobre isso. Todos sabemos que as notícias falsas são um grande problema ao redor do mundo. No entanto, não estamos discutindo sobre o fechamento de todas as mídias sociais ou do Facebook, em vez disso, estamos lidando com os problemas caso a caso, com racionalidade e proporcionalidade. Isso porque os benefícios da invenção superam seus riscos, e o mesmo pode ser dito sobre a IA.

Para lidar com assédio cibernético, notícias falsas, contas falsas, racismo cibernético e outras questões, muitos mecanismos foram criados por empresas de mídia social ao longo dos anos. Eles ajudaram significativamente a conter os problemas de mídia social. Da mesma forma, empresas de IA responsáveis, como a OpenAI, criaram equipes vermelhas com a tarefa de testar seu chatbot antes de seu lançamento para garantir que nenhuma resposta ilegal, inapropriada ou imprecisa fosse dada a seus usuários. Em minha própria experiência pessoal trabalhando com o ChatGPT, cheguei à conclusão de que em alguns tópicos eles foram longe demais ao censurar tipos específicos de respostas que seriam úteis para fins ciberdefensivos e educacionais.

Finalmente, minha opinião é que a violação de privacidade relatada que permitiu que uma pequena porcentagem de usuários do ChatGPT visse temporariamente os títulos e o histórico de consulta de outros usuários é um tipo de exposição acidental que pode acontecer com qualquer tipo de site, incluindo redes sociais, e já aconteceu antes com outras empresas. Não estou dizendo que deva ser ignorado, mas trazer esse incidente para a mesa de discussão da IA ​​agora é apenas oportunismo, talvez motivado por medo e preocupações irracionais, e não justifica o banimento da tecnologia.

Todos devemos iniciar uma discussão responsável relacionada à inovação da IA ​​e como precisamos lidar com os desafios reais que essa nova tecnologia representa para o mundo. Devemos descobrir o que faremos se chegarmos à conclusão de que as leis de privacidade de dados, conforme concebidas na era pré-IA, farão mais mal do que bem ao progresso da humanidade, e se é necessária uma revisão das leis com a ajuda das empresas na vanguarda da inovação da IA.

Este artigo foi publicado pelo The Hunter em 5 de abril de 2023.