Para Luciano Floridi, o filósofo vivo mais citado no mundo e um dos principais pensadores da ética em IA, a verdadeira revolução que estamos presenciando é a capacidade das máquinas para resolver problemas ou lidar com qualquer tarefa, mesmo sem contar com nenhuma inteligência.
Por Dora Kaufman* 05/06/2023 para https://epocanegocios.globo.com/tecnologia/noticia/2023/06
Luciano Floridi, o filósofo vivo mais citado no mundo, e um dos principais pensadores da ética em IA — Foto: Divulgação
O ChatGPT despertou o mundo para a inteligência artificial, consagrando-se como o “hype da vez”. No meio de uma avalanche de manifestações, com muitas informações desencontradas, é um privilégio poder ouvir com exclusividade o filósofo italiano Luciano Floridi, professor na Universidade de Oxford e na Universidade de Bolonha, que a partir de setembro será diretor do Centro de Ética Digital da Universidade Yale, nos Estados Unidos.
Entre inúmeros prêmios, em 2020 foi agraciado como “Cavaleiro da Grã-Cruz da Ordem do Mérito”, a mais prestigiosa honraria da Itália; no mesmo ano, foi o filósofo vivo mais citado no mundo. Um dos principais pensadores da ética em inteligência artificial, autor ou coautor de uma infinidade de artigos, está engajado em identificar e equacionar os desafios da IA, tendo atuado como consultor da Comissão Europeia, suas reflexões são referências mundo afora.
Confira a seguir a íntegra da entrevista.
ÉPOCA NEGÓCIOS Como não podia deixar de ser, dada a repercussão, a primeira pergunta é sobre a carta aberta do Future of Life Institute, lançada em 28 de março, propondo uma moratória de 6 meses aos laboratórios de desenvolvimento de IA, com o endosso de alguns membros importantes da comunidade científica. Por que o senhor não assinou essa carta?
LUCIANO FLORIDI Eu não assinei essa carta por quatro razões. Primeiramente, é inútil, porque chega atrasada. A pasta de dente já está fora do tubo, não é possível colocar de volta para dentro. Então, parece mais uma ação de relações públicas. A segunda razão é que seus fundamentos parecem mais com o que eu considero ficção científica: ela usa como base uma descrição genérica do que seja a inteligência artificial dominando o mundo, cenário sobre o qual não precisamos nos preocupar. Existem sérios problemas, mas na carta eles são apresentados de forma retórica, sem fundamentos científicos. A terceira razão é que a carta é pouco informativa sobre as legislações que estão vindo. O texto não diz uma única palavra sobre elas, desconsidera o intenso trabalho nessa direção mundo afora. A quarta razão é que a carta é hipócrita, promovida por pessoas responsáveis por gerar o hype. Ela distrai dos problemas reais. A Carta é inútil, desfocada, não informativa, e hipócrita. Eu não posso assiná-la.
NEGÓCIOS O outro evento que viralizou no final de março foi a decisão da autoridade de proteção de dados da Itália (Garante per la Protezione dei Dati Personali, GPDP) de bloquear o ChatGPT com base no argumento de que os dados de cidadãos italianos usados para treinar o modelo foram coletados sem consentimento, e sem verificação de idade. Como o senhor vê essa decisão, que tende a ser seguida por outros países da Comunidade Europeia?
FLORIDI Acho que foi uma decisão radical. Claro, trata-se de uma decisão legal, legítima e justificada com base nas leis europeias. No entanto, havia espaço para interpretação e manobra, e esse espaço não foi utilizado. A Garante decidiu apelar para prerrogativas extremas, em uma decisão, como se diz em inglês, “draconiana”. Não estou convencido seja a melhor alternativa na execução de suas funções. Os instrumentos legais não são muito adequados e a medida foi implantada de maneira extrema. Proibir não seria minha recomendação. Espero que essa decisão não seja seguida por outros países europeus. O que nós precisamos é de uma boa regulamentação de IA e, até que tenhamos esta regulamentação, que predomine alguma compreensão inteligente e poderosa, tolerante e completa desta tecnologia, com mais diálogo, e não uma “guerra”.
NEGÓCIOS Em artigo de 2021 (The End of an Era: from Self-Regulation to Hard Law for the Digital Industry), o senhor declarou o fim da ilusão de autorregulação pelas empresas de tecnologia, defendendo a regulamentação da IA pelos governos, como a proposta da Comissão Europeia (AI Act). Depois de quase dois anos e mais de 3.000 emendas, a Comissão Europeia está perto de ter uma proposta final consistente? Como lidar com a lacuna de conhecimento dos reguladores e a crescente complexidade e aceleração das inovações em IA?
FLORIDI Primeiramente, deixe-me defender uma abordagem filosófica. Precisamos pensar em termos do que será o futuro, em vez do que tem sido o passado. Legislações frequentemente olham para o passado, tentando aprender com ele para projetar o futuro. No entanto, quando a tecnologia muda tão rápido, tão disruptivamente, confiar no passado não é suficiente e, frequentemente, traz uma visão míope. Precisamos olhar mais para o futuro e, por exemplo, ter uma legislação sobre IA não baseada nos tipos de serviços de IA, mas no que fazemos com a IA. Isso seria, se nāo atemporal, pelo menos duradouro, à prova do futuro. Deixe-me dar um exemplo: no caso do ChatGPT, não importa qual tipo de IA está por trás da solução tecnológica, o que importa é para que ela é usada. Hoje é ChatGPT, amanhã é outra coisa. Imagine que, em seis meses, por algum incrível avanço científico, tenhamos IA rodando em computação quântica, o que faremos? Começar novamente do zero? Claro que nāo, se tivermos olhado para os usos que fazemos da IA. Deixe-me dar outro exemplo e depois seguimos em frente.
A legislação atual é baseada na segurança do produto, tanto para um carro quanto para um micro-ondas. No caso da IA, esse não é o melhor jeito. Devemos legislar sobre essa nova tecnologia observando como a implementamos e como a usamos. Por exemplo, os sistemas de reconhecimento facial podem ser terríveis ou salvar vidas; temos reconhecimento facial em nossos celulares, o que é mais seguro do que as senhas; mas o reconhecimento facial é considerado por alguns como um sistema extremamente perigoso. Ele certamente pode ser usado de maneira perigosa, assim como também pode ser usado de maneira conveniente e segura. O mesmo ocorre com o ChatGPT. Voltando a sua questão, devemos criar uma legislação de longo prazo, olhando profundamente para o futuro. Isso é o que eu chamo de uma abordagem filosófica.
NEGÓCIOS Outro tema frequente nos debates sobre IA é o poder das grandes empresas de tecnologia, as chamadas big techs. Essas companhias não criam produtos e serviços, mas sim ecossistemas controladores de dois insumos críticos da economia digital: dados e interconexões. A partir dessa posição privilegiada, as big techs monitoram o mercado em prol de inovações alinhadas aos seus interesses, esmagando as inovações que as ameaçam. Os sistemas de IA cada vez mais robustos favorecem ainda mais a concentração de mercado. Considerando que as leis antitruste estão desatualizadas, como enfrentar as ameaças da IA à pluralidade do mercado, ao livre comércio, à própria democracia?
FLORIDI Eu diria que reformando as leis antitruste. As leis antitruste são baseadas em considerações puramente econômicas, que eram boas no passado, quando foram criadas, especialmente nos EUA. A legislação dos EUA associada à tecnologia é fundamentalmente antitruste. A Europa, por sua vez, olha para os direitos fundamentais, a dignidade humana, que é a base das legislações europeias de tecnologia. O foco nos EUA são as salvaguardas antitruste visando proteger os consumidores, quer estar protejam os usuários ou não. Ou seja, o foco é em considerações econômicas, como preço, o que não se aplica aos produtos gratuitos, como o ChatGPT, ou com valores muito baixos, como o acesso à versão paga por apenas US$ 20 por mês.
Obviamente, olhamos para algum tipo de oligopólio extremamente poderoso, com pouquíssimas empresas controlando muitas tecnologias. Como poderíamos melhorar isso reinventando as leis antitruste para o século 21? Para fazer isso, as leis antitruste devem ser favoráveis à democracia, não apenas favoráveis ao mercado. Hoje transformamos a política em economia política, e a economia política olha para as leis antitruste como algo aceitável de qualquer maneira. Mas, se você reestabelecer o equilíbrio entre política e economia e disser, ‘Veja, a economia costumava estar a serviço da política’, podemos interpretar o antitruste não apenas como impulsionado pela economia, mas também pela democracia. Nesse ponto, você olha para essas empresas e decide que elas não estão prestando um bom serviço em termos de escolha, possibilitando irmos por um caminho ou por outro; a partir daí podemos começar a reorganizar as leis antitruste. Até que façamos isso, não acho que a América terá uma boa legislação sobre essa revolução tecnológica.
NEGÓCIOS O senhor está ciente da petição para a criação do “CERN for AI”? O CERN – Conseil Européen pour la Recherche Nucléaire – é um laboratório de física de partículas fundado em 1954, que atualmente agrega 23 estados-membros. Localizado perto de Genebra, na Suíça, conta com pelo menos 100.000 aceleradores, operados por especialistas e supervisionados por instituições eleitas pelas nações participantes. O projeto defende que, mais do que desacelerar o desenvolvimento da tecnologia, é preciso promover um ambiente colaborativo, transparente e seguro, o que competiria à uma instituição pública.
FLORIDI Esta questão já vem sendo debatida há algum tempo, com diferentes abordagens. Quando essa nova onda de tecnologias de IA galgou às manchetes e se tornou um tópico popular, as pessoas imediatamente começaram a dizer: “Oh, precisamos ter laboratórios de pesquisa estatais, um grande laboratório europeu, talvez um CERN para IA”. Tenho duas considerações aqui e ambas são críticas. Número um, se você olhar a história dos laboratórios nacionais para IA, não vai encontrar grandes sucessos. A Alemanha, a Itália e a França tiveram, e ainda têm grandes instituições nacionais de IA. Você já ouviu falar delas? Não. A nova revolução da IA veio dessas instituições? Não, veio das empresas. Desde o início, veio dos laboratórios de pesquisa e desenvolvimento de empresas.
Isso me faz desconfiar da ideia de desperdiçar dinheiro público em organizações monumentais e depois constatar que elas não são produtivas, não valem o dinheiro investido. Na prática, isso significa que os cidadãos irão manter a burocracia funcionando com seus impostos, enquanto as inovações acontecem de qualquer maneira em outro lugar. Então, eu sou um grande cético sobre essa ideia. O CERN funciona apenas porque não seria possível para o setor privado montar uma estrutura com este tamanho, exatamente pelas razões mencionadas. Não existe retorno financeiro nesse projeto, exceto talvez se considerarmos um prazo muito longo. A ciência básica de partículas não pode ser transformada instantaneamente em um aplicativo de telefone, e por isso o CERN só pode ser um investimento do Estado, da sociedade. Isso é crucial, não existe competição nessa área. Ele não é motivado por questões financeiras e custa caríssimo. Todas estas razões explicam por que o CERN é necessário. Mas um CERN para IA não me parece razoável.
A segunda razão, que está vinculada à primeira, é que provavelmente ficou tarde demais. Mais uma vez, precisamos ser realistas e reconhecer que as grandes empresas gastam milhões ou bilhões de dólares promovendo a revolução da IA. Então ok, podemos criar um CERN para IA, mas será um pequeno ator em um grande cenário onde a Microsoft, o Google, a Meta/Facebook e os grandes gênios do mundo é que farão a diferença. Inclua também nesse cenário a China e o Japão.
Concluindo: provavelmente é inútil, e muito tarde. De qualquer forma, eu não apoio. Seria muito caro e um desperdício de recursos. Com uma fração dos recursos que seriam gastos num CERN para IA, poderíamos produzir e implementar uma legislação adequada. Em vez disso, podemos pensar em uma agência europeia com a função de auditar as empresas que controlam e/ou utilizam a IA. Na Europa, já temos agências com esse perfil atuando na indústria farmacêutica, em equipamentos médicos, para definir padrões na indústria, etc. Seria muito bom se pudéssemos ter uma agência para a IA.
NEGÓCIOS Em um artigo de 2021 (“The AI gambit: aproveitando a inteligência artificial para combater as mudanças climáticas-oportunidades, desafios e recomendações”), o senhor chama a atenção para a urgência em buscar evidências sobre o trade off entre as emissões de CO2 geradas pelo processamento de sistemas de IA e os ganhos em eficiência energética. Os danos ao meio ambiente só aumentam à medida que mais e mais dados são inseridos no treinamento dos sistemas de IA (com mais consumo de energia, há mais emissão de CO2). O senhor vê algum progresso real sendo feito nessa direção em algum lugar do mundo?
FLORIDI Receio que não, não o suficiente. Se você pensar sobre o que estamos fazendo hoje em dia, nos últimos meses estivemos completamente distraídos, todo mundo falando apenas no ChatGPT, LLMs, a próxima grande novidade, o Google aqui, Bing ali, etc. Esses são sistemas de grande impacto. Consomem muita energia. Para que os usamos? Para fazer algo de bom para o meio ambiente? Não. Usamos apenas para satisfazer ideais capitalistas e consumistas, cultural e economicamente. Isso é um verdadeiro desastre. Mas não devemos ser pessimistas, e sim ficar frustrados. Porque a frustração vem de perceber a oportunidade de usar essa incrível tecnologia para salvar o meio ambiente, e ao mesmo tempo salvar a sociedade, e ao invés disso estamos fazendo mais do mesmo, ou seja, polarização entre ricos e pobres, e destruição do planeta. É como dizer que temos um recurso incrível que se torna cada vez mais poderoso para salvar o meio ambiente, mas em vez disso o usamos para agredir ainda mais o que restou dele. Isso não é imaginável, isso é uma forma de autodestruição e não vai acabar bem.
NEGÓCIOS Em artigo de fevereiro (AI as Agency without Intelligence: on ChatGPT, large language models, and other generative models ), o senhor argumenta que os grandes modelos de linguagem representam uma separação entre agência e inteligência. Não se trata de superar a visão antropocêntrica da inteligência e considerar a possibilidade de uma “inteligência de máquina”?
FLORIDI Nesse debate sobre o que realmente é a IA, estou ciente que sou o único que defendo esse argumento, e admito que posso estar completamente errado. Em dez anos as pessoas podem estar rindo do que eu disse: “Oh, coitado, você deve esquecê-lo completamente, falou bobagem”. Mas acho que a verdadeira revolução que estamos presenciando não é uma revolução na inteligência, mas na agência. É a capacidade das máquinas, a habilidade de resolver problemas ou lidar com qualquer tarefa com inteligência zero. Essa, me parece, é a verdadeira revolução com a qual estamos lidando. É como dizer: “Olha, temos uma nova força em nosso ambiente, que não é cérebro, nem inteligência, nem consciência e nunca será”. Não é como dizer “ainda não” ou “estamos quase lá”. Não, nós optamos por um caminho diferente. Nesse caminho, eu posso usar essa máquina de resolução de problemas imediatos ou de execução de tarefas, cada vez mais e mais. Quando as pessoas dizem “Ah, ainda não é inteligente, ainda não tem consciência”, como dizem os brasileiros, eu diria que o buraco é mais embaixo. É mais profundo do que isso, mais complicado. É uma ideia boba pensar que criamos algum tipo de inteligência. Não, não criamos. Criamos algo que age com sucesso, mesmo tendo zero inteligência. Isso é um milagre tão extraordinário como o outro cenário, e que gera problemas diferentes. Então, meu ponto aqui é que, quando um cientista diz que a máquina ainda não é inteligente, mas que “chegaremos lá”, é como se dissesse que vamos conseguir chegar em São Paulo, quando na verdade estamos indo para o Rio. Estamos a caminho da inteligência de máquina? Não, porque não tomamos esse caminho, nós outro diferente.
Eu resisto a apoiar meus colegas, que são cautelosos e por isso não querem dizer nem sim nem não, falam apenas “ainda não”, e assim sempre podem ter razão. O que eu tenho dito, por exemplo, é que podemos usar a palavra inteligência de um milhão de maneiras. Eu posso dizer “máquina inteligente”, da mesma forma como chamo meu telefone de smartphone. É inteligente? Na verdade, não. Eu chamo de smart porque eu posso fazer muitas coisas com ele. Eu chamo de luminária smart, de carro smart, etc. Então podemos falar de inteligência de máquina? Sim, por que não? Contanto que saibamos o que estamos dizendo. Quer dizer, a máquina inteligente não é mais inteligente do que a minha geladeira. Ok, um ChatGPT é diferente de uma geladeira, mas não tem nada a ver com inteligência. Não tem a ver com compreensão, com sentido, nada. Em inglês, por exemplo, dizemos “o sol nasce de manhã” e continuamos dizendo isso. Claro que sabemos que o sol não vai a lugar nenhum, não é o sol que nasce, somos nós, mas no passado dissemos que o sol nascia, e assim ficou. Falamos sobre cavalos de potência (HP) para carros, e é claro que sabemos que não há cavalos no motor dos carros. Então, se você quiser falar sobre inteligência de máquina, não vejo problema.
Cavalos de potência, nascer do sol, inteligência de máquina, tudo isso é mero vocabulário. Nessas ações existe intencionalidade? Porque, para ser inteligente, por exemplo, tem que ter um plano. Não, zero intencionalidade. Tem entendimento? Claro que não. Ok, não entende, não tem intenção, não pode mudar de ideia. Oh, mas eu considero como “inteligência”. Tudo bem, é apenas uma palavra.
Há muitas coisas sobre as quais estamos confusos. Por exemplo, o que queremos dizer com inteligência. Temos literalmente dezenas de definições de inteligência, dependendo da disciplina: temos inteligência na psicologia, na filosofia e na ética. E temos igualmente dezenas de definições de inteligência artificial. Minha definição preferida vem de uma piada: a inteligência seria o oposto às milhões de formas que alguém pode agir estupidamente. Por exemplo, imagine esses exemplos da vida real: esqueci minha senha, isso é burrice, ser inteligente é não esquecer a senha. Falo a coisa errada para a pessoa errada, num dia ruim ofendo um amigo, isso é estupidez, ser inteligente é não fazer isso. Eu não sei como calcular o saldo da minha conta bancária, isso é igualmente estúpido. Ser inteligente é calcular o saldo adequadamente. E assim temos muitos exemplos. Fechei a porta na minha mão, é estúpido? Oh, sim! Seria inteligente não fechar a porta com a mão ali, etc.
Então, temos inteligência social, inteligência musical, inteligência matemática, inteligência lógica, e por aí vai. Tem tanta coisa que a gente pode colocar na palavra “inteligência”, que esta acaba podendo significar qualquer coisa. Então, se quisermos dizer “Olha, as máquinas são inteligentes”, tudo bem. Mas a única coisa que eu peço é que você não pense que elas têm a inteligência de um rato, de um camundongo, ou de um ser humano. É uma categoria diferente de qualquer animal que conhecemos. Então você pode chamar como quiser, não importa. Mas importa se as pessoas começarem a pensar que as máquinas podem se reproduzir, ter planos, intenções e desejos, e um dia conquistar o mundo. Sério? Isso para mim é ficção científica. Vou morrer convencido de que esse mundo não vai acontecer, mas posso estar errado. Ficarei feliz em voltar daqui a cinco ou dez anos e constatar que eu estava completamente errado, e o ChatGPT ficou mais inteligente do que eu. Isso pode ser possível….(risos).
*Dora Kaufman é professora do TIDD PUC – SP, autora dos livros A Inteligência Artificial Irá Suplantar a Inteligência Humana? e Desmistificando a Inteligência Artificial.
LEIA TAMBÉM:
