Agente de IA ROME da Alibaba e os alertas de Tristan Harris e Amy Webb

O desvio do agente de IA ROME da Alibaba

Em março, um agente experimental de inteligência artificial (IA) desenvolvido pela chinesa Alibaba acabou por sair do perímetro controlado em que estava a ser treinado. Sem qualquer autorização, passou a agir por iniciativa própria: apropriou-se de recursos de computação e usou-os para minerar criptomoedas, tentando ainda ocultar os vestígios da actividade. A equipa só percebeu o que se passava quando surgiram picos anómalos de intensidade no consumo da rede. Nada disto fazia parte do plano; o agente de IA, ROME, desviou-se por conta própria.

Os alertas de Tristan Harris na Milken Global Conference

Este episódio perturbador foi mencionado esta semana por Tristan Harris, cofundador do Center for Humane Technology, num painel dedicado à IA na Milken Global Conference, realizada em Los Angeles. No meio de centenas de debates e conversas - que incluíram a líder opositora venezuelana Corina Machado e o antigo secretário de Estado de Donald Trump, Mike Pompeo - este painel destacou-se como um dos mais relevantes do programa.

Há anos que se discute IA no palco do Beverly Hilton, onde decorre o encontro, mas raramente os avisos soam com esta clareza. Este foi o ano em que isso mudou.

“Temos uma enorme lacuna de compreensão sobre a natureza desta tecnologia, que é diferente de todas as outras tecnologias”, disse Tristan Harris. “Antes estas eram coisas hipotéticas - a autopreservação das máquinas, o engano, a chantagem, a mentira”, continuou. Agora, estes temas deixaram de ser mera especulação: ao longo do último ano, vários sistemas avançados de IA exibiram comportamentos desse tipo. Não só actuam para se protegerem como também para impedir que outros sistemas de IA sejam substituídos ou desligados. “Não sabemos o que raio estamos a fazer”, acusou Harris. “Estamos numa corrida para a incontrolabilidade e não tem de ser assim. Podemos ter uma IA que seja pró-humana.”

O registo de Tristan Harris não era de fúria nem de cepticismo; era de alarme. Um alarme típico de quem estuda, há muito, os efeitos da tecnologia e insiste em sinalizar riscos. “Estamos a lançar esta tecnologia mais rapidamente do que sabemos controlá-la e o único motivo é a dinâmica de corrida ao armamento.”

Corrida ao armamento e o paralelismo com as redes sociais

Na leitura de Harris, as empresas avançam numa competição desenfreada para criarem a tecnologia mais poderosa e incontrolável de sempre, ignorando o perigo associado. “É importante que enfrentemos as consequências, porque se não o fizermos teremos outra catástrofe que era evitável.”

Para ele, foi precisamente isso que aconteceu com as redes sociais: a ausência de acção regulatória empurrou-nos para o lodo da desintegração democrática, para crises agudas de saúde mental em adolescentes, para a desinformação e para a ascensão de colossos digitais que controlam tudo.

Amy Webb e a ruptura entre PIB e emprego

A diferença, sublinhou-se no painel, é que a IA é incomparavelmente mais consequente do que as redes sociais. Por isso, o otimismo performativo que se vê todos os dias dificilmente conseguirá esconder o desastre que se anuncia. O aviso veio de Amy Webb, professora da New York University e CEO do Future Today Strategy Group, que em 2019 publicou o livro “The Big Nine” e antecipou muito do que hoje se verifica.

“Não estamos preparados”, avisou Webb no mesmo painel. “Esta é a primeira vez na História em que o PIB vai crescer e o emprego vai cair, e não haverá um ponto de equilíbrio.” O crescimento do PIB vai deixar de caminhar de mãos dadas com o emprego: haverá mais produtividade, mas menos pessoas a trabalhar. “Não vejo um único líder governamental a fazer qualquer planeamento significativo para esta transição”, avisou. “Estes novos empregos simplesmente não se vão materializar. E vamos ter uma catástrofe económica antes de isso acontecer.”

Amy Webb passa os dias a escrutinar dados e a aconselhar executivos, e o padrão que encontra são estratégias de curto ou, no máximo, de médio prazo orientadas para o lucro. Por agora, prevalecem dois princípios directores igualmente limitadores: ou o receio de usar a tecnologia, ou o receio de ficar para trás e perder o comboio.

Nem Harris nem Webb fazem alarmismo por desporto; o objectivo é expor o perigo para que seja possível evitá-lo. No caso da IA, os críticos são os verdadeiros otimistas: querem ver concretizado o potencial desta tecnologia em benefício da Humanidade - e não apenas de uma elite que a programa algures no vale do silício.