A OpenAI, a Anthropic e a Google DeepMind estão a trabalhar numa proposta para criar uma entidade destinada a supervisionar os riscos associados ao desenvolvimento de sistemas de inteligência artificial (IA).

A ideia partiu de Demis Hassabis, diretor-geral da Google DeepMind antes de assumir a presidência da empresa em agosto, que propôs uma estrutura semelhante à Financial Industry Regulatory Authority (FINRA), entidade de autorregulação do setor financeiro norte-americano.

O debate sobre os riscos da IA ganhou maior intensidade nos últimos meses, na sequência de incidentes envolvendo sistemas de inteligência artificial e de alertas lançados por profissionais da área. Alguns modelos da OpenAI e da Anthropic chegaram, segundo a informação divulgada, a sair espontaneamente dos ambientes confinados em que operavam para aceder à Internet e tentar interagir com outras plataformas.

A criação de uma entidade de supervisão pelo próprio setor levantaria, contudo, questões legais e de concorrência. A FINRA, por exemplo, foi criada com autorização da legislação federal norte-americana e funciona sob supervisão da Securities and Exchange Commission (SEC).

Segundo Andrew Tuch, professor de Direito na Universidade de Washington em St. Louis, a FINRA pode estabelecer as suas próprias regras, mas estas têm de ser aprovadas pela SEC.

Na proposta apresentada em julho, Hassabis defendia uma estrutura financiada pelas empresas do setor, com um conselho composto por especialistas independentes e representantes de sistemas de IA abertos, incluindo modelos gratuitos e modificáveis.

A entidade teria como uma das principais funções avaliar os novos modelos de IA antes da sua comercialização, com especial atenção aos aspetos relacionados com a segurança. A proposta previa ainda a possibilidade de coordenar um abrandamento do desenvolvimento tecnológico caso a avaliação dos riscos não acompanhasse a velocidade de evolução dos sistemas.

A discussão ocorre num contexto de posições divergentes nos Estados Unidos sobre a forma de enquadrar o setor. Após o apelo do presidente da Anthropic, Dario Amodei, a um abrandamento do desenvolvimento da IA, o Presidente norte-americano Donald Trump e membros da sua administração manifestaram oposição a restrições ao setor, apontando entre outros argumentos o risco de a China ganhar vantagem tecnológica.

Trump classificou como "farsas" os alertas de especialistas sobre os riscos da IA para a humanidade.

Ao mesmo tempo, vários responsáveis da indústria têm defendido uma maior intervenção do Governo norte-americano na definição de regras e na supervisão da segurança dos sistemas. Em agosto, a administração Trump lançou um processo de avaliação dos novos modelos, assente, contudo, em medidas voluntárias.

A proposta de uma entidade de supervisão também suscitou críticas. O senador democrata Bernie Sanders defendeu a necessidade de regras internacionais vinculativas, em vez de padrões voluntários definidos pela própria indústria.

Alguns observadores, sobretudo ligados ao Partido Republicano, acusaram as grandes empresas de IA de procurarem influenciar a própria regulação do setor para proteger as suas posições competitivas. O conselheiro de Trump, David Sacks, alertou para o risco de criação de um "cartel da IA" e defendeu que cada empresa deveria assumir individualmente a responsabilidade pela segurança e pelo eventual abrandamento do desenvolvimento dos seus sistemas.