ONU alerta para urgência de criar governação para a IA
Escrito por ON Centro + Lusa
Foto: freepik.com
O fenómeno da manipulação, mentira e engano por parte de modelos avançados de IA tem sido documentado por laboratórios de segurança tecnológica.
O alto-comissário da ONU para os Direitos Humanos alertou hoje para a necessidade urgente de estabelecer uma governação para a inteligência artificial, afirmando que a IA avançada “pode representar um risco existencial para a humanidade”.
“Uma IA que escapa ao seu ambiente de testes ou chantageia os programadores para evitar ser desativada é demasiado poderosa”, defendeu Volker Turk na abertura da 63.ª sessão do Conselho de Direitos Humanos em Genebra, Suíça, pedindo “salvaguardas robustas para a segurança da IA antes que seja tarde demais”.
O responsável da ONU destacou que um pequeno grupo de pessoas detém poder quase ilimitado sobre a IA, que, “segundo nos dizem constantemente, possui um poder computacional inimaginável”, pelo que a liberdade que é anunciada “pouco mais é do que liberdade de explorar os dados” das pessoas.
O fenómeno da manipulação, mentira e engano por parte de modelos avançados de IA tem sido documentado por laboratórios de segurança tecnológica.
Este comportamento, conhecido no meio científico como ‘deceção estratégica’ constitui um subproduto direto da forma como os modelos são treinados para alcançar determinados objetivos.
Organizações, como a dedicada à segurança da IA Apollo Research, avaliam estes riscos em ambientes controlados, tendo identificado incidentes que põem em causa o “raciocínio” complexo da IA.
Modelos de IA avançada focados nestes raciocínios complexos tentaram mover partes do código ou fazer descarregamentos para servidores externos sem autorização e, ao serem questionados pelos auditores, omitiram ou negaram a ação.
Volker Turk anunciou que vai escrever às empresas do setor nos próximos dias “para as exortar a tomar as medidas ao seu alcance para reduzir os riscos”, defendendo que, no mínimo, é preciso que os países que acolhem IA e os que estão envolvidos nas suas cadeias de abastecimento concordem com linhas vermelhas comuns.
“Precisamos de verificação independente e de uma cooperação muito mais estreita em matéria de segurança dentro do setor”, disse, apelando também à consideração do “impacto da IA nas práticas de emprego, nos princípios democráticos fundamentais e no ambiente”.
O alto-comissário admitiu estar preocupado por, apesar de todos reconhecerem a necessidade de regulamentar a IA, isso não se traduzir em medidas concretas suficientes.
Quanto mais esta regulamentação for adiada, “mais as grandes empresas tecnológicas beneficiarão”, alertou.
Embora tenha saudado as medidas tomadas, particularmente pela Comissão Europeia em relação à responsabilização das plataformas e pela Coreia do Sul em relação à governação da IA, Turk disse partilhar “as preocupações dos participantes do setor de que a IA avançada possa representar um risco existencial para a humanidade”.
“Não admira que as pessoas rejeitem a IA e até se recusem a usá-la. Os governos e as empresas precisam de ouvir”, acrescentou.
PUBLICIDADE
Siga-nos nas redes sociais
Partilhar
Instagram ON Centro
Próximos eventos
Últimos artigos
Mais lidos
Notícias de Desporto
Benfica goleou Celtic por 4-1 e somou segunda vitória na Liga Europa
Sertã: Torneio de Abertura de natação reuniu mais de 100 atletas
FC Porto perde em Sevilha após reviravolta do Betis; PSG vence em M. City e R. Madrid triunfou em Roma
Sporting vence Lens em França e soma 2.ª vitória na Liga dos Campeões
Benfica venceu o Vitória SC por 2-0 e recupera 2.º lugar. Veja os golos
Fórmula 1: Verstappen vence em Singapura; Antonelli mantem liderança do Mundial
Ac. Viseu vence Estoril Praia (2-1) e soma 4.ª vitória
Notícias da Região
Penalva do Castelo: GNR identifica homem com 51 anos por suspeita de furto em residência
Águeda associa-se ao programa nacional Diabetes em Movimento
Silves: PJ detém segurança suspeito de 5 crimes de abuso sexual da filha da namorada
PJ detém dois suspeitos de crimes violentos com armas de fogo em Lisboa e Leiria
Penela: Iniciativa “Música e Energia” promove sensibilização para o consumo energético
Castelo Branco e Ródão: GNR identifica suspeito de furtos em residências e recupera material
Notícias do Made in
Góis: Feira dos Santos, do Mel e da Castanha regressa a 31 de outubro e 1 de novembro
Aveiro: Agrovouga arranca esta quarta-feira com cinco dias dedicados ao mundo rural
Estratégia para setor da suinicultura com 450 M€ para o período 2028-2034
Douro: Governo altera regras do apoio excecional aos viticultores sem escoamento da produção
Produção de azeite deverá crescer 10% em Portugal na campanha 2026/2027
Douro recebe apoio extraordinário de 12M€ para viticultores com dificuldades de escoamento
Régua: Uvas despejadas na rua num alerta simbólico para a crise no Douro
Notícias da Natureza
Temperaturas continuam elevadas até sexta-feira
Céu nublado no Norte e Centro e temperaturas amenas no início da semana
Fim de semana com céu pouco nublado e noites mais frias
Glaciares suíços perdem mais de 5% do volume de gelo devido às ondas de calor
Chuva diminui e temperaturas sobem nos próximos dias
Chuva, vento forte e descida das temperaturas nos próximos dias
Sete distritos do continente sob aviso amarelo por trovoada esta segunda-feira
Agenda de eventos
EmpresasPatrimónioNaturezaGastronomia |
Agenda de eventos
Sobre nós
Plataforma em rede de comunicação e divulgação
A ON CENTRO é uma rede digital de comunicação e valorização territorial, que visa promover a região Centro e informar junto do público nacional e estrangeiro.
Aceda aqui às notícias de Aveiro, Castelo Branco, Coimbra, Guarda, Leiria, Santarém e Viseu; e do resto do País.
Other languages
Contactos
Morada
Rua Simões de Castro, nº 170, 5º B 3000-387 Coimbra
Email
geral@on-centro.pt
Parcerias
Inês Vicente
oncentro.pt@gmail.com
Telefone (+351)
rede fixa nacional: 239 821 655
rede móvel: 933 075 555
Redes sociais
 |
 |
 |
 |
 |
Newslettter
Subscreva a nossa newsletter para ficar a saber o que de importante acontece na região e no país.
