As maiores empresas de inteligência artificial do mundo ainda não apresentam respostas suficientes para enfrentar riscos considerados graves à humanidade, segundo relatório global divulgado nesta terça-feira (7) pelo Future of Life Institute, organização voltada ao debate sobre segurança em IA.
O levantamento avaliou nove das principais companhias do setor com base em dados públicos e informações fornecidas pelas próprias empresas. A análise considerou seis áreas: avaliação de riscos, danos já existentes, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.
LEIA: Especialista alerta para risco em delegar decisões sobre valores morais e éticos à IA
Mesmo com iniciativas classificadas como positivas, o relatório afirma que os esforços das empresas de IA permanecem abaixo do necessário diante dos riscos associados ao avanço acelerado da tecnologia. Nenhuma das companhias avaliadas recebeu nota “A” em qualquer uma das categorias analisadas.
Uso militar da IA, governança e transparência
Segundo o relatório, companhias que antes restringiam o uso militar de suas tecnologias passaram a flexibilizar suas posições nos últimos anos.
A Anthropic, que ficou com a melhor avaliação geral do ranking mas alcançou apenas a nota “C+”, foi citada por manter compromissos considerados questionáveis na área militar.
De acordo com relatos mencionados no documento, a tecnologia da empresa teria sido utilizada pelo governo dos Estados Unidos em operações militares na Venezuela e no Irã no último ano. Ao mesmo tempo, a companhia também teria enfrentado uma proibição do Pentágono em razão de divergências sobre segurança em inteligência artificial.
O resultado demonstra que até mesmo as empresas mais bem posicionadas ainda estão distantes de um padrão considerado adequado de segurança.
Riscos envolvem ciberataques e tarefas prejudiciais
Além das ameaças existenciais, o relatório também alerta para riscos mais imediatos, como o uso indevido de modelos de inteligência artificial em ciberataques ou em tarefas que possam causar danos a seres humanos.
O debate sobre segurança em IA se conecta diretamente à necessidade de fiscalização, responsabilidade empresarial e proteção de direitos. À medida que a tecnologia avança, cresce também a importância de regras que impeçam usos abusivos, ampliem a transparência e garantam que os impactos sociais sejam considerados no desenvolvimento desses sistemas.
(Com informações de France Presse via g1)
(Foto: Reprodução/Magnific)
