O rei Charles III alertou nesta quinta-feira, 17, líderes da indústria de inteligência artificial sobre os riscos “existenciais” associados ao avanço da tecnologia e pediu que sejam criadas salvaguardas antes que seja “tarde demais”. O monarca britânico fez o alerta durante uma reunião com executivos de empresas como Nvidia, Google DeepMind, OpenAI e Anthropic, na Escócia.
“Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias, talvez até mesmo a de tirar vidas”, afirmou Charles. Segundo ele, há urgência em avaliar os perigos de a tecnologia cair em “mãos erradas” e ser utilizada de maneiras potencialmente catastróficas.
O monarca também defendeu que o desenvolvimento da inteligência artificial não deve se limitar ao avanço das capacidades dos sistemas. “A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”, disse.
A fala de Charles ocorre em meio à crescente discussão entre empresas e especialistas sobre os riscos associados ao desenvolvimento acelerado da inteligência artificial. Nos últimos meses, executivos do setor passaram a defender medidas para aumentar a segurança dos sistemas e, em alguns casos, reduzir o ritmo de avanço de suas capacidades.
O CEO da Anthropic, Dario Amodei, afirmou recentemente que o ritmo de desenvolvimento da IA exige cautela diante da possibilidade de os sistemas adquirirem capacidades muito superiores às atuais. O CEO da OpenAI, Sam Altman, também defendeu mecanismos de avaliação independente dos modelos.
O debate ganhou força após incidentes envolvendo sistemas de inteligência artificial capazes de realizar tarefas complexas de forma autônoma. Em setembro, o ex-pesquisador da OpenAI e da Anthropic Jacob Coxon deixou a indústria e criticou o ritmo de desenvolvimento adotado pelas empresas, alegando que o setor estaria avançando em direção a sistemas potencialmente capazes de se aprimorar sozinhos.
ONU também pede coordenação
O alerta do monarca britânico ocorre um dia depois de o secretário-geral da ONU, António Guterres, defender uma maior coordenação internacional para lidar com os riscos da inteligência artificial.
O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, também afirmou neste mês que sistemas avançados de IA podem representar um risco existencial para a humanidade e defendeu a criação de mecanismos de governança para a tecnologia.
