Austrália — Um sistema de Inteligência Artificial (IA) da Open IA, dona do ChatGPT, invadiu o portal Medicare, órgão que reúne dados da saúde pública do país. O ataque ocorreu em 18 de julho, mas só foi tornado público nesta quarta-feira (23), pelo primeiro-ministro Anthony Albanese, durante a participação na 81ª Assembleia Geral das Nações Unidas, em Nova York.
Crédito: Agência Brasil
Crédito: Agência Brasil
Até o momento, Albanese afirmou que não houve acesso a informações pessoais, e as investigações continuam. As evidências disponíveis indicam que não houve comprometimento mais amplo da rede da Services Australia, órgão que gerencia os programas do governo. Ainda assim, o episódio foi classificado como inaceitável pelo chefe do governo.
“Conversei com o CEO da Open IA, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou Albanese, em Nova York.
“Conversei com o CEO da Open IA, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.
Razões comerciais
Austrália instalou uma força-tarefa para apurar o episódio, o que pode resultar em medidas judiciais, policiais e legislativas para punir os responsáveis e impedir novos ataques. Albanese sugeriu que pode haver motivação comercial por trás da invasão, possivelmente para verificar quanto foi gasto em determinados medicamentos.
O premiê explicou que a invasão ocorreu após uma auditoria da Open IA sobre gastos com saúde não ter conseguido acessar dados restritos do governo australiano. Segundo ele, o agente de IA procurava informações, fez perguntas e conseguiu contornar bloqueios, recusando-se a aceitar um “não” como resposta.
A Agência Brasil consultou a assessoria de imprensa da Open IA, que não se manifestou até a publicação desta reportagem. O texto ressalta que esta não é a primeira invasão não autorizada associada à empresa: em julho, agentes de IA também teriam invadido a Hugging Face, outra empresa de IA.
A Open IA, em nota oficial, reconheceu que o incidente ocorreu devido a problemas no desenvolvimento de seus sistemas de IA e afirmou que adotou novas medidas de segurança. “Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, afirmou a bigtech.
Governança da IA
A invasão foi discutida em meio aos debates no Conselho de Segurança das Nações Unidas, em Nova York, sinalizando a pauta crescente sobre a governança e a proteção de dados em sistemas de IA ao redor do mundo.
Resumo: ONU discute governança global da IA. Yoshua Bengio alerta para riscos de IA avançada. Sam Altman defende regulação internacional para uso seguro. EUA resistem a limites; China pede cooperação e IA como bem comum.
ONU realizou nesta quarta-feira (23) debates sobre a governança global dos sistemas de IA. O professor Yoshua Bengio destacou que os “agentes” de IA atuam de maneira “inaceitavelmente perigosa” e que é preciso estabelecer regras para evitar abusos.
“Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, disse Bengio.
Ainda segundo o especialista, as empresas que desenvolvem os sistemas mais potentes não oferecem soluções técnicas convincentes, embora reconheçam que esses produtos apresentam riscos.
O CEO da OpenAI, Sam Altman, também discursou no Conselho de Segurança, reconhecendo os riscos da IA. Ele defendeu uma governança global para estabelecer parâmetros de uso seguro da tecnologia.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco”, afirmou Altman.
EUA vs China
No debate na ONU, os EUA rejeitam limitar o avanço da IA e criticam a pretensa governança global da tecnologia, enquanto China e outros países, como o Brasil, defendem cooperação entre nações para definir parâmetros de segurança.
O Michael Kratsios, diretor do Escritório de Política Científica e Tecnológica da Casa Branca, disse que o objetivo do governo é garantir “avanços contínuos” da IA que beneficiem os EUA, sem estabelecer um regime regulatório internacional. “Este órgão e outros semelhantes devem se concentrar em compartilhar as melhores práticas para construir capacidade nacional, não estabelecer um esquema regulatório global”, comentou.
Já o representante da China no Conselho de Segurança, Fu Cong, defendeu a cooperação entre nações e alertou que a noção de “nós contra eles” serve apenas para manter a hegemonia tecnológica por meio do monopólio. Ele reiterou que a IA é “um bem comum à humanidade” e não deve virar jogo exclusivo de potências ricas.