Recentemente, a Anthropic anunciou uma parceria com a Accenture, escolhida como seu primeiro avaliador embutido, com o objetivo de desacelerar o desenvolvimento de IA. Essa decisão vem após o CEO Dario Amodei ter publicado uma proposta em três etapas no dia 12 de setembro, alertando sobre os riscos de um avanço descontrolado da inteligência artificial.
Amodei destacou que a IA está evoluindo a uma velocidade alarmante, impulsionada pela capacidade crescente de criar novas gerações de IA, um fenômeno que ele chamou de ‘autoaperfeiçoamento recursivo’. Ele enfatizou que, se deixarmos essa evolução sem controle, poderemos perder a capacidade de entender e gerenciar esses sistemas complexos.
Os líderes de grandes empresas de tecnologia, como Sam Altman da OpenAI e Elon Musk da SpaceX, reagiram positivamente à proposta de Amodei. No entanto, Jensen Huang, CEO da Nvidia, não compartilhou do mesmo otimismo, argumentando que a regulação não é necessária neste momento.
A primeira etapa da proposta de Amodei envolve a contratação de avaliadores independentes com acesso semelhante ao de funcionários, algo que a Anthropic já se comprometeu unilateralmente. Com a parceria firmada com a Accenture, a empresa planeja investir pelo menos US$ 1 bilhão nos próximos cinco anos para garantir que a avaliação e os testes dos modelos sejam realizados de forma eficaz e segura.
A Anthropic também reconheceu a urgência do trabalho, decidindo financiar diretamente a Accenture, já que atualmente não existe um sistema estabelecido para o financiamento de avaliações independentes. A Accenture, através de sua divisão de IA, é reconhecida por testar e avaliar modelos para alguns dos principais laboratórios de IA do mundo, além de construir sistemas complexos que são seguros e éticos por design.
Julie Sweet, CEO da Accenture, comentou sobre a importância da avaliação embutida, afirmando que essa parceria é um passo crucial para acelerar o desenvolvimento de avaliadores embutidos, que são essenciais para a segurança no futuro da IA.
Com essa movimentação, fica claro que o cenário da IA está em constante evolução e que a colaboração entre empresas é fundamental para garantir um desenvolvimento responsável e seguro.
