Um grupo significativo de líderes do setor de tecnologia está defendendo uma desaceleração no desenvolvimento de modelos de inteligência artificial (IA) em escala global. Executivos e pesquisadores da área expressam crescente preocupação com o uso indevido desses sistemas, que já são aplicados em atividades que vão desde fraudes até a criação de armas biológicas.

++ Sistema de IA mostra como pessoas estão criando conteúdo diário sem gravar vídeos

A visão de que é necessário frear as pesquisas é compartilhada por líderes como Dario Amodei, da Anthropic (responsável pelo Claude), Sam Altman, da OpenAI (ChatGPT), e o bilionário Elon Musk, da xAI, Tesla e SpaceX, entre outras empresas.

++ Bomba! Astro de Hollywood, Joe Manganirllo revela ter amputado membro

A discussão se intensificou após Amodei publicar um artigo sobre o tema. O texto foi compartilhado na rede social X, de Musk, após a Anthropic divulgar, em 10 de setembro, um relatório detalhando o uso de modelos de IA da família Claude em operações cibernéticas, vigilância, golpes e criação de armamentos.

Sam Altman comentou no X: "Concordo com Dario", e afirmou que a OpenAI adotará sugestões de Amodei para aumentar a segurança na criação de modelos de inteligência artificial. Musk completou: "Dario está certo".

No artigo, Amodei esclarece que não está pedindo a interrupção do treinamento de sistemas de IA ou do progresso tecnológico. Ele sugere que as empresas dediquem mais tempo para alinhar e proteger seus novos modelos, e que avaliadores externos analisem esses processos.

Amodei expressou preocupação com o fato de que, desde meados deste ano, a IA tem avançado rapidamente, impulsionada por sua capacidade de desenvolver a próxima geração de IA. Ele alerta que, sem controle, isso pode superar nossa capacidade de entender esses sistemas e, portanto, deve ser conduzido com extremo cuidado.

O CEO da Anthropic propôs um controle em três etapas para o desenvolvimento dos modelos. A primeira etapa envolve a criação de grupos permanentes de avaliadores externos com acesso às práticas de segurança das empresas de IA. A segunda etapa prevê uma coordenação entre empresas de IA de países democráticos para estabelecer padrões comuns de segurança. A terceira etapa, a mais desafiadora, inclui uma coordenação internacional, especialmente entre Estados Unidos e China.

Amodei também sugere discutir limites para certos recursos usados na construção de modelos, como poder computacional e tipos de treinamento, além do uso de IA para desenvolver a própria IA.