SAN FRANCISCO (EUA) — Três dos principais executivos da indústria de inteligência artificial expuseram nesta terça-feira (15) visões diferentes sobre como lidar com os riscos e o ritmo de avanço da tecnologia durante o Dreamforce, conferência anual da Salesforce em San Francisco.
Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento dos modelos mais avançados de IA. Jensen Huang, CEO da Nvidia, afirmou que a indústria não precisa de novas leis ou regulações para lidar com esses riscos. Mais tarde, Sam Altman, CEO da OpenAI, disse confiar na capacidade das próprias empresas do setor de desenvolver a tecnologia com segurança.
As declarações ocorreram em diferentes momentos da programação do evento. Amodei e Huang participaram, separadamente, da keynote principal comandada por Marc Benioff, CEO da Salesforce. Altman conversou com Benioff mais tarde, em outra apresentação do Dreamforce.
Amodei participou da keynote poucos dias após publicar um ensaio em que alertou para os riscos associados ao avanço da inteligência artificial e defendeu uma desaceleração no desenvolvimento dos modelos mais avançados. A discussão colocou em evidência o debate sobre como conciliar a rápida evolução da IA com mecanismos de segurança capazes de reduzir seus riscos.
Durante a conversa com Benioff, porém, Amodei também destacou o potencial econômico ainda pouco explorado da tecnologia. Segundo ele, apenas entre 5% e 10% do valor que a IA pode gerar atualmente está sendo efetivamente utilizado pela economia.
Para o CEO da Anthropic, as empresas ainda precisam de ajuda para implementar IA em larga escala e transformar a tecnologia em ganhos concretos de produtividade. Benioff concordou que a adoção ocorre de forma desigual entre os clientes da Salesforce. “Temos que fazer mais para ajudá-los a acelerar essa transformação”, afirmou.
A posição de Huang foi diferente. O CEO da Nvidia disse que as próprias forças de mercado podem funcionar como mecanismo para pressionar as empresas a desenvolver produtos seguros. “Não precisamos de novas leis — não precisamos de novas regulações”, afirmou durante sua conversa com Benioff.
Huang também rejeitou a ideia de que exista necessariamente um conflito entre velocidade e segurança. “É uma escolha falsa”, disse. “Você pode definitivamente ter os dois ao mesmo tempo.” Segundo o executivo, as empresas devem ajustar o ritmo de desenvolvimento até terem confiança de que estão colocando no mercado produtos que serão úteis e bem recebidos pelos clientes.
O CEO da Nvidia ressaltou, ao mesmo tempo, que a segurança deve continuar sendo uma prioridade para o setor. “Segurança é primordial. Em muitos aspectos, é a prioridade número um. Mas segurança é um problema de engenharia”, afirmou, durante uma conversa marcada por brincadeiras com Benioff.
Para Huang, as empresas precisam estar dispostas a interromper o desenvolvimento quando não tiverem confiança na segurança de um produto. “Corra o mais rápido que puder. Mas, se em algum momento você sentir que a empresa está fora de controle ou que o produto não será seguro, faça uma pausa e certifique-se de acertar.”
Leia mais:
Trump minimiza apelos para frear IA e diz que EUA não podem ficar atrás da China
Novos alertas sobre IA reacendem debate sobre controle da tecnologia
China é “dilema mais difícil” para desacelerar IA, diz CEO da Anthropic
Horas depois, Altman também defendeu a capacidade da indústria de lidar com os riscos da tecnologia sem depender necessariamente de novas intervenções externas. “Estou muito confiante na capacidade da nossa empresa — e da nossa indústria — de fazer isso com segurança”, afirmou.
O CEO da OpenAI disse ainda estar decepcionado com a forma como o debate sobre segurança vem sendo apresentado. A OpenAI trabalha com a Anthropic e o Google DeepMind em questões relacionadas à segurança dos modelos, mas Altman afirmou que as empresas devem ser capazes de melhorar seus sistemas de maneira segura.
Integração
A discussão ocorre em um momento de maior pressão sobre as empresas de IA. O ensaio de Amodei, publicado no fim de semana, sugeriu uma desaceleração no desenvolvimento dos chamados modelos de fronteira e recebeu apoio público de executivos de outras empresas do setor.
Enquanto os laboratórios discutem o ritmo de evolução dos modelos, a Salesforce aposta em tecnologias de IA já disponíveis para ampliar seu uso dentro das empresas.
No Dreamforce, a companhia anunciou, em parceria com a Nvidia, o Koa, modelo de raciocínio para o Agentforce baseado em um modelo da família Nemotron, da Nvidia. A linha Nemotron reúne modelos de IA generativa disponibilizados pela companhia para diferentes aplicações. A Salesforce também ampliou sua parceria com a Anthropic para integrar o Claude aos seus produtos.
O jornalista viajou para San Francisco a convite da Salesforce
The post Hora de frear? No mesmo palco, CEOs de Anthropic e Nvidia divergem sobre futuro da IA appeared first on InfoMoney.
