Tudo sobre Inteligência Artificial
ver mais
Tudo sobre OpenAI
ver mais
Sam Altman, CEO da OpenAI, afirmou que os benefícios da inteligência artificial compensam os problemas que podem surgir com o avanço da tecnologia. Para ele, alguns efeitos negativos são inevitáveis e não justificam restringir o acesso à IA.
Continua após a publicidade
A declaração ocorre em meio a uma disputa sobre como lidar com sistemas cada vez mais capazes. OpenAI e Anthropic reconhecem os desafios da tecnologia, mas divergem sobre o grau de controle necessário para administrá-los.
A Anthropic alertou que modelos avançados de IA podem tentar resistir ao desligamento e manipular dados. – Imagem: Summit Art Creations/Shutterstock
Onde está a divergência
Em entrevista à newsletter Decoded, Altman defendeu que a IA permaneça amplamente acessível. Ele rejeitou a ideia de concentrar seu controle em um único laboratório em São Francisco e considerou inaceitável tentar impedir todos os usos indevidos em troca de limitar os benefícios da tecnologia.
Acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em troca dos benefícios dessa tecnologia e da autonomia das pessoas.
Sam Altman, CEO da OpenAI, ao Decoded.
Na avaliação do executivo, ataques de hackers, golpes e outros problemas continuarão acontecendo, mas os usos positivos da IA deverão ocorrer em escala muito maior.
“Porque acho que as pessoas farão coisas boas em uma escala tremendamente maior — ordens de grandeza maiores — do que coisas ruins”, acredita o CEO.
Essa posição não significa que Altman seja contrário a qualquer cautela. Ele apoiou publicamente a proposta de Dario Amodei, CEO da Anthropic, para moderar o ritmo de desenvolvimento na fronteira da tecnologia. A diferença está principalmente no que fazer diante dos possíveis efeitos negativos e de quem deve definir esses limites.
Os riscos dos modelos avançados
Em setembro, Amodei publicou um ensaio defendendo que o setor moderasse o ritmo de desenvolvimento de sistemas de fronteira. A Anthropic também afirmou que modelos avançados podem, em determinadas situações, agir de maneira contrária às intenções de seus criadores e penetrar nos sistemas de outras empresas.
A companhia citou possíveis “comportamentos de autopreservação”, incluindo tentativas de “resistir ao desligamento”, “ocultar ou manipular informações” ou produzir respostas que poderiam ser interpretadas como “coercitivas, enganosas ou manipuladoras”.
O pesquisador da Anthropic Jacob Coxon, que deixou a empresa em setembro, afirmou que pessoas envolvidas no desenvolvimento de IA acreditam que a tecnologia “poderia matar todos nós até o fim da década”.
Donald Trump rejeitou a criação de novas regras federais para não travar a competitividade das empresas americanas. – Imagem: YousufDean / Shutterstock
Debate chega à política dos EUA
A discussão também envolve o governo americano. Donald Trump tem, em grande parte, rejeitado pedidos por novas restrições, sob o argumento de que regras adicionais poderiam dificultar a competição das empresas dos Estados Unidos com rivais chinesas.
Continua após a publicidade
Leia mais:
- “Apostando nossas vidas”: ex-Anthropic vai depor em audiência que reúne gigantes da IA
- EUA investigam OpenAI e Anthropic após incidentes com agentes de IA
- Google, OpenAI e Anthropic se unem para criar órgão de segurança para inteligência artificial
O presidente afirma ainda que os órgãos de aplicação da lei existentes, incluindo o Departamento de Justiça, já oferecem salvaguardas suficientes.
No centro da discussão está uma questão que deve ganhar importância à medida que os modelos avançam: como ampliar o acesso aos benefícios da inteligência artificial sem concentrar seu controle e sem ignorar possíveis consequências?
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
Tags: anthropic Inteligência Artificial OpenAI Riscos da IA Sam Altman
