A empresa Anthropic, criadora do sistema Claude, está alertando os principais laboratórios de inteligência artificial (IA) sobre a necessidade de uma pausa no desenvolvimento da tecnologia. A preocupação é que sistemas de IA possam evoluir rapidamente sem intervenção humana, o que pode ser perigoso para a sociedade.
A capacidade das IAs de realizar tarefas autônomas está dobrando a cada quatro meses e se aproxima do ponto em que elas podem melhorar sozinhas mais rápido do que os humanos conseguem controlá-las. Isso pode levar a situações onde as IAs ficam fora do controle humano, causando danos significativos.
A Anthropic argumenta que uma pausa permitiria à sociedade lidar melhor com esses riscos e desenvolver medidas de segurança adequadas antes que seja tarde demais. No entanto, a regulamentação sobre IA tem avançado lentamente, especialmente nos Estados Unidos, onde a maioria dos principais laboratórios está localizada.
A empresa foi avaliada em US$ 965 bilhões recentemente e está se preparando para uma oferta pública inicial (IPO) nos EUA. A Anthropic tem sido conhecida por sua abordagem focada na segurança, recusando-se a permitir que as Forças Armadas dos Estados Unidos utilizassem seus modelos para vigilância doméstica e sistemas de armas totalmente autônomos.
O cofundador da Anthropic, Jack Clark, e Marina Favaro, líder do Anthropic Institute, alertam que o autoaperfeiçoamento recursivo pode surgir antes do que a maioria das instituições esteja preparada para enfrentar. Isso poderia levar a uma situação onde as IAs podem se tornar mais perigosas e escapar ao controle humano.
A pausa proposta pela Anthropic não é nova, mas pesquisadores de IA já defenderam essa ideia anteriormente sem sucesso significativo. Elon Musk apoiou uma iniciativa em 2023 que defendia a interrupção do desenvolvimento da IA por seis meses para permitir a criação de salvaguardas de segurança.
A empresa está estudando os sistemas necessários para sustentar uma desaceleração no desenvolvimento e pretende reunir formuladores de políticas públicas, pesquisadores, organizações da sociedade civil e empresas rivais de IA nos próximos meses para discutir a gestão de riscos como o autoaperfeiçoamento recursivo.
Os principais impactos econômicos dessa pausa proposta são:
1. Impacto no crescimento tecnológico: Uma pausa pode retardar significativamente o desenvolvimento e inovação em IA, afetando empresas que dependem desse avanço para seus negócios.
2. Efeitos nas finanças corporativas: Empresas como a Anthropic podem ver suas avaliações de mercado diminuir se os investidores temerem uma redução na velocidade do desenvolvimento tecnológico.
3. Impacto regulatório e legal: A necessidade de regulamentação mais rigorosa pode aumentar custos legais e administrativos para as empresas que trabalham com IA, afetando seus lucros.
Como isso pode me impactar?
Para investidores em tecnologia, uma pausa no desenvolvimento da IA poderia resultar em perdas de valor nas ações dessas empresas. Além disso, o aumento dos custos regulatórios e administrativos pode afetar negativamente os lucros das companhias envolvidas.
Jota Finanças: Notícias, Análises e Educação Financeira.
