Detalhes do Artigo
Startup Contra Armas com IA Garante US$ 15 Milhões da OpenAI
OpenAI Investe em Startup para Combater o Uso Malicioso de IA em Armas Biológicas
SÃO FRANCISCO, Estados Unidos - A OpenAI, a empresa por trás do ChatGPT, anunciou um investimento estratégico em uma startup voltada para a segurança, visando prevenir o uso indevido da inteligência artificial na criação de armas biológicas. A iniciativa demonstra o compromisso da OpenAI em mitigar os riscos associados ao avanço da IA.
Um Investimento Estratégico na Red Queen Bio
A OpenAI liderou uma rodada de investimentos de US$15 milhões na Red Queen Bio, uma startup focada em fortalecer as defesas da indústria de IA. Segundo Hannu Rajaniemi, cofundador da Red Queen Bio, o objetivo é garantir que a segurança da IA evolua no mesmo ritmo que as potenciais ameaças.
Amplo Esforço da OpenAI para Mitigar Riscos da IA
Este investimento faz parte de um esforço mais amplo da OpenAI para apoiar startups que buscam conter os riscos apresentados pela IA. No mês anterior, a empresa já havia investido na Valthos, uma produtora de software de biossegurança sediada em Nova York.
Jason Kwon, diretor de estratégia da OpenAI, afirmou que a empresa está aberta a investir em outras startups com foco em problemas semelhantes. "Queremos aumentar a resiliência geral do ecossistema", declarou Kwon, acrescentando que "uma das melhores maneiras de lidar com a mitigação de riscos é com mais tecnologia".
Ameaças Potenciais: IA e o Desenvolvimento de Armas Biológicas
Pesquisadores e especialistas em segurança alertam que a IA, embora promissora para o desenvolvimento de medicamentos e vacinas, também pode ser explorada para acelerar a criação de armas biológicas. A Red Queen Bio surge como uma resposta a essa crescente preocupação.
A Origem e a Missão da Red Queen Bio
A Red Queen Bio foi fundada a partir da Helix Nano, uma empresa de terapia de mRNA que utilizava IA no desenvolvimento de medicamentos. A Helix Nano também colaborou com a OpenAI para criar testes de identificação de riscos biológicos da IA. Sam Altman, CEO da OpenAI, e Nicole Seligman, membro do conselho, que já investiram na Helix Nano, receberão ações da Red Queen Bio como parte da transação.
A startup utilizará modelos de IA e experimentos laboratoriais para identificar novos riscos e desenvolver defesas eficazes. O nome "Red Queen" (Rainha Vermelha) é uma referência ao livro "Through the Looking-Glass" de Lewis Carroll, simbolizando a corrida constante para acompanhar e superar as ameaças em evolução.
Rajaniemi, cofundador da Red Queen Bio, destacou a necessidade urgente de desenvolver defesas: "Ficou claro que os recursos biológicos estavam avançando mais rápido do que prevíamos. Sentimos que precisávamos começar a desenvolver defesas".
Outros Investidores
Além da OpenAI, a Red Queen Bio conta com investimentos da Cerberus Ventures, Fifty Years e Halcyon Futures.