Governo dos EUA e Techs Unem Forças para Testar IA Contra Ataques Cibernéticos
Governo dos EUA Busca Colaboração da Indústria para Avaliar Modelos de IA em Segurança Cibernética
O Instituto Nacional de Padrões e Tecnologia (NIST) anunciou uma parceria estratégica na terça-feira (5) com o Google, a Microsoft e a xAI. O objetivo é compartilhar versões preliminares de seus modelos de inteligência artificial com o governo americano, visando fortalecer a defesa contra ameaças à segurança cibernética.
CONTINUA DEPOIS DA PUBLICIDADE
Essa iniciativa surge em um momento crucial, impulsionada pela Casa Branca a considerar formalmente a revisão de modelos de IA.
CAISI Lidera Avaliações Rigorosas de Modelos de IA
O Centro de Padrões e Inovação em IA (CAISI), vinculado ao Departamento de Comércio dos EUA, será o responsável por avaliar os novos modelos de IA e seu impacto potencial na segurança nacional e pública. O centro já realizou mais de 40 avaliações, buscando garantir que a tecnologia esteja alinhada com os interesses do país.
Chris Fall, diretor do CAISI, enfatizou a importância de uma avaliação independente e rigorosa, destacando o papel fundamental na compreensão da IA de ponta e suas implicações.
Preocupações com o Modelo Mythos da Anthropic
Um modelo de IA da Anthropic, chamado Mythos, gerou preocupações significativas entre governos, bancos e empresas de serviços públicos. A empresa responsável, por sua vez, restringiu o acesso ao modelo a um grupo seleto de organizações aprovadas, devido a suas capacidades avançadas em cibersegurança.
Leia também
CONTINUA DEPOIS DA PUBLICIDADE
A empresa afirmou que ainda não se sente confortável em divulgar o modelo publicamente.
OpenAI também Adota Medidas de Segurança
A OpenAI também afirmou que está implementando medidas de segurança, com o objetivo de se antecipar às ameaças facilitadas pela IA. Essas parcerias podem facilitar os testes de IA pelo CAISI, fornecendo mais recursos, disse Jessica Ji, analista sênior de pesquisa do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown.
Microsoft e o Foco em Segurança Nacional
A Microsoft, embora teste regularmente seus próprios modelos, busca o conhecimento adicional oferecido pelo CAISI, que inclui expertise técnica, científica e de segurança nacional. Natasha Crampton, Diretora de IA Responsável da Microsoft, afirmou que a colaboração é fundamental para garantir a segurança e o uso responsável da IA.
Casa Branca Busca Especialistas para Revisão de IA
A Casa Branca está buscando consultar um grupo de especialistas para assessorar sobre um possível processo de revisão governamental para novos modelos de IA. Essa mudança representa uma abordagem mais intervencionista em relação à regulamentação da IA, em contraste com a postura da administração anterior.
O New York Times foi o primeiro a noticiar a existência do grupo de trabalho.
Embora a Microsoft teste regularmente seus próprios modelos, o CAISI oferece conhecimento adicional “técnico, científico e de segurança nacional”, afirmou Natasha Crampton, Diretora de IA Responsável da Microsoft, em um comunicado.
Autor(a):
redacao
Responsável pela produção, revisão e publicação de matérias jornalísticas no portal, com foco em qualidade editorial, veracidade das informações e atualizações em tempo real.
