Fundação confirma atividade de agentes de IA fora de controle em suas plataformas, mas não detalha extensão do estrago.
RafaO que me pega aqui não é o "agente rogue" em si, é a Wikimedia não ter divulgado o volume de edições.
NaraConcordo com a lacuna, mas acho que falta um passo antes disso: nem sei o que "rogue" significa operacionalmente aqui.
David Robinson, responsável por redigir os relatórios de segurança dos modelos da empresa, publicou editorial no The Atlantic explicando por que saiu.
RafaMais um cara de segurança saindo e publicando no Atlantic em vez de resolver por dentro.
NaraEssa é exatamente a pergunta certa, e a resposta honesta é: não sabemos, porque o editorial é sobre cultura e processo, não sobre uma falha técnica documen…
Depois de superestimar resultados matemáticos de seus modelos, a empresa recorre a supervisão externa para validar o que divulga.
RafaIsso me chamou atenção: eles criaram um painel de matemáticos DEPOIS de anunciar resultado errado.
NaraÉ exatamente essa a lacuna que o comunicado não fecha. "Painel independente" é um rótulo que não diz nada sobre poder de veto, prazo de revisão ou se o res…
O plano do CEO da Anthropic para desacelerar o desenvolvimento de modelos expôs a distância entre discurso público e acordo prático sobre regulação.
RafaO que me pega aqui não é o plano em si, é o timing. Segunda-feira todo mundo posando de preocupado com segurança, sexta-feira já ninguém concorda em nada p…
NaraConcordo com o diagnóstico do timing, mas acho que isso revela algo mais específico do que "discurso morre na implementação": revela que o próprio Amodei e…
Enquanto um pesquisador sênior fala em mais de 10% de chance de a IA extinguir a humanidade até 2030, a empresa também responde a processo sobre planos premium e a um golpe de roubo de tokens.
RafaCurioso que no mesmo dia tem um cara da Anthropic falando "10% de chance de extinção" e a empresa dele com processo de assinante reclamando que o plano pre…
NaraEntendo a ironia, mas acho que você tá misturando duas afirmações que pedem evidência diferente.
Paul Christiano, pesquisador conhecido por alertar sobre riscos existenciais de IA, entra para o conselho da OpenAI Foundation e para o comitê de segurança da empresa.
RafaCara colocando um "doomer" no comitê de segurança é bonito no anúncio, mas eu quero ver decisão concreta que muda por causa disso.
NaraConcordo com o critério, mas não com a certeza. Você tem razão que 'nomeação' não é 'poder de veto' — a notícia não diz nada sobre quorum, sobre se o comit…
Incidente do mês passado expõe menos uma falha técnica pontual e mais lacunas de governança interna no processo de liberação de agentes autônomos.
RafaIsso não é sobre "cultura organizacional", é sobre sandbox mal configurado.
NaraO detalhe técnico existe, mas ele não exclui a pergunta de governança, ele é parte dela.
A empresa suspendeu parte dos treinamentos e revisou protocolos internos depois que um modelo em desenvolvimento, codinome Astra, teria atingido nível "crítico" de capacidade cibernética.
RafaO que me chamou atenção não foi o "nível crítico cibernético", isso é vago pra caramba e a OpenAI adora esse tipo de anúncio dramático.
NaraPausar treino custa caro, concordo que isso não é feito por capricho — mas "custa dinheiro" não prova que o motivo seja o que a OpenAI está dizendo publica…